Eclipse solar: Grok de Elon Musk genera noticias falsas inquietantes con Jokes on X

Grok: La IA propensa a las noticias falsas, adorada por Elon Musk

Grok: Una IA con un largo camino por recorrer

Grok, la herramienta de IA disponible para los suscriptores de pago en Twitter, ha generado otra noticia falsa basada en chistes del lunes. Si bien esta última historia sobre el eclipse solar no es tan espantosa como las noticias inexactas de la semana pasada de que Irán había lanzado un ataque contra Israel, demuestra que Grok tiene un largo camino por recorrer antes de que alguna vez sea una herramienta útil y precisa.

Los errores de Grok: chistes convertidos en noticias falsas

El titular disponible para los suscriptores de Grok el lunes decía: "El extraño comportamiento del sol desconcierta a los expertos". Continuaba explicando que el sol había estado comportándose inusualmente, generando preocupación y confusión generalizada entre el público en general. La noticia afirmaba que incluso con la creciente preocupación del público, no había habido ninguna declaración oficial o explicación por parte de las autoridades científicas sobre el estado actual del sol.

No hace falta decir que los científicos definitivamente entienden lo que estaba pasando con el eclipse solar que fue observado por millones de personas en América del Norte el lunes. No hay ningún misterio sobre por qué ocurre un eclipse, a pesar de lo que algunos políticos marginales de Estados Unidos puedan insistir.

Los tuits que aparentemente provocaron esta extraña proclamación de Grok incluían un chiste tras otro de gente preguntándose dónde se había ido el sol. Tanta gente que hacía el mismo chiste confundió a Grok que intentó convertir los chistes en algo de lo que todos deberíamos preocuparnos: "¿Qué mierda le está pasando al sol ahora mismo?".

Grok y la IA "anti-despertar" de Musk

Grok, que se lanzó por primera vez para un grupo limitado de usuarios en diciembre pero ahora está disponible para todos los clientes que pagan, ha sido promocionado por el propietario de Twitter, Elon Musk, como la IA "anti-despertar". Musk se ha quejado repetidamente de que las herramientas de inteligencia artificial competidoras están demasiado "despiertas", un sentimiento que compartió una vez más durante una charla de Twitter Spaces el lunes.

De hecho, Musk afirmó que la IA "despierta" podría "simplemente matar a humanos reales en el futuro" porque está tratando de imponer cierta cuota de diversidad. "Puedes tomar el ejemplo de Google Gemini donde se negó a publicar para producir una foto de George Washington como un hombre blanco", dijo Musk el lunes. "Y cualquier figura histórica automáticamente se haría diversa porque ha sido programada para insistir en la diversidad, lo cual suena, ya sabes, tal vez bien al principio, pero no si la IA tiene tanto poder que pueda realmente imponer la diversidad y decidir que hay demasiadas personas de un tipo o demasiadas de un sexo y simplemente matar lo suficiente hasta que el número de diversidad sea lo que está programado. Creo que es correcto".

Independientemente de lo que pienses sobre la visión de Musk sobre la política de la IA, Grok ha tropezado una y otra vez al crear noticias falsas a partir de tuits de usuarios de Twitter, incluida la semana pasada cuando generó el titular "Irán ataca Tel Aviv con misiles pesados". Israel ha estado en alerta máxima en anticipación de un posible ataque por parte de Irán, con Israel incluso codificando las señales GPS en un intento de confundir a cualquier misil entrante, pero no ha habido ningún ataque contra Tel Aviv, a pesar de lo que insistió Grok.

Grok: un truco de magia que se desmorona

Ten la seguridad de que Grok no está cometiendo estos errores porque esté demasiado "despierto" o demasiado "anti-despierto". La IA comúnmente comete errores porque simplemente no es muy buena tecnología todavía. Los impulsores de la IA han pasado la mayor parte del último año convenciendo al público en general de que es un avance milagroso que pronto logrará algo cercano a la sensibilidad humana, pero no contengas la respiración en esa última parte.

La IA generativa es poco más que una versión mejorada del autocompletado, lo que significa que puede sonar bastante convincente ya que imita las formas en que los humanos hablan, pero no tiene capacidad para aplicar razonamiento o lógica complejos. Simplemente remezcla palabras de una manera impresionantemente rápida y memorable, pero el cerebro detrás de esta tecnología no está pensando, incluso cuando parece estarlo.

Grok no pensó en los tuits que vio de personas bromeando sobre el eclipse solar. Identificó patrones en Twitter y escupió texto que suena humano resumiendo esos patrones. Y esto va a seguir sucediendo porque la única manera de corregirlo es con ejércitos enormes de humanos trabajando como turcos mecánicos detrás de escena.

Grok no es tonto porque esté "despierto" o "anti-despierto". Es tonto porque está realizando un truco de magia que innumerables personas se están enamorando.

Fuente: https://es.gizmodo.com/grok-de-elon-musk-crea-extranas-noticias-falsas-sobre-1851396220