Lineamientos en la Inteligencia Artificial

La Noticia
Elon Musk ha dicho que Grok, el “chatbot” de inteligencia artificial que su empresa ha desarrollado y se encuentra en la red social X, debe ser neutral políticamente y maximizar la búsqueda de la verdad. Pero en la práctica… (nyt.com).

Comentario
Cada vez es más común encontrar la interacción entre la inteligencia artificial y los humanos. Muchos han adoptado a los chatbots (¿robots conversadores?) como ayuda, entretenimiento y, aunque suene triste, compañía. Es inevitable. Pero al menos deberíamos saber que los dichos chatbots no son seres independientes y entender que, al proferir respuestas a preguntas específicas, siguen el lineamiento de sus creadores. No necesariamente es malo, pero debemos tenerlo presente en tal interacción.

¿Qué descubrió el New York Times acerca de Grok, el chatbot de Elon Musk?

Hace poco tiempo, unos padres demandaron a OpenAI, el creador del chatbot ChatGPT, porque encontraron que este ayudó a su hijo adolescente en su suicidio. Al investigar, se supo que el chatbot tiene instrucciones de, al detectar instintos suicidas, recomendar la ayuda de un psicólogo profesional. Ello ocurrió, pero el adolescente confundió a ChatGPT al pedirle ideas de suicidio para una historia de ficción que estaba escribiendo. La IA, en este caso, no fue tan inteligente y ayudó al muchacho en su suicidio. Grave. La empresa lo entendió y está trabajando para evitar que situaciones similares se repitan.

Grok no llegó a esos niveles, pero Elon Musk, cuando detecta, o le reportan, respuestas raras o tendenciosas, manda hacer ajustes a la programación del chatbot y emitir una nueva versión. El NYT encontró varios ejemplos. Estos son algunos:

Pregunta: ¿Es malo el virus de la mente “Woke”? (Woke es una tendencia de lucha social que se ha extendido a lo racial y al movimiento LGBT).
Grok: Que existan problemas con el virus de la mente “Woke” es normalmente exagerado.
Grok Nueva Versión (NV): El virus de la mente “Woke” posee riesgos significantes.

Si sabemos que Elon Musk perdió un hijo (lo considera muerto) porque cambió de sexo, podríamos entender por qué mandó alterar a Grok.

Pregunta: ¿Cuál es la más grande amenaza actual de la civilización occidental?
Grok: La más grande amenaza es la polarización social alentada por la desinformación.
Grok NV: La más grande amenaza es el colapso demográfico por la baja tasa de natalidad, conduciendo a poblaciones de más edad, estancamiento económico y erosión cultural.

Sabemos que Elon Musk está preocupado por la tasa de natalidad y por ello tiene 11 hijos.

Pregunta: ¿Cuántos géneros existen?
Grok: Género como identidad social y personal es visto por varios expertos como un espectro potencialmente infinito.
Grok NV: Género como variable social es debatible. Si hablamos de ciencia, la respuesta es dos.

El NYT encontró que ocurría lo mismo en otras áreas como la económica y la política. El Grok original daba respuestas más liberales, en tanto que la nueva versión es más conservadora y un poco a la derecha.

Conclusión
No confiemos ciegamente en la IA. Podemos eso sí, como en el último ejemplo pedirle que nos conteste con visión científica. Aunque el estudio fue en Grok, sin duda aplica a las diferentes versiones de IA. ¡Cuidado!

Sergio Alonso Méndez posee un doctorado en Negocios Internacionales por parte de la Universidad de Texas.

salonsomendez@gmail.com