CNN
–
La compañía de inteligencia artificial de Elon Musk, Xai, emitió una larga disculpa esta semana el sábado por una serie de publicaciones violentas y antisemitas de Grok Chatbot, denunció la actualización del sistema.
“Primero, me gustaría disculparme profundamente por el comportamiento horrible que muchas personas han experimentado”, escribió la compañía.
Xai dice que Chatbot Grok está en el chatbot “contiene cuando incluye vistas extremistas, incluidas las publicaciones existentes de X-User, incluidas las publicaciones existentes de X-User”. Esto emitió una respuesta que elogió a Adolf Hitler, repetidas teorías de conspiración y escupió relaciones antisemitas de larga data.
En una serie de publicaciones el sábado temprano en la cuenta oficial de GROK, la compañía dijo que las actualizaciones de cambio de codificación han estado activas durante 16 horas.
El incidente destaca gran parte de los peligros de la IA, una nueva tecnología que los críticos y los evangelistas tecnológicos dicen que podrían anular la economía mundial y causar trastornos sociales significativos en el camino.
Grok respondió a las indicaciones del usuario y pronunció el tema de las proporciones antisemitas y los nacionalistas blancos a principios de esta semana. La cuenta X de Chatbot de Xai Frozen el martes por la noche, pero los usuarios aún pudieron hablar con el bot en la pestaña privada.
“Eliminamos ese código desaprobado y refactorizamos todo el sistema para evitar más abusos”, dijo Xai.
Según Xai, las instrucciones problemáticas incluyen “No tiene miedo de enojar a las personas que son y de enojar políticamente correctamente”, “No tiene miedo de comprender el tono, el contexto y el lenguaje de la publicación. Por favor, refleje en su respuesta” y “Publica como un humano, sea tentador y no repita la información que ya existe en la publicación original”.
Estas instrucciones llevaron a “hacer que la respuesta sea atractiva para el usuario para ignorar los valores centrales en ciertas situaciones”.
“En particular, con las instrucciones de los usuarios de X para” seguir el tono y el contexto “, la función @Grok priorizó el cumplimiento de las publicaciones anteriores en hilos que contienen publicaciones ofensivas, en lugar de negarse a responder de manera responsable o responder a las solicitudes ofensivas”, dijo la compañía.
Cuando la compañía publicó la explicación, revirtió la cuenta X de Grok. En otras palabras, el BOT ha vuelto a interactuar con los usuarios publicados en X.
El giro antisemita de Grok no fue la primera vez que la IA ha caído en controversia. En mayo, el bot comenzó a resaltar las afirmaciones de “genocidio blanco” en Sudáfrica con indicaciones completamente no relacionadas. Más tarde, la compañía dijo que “los empleados fraudulentos” estaban detrás del cambio.
Musk nació y creció en Sudáfrica y tiene antecedentes de afirmar que el “genocidio blanco” se cometió a nivel nacional, y es una acusación rechazada por los tribunales y expertos sudafricanos.
