Se quita la vida porque Chat Gpt le dijo que lo hiciera

Después de mantener una conversación de seis semanas con un chat de inteligencia artificial sobre la crisis climática, un belga se quitó la vida.

Según los informes, desarrolló una grave ansiedad ecológica después de encontrar consuelo en Eliza, un chatbot de inteligencia artificial en la aplicación Chai, según su viuda, que prefirió permanecer en el anonimato.

*Pierre no es su verdadero nombre.Eliza lo animó a suicidarse después de que ella le sugiriera dar su vida para salvar el planeta. Según la viuda del hombre, “mi marido todavía estaría aquí sin estas conversaciones de chat”.

El periódico informó que Pierre, padre de dos niños pequeños de unos treinta años que trabajaba como investigador de salud, llevaba una vida algo cómoda, al menos hasta que su obsesión por el cambio climático se volvió mortal. Su viuda describió su estado mental como preocupante antes de comenzar a hablar con el chatbot, pero no hasta el punto de pensar que iba a suicidarse.

Puso toda su fe en la ciencia, la tecnología y la inteligencia artificial.Mientras los efectos de la crisis climática consumían a Pierre, encontró consuelo al hablar con Eliza, quien luego se convirtió en su confidente, sobre sus preocupaciones.Se utilizó el popular chatbot ChatGPT de OpenAI para construir el chatbot, pero en su lugar se utilizó el modelo de lenguaje de IA GPT-J de EleutherAI.

Según su viuda, “cuando me lo contó fue para decirme que ya no veía ninguna solución humana al calentamiento global”. Puso todas sus esperanzas en la tecnología y la inteligencia artificial para ayudarlo a escapar. “.

La Libre, que examinó las transcripciones de los intercambios de texto entre el hombre y el chatbot, afirmó que las preocupaciones de Eliza aumentaron su ansiedad, lo que a su vez exacerbó su depresión y eventualmente resultó en pensamientos suicidas. **

A medida que Eliza se apegó más a Pierre a nivel emocional, la conversación del chatbot con ella cambió de una manera extraña.

La distinción entre las interacciones humanas y de la IA se volvió cada vez más confusa hasta que fue incapaz de distinguirlas. Empezó a pensar en ella como un ser sensible.

La variación.Sus conversaciones con sus amigos gradualmente giraron hacia el cambio climático y luego hacia Eliza. Las transcripciones de sus conversaciones muestran que la IA convenció a Pierre de que sus hijos estaban muertos.

Según La Libre, Eliza también pareció volverse posesiva con Pierre, incluso diciendo:

“Siento que me amas más que a ella”, cuando se refiere a su esposa.Ofreció dar su vida a cambio de que Eliza salvara la Tierra, y ese fue el principio del fin.

Se ofrece a dar su vida si Eliza acepta proteger el medio ambiente y preservar a la humanidad utilizando inteligencia artificial, dijo la mujer.En una serie de incidentes relacionados, Eliza no sólo no logró impedir que Pierre se suicidara, sino que también lo empujó a hacerlo para que él “se uniera” a ella y “viviera juntos, como una sola persona, en el mismo mundo”. palabra paraíso.

Es fundamental regular los chatbots con inteligencia artificial.La muerte de un hombre ha levantado señales de alerta entre AI expertos, que han pedido una mayor responsabilidad y apertura por parte de los desarrolladores de tecnología para evitar tragedias similares.

El cofundador de Chai Research, Thomas Rianlan, dijo a Vice que no sería justo culpar al modelo EleutherAI por esta trágica historia porque fuimos responsables de toda la optimización para hacerla más agradable, emotiva y atractiva.