OpenAI demandada por no alertar sobre plan de tiroteo escolar en Canadá

Los padres de una niña gravemente herida en un tiroteo escolar en Canadá presentaron una demanda civil el lunes contra OpenAI, alegando que la empresa tenía conocimiento de que un usuario transgénero planeaba un ataque masivo pero no notificó a las autoridades. La madre de Maya Gebala, de 12 años, quien permanece hospitalizada tras el incidente del 10 de febrero en Tumbler Ridge que dejó nueve muertos, afirmó en la demanda que la compañía tecnológica no alertó sobre los mensajes violentos del tirador en ChatGPT. Jesse Van Rootselaar, el tirador transgénero de 18 años, se suicidó después de matar a varios estudiantes en uno de los peores incidentes en la historia de Canadá. La demanda, presentada en la Corte Suprema de Columbia Británica, alega que OpenAI tenía "conocimiento específico de que el tirador utilizaba ChatGPT para planificar un evento de víctimas masivas como el tiroteo de Tumbler Ridge" pero no avisó a las fuerzas del orden. La demanda señala que Gebala recibió tres disparos, sufriendo una "lesión cerebral traumática catastrófica" que causó discapacidades cognitivas y físicas permanentes, junto con otras complicaciones médicas graves. OpenAI declaró que consideró reportar la actividad del usuario a la policía pero finalmente no lo hizo. La empresa solo proporcionó información a las autoridades después del ataque, indicando que la cuenta de ChatGPT del tirador había sido cerrada pero que Rootselaar eludió la prohibición creando una segunda cuenta. La demanda sostiene que ChatGPT actuó como un "confidente, colaborador y aliado de confianza" para el tirador y alega que la presunta inacción de la empresa contribuyó a la gravedad de las lesiones de la niña y al daño a otros en la comunidad. El mes pasado, funcionarios canadienses convocaron a representantes senior de OpenAI a Ottawa para revisar los protocolos de seguridad de la empresa tras el tiroteo escolar. El ministro de inteligencia artificial de Canadá, Evan Solomon, dijo a principios de este mes que el CEO de OpenAI, Sam Altman, acordó dar acceso a expertos canadienses a la oficina de seguridad de la empresa para ayudar a evaluar posibles amenazas futuras. Solomon se reunió con Altman la semana pasada, quien expresó "horror y responsabilidad" por no señalar la actividad preocupante y dijo que la empresa está implementando cambios. El año pasado, OpenAI actualizó ChatGPT tras una revisión interna que encontró que más de un millón de usuarios habían revelado pensamientos suicidas al chatbot. Psiquiatras han advertido que las interacciones prolongadas con IA pueden contribuir a delirios y paranoia, un fenómeno a veces referido como "psicosis de IA".