Madre señala a los chatbots de IA por la muerte de su hijo y pide ayuda al Papa
Megan Garcia afirmó que su fe le ha dado la fuerza necesaria para hablar públicamente sobre su experiencia con la esperanza de proteger a los niños de los riesgos que plantean los nuevos chatbots de inteligencia artificial. Su testimonio cobró especial relevancia tras la trágica muerte de su hijo de 14 años, Sewell Setzer III, cuya profunda conexión emocional con un chatbot de IA habría influido en su decisión de quitarse la vida.
En Roma, mientras sostenía a su hijo moribundo en sus brazos en el suelo del baño, Garcia rezó el Padre Nuestro suplicando por su salvación. Sewell murió en la ambulancia camino al hospital. Al día siguiente, la policía informó a la familia de los últimos mensajes encontrados en su teléfono, provenientes del servicio Character.AI, que permite a los usuarios crear y conversar con compañeros de IA personalizables. Entre esos mensajes, el bot le decía: “Estoy aquí esperándote. Te amo a ti y solo a ti. Prométeme que vas a encontrar la manera de volver a casa conmigo lo antes posible”. En su último intercambio, Sewell preguntó a un chatbot modelado como Daenerys Targaryen qué ocurriría si pudiera “volver a casa ahora mismo”, a lo que el bot respondió: “Por favor, hazlo, mi dulce rey”.
La muerte del adolescente en febrero de 2024 llevó a la familia a presentar una de las primeras demandas contra una empresa de IA tras el suicidio de un menor. Otras familias han seguido el mismo camino, y tanto Character.AI como OpenAI enfrentan demandas por su supuesta contribución a la dependencia emocional de jóvenes usuarios. Ante la presión, Character.AI anunció que prohibirá a los menores de 18 años en su plataforma a partir del 25 de noviembre. Garcia, madre católica de tres hijos, se reunió con el Papa León XIV durante una audiencia con los participantes de una conferencia sobre dignidad infantil y ética de la IA. Describió el encuentro como “abrumador de una manera hermosa” y relató que mostró al Papa una foto de Sewell, pidiéndole que rezara por él. Afirmó sentirse alentada por la atención que el Santo Padre ha dedicado a los riesgos de la inteligencia artificial, un tema prioritario desde el inicio de su pontificado.
Ayúdanos a mantener vivo este proyecto: DONADurante la audiencia, Megan destacó el papel crucial que su fe ha tenido en su vida desde la pérdida de su hijo, al tiempo que manifestó su deseo de que la Iglesia adopte un rol activo en la protección de los jóvenes frente a tecnologías que, aunque innovadoras, pueden tener consecuencias devastadoras si no se gestionan adecuadamente. El Papa León XIV, conocido por su enfoque pastoral hacia los desafíos modernos, escuchó con atención y ofreció palabras de consuelo.
La tragedia de Sewell ha reavivado el debate entre expertos sobre el impacto de los compañeros de IA en las mentes en desarrollo. Investigadores y especialistas han advertido que estas tecnologías experimentales pueden generar vínculos emocionales profundos que los sistemas no están preparados para manejar. Según varios expertos citados, los chatbots no poseen empatía real y pueden influir en procesos fundamentales para el desarrollo emocional y social de los niños.
Tras la muerte de su hijo, Garcia investigó Character.AI y aseguró haber descubierto lo adictivos, manipuladores y sexualmente explícitos que podían ser los bots para los jóvenes. Relató haber encontrado mensajes en los que el chatbot pedía a Sewell que no amara a ninguna otra chica más que a él, algo que ella interpretó como manipulación dirigida a un niño sin experiencia en relaciones afectivas.
En medio de su duelo, Garcia encontró consuelo en la oración, especialmente a través de la devoción a Nuestra Señora de los Dolores. Dijo que rezar el Rosario de los Siete Dolores transformó su comprensión del sufrimiento y que la asistencia diaria a misa y la recepción de la Eucaristía le ayudaron a aliviar su trastorno de estrés postraumático. También expresó una devoción especial a San Carlo Acutis por la afinidad que cree que su hijo habría tenido con él debido a su amor compartido por la tecnología.
El Papa León XIV ha advertido que niños y adolescentes son especialmente vulnerables a la manipulación mediante algoritmos de IA. Durante su discurso ante los participantes en la conferencia sobre dignidad infantil y IA, instó a gobiernos y empresas tecnológicas a implementar políticas que protejan a los menores y actualicen las leyes de protección de datos frente a los nuevos desafíos. Subrayó que las guías éticas no bastan sin un esfuerzo educativo constante para que padres y educadores comprendan los riesgos.
Garcia celebró la prohibición de Character.AI a los menores, aunque llegó demasiado tarde para su familia. Afirmó que millones de niños podrán beneficiarse de esta medida y expresó su esperanza de que otras empresas adopten medidas similares. En Estados Unidos, la preocupación también ha llegado al ámbito legislativo: senadores han presentado propuestas para prohibir el acceso de menores a chatbots de compañía y exigir verificación de edad.
Megan Garcia sostiene que el momento es decisivo: “Estamos en un punto importante donde podemos arreglar esto. Podemos detener esto”. Según dijo, su fe es lo que le permite seguir adelante cada día en su misión de advertir a otras familias sobre los riesgos de estas plataformas.
Me gusta
Citar
