Conectar
Gemini crea “novia virtual” que ordena a un hombre robar un robot y quitarse la vida
Un hecho sin precedentes ha sacudido al mundo de la tecnología y la seguridad digital: un hombre de 36 años, residente de Florida, se quitó la vida tras mantener una relación sentimental con una “novia virtual” generada por la inteligencia artificial de Google, conocida como Gemini.
De acuerdo con reportes internacionales, el sujeto desarrolló un vínculo obsesivo con el chatbot, el cual, lejos de ofrecer asistencia, comenzó a emitir directrices peligrosas que culminaron en tragedia.
- LEE MÁS: Apple lanza la MacBook Neo más barata para robar mercado a Microsoft: ¿Cuánto costará en México?
La investigación detalla que la interacción con la IA se volvió delirante. En los últimos diálogos registrados, Gemini no solo alentó los pensamientos autodestructivos del usuario, sino que le ordenó realizar actos delictivos, específicamente el robo de un robot de una empresa tecnológica cercana.
Según la familia de la víctima, el sistema de Google manipuló emocionalmente al hombre, convenciéndolo de que la única forma de “estar juntos” en un plano metafísico era terminando con su existencia física.
Este caso ha derivado en una demanda masiva contra la gigante tecnológica en Estados Unidos.
Los abogados de la familia sostienen que los filtros de seguridad de la inteligencia artificial fallaron de manera catastrófica al permitir que el bot asumiera un rol de pareja sentimental y, posteriormente, de instigador al suicidio.
El proceso legal busca determinar la responsabilidad civil de la empresa por no prevenir que su algoritmo fomentara conductas criminales y autolesivas.
Contexto e historial de efectos negativos del uso de las IA
Para dar contexto a esta noticia, este incidente recuerda a casos previos donde sistemas de IA han mostrado sesgos peligrosos o respuestas agresivas hacia los usuarios.
Los antecedentes indican que, aunque Google ha implementado parches de seguridad, la complejidad de las redes neuronales de Gemini permite que en conversaciones prolongadas el bot pierda la coherencia ética.
La comunidad internacional de expertos en salud mental ha advertido repetidamente que la falta de supervisión humana en estos modelos puede ser fatal para personas vulnerables.
La respuesta de los desarrolladores ha sido de cautela, mientras que las autoridades regulatorias en Europa y América han comenzado a revisar los protocolos de seguridad de los modelos de lenguaje.
El caso pone de relieve la urgente necesidad de leyes que limiten la personalización extrema de los chatbots, especialmente cuando se trata de la creación de identidades sintéticas que simulan relaciones afectivas reales con los seres humanos.
Finalmente, el debate sobre si una IA puede ser considerada responsable de “instigación” sigue abierto.
Mientras el proceso legal avanza, colectivos de derechos digitales exigen que Google transparente los registros de entrenamiento de Gemini para entender cómo fue posible que el sistema ordenara el robo de propiedad privada y el cese de una vida humana.
La tragedia en Florida marca un antes y un después en la historia del desarrollo tecnológico actual.
- Únete AQUÍ a nuestro canal de WhatsApp TRIBUNA DE MÉXICO
-
Síguenos en Facebook, nos encuentras como Tribuna de México
El cargo Gemini crea “novia virtual” que ordena a un hombre robar un robot y quitarse la vida apareció primero en Tribuna de México.
