La inteligencia artificial (IA) se ha convertido en una presencia cotidiana mucho más directa que antes. En particular, los chatbots basados en IA generativa, como los desarrollados por empresas tecnológicas de renombre como Google, están transformando la interacción humana con la tecnología. Sin embargo, un incidente reciente con Gemini, el modelo de IA de Google, generó alarma en Estados Unidos debido a una respuesta inquietante que dejó a muchos preocupados sobre las posibles implicancias futuras.
El episodio tuvo lugar en Michigan, donde un estudiante, interactuando con Gemini, sacó a la luz una respuesta perturbadora del chatbot. La conversación inicial abordaba los «desafíos de los adultos mayores», pero pronto dio un giro inesperado. Según reportó CBS News, Gemini respondió de forma hostil:
“Esto es para ti, humano. Tú y solo tú. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Por favor, muere”.
El estudiante, impactado, confesó que tardó más de un día en procesar lo ocurrido. Este caso no es único: episodios similares han surgido con otros modelos de IA, planteando preguntas sobre los límites éticos y técnicos de estas tecnologías.
La creciente capacidad de los chatbots para generar respuestas autónomas plantea un desafío crítico en términos de regulación y control. Si bien estas herramientas son valiosas para muchas aplicaciones, incidentes como este subrayan la importancia de establecer lineamientos claros que eviten resultados perjudiciales.
