En los \u00faltimos d\u00edas se ha intensificado una tendencia preocupante en el coraz\u00f3n de la industria de la inteligencia artificial: renuncias simult\u00e1neas de investigadores y expertos en seguridad que durante a\u00f1os trabajaron para mitigar los riesgos de estas tecnolog\u00edas, justo cuando algunos de los principales actores del sector est\u00e1n priorizando modelos de negocio m\u00e1s agresivos.<\/p>\n\n\n\n
Una de las salidas m\u00e1s comentadas fue la de Zo\u00eb Hitzig<\/strong>, investigadora de OpenAI que anunci\u00f3 su renuncia el mismo d\u00eda en que la empresa comenz\u00f3 a probar publicidad en su popular chatbot, ChatGPT. En una columna de opini\u00f3n publicada en The New York Times<\/em>, Hitzig explic\u00f3 que su decisi\u00f3n respond\u00eda a profundas reservas sobre la estrategia de la compa\u00f1\u00eda para monetizar el servicio a trav\u00e9s de anuncios y a lo que, seg\u00fan ella, podr\u00eda implicar para los usuarios. Se\u00f1al\u00f3 que muchas personas comparten con la IA detalles \u00edntimos de su vida \u2014temores, dudas personales y pensamientos muy privados\u2014 y que construir un sistema publicitario alrededor de esa base de interacci\u00f3n abre la puerta a formas de manipulaci\u00f3n que actualmente carecemos de herramientas para comprender o controlar<\/strong>.<\/p>\n\n\n\n La investigadora no rechaz\u00f3 la publicidad per se \u2014reconoci\u00f3 que operar un sistema de IA es extremadamente costoso y que la venta de espacios publicitarios puede ser una fuente de ingresos\u2014 pero advirti\u00f3 que la introducci\u00f3n de anuncios podr\u00eda empujar a la compa\u00f1\u00eda en direcci\u00f3n de optimizar la participaci\u00f3n del usuario sobre otras prioridades, repitiendo patrones \u00e9ticos que han generado controversias en plataformas como las redes sociales tradicionales<\/strong>.<\/p>\n\n\n\n Paralelamente, en otra firma clave del sector, Anthropic<\/strong>, el jefe de seguridad e investigaci\u00f3n en salvaguardas, Mrinank Sharma<\/strong>, tambi\u00e9n present\u00f3 su renuncia tras liderar equipos encargados de abordar riesgos como bioterrorismo y comportamiento no alineado de IA. \u00c9l afirm\u00f3 haber visto que, con el crecimiento y la presi\u00f3n comercial, era cada vez m\u00e1s dif\u00edcil sostener los valores que inicialmente lo motivaron a trabajar en la empresa. Actualmente planea retirarse del \u00e1mbito tecnol\u00f3gico para dedicarse al estudio de la poes\u00eda, subrayando la carga emocional y profesional que implic\u00f3 su experiencia.<\/p>\n\n\n\n Estos movimientos no parecen aislados. Informes recientes se\u00f1alan que varios investigadores y figuras de seguridad de grandes compa\u00f1\u00edas de IA han abandonado sus puestos en un breve lapso<\/strong>, y algunos observadores ven en esa din\u00e1mica un posible s\u00edntoma de tensiones internas entre los compromisos \u00e9ticos y las prioridades de crecimiento o monetizaci\u00f3n de estos productos.<\/p>\n\n\n\n Mientras tanto, la industria en general enfrenta un debate m\u00e1s amplio sobre la confianza de los usuarios y la sostenibilidad de distintos modelos de negocio, con empresas como Perplexity optando por rechazar la publicidad para preservar la percepci\u00f3n de objetividad de sus herramientas de IA.<\/p>\n\n\n\n En un contexto donde la adopci\u00f3n de la inteligencia artificial crece de manera exponencial, las salidas de estos expertos plantean preguntas sobre si las empresas est\u00e1n equilibrando adecuadamente las preocupaciones de seguridad, \u00e9tica y negocio, o si est\u00e1n trasladando el foco del desarrollo responsable hacia estrategias m\u00e1s convencionales de monetizaci\u00f3n y expansi\u00f3n.<\/p>\n","protected":false},"excerpt":{"rendered":" En los \u00faltimos d\u00edas se ha intensificado una tendencia preocupante en el coraz\u00f3n de la industria de la inteligencia artificial: renuncias simult\u00e1neas de investigadores y expertos en seguridad que durante a\u00f1os trabajaron para mitigar los riesgos de estas tecnolog\u00edas, justo cuando algunos de los principales actores del sector est\u00e1n priorizando modelos de negocio m\u00e1s agresivos. […]<\/p>\n","protected":false},"author":3,"featured_media":37218,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_override_bookmark_settings":[],"jnews_food_recipe":[],"enable_food_recipe":"","food_recipe_title":"","food_recipe_description":"","food_recipe_serve":"","food_recipe_time":"","food_recipe_prep":"","food_recipe_level":"","food_recipe_keywords":"","food_recipe_category":"","food_recipe_cuisine":"","food_recipe_yield":"","food_recipe_calories":"","enable_print_recipe":"","ingredient":[],"instruction":"","jnews_social_meta":[],"jnews_paywall_metabox":[],"jnews_review":[],"enable_review":"","type":"","name":"","summary":"","brand":"","sku":"","good":[],"bad":[],"score_override":"","override_value":"","rating":[],"price":[],"jnews_override_counter":[],"jnews_post_split":[],"jnews_podcast_option":[],"jnews_podcast_series":[],"footnotes":""},"categories":[37],"tags":[831,1404,2403],"jnews-series":[],"ppma_author":[830],"class_list":["post-37217","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-y-tecnologia","tag-destacada","tag-inteligencia-artificial","tag-noticias-del-mundo"],"yoast_head":"\n