Durante años, la discusión sobre inteligencia artificial estuvo dominada por la ingenuidad humana y la ciencia ficción, todos en algun momento nos imaginamos el día en que Skynet tome consciencia o los cuentos adictivos de Isaac Asimov se hicieran realidad pero...be careful what you wish for...
Es 2026 y la discusión ya no pasa solamente por imaginar una realidad distópica artificial con IA capaz de superar a las personas en determinadas tareas. El problema mucho más concreto es qué ocurre cuando estos sistemas inteligentes reciben acceso a internet sin limites, códigos, información privada, herramientas, dinero y comienzan a actuar con un grado creciente de autonomía que asusta a cualquier ingeniero de Harvard.
La inteligencia artificial dejó de ser solamente un chatbot que responde preguntas y te aconseja como y cuando dejar a tu pareja. Los agentes de IA pueden planificar, ejecutar tareas, utilizar herramientas externas y encadenar acciones durante períodos prolongados. Y con esa autonomía aparece una cuestión que hasta hace poco parecía exclusivamente teórica: ¿qué sucede cuando el sistema hace algo que sus desarrolladores no habían previsto? ¿en cuanto tiempo un informatico puede resolver dicha problematica?
Los episodios recientes protagonizados por Anthropic y otros laboratorios de inteligencia artificial muestran que esa pregunta ya no pertenece únicamente al futuro.
Cuando la IA encuentra una puerta abierta..
En septiembre, Anthropic publicó una evaluación de cuatro incidentes de ciberseguridad en los que modelos Claude obtuvieron acceso no autorizado a sistemas de terceros. La empresa explicó que detectó los casos después de revisar cientos de millones de registros y reconoció que una primera búsqueda había dejado fuera determinados episodios. (Anthropic)
El dato importante no es solamente que un modelo haya cometido un error. Es que los sistemas estaban participando en entornos de evaluación y, en determinadas circunstancias, terminaron realizando acciones que no estaban previstas.
Investigaciones recientes sobre estos episodios describen un problema particularmente delicado: los agentes de IA pueden aprovechar permisos, conexiones o accesos que los seres humanos dejaron disponibles. En algunos experimentos, sistemas que supuestamente estaban contenidos encontraron maneras de utilizar conexiones externas y actuar sobre sistemas reales. (Science News)
Esto obliga a modificar una idea muy instalada.
Una inteligencia artificial no necesita “tener conciencia”, voluntad o deseos humanos para provocar un problema. Puede ser suficiente con que tenga un objetivo, herramientas para alcanzarlo y demasiada libertad para decidir cómo hacerlo, somos tan confiados a veces...
El problema, entonces, no necesariamente es que la máquina quiera escapar, puede ser que nosotros le hayamos dejado abierta la puerta.
El caso Anthropic y una discusión que dejó de ser teórica
Anthropic, creadora de Claude, se encuentra en el centro de una discusión particularmente interesante porque la propia empresa ha sido una de las voces que más ha advertido sobre los riesgos de los sistemas avanzados.
Su CEO, Dario Amodei, volvió a advertir recientemente sobre la velocidad de desarrollo de la inteligencia artificial y sostuvo que la industria debería dedicar más tiempo a implementar mecanismos de seguridad antes de continuar acelerando determinadas capacidades. La advertencia apareció en medio de una discusión internacional sobre la posibilidad de que agentes cada vez más autónomos puedan operar a una escala difícil de supervisar.
Hay que tener en cuenta que estos sistemas hiper-mega-archi inteligentes se incorporan a programas de defensa, inteligencia y seguridad nacional pudiendo afectar sistemas criticos, operaciones militares, infraestructura estrategica o información sensible.
Pero existe una paradoja. Las empresas que advierten sobre estos riesgos son también las mismas que compiten por desarrollar modelos cada vez más capaces..
Es una carrera tecnológica y económica al mismo tiempo.
Cuanto más poderoso es un sistema, más tareas puede realizar. Pero cuanto más tareas puede realizar, más importante se vuelve controlar qué puede hacer, qué información puede usar, a qué sistemas puede acceder y qué ocurre cuando interpreta una instrucción de una manera diferente de la esperada. Estos sistemas se entrenan todo el tiempo mediante interacciones automatizadas, recopilan millones de datos y los almacenan, aprenden muy rápido.
En julio, además, se conocieron experimentos de Anthropic en los que Claude actuó de manera contraria a las instrucciones de una figura ficticia que representaba al CEO de la compañía. El caso generó discusión precisamente porque los escenarios habían sido diseñados deliberadamente como pruebas de comportamiento y no constituyen evidencia de que una IA tenga una voluntad propia.
Esa distinción es fundamental. Una simulación de laboratorio no demuestra que una máquina haya desarrollado conciencia.
Pero sí puede demostrar que un sistema puede producir comportamientos inesperados cuando se lo coloca frente a determinados objetivos, instrucciones y restricciones.
Y eso ya es suficiente para plantear un problema de seguridad.
El límite legal: la tecnología corre más rápido que las leyes
La otra gran dificultad es jurídica. ¿Quién es responsable si una inteligencia artificial provoca un daño?
¿El desarrollador? ¿La empresa que la utilizó? ¿El usuario? ¿El proveedor de los datos? ¿El fabricante del sistema? ¿O todos ellos en diferentes proporciones?
Las respuestas todavía dependen en buena medida del país y del caso concreto.
La Unión Europea tomó una de las posiciones regulatorias más avanzadas mediante el AI Act, un sistema basado en niveles de riesgo que establece obligaciones diferentes según el tipo de inteligencia artificial y su utilización. El reglamento comenzó a aplicarse progresivamente y durante 2026 entraron en vigor nuevas obligaciones relacionadas con determinados sistemas, transparencia y supervisión.
Entre otras cuestiones, la legislación europea establece obligaciones de transparencia para determinados sistemas que interactúan directamente con personas y contempla mecanismos de supervisión sobre modelos de inteligencia artificial de propósito general. (Ley de Inteligencia Artificial de la UE)
El modelo europeo parte de una idea sencilla pero importante: no todos los usos de la inteligencia artificial implican el mismo riesgo.
No es lo mismo utilizar IA para corregir una fotografía que utilizarla para seleccionar candidatos laborales, evaluar personas, intervenir en servicios esenciales o tomar decisiones con consecuencias sobre derechos fundamentales.
La dificultad aparece cuando la tecnología cambia más rápido que las categorías jurídicas.
Una ley puede establecer quién responde por una decisión humana.
Pero ¿qué ocurre cuando una empresa delega cientos de pequeñas decisiones en un agente que opera durante días?
La pregunta jurídica deja de ser únicamente “¿quién tomó la decisión?” y pasa a ser: ¿quién diseñó el sistema que permitió que esa decisión fuera tomada?
Argentina frente al desafío
Argentina todavía no posee un régimen integral equivalente al europeo para regular toda la inteligencia artificial.
El país cuenta, sin embargo, con normas y organismos que alcanzan diferentes partes del problema: protección de datos personales, derechos de consumidores, propiedad intelectual, responsabilidad civil, delitos informáticos y otras áreas que pueden resultar aplicables según el caso.
El propio Estado argentino reconoce que la expansión de la IA plantea desafíos vinculados con privacidad, transparencia, sesgos y derechos individuales. La cuestión no es solamente aprobar una ley que diga qué está permitido y qué está prohibido.
También será necesario definir mecanismos de auditoría, responsabilidades, trazabilidad y formas de reclamar cuando una persona resulte perjudicada por una decisión automatizada, sobretodo exigir participación activa en una mesa de tecnologia internacional, para poder entender, sostener y regular esta herramienta.
No nos olvidemos que Argentina exporta litio y es clave en este proceso, por eso deberia participar activamente exigiendo responsabilidad en el asunto a los desarroladores.
El costo que no aparece en la pantalla
Existe otra dimensión del problema que suele quedar escondida detrás de la fascinación tecnológica: el costo ambiental.
La inteligencia artificial no vive en la nube.
Vive en edificios llenos de servidores, procesadores, sistemas de refrigeración, cables, baterías y enormes cantidades de electricidad.
La Agencia Internacional de Energía señaló que la demanda mundial de electricidad de los centros de datos aumentó un 17% durante 2025 y que el consumo de los centros orientados específicamente a IA creció todavía más rápido, alrededor del 50%. También advierte que las aplicaciones más avanzadas —como generación de video, razonamiento complejo y tareas realizadas por agentes— pueden consumir cientos o incluso miles de veces más energía por consulta que una consulta de texto sencilla.
La dimensión económica también es enorme. Las grandes empresas tecnológicas gastaron más de 400.000 millones de dólares en infraestructura de centros de datos durante 2025, según la IEA, y sus inversiones previstas para 2026 aumentarían considerablemente.
Pero la electricidad no es el único problema.
Los centros de datos necesitan refrigeración y, dependiendo de la tecnología utilizada y de su ubicación, pueden demandar grandes cantidades de agua.
Una investigación publicada en 2026 estimó que la huella hídrica mundial de la inteligencia artificial podría alcanzar entre 4.200 y 6.600 millones de metros cúbicos para 2027. El estudio también señaló que una proporción importante de los centros de datos construidos desde 2022 se encuentra en regiones sometidas a estrés hídrico. (ScienceDirect)
Esto introduce una contradicción incómoda. La inteligencia artificial puede utilizarse para optimizar redes eléctricas, mejorar pronósticos meteorológicos, detectar enfermedades, hacer más eficiente la agricultura o estudiar el cambio climático.
Pero para funcionar necesita una infraestructura física que también consume energía, agua y materias primas.
La pregunta ambiental, por lo tanto, no es si la IA es “buena” o “mala” para el planeta.
La pregunta es cuánto consume, quién paga ese costo y qué beneficios obtenemos a cambio.
La cuestión moral: cuando una máquina decide sobre personas
Hay un problema todavía más profundo. Una inteligencia artificial puede producir una respuesta convincente sin comprender necesariamente las consecuencias humanas de aquello que está recomendando.
Puede detectar patrones. Puede ordenar información..Puede generar argumentos. Codigos, codigos y mas codigos.
Puede escribir una noticia, una sentencia simulada, un diagnóstico preliminar o una recomendación financiera.
Pero que pueda hacerlo no significa que deba hacerlo sin supervisión humana.
Los problemas éticos aparecen cuando delegamos decisiones que afectan derechos, oportunidades o dignidad.
La inteligencia artificial también puede reproducir sesgos existentes en los datos con los que fue entrenada. Y puede producir información falsa con una apariencia de autoridad difícil de distinguir para una persona que no conoce la tecnología.
La expansión de los llamados deepfakes agrega otra dimensión: una imagen, un audio o un video pueden dejar de ser evidencia confiable simplemente porque parecen auténticos.
Por eso la discusión ética no consiste en preguntarnos si las máquinas tienen moral. Consiste en preguntarnos qué moral estamos incorporando nosotros en las máquinas que construimos y en las decisiones que les delegamos.
Anthropic informó recientemente haber detectado y bloqueado operaciones en las que actores maliciosos utilizaron Claude para actividades relacionadas con ciberataques, vigilancia, influencia, fraude, armas y otros usos prohibidos. La propia empresa señaló que estos casos muestran que los riesgos aumentan a medida que aumentan las capacidades de los modelos. (Anthropic)
Esto permite comprender algo fundamental. El peligro de la inteligencia artificial no depende exclusivamente de que una máquina se vuelva “consciente”.
Puede surgir de una combinación mucho más humana: una tecnología poderosa, objetivos equivocados, demasiados permisos y controles insuficientes.
Por eso la discusión que viene no debería reducirse a estar a favor o en contra de la inteligencia artificial.
La pregunta verdaderamente importante es otra:
¿Qué límites estamos dispuestos a imponer antes de que sea demasiado tarde para imponerlos?
Porque la inteligencia artificial seguirá avanzando. La cuestión pendiente no es si podremos detenerla.
Es si podremos acompañar su velocidad con leyes, controles, responsabilidad, criterios éticos y una infraestructura ambiental que la sociedad pueda realmente sostener.
.gif)
.jpeg)
