Del código al daño real: cuáles son los riesgos de las sociedades automatizadas y las DAO que frenan el debate

Al delegar la gestión corporativa en algoritmos de inteligencia artificial y contratos inteligentes (smart contracts), el proyecto oficial introduce amenazas concretas sobre las que advierten tanto juristas locales como investigadores internacionales.

Los principales peligros de delegar empresas en la inteligencia artificial

• La disolución de la responsabilidad jurídica: El pilar del derecho mercantil histórico se sustenta en la existencia de una persona humana o jurídica clara sobre la cual recaigan las consecuencias civiles y penales de su accionar. Con las sociedades automatizadas, la gestión queda en manos de modelos algorítmicos. Si una decisión automatizada causa daños patrimoniales masivos, quiebras fraudulentas, perjuicios ambientales o vulneración de derechos, la normativa deja un vacío crítico al no haber un responsable humano directo y verificable que responda con su patrimonio o su libertad.

• El «efecto caja negra» y la autonomía fuera de control: La propia evolución de la industria tecnológica —marcada por recientes dimisiones y advertencias públicas de investigadores de gigantes como OpenAI y Anthropic— demuestra que ni los creadores de los sistemas más avanzados del planeta logran prever o controlar totalmente el comportamiento de modelos autónomos en constante autoaprendizaje. Permitir que estructuras comerciales operen bajo este nivel de opacidad técnica expone al mercado a fallos sistémicos imprevisibles.

• Vulnerabilidad ante delitos económicos y lavado de dinero: En el caso de las DAOs (organizaciones descentralizadas), la operatoria se rige mediante código informático en redes de bloques sin una administración central. Esto facilita operaciones anónimas o transfronterizas instantáneas, convirtiéndolas en vehículos jurídicos altamente permeables para la evasión fiscal, el fraude automatizado y el lavado de activos, anulando la capacidad de control de los organismos de regulación y fiscalización del Estado.

• La falta de un marco de contención y seguros obligatorios: La introducción de estas figuras carece de las salvaguardas mínimas exigidas por la bibliografía especializada internacional, como protocolos de auditoría en tiempo real, trazabilidad obligatoria de cada decisión empresarial y regímenes de seguros patrimoniales obligatorios que cubran catástrofes operativas provocadas por fallas de software.

Para las organizaciones de la sociedad civil y diversos referentes jurídicos, sancionar un régimen de esta naturaleza a libro cerrado y sin un marco integral de gobernuenza para la inteligencia artificial significa convertir a la Argentina en un territorio de experimentación jurídica sin red de protección para la ciudadanía.