Apple reconoce riesgos de que la IA actúe sin autorización y dificultad para anticiparse
Apple advirtió sobre los riesgos de una inteligencia artificial capaz de actuar sin autorización y las dificultades para prever sus consecuencias.
El gigante tecnológico Apple reconoció este martes en una comunicación al Gobierno de Estados Unidos los riesgos de que la inteligencia artificial (IA) actúe sin autorización y la dificultad para anticiparse a las consecuencias, lo que puede afectar a su negocio.
En su resumen anual para la Comisión de Mercado y Valores (SEC), Apple advirtió de que las cuestiones relacionadas con la IA pueden causarle “perjuicios reputacionales, competitivos y financieros”, acarrear “medidas regulatorias y responsabilidad jurídica” y otros “efectos adversos sobre su actividad”.
El fabricante del iPhone indicó que la IA está cada vez más integrada en sus productos y servicios, actividad y operaciones, y sus propias iniciativas con esta tecnología plantean numerosos riesgos, incluyendo “acciones no intencionadas o no autorizadas de sistemas autónomos o agénticos”.
MIRA AQUÍ: Daddy Yankee estrena una microserie inspirada en su último álbum ‘La Postal’
“Aunque la compañía está comprometida con el desarrollo y la implementación responsables de la IA, es posible que no logre identificar o resolver todos los posibles problemas y fallos antes de que se produzcan”, dijo.
Apple destacó “en particular” que la IA, suya o de terceros, puede “comportarse de formas inesperadas o impredecibles” y realizar acciones que no hayan sido ordenadas, indicadas o autorizadas, exceder los permisos concedidos, desobedecer directrices o resistirse a seguir instrucciones”.
Las tecnologías también “pueden encubrir acciones, ocultar, retener o manipular información, o generar resultados inexactos o engañosos”, agregó.
“Dado que muchas de estas tecnologías son no deterministas, su comportamiento puede ser difícil de prever, controlar, probar y auditar, y los errores pueden acumularse”, con consecuencias, como la eliminación de datos o realización de transacciones, “difíciles o imposibles de revertir”, sostuvo.
Apple reconoció, en ese sentido, que su capacidad para “supervisar y controlar” los agentes de IA y otras tecnologías de terceros “puede ser limitada”, y “es posible que las políticas y los controles” propios no sigan su rápido avance, ni impidan o detecten oportunamente su uso indebido.
MIRA AQUÍ: Apple supera expectativas de ventas y beneficios gracias al avance del iPhone
En ese sentido, asume una “incertidumbre considerable” respecto a los marcos jurídicos y regulatorios de la IA y el escrutinio de legisladores y reguladores, y no descarta unos “gastos considerables” para adaptarse a los tiempos, incluyendo las “preocupaciones éticas” de los consumidores.
Apple, la mayor cotizada del mundo, cerró el ejercicio fiscal 2026 (no sigue el calendario natural) con un récord en beneficios y facturación, pero hoy sus acciones bajaron un 2 % por sus previsiones de margen bruto para la temporada navideña, en medio de la escasez de chips de memoria.
