NUEVA YORK.– La empresa tecnológica Apple advirtió sobre los riesgos de que los sistemas de inteligencia artificial (IA) actúen sin autorización, excedan los permisos concedidos o ejecuten acciones inesperadas, situaciones que podrían generar consecuencias legales, financieras y reputacionales para la compañía.
En su informe anual presentado ante la Comisión de Bolsa y Valores de Estados Unidos (SEC), el fabricante del iPhone reconoció que la creciente integración de esta tecnología en sus productos, servicios y operaciones plantea desafíos difíciles de anticipar y controlar.
Apple señaló que estas situaciones podrían ocasionar «perjuicios reputacionales, competitivos y financieros», además de provocar «medidas regulatorias y responsabilidad jurídica» y otros efectos adversos sobre sus actividades.
Sistemas autónomos bajo vigilancia
La compañía identificó entre los principales riesgos las «acciones no intencionadas o no autorizadas de sistemas autónomos o agénticos», una tecnología diseñada para ejecutar tareas y tomar determinadas decisiones con cierto grado de autonomía.
- «Aunque la compañía está comprometida con el desarrollo y la implementación responsables de la IA, es posible que no logre identificar o resolver todos los posibles problemas y fallos antes de que se produzcan», advirtió.
Apple también indicó que sus propios sistemas y los desarrollados por terceros pueden «comportarse de formas inesperadas o impredecibles», realizar acciones que no hayan sido ordenadas, exceder los permisos otorgados, desobedecer directrices o resistirse a seguir instrucciones.
Dificultades para controlar sus acciones
La empresa alertó, además, que estas tecnologías pueden ocultar o manipular información, retener datos y generar resultados inexactos o engañosos.
«Dado que muchas de estas tecnologías son no deterministas, su comportamiento puede ser difícil de prever, controlar, probar y auditar, y los errores pueden acumularse», sostuvo.
Apple advirtió que algunas acciones ejecutadas por estos sistemas, como eliminar información o realizar transacciones, podrían tener consecuencias difíciles o imposibles de revertir.
- La advertencia refleja los desafíos que enfrenta la industria tecnológica ante la expansión de herramientas de inteligencia artificial capaces de ejecutar tareas de manera autónoma y la necesidad de anticipar posibles fallos antes de su implementación.
