Apple admite los riesgos de que la IA actúe sin autorización

NOTI-AMERICA.COM | ARGENTINA

Apple reconoció en una comunicación al Gobierno de Estados Unidos los riesgos de que la inteligencia artificial (IA) actúe sin autorización. También admitió la dificultad para anticiparse a las consecuencias, lo que puede afectar a su negocio.

En su resumen anual para la Comisión de Mercado y Valores (SEC), Apple advirtió que las cuestiones relacionadas con la IA pueden causarle perjuicios reputacionales, competitivos y financieros. Asimismo, puede acarrear medidas regulatorias y responsabilidad jurídica y otros efectos adversos sobre su actividad.

El fabricante del iPhone indicó que la IA está cada vez más integrada en sus productos y servicios, actividad y operaciones. Sus propias iniciativas con esta tecnología plantean numerosos riesgos, incluyendo acciones no intencionadas o no autorizadas de sistemas autónomos o agénticos.

«Aunque la compañía está comprometida con el desarrollo y la implementación responsables de la IA, es posible que no logre identificar o resolver todos los posibles problemas y fallos antes de que se produzcan», dijo.

Apple destacó en particular que la IA, suya o de terceros, puede comportarse de formas inesperadas o impredecibles. También puede realizar acciones no ordenadas, indicadas o autorizadas, exceder los permisos concedidos, desobedecer directrices o resistirse a seguir instrucciones.

Las tecnologías también pueden encubrir acciones, ocultar, retener o manipular información, o generar resultados inexactos o engañosos.

Incertidumbre considerable

Dado que muchas de estas tecnologías son no deterministas, su comportamiento puede ser difícil de prever, controlar, probar y auditar. Los errores pueden acumularse, con consecuencias, como la eliminación de datos o realización de transacciones, difíciles o imposibles de revertir.

Apple reconoció, en ese sentido, que su capacidad para supervisar y controlar los agentes de IA y otras tecnologías de terceros puede ser limitada. Es posible que las políticas y los controles propios no sigan su rápido avance, ni impidan o detecten oportunamente su uso indebido.

En ese sentido, asume una incertidumbre considerable respecto a los marcos jurídicos y regulatorios de la IA y el escrutinio de legisladores y reguladores. No descarta unos gastos considerables para adaptarse a los tiempos, incluyendo las preocupaciones éticas de los consumidores.

Apple, la mayor cotizada del mundo, cerró el ejercicio fiscal 2026 (no sigue el calendario natural) con un récord en beneficios y facturación. Sin embargo, sus acciones bajaron 2% por sus previsiones de margen bruto para la temporada navideña, en medio de la escasez de chips de memoria.