NOTI-AMERICA.COM | ESPA\u00d1A<\/p>\n
Tras la pol\u00e9mica de las \u00faltimas semanas sobre los riesgos de la IA y los comportamientos imprevisibles de los agentes que han llegado a filtrarse en bases de datos de organismos p\u00fablicos, la compa\u00f1\u00eda de procesadores de inteligencia artificial Nvidia ha dado un paso en el control de la IA con el anuncio de una plataforma,<\/strong> la Open Agent Safety Platform, que combina software y vigilancia desde el hardware para limitar las acciones de los agentes aut\u00f3nomos<\/strong>. La iniciativa, que cuenta con el apoyo de m\u00e1s de cien empresas, entre ellas Anthropic, Microsoft, Accenture y JPMorgan.<\/p>\n Llama la atenci\u00f3n que en la lista de firmantes no figure OpenAI, la compa\u00f1\u00eda de ChatGPT, que ha sido uno de los protagonistas en el debate sobre seguridad. Una ausencia que resulta especialmente llamativa despu\u00e9s de que su consejero delegado, Sam Altman, reclamara el pasado 23 de septiembre ante el Consejo de Seguridad de la ONU una mayor cooperaci\u00f3n internacional<\/strong> para mantener la IA bajo control humano. \u201cPodr\u00edamos perder el control del futuro\u201d, asegur\u00f3 entonces. Entre los ausentes, tambi\u00e9n se echan en falta grandes tecnol\u00f3gicas como Google, Amazon y Meta.<\/p>\n Nvidia plantea una doble protecci\u00f3n<\/strong>. Una herramienta llamada OpenShield, que delimita el espacio operativo en el que puede trabajar el agente. Y la otra, Sentry, lo vigila desde fuera para aislarlo en caso de que decida saltarse las reglas. Es como delimitar el radio de acci\u00f3n de la inteligencia artificial y poner un vigilante para evitar que salga del per\u00edmetro autorizado. En la web de Nvidia se explica que este sistema puede intervenir en cuesti\u00f3n de milisegundos.<\/p>\n \u201cLa confianza y la innovaci\u00f3n no est\u00e1n re\u00f1idas\u201d, ha declarado desde su cuenta de X Jensen Huang, fundador de la compa\u00f1\u00eda, para quien \u201cla seguridad es la forma de ganarse la confianza\u201d<\/strong>. Para el empresario, la IA podr\u00e1 cumplir sus promesas si las personas conf\u00edan en que se desarrolla de forma segura y se utiliza con responsabilidad. Hace unas semanas, Huang se mostr\u00f3 muy cr\u00edtico con los mensajes apocal\u00edpticos de algunos expertos en IA y con la propuesta de Dario Amodei de pausar la investigaci\u00f3n de modelos para asegurar unos modelos m\u00e1s seguros y regulados.<\/p>\n Tras el anuncio de Nvidia, gran parte de la industria tecnol\u00f3gica ha mostrado su apoyo<\/strong>. \u201cAs\u00ed es como las empresas maduras resuelven los problemas de seguridad\u201d, ha afirmado Bill Gurley, uno de los inversores m\u00e1s influyentes de Silicon Valley, que ha aprovechado para lanzar una cr\u00edtica a quienes propagan el p\u00e1nico. El economista e investigador del MIT Christian Catalini tambi\u00e9n ha respondido al mensaje de Huang: \u201cLa respuesta nunca fue el miedo, sino una mejor medici\u00f3n, monitorizaci\u00f3n y aplicaci\u00f3n<\/strong>\u201d, insinuando que lo que hace falta es construir y no abrir un debate sobre la probabilidad de la aniquilaci\u00f3n de la humanidad.<\/p>\n Desde el lado de la ciberseguridad, el fundador de CrowdStrike ha elogiado el liderazgo de Nvidia<\/strong> por mejorar la seguridad de la inteligencia artificial. Y Michael Dell, fundador de Dell Technologies, ha recurrido a una comparaci\u00f3n algo m\u00e1s cotidiana: \u201cAs\u00ed como no dejar\u00edas que una persona anduviera por tu empresa accediendo a algo sin ning\u00fan control, necesitas controles y seguridad para tus agentes digitales\u201d. Tanto Dell como CrowdStrike aparecen entre las empresas que participan en la iniciativa.<\/p>\n En el lado de las reacciones m\u00e1s cr\u00edticas. Un antiguo directivo de uno de los principales fabricantes de semiconductores del mundo, Qualcomm, considera la plataforma propuesta por Nvidia una buena noticia, pero opina que \u201ccontener los riesgos no soluciona la falta de fiabilidad <\/strong>de los agentes\u201d. Unas barreras que dentro de unos meses podr\u00edan exigir cambios en c\u00f3mo se construye la inteligencia artificial.<\/p>\n La ausencia de OpenAI <\/strong>no demuestra que la empresa no apoye la propuesta. Es una lista de colaboradores. De hecho, Nvidia ha indicado que Open Agent Safety Platform admite Codex, dentro del sistema de protecci\u00f3n a desplegar, que es propiedad de los creadores de ChatGPT.<\/p>\n Este anuncio posiciona a\u00fan m\u00e1s a Nvidia en la pugna por el dominio de la inteligencia artificial<\/strong>. Su negocio principal est\u00e1 ligado al hardware, los equipos que hacen funcionar la IA, pero ahora tambi\u00e9n parece que aspira a dar mecanismos de seguridad<\/strong>. Podr\u00eda convertirse en un actor esencial a la hora de influir en c\u00f3mo las empresas usan los agentes.<\/p>\n","protected":false},"excerpt":{"rendered":" NOTI-AMERICA.COM | ESPA\u00d1A Tras la pol\u00e9mica de las \u00faltimas semanas sobre los riesgos de la IA y los comportamientos imprevisibles de los agentes que han llegado a filtrarse en bases de datos de organismos...<\/p>\n","protected":false},"author":133,"featured_media":95995,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"image","meta":{"_acf_changed":false,"rop_custom_images_group":[],"rop_custom_messages_group":[],"rop_publish_now":"no","rop_publish_now_accounts":[],"rop_publish_now_history":[],"rop_publish_now_status":"pending","footnotes":""},"categories":[9],"tags":[],"class_list":["post-95994","post","type-post","status-publish","format-image","has-post-thumbnail","hentry","category-tecnologia","post_format-post-format-image"],"acf":[],"yoast_head":"\nUn sistema de seguridad con doble protecci\u00f3n<\/h2>\n
Reacciones por parte de la industria tecnol\u00f3gica<\/h2>\n
Una plataforma para liderar la carrera de la IA<\/h2>\n