NOTI-AMERICA.COM | ARGENTINA\u2013 El auge de la inteligencia artificial ha tra\u00eddo avances incre\u00edbles, pero tambi\u00e9n preocupaciones. Una de las ellas es la propagaci\u00f3n de\u00a0deepfakes, contenido sint\u00e9tico que puede manipularse para enga\u00f1ar. Para combatir esto,\u00a0OpenAI ha desarrollado una herramienta para detectar im\u00e1genes creadas con su propia IA\u00a0generativa, DALL-E 3.<\/p>\n
La compa\u00f1\u00eda\u00a0anunci\u00f3\u00a0que est\u00e1 trabajando en nuevos m\u00e9todos para mejorar la integridad el contenido digital. Entre ellos se encuentra una herramienta que predice\u00a0si una imagen fue generada por DALL-E 3, su propio modelo de inteligencia artificial. OpenAI menciona que las primeras pruebas son prometedoras: su herramienta\u00a0identifica correctamente las im\u00e1genes creadas con su IA con un 98 % de precisi\u00f3n.<\/p>\n
OpenAI a\u00f1ade que\u00a0este clasificador no es infalible. Si bien soporta modificaciones menores, como compresi\u00f3n, un recorte o cambios en la saturaci\u00f3n, una edici\u00f3n mayor podr\u00eda reducir el rendimiento. Otro detalle importante es que\u00a0su eficacia en contenido generado por otras IA generativas es menor, ya que solo marca entre un 5 % y un 10 % en su conjunto de datos interno.<\/p>\n
La compa\u00f1\u00eda dirigida por Sam Altman\u00a0abri\u00f3 su herramienta detectora de im\u00e1genes a un grupo cerrado de cient\u00edficos, investigadores y organizaciones sin fines de lucro de periodismo. La prueba servir\u00e1 para mejorar y pulir la clasificaci\u00f3n de contenido generado por IA en futuras versiones.<\/p>\n
\u00abNuestro objetivo es permitir una investigaci\u00f3n independiente que eval\u00fae la efectividad del clasificador, analice su aplicaci\u00f3n en el mundo real, surja consideraciones relevantes para dicho uso y explore las caracter\u00edsticas de la IA\u00bb, dijo OpenAI. \u00abComprender cu\u00e1ndo y d\u00f3nde un clasificador puede tener un rendimiento inferior es fundamental para quienes toman decisiones en funci\u00f3n de sus resultados.\u00bb<\/p>\n
Esta\u00a0no es la primera vez que OpenAI anuncia una herramienta\u00a0para detectar el contenido generado por una inteligencia artificial. En febrero de 2023, la compa\u00f1\u00eda anunci\u00f3 con bombo y platillo\u00a0un clasificador capaz de identificar si un texto se hab\u00eda generado con ChatGPT\u00a0y otros modelos similares. La herramienta soportaba 34 modelos de lenguaje y solo bastaba introducir el texto para conocer su origen.<\/p>\n
Aunque la idea era buena, su rendimiento dej\u00f3 mucho qu\u00e9 desear. En sus primeras pruebas,\u00a0el clasificador solo identific\u00f3 el 26 % del texto escrito por IA. Adem\u00e1s, el 9 % de las veces clasificaba contenido de humanos como si proviniera de un modelo de lenguaje. Meses despu\u00e9s,\u00a0OpenAI tir\u00f3 la toalla y lo retir\u00f3 de su web\u00a0argumentando una baja eficacia.<\/p>\n
\u00abA partir del 20 de julio de 2023, el clasificador de IA ya no est\u00e1 disponible debido a su baja tasa de precisi\u00f3n. Estamos trabajando para incorporar comentarios y actualmente estamos investigando t\u00e9cnicas de procedencia m\u00e1s efectivas para el texto, y nos hemos comprometido a desarrollar e implementar mecanismos que permitan a los usuarios comprender si el contenido de audio o visual es generado por inteligencia artificial.\u00bb<\/p>\n
Sumado al clasificador, la empresa\u00a0uni\u00f3 fuerzas con otros gigantes tecnol\u00f3gicos\u00a0para establecer un sistema de \u00abcredenciales de contenido digital\u00bb. OpenAI se uni\u00f3 al Comit\u00e9 Directivo de la Coalici\u00f3n para la Procedencia y Autenticidad del Contenido y revel\u00f3 que\u00a0agregar\u00e1 metadatos del est\u00e1ndar C2PA a todas las im\u00e1genes creadas y editadas por DALL-E 3.<\/p>\n
\u00abCon el tiempo, creemos que este tipo de metadatos ser\u00e1 algo que la gente esperar\u00e1. Esto llenar\u00e1 un vac\u00edo crucial en las pr\u00e1cticas de autenticidad del contenido digital.\u00bb, declar\u00f3 OpenAI.<\/p>\n","protected":false},"excerpt":{"rendered":"
NOTI-AMERICA.COM | ARGENTINA\u2013 El auge de la inteligencia artificial ha tra\u00eddo avances incre\u00edbles, pero tambi\u00e9n preocupaciones. Una de las ellas es la propagaci\u00f3n de\u00a0deepfakes, contenido sint\u00e9tico que puede manipularse para enga\u00f1ar. Para combatir esto,\u00a0OpenAI...<\/p>\n","protected":false},"author":133,"featured_media":44457,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"image","meta":{"_acf_changed":false,"rop_custom_images_group":[],"rop_custom_messages_group":[],"rop_publish_now":"initial","rop_publish_now_accounts":{"facebook_10219548024599422_1632221337088128":"","twitter_242054905_242054905":""},"rop_publish_now_history":[],"rop_publish_now_status":"pending","footnotes":""},"categories":[663],"tags":[],"class_list":["post-44456","post","type-post","status-publish","format-image","has-post-thumbnail","hentry","category-actualidad","post_format-post-format-image"],"acf":[],"yoast_head":"\n