NOTI-AMERICA.COM | ESPA\u00d1A<\/p>\n
\u00abLo siento, eso est\u00e1 m\u00e1s all\u00e1 de mi alcance actual. Hablemos de otra cosa\u00bb es una de las respuestas m\u00e1s comunes que devuelve el chatbot de inteligencia artificial (IA) DeepSeek, que ha puesto en jaque a sus competidores. El modelo de lenguaje evita responder a preguntas comprometidas y pr\u00e1cticamente cualquier cuesti\u00f3n relacionada con la pol\u00edtica china.<\/p>\n
Pero, \u00bfDeepSeek censura m\u00e1s que otras herramientas de IA? Para el Catedr\u00e1tico de Inform\u00e1tica y miembro del Centro de Inteligencia Artificial de la Universidad de Valladolid (UVaIA) Valent\u00edn Carde\u00f1oso, \u00abtodo depende de lo que entendamos por censura\u00bb. Si a un amplio colectivo de personas no le parece mal que se limiten ciertos aspectos, se entender\u00e1 como un control positivo. Sin embargo, cuando se trata de un tema espinoso para una parte de la poblaci\u00f3n, entonces se llamar\u00e1 censura, explica el experto.<\/p>\n
Si bien los distintos experimentos prueban que el modelo de DeepSeek restringe las respuestas sobre determinados temas, las acusaciones de censura a un competidor extranjero forman tambi\u00e9n parte del juego, seg\u00fan la consultora tecnol\u00f3gica especializada en Big Data e Inteligencia Artificial, Cristina Aranda. \u00ab\u00bfPor qu\u00e9 TikTok es tan malo o tan bueno? Son ejercicios de estrategia diplom\u00e1tica. Esto se parece a lo que tanto hemos visto en las pel\u00edculas, los americanos son los buenos y los chinos son los malos\u00bb, reflexiona.<\/p>\n
Las restricciones de DeepSeek est\u00e1n profundamente relacionadas con los temas pol\u00edticos, algo que Carde\u00f1oso considera \u00abevidente por razones claras, dado que China cuenta con una fuerte pol\u00edtica de protecci\u00f3n y de ciberseguridad, tambi\u00e9n en temas de inteligencia artificial\u00bb. En el caso de Estados Unidos, no existe una normativa equivalente, aunque se dan discusiones al respecto. Para la Uni\u00f3n Europea, las cuestiones relacionadas con la \u00e9tica y el buen uso de una IA confiable son prioritarias y tambi\u00e9n han conducido a establecer ciertos l\u00edmites a estos sistemas.<\/p>\n
Al promocionarse como un sistema de c\u00f3digo abierto, DeepSeek ha compartido amplia documentaci\u00f3n sobre el dise\u00f1o de sus modelos, pero no arroja detalles sobre los filtros censores que ha aplicado. Tras el lanzamiento de su \u00faltima versi\u00f3n, la aplicaci\u00f3n escal\u00f3 hasta lo m\u00e1s alto de las listas de descargas. La curiosidad por este nuevo competidor ha llevado a muchas personas a ponerlo a prueba. De este modo, se han revelado sus restricciones a la hora de responder a preguntas relacionadas con los sucesos de Tiananm\u00e9n o por qu\u00e9 al presidente chino le apodan Winnie The Poo, por ejemplo.<\/p>\n
Un aspecto fundamental para el profesor de investigaci\u00f3n em\u00e9rito del CSIC y fundador del Instituto de Investigaci\u00f3n en Inteligencia Artificial (IIIA), Ram\u00f3n L\u00f3pez de M\u00e1ntaras, es que la poblaci\u00f3n conozca que las herramientas de IA no entienden lo que se les pregunta, \u00abno se da una comprensi\u00f3n profunda del lenguaje\u00bb. Por tanto, los filtros que impiden que las respuestas se muestren tal y como las redacta el modelo est\u00e1n introducidos por humanos.<\/p>\n
Cuando el modelo recibe un prompt o instrucci\u00f3n, busca y proporciona la respuesta a la consulta. Antes de transmit\u00edrsela al usuario, pasa por un sistema que eval\u00faa si el resultado es adecuado o no. Esa es la censura m\u00e1s evidente, pero no la \u00fanica, explica Carde\u00f1oso. En un nivel m\u00e1s profundo, se encuentra la limitaci\u00f3n en la educaci\u00f3n del modelo, que ha recibido un entrenamiento controlado.<\/p>\n
El proceso de aprendizaje de la herramienta puede estar sesgado, en funci\u00f3n de los datos de los que se alimente. \u00abEs algo muy dif\u00edcil de saber. No conocemos el dataset con el que se ha entrenado porque no se especifica claramente en ninguno de los modelos, por muy abiertos que sean\u00bb, aclara Carde\u00f1oso.<\/p>\n
Sobre el papel, si un usuario accede al c\u00f3digo \u2014que DeepSeek ofrece en abierto\u2014 y lo instala en local en su propio ordenador, dejar\u00eda de estar sujeto a las restricciones impuestas por la compa\u00f1\u00eda, es decir, recibir\u00eda respuestas a temas delicados que no estar\u00edan disponibles si la misma pregunta se hiciera conectado a los servidores de la empresa. Sin embargo, esta posible limitaci\u00f3n en el entrenamiento del modelo se traduce en respuestas condicionadas, tambi\u00e9n en esa versi\u00f3n local.<\/p>\n
Carde\u00f1oso explica que existen sistemas que permiten probar la tasa de censura que presentan los grandes modelos de lenguaje. Para ello, no se limitan a las respuestas que ofrecen a preguntas concretas, sino que eval\u00faan toda una conversaci\u00f3n. El experto lo asemeja a esos periodistas h\u00e1biles que logran plantear las preguntas adecuadas para conseguir respuestas que el entrevistado, en un inicio, no quer\u00eda dar. \u00abSe ha visto que, incluso si ejecutas el modelo en local, la respuesta no es tan abierta como te podr\u00eda dar otra herramienta, eso puede tener que ver con su entrenamiento, pero es casi imposible de saber\u00bb, explica Valent\u00edn.<\/p>\n
Como reacci\u00f3n a la censura, algunos usuarios aplican t\u00e9cnicas de jailbreaking, una serie de estrategias dise\u00f1adas para esquivar las restricciones. \u00abPor ejemplo, ChatGPT no te puede dar informaci\u00f3n sobre d\u00f3nde comprar coca\u00edna, pero ya se hizo el experimento de pedirle una lista de zonas a evitar para no toparse con vendedores de coca\u00edna y ah\u00ed s\u00ed daba la respuesta\u00bb, cuenta L\u00f3pez de M\u00e1ntaras. La clave est\u00e1 en la habilidad a la hora de redactar el prompt.<\/p>\n","protected":false},"excerpt":{"rendered":"
NOTI-AMERICA.COM | ESPA\u00d1A \u00abLo siento, eso est\u00e1 m\u00e1s all\u00e1 de mi alcance actual. Hablemos de otra cosa\u00bb es una de las respuestas m\u00e1s comunes que devuelve el chatbot de inteligencia artificial (IA) DeepSeek, que...<\/p>\n","protected":false},"author":133,"featured_media":11174,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"image","meta":{"_acf_changed":false,"om_disable_all_campaigns":false,"rop_custom_images_group":[],"rop_custom_messages_group":[],"rop_publish_now":"initial","rop_publish_now_accounts":[],"rop_publish_now_history":[],"rop_publish_now_status":"pending","_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[44],"tags":[],"class_list":["post-11173","post","type-post","status-publish","format-image","has-post-thumbnail","hentry","category-ciencia-y-tecnologia","post_format-post-format-image"],"acf":[],"aioseo_notices":[],"yoast_head":"\n