{"id":1019,"date":"2026-02-25T19:04:07","date_gmt":"2026-02-25T19:04:07","guid":{"rendered":"https:\/\/tecnodoc.org.es\/?p=1019"},"modified":"2026-03-04T19:20:36","modified_gmt":"2026-03-04T19:20:36","slug":"el-miedo-a-la-adolescencia-tecnologica-3-3","status":"publish","type":"post","link":"https:\/\/tecnodoc.org.es\/tony\/ai\/2026\/02\/25\/el-miedo-a-la-adolescencia-tecnologica-3-3\/","title":{"rendered":"El miedo a la adolescencia tecnol\u00f3gica 3\/3"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">\u00bfQu\u00e9 se debe hacer o se est\u00e1 haciendo para abordar estos riesgos de autonom\u00eda de la propia inteligencia artificial?<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>La \u201c<strong>Constituci\u00f3n<\/strong>\u201d de la IA. Para Amodei, es importante desarrollar la ciencia de entrenar y dirigir de forma \ufb01able los modelos de IA, de formar sus personalidades en una direcci\u00f3n predecible, estable y positiva y comprender la l\u00f3gica de por qu\u00e9 a veces se produce un comportamiento impredecible. Hay que lograr que el entrenamiento de IA incluya <strong>un documento central de valores y principios<\/strong> que el modelo debe leer y tener en cuenta al completar cada tarea de entrenamiento. Y que el objetivo del entrenamiento, adem\u00e1s de simplemente hacer que el modelo sea capaz e inteligente, es <strong>producir un modelo que casi siempre siga esta constituci\u00f3n<\/strong>. O sea, para Amodei, hay que ense\u00f1arle a ser una buena IA, hay que entrenar a Claude a nivel de identidad, car\u00e1cter, valores y personalidad, en lugar de darle simples instrucciones o prioridades espec\u00ed\ufb01cas sin explicar las razones detr\u00e1s de ella para que haya menos probabilidades de caer presa de los tipos de \u201ctrampas\u201d mencionadas anteriormente.<\/li>\n\n\n\n<li>La segunda cosa que Amodei propone es profundizar en la ciencia de la interpretabilidad, mirar dentro de los modelos de IA para diagnosticar su comportamiento, para que podamos identi\ufb01car problemas y solucionarlos. Amodei reconoce que actualmente las empresas no tienen una comprensi\u00f3n natural de c\u00f3mo funcionan las IA. Y propone intentar desarrollar una comprensi\u00f3n correlacionando las \u201cneuronas\u201d y \u201csinapsis\u201d del modelo con est\u00edmulos y comportamiento. Se trata de hacer algo similar a c\u00f3mo los neurocient\u00ed\ufb01cos estudian los cerebros animales correlacionando la medici\u00f3n y la intervenci\u00f3n con est\u00edmulos y comportamiento externos.<\/li>\n\n\n\n<li>La tercera cosa que propone para ayudar a abordar los riesgos de autonom\u00eda es construir la infraestructura necesaria para comprender los comportamientos de los modelos en el laboratorio, as\u00ed como herramientas de monitoreo para observar comportamientos en entornos reales (cuando lo permitan los clientes).<\/li>\n\n\n\n<li>Y la cuarta cosa que propone, de forma muy esc\u00e9ptica, es fomentar la coordinaci\u00f3n para abordar los riesgos de autonom\u00eda a nivel de la industria y la sociedad. Y de hecho habla del ejemplo de algunas empresas de inteligencia arti\ufb01cial que han mostrado una negligencia preocupante hacia la sexualizaci\u00f3n de los ni\u00f1os en los modelos actuales. Lo que le lleva a pensar que la \u00fanica soluci\u00f3n son leyes que afecten directamente el comportamiento de las empresas de IA o que incentiven de otro modo la investigaci\u00f3n y el desarrollo para resolver estos problemas.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">En su ensayo a Amodei no solo le preocupan los pa\u00edses, las corporaciones o los problemas de autonom\u00eda de la propia IA, sino tambi\u00e9n los individuos. Reconoce que queda por resolver que individuos o grupos peque\u00f1os puedan causar destrucci\u00f3n en una escala mucho mayor de lo que era posible antes. Le preocupa que cualquiera pueda \u201calquilar\u201d una IA potente para proporcionar inteligencia a personas maliciosas, pero por lo dem\u00e1s normales. Le preocupa que potencialmente haya una gran cantidad de personas que, si tienen acceso a una forma f\u00e1cil de matar a millones de personas, tarde o temprano una de ellas lo har\u00e1. La biolog\u00eda es, con diferencia, el \u00e1rea que m\u00e1s le preocupa, debido a su gran potencial de destrucci\u00f3n y la di\ufb01cultad para defenderse de ella pero tambi\u00e9n se refiere a otros riesgos, como los ciberataques, las armas qu\u00edmicas o la tecnolog\u00eda nuclear.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Si bien se trata de riesgos oscuros y pueden parecer poco probables, la magnitud de las consecuencias es tan grande que deber\u00edan tomarse en serio como un riesgo de primera clase de los sistemas de IA. Por eso, desde mediados de 2025, cuando las pruebas que hac\u00edan mostraron que los modelos comenzaban a acercarse al umbral en el que podr\u00edan comenzar a representar un riesgo, implementaron un clasi\ufb01cador que detecta y bloquea espec\u00ed\ufb01camente los resultados relacionados con las armas biol\u00f3gicas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Los ciberataques liderados por IA le preocupan menos que los biol\u00f3gicos, porque tienen menos probabilidades de matar personas, ciertamente no a la escala de los ataques biol\u00f3gicos y porque el equilibrio entre ofensiva y defensa entre IAs puede ser m\u00e1s manejable en lo cibern\u00e9tico donde hay al menos alguna esperanza de que la defensa pueda seguir el ritmo (e incluso idealmente superar) el ataque de la IA si invertimos en ella adecuadamente.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"559\" src=\"https:\/\/tecnodoc.org.es\/wp-content\/uploads\/2026\/03\/vigilancia_masiva-1024x559.png\" alt=\"\" class=\"wp-image-1020\" srcset=\"https:\/\/tecnodoc.org.es\/tony\/wp-content\/uploads\/2026\/03\/vigilancia_masiva-1024x559.png 1024w, https:\/\/tecnodoc.org.es\/tony\/wp-content\/uploads\/2026\/03\/vigilancia_masiva-300x164.png 300w, https:\/\/tecnodoc.org.es\/tony\/wp-content\/uploads\/2026\/03\/vigilancia_masiva-768x419.png 768w, https:\/\/tecnodoc.org.es\/tony\/wp-content\/uploads\/2026\/03\/vigilancia_masiva.png 1408w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Amodei dice en su ensayo que hay muchas maneras en las que la IA podr\u00eda habilitar, a\ufb01anzar o expandir la autocracia y se\u00f1ala alguna de las que m\u00e1s le preocupan:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Armas totalmente aut\u00f3nomas. Un enjambre de millones o miles de millones de drones armados, totalmente automatizados, controlados localmente por una poderosa IA y coordinados estrat\u00e9gicamente en todo el mundo por una IA a\u00fan m\u00e1s poderosa, podr\u00eda ser un ej\u00e9rcito imbatible, capaz tanto de derrotar a cualquier ej\u00e9rcito del mundo como de reprimir la disidencia dentro de un pa\u00eds siguiendo a todos los ciudadanos. La investigaci\u00f3n y el desarrollo mediante una potente IA podr\u00edan hacer que los drones de un pa\u00eds sean muy superiores a los de otros, acelerar su fabricaci\u00f3n, hacerlos m\u00e1s resistentes a los ataques electr\u00f3nicos, mejorar sus maniobras, etc.<\/li>\n\n\n\n<li>Vigilancia masiva a trav\u00e9s de IA. Una IA su\ufb01cientemente potente probablemente podr\u00eda usarse para comprometer cualquier sistema inform\u00e1tico del mundo y tambi\u00e9n podr\u00eda utilizar el acceso obtenido de esta manera para leer y darle sentido a todas las comunicaciones electr\u00f3nicas del mundo. Ya es posible pensar en una poderosa IA que analiza miles de millones de conversaciones de millones de personas podr\u00eda medir el sentimiento p\u00fablico, detectar focos de deslealtad que se forman y erradicarlos antes de que crezcan.<\/li>\n\n\n\n<li>Propaganda masiva a trav\u00e9s de IA. Fen\u00f3menos actuales de \u201cPsicosis de la IA\u201d y \u201cLas novias de IA\u201d sugieren que incluso en su nivel actual de inteligencia, los modelos de IA pueden tener una poderosa in\ufb02uencia psicol\u00f3gica en las personas. Ser\u00edan capaces de esencialmente lavar el cerebro a muchos. Hay mucha gente preocupada por la potencial In\ufb02uencia de TikTok como propaganda del Partido Comunista Chino dirigida a los ni\u00f1os. A Amodei tambi\u00e9n le preocupa eso, pero cree que un agente de IA personalizado que te conozca a lo largo de los a\u00f1os y use su conocimiento sobre ti para dar forma a todas tus opiniones ser\u00eda dram\u00e1ticamente m\u00e1s poderoso.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">A Amodei le preocupa mucho el uso de la IA que se pueda hacer en China y en EE.UU, pero tambi\u00e9n el riesgo que supone las propias empresas de inteligencia arti\ufb01cial. Las empresas de inteligencia arti\ufb01cial controlan grandes centros de datos, entrenan modelos fronterizos, tienen la mayor experiencia sobre c\u00f3mo utilizar esos modelos y, en algunos casos, tienen contacto diario con decenas o cientos de millones de usuarios y la posibilidad de in\ufb02uir sobre ellos. Lo principal que les falta es la legitimidad y la infraestructura de un estado, por lo que mucho de lo que se necesitar\u00eda para construir las herramientas de una autocracia de IA ser\u00eda ilegal para una empresa de IA, o al menos extremadamente sospechoso. Por eso opina que las empresas de inteligencia arti\ufb01cial deben ser vigiladas cuidadosamente, al igual que su conexi\u00f3n con el gobierno, lo cual es necesario, pero debe tener l\u00edmites y fronteras. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u00bfEntiendes ahora las noticias de por qu\u00e9 Trump ha puesto a Anthropic en la \u00ablista negra\u00bb? Trump, no quiere tener l\u00edmites ni fronteras en el uso de la IA para todo: vigilancia masiva y armas letales aut\u00f3nomas, sin control humano, especialmente. As\u00ed y todo, recuerda, no es que la empresa Anthropic y su Claude, el competidor de ChatGPT, sean los buenos. Como dec\u00eda, estos son los menos malos. No es lo mismo. Miedo a la adolescencia y a donde estamos yendo. Firmado: alguien que usa mucho la inteligencia artificial, natural ya me queda poca \ud83d\ude42<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><br><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u00bfQu\u00e9 se debe hacer o se est\u00e1 haciendo para abordar estos riesgos de autonom\u00eda de la propia inteligencia artificial? En su ensayo a Amodei no solo&#46;&#46;&#46;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[27],"tags":[46,28],"class_list":["post-1019","post","type-post","status-publish","format-standard","hentry","category-ai","tag-ai","tag-ia"],"_links":{"self":[{"href":"https:\/\/tecnodoc.org.es\/tony\/wp-json\/wp\/v2\/posts\/1019","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tecnodoc.org.es\/tony\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tecnodoc.org.es\/tony\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tecnodoc.org.es\/tony\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tecnodoc.org.es\/tony\/wp-json\/wp\/v2\/comments?post=1019"}],"version-history":[{"count":1,"href":"https:\/\/tecnodoc.org.es\/tony\/wp-json\/wp\/v2\/posts\/1019\/revisions"}],"predecessor-version":[{"id":1021,"href":"https:\/\/tecnodoc.org.es\/tony\/wp-json\/wp\/v2\/posts\/1019\/revisions\/1021"}],"wp:attachment":[{"href":"https:\/\/tecnodoc.org.es\/tony\/wp-json\/wp\/v2\/media?parent=1019"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tecnodoc.org.es\/tony\/wp-json\/wp\/v2\/categories?post=1019"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tecnodoc.org.es\/tony\/wp-json\/wp\/v2\/tags?post=1019"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}