Un sistema avanzado de inteligencia artificial (IA) cruz\u00f3 un \u201cl\u00edmite peligroso\u201d tras replicarse con \u00e9xito sin ayuda humana, seg\u00fan revelaron unos investigadores.<\/p>\n
El equipo que realiz\u00f3 el descubrimiento, de la Universidad de Fudan (China), afirm\u00f3 que se trata de un primer indicio del surgimiento de IA maliciosas, que podr\u00edan acabar actuando en contra de los intereses de la humanidad.<\/p>\n
La investigaci\u00f3n se centr\u00f3 en dos grandes modelos ling\u00fc\u00edsticos que ya est\u00e1n ampliamente disponibles \u2014construidos por Llama, de Meta, y Qwen, de Alibaba\u2014 para averiguar si era posible que la IA produjera de forma independiente una r\u00e9plica funcional de s\u00ed misma.<\/p>\n
Cuando se les pidi\u00f3 que se clonaran a s\u00ed mismos en caso de apag\u00f3n, los dos modelos se reprodujeron con \u00e9xito en m\u00e1s de la mitad de las diez pruebas realizadas, lo que sugiere que tal eventualidad puede ser ya posible.<\/p>\n
Esta tecnolog\u00eda puede suponer una amenaza existencial para la humanidad, advierten investigadores<\/strong><\/p>\n \u201cLa autorreplicaci\u00f3n exitosa sin ayuda humana es el paso esencial para que la IA sea m\u00e1s astuta que los seres humanos, y es una se\u00f1al temprana de las IA maliciosas\u201d, advierten los investigadores.<\/p>\n \u201cPor eso, la autorreplicaci\u00f3n est\u00e1 ampliamente reconocida como uno de los pocos riesgos de l\u00ednea roja de los sistemas de IA de vanguardia\u201d.<\/p>\n La seguridad de la IA se ha convertido en una cuesti\u00f3n cada vez m\u00e1s importante para investigadores y legisladores, ya que esta tecnolog\u00eda puede suponer una amenaza existencial para la humanidad.<\/p>\n En octubre, el Departamento de Ciencia, Innovaci\u00f3n y Tecnolog\u00eda del Reino Unido afirm\u00f3 que se introducir\u00eda una \u201clegislaci\u00f3n muy espec\u00edfica\u201d para las empresas que desarrollen herramientas de IA.<\/p>\n Un estudio que detalla las \u00faltimas investigaciones, titulado\u00a0Los sistemas de inteligencia artificial de vanguardia han superado la l\u00ednea roja de la autorreplicaci\u00f3n<\/em>, se public\u00f3 en la base de datos de art\u00edculos preimpresos arXiv.<\/p>\n El art\u00edculo est\u00e1 pendiente de revisi\u00f3n por pares, es decir, a\u00fan no es seguro que los resultados vayan a ser reproducidos por otros investigadores.<\/p>\n \u201cLos resultados implican que los sistemas de IA actuales ya exhiben la capacidad de autorreplicaci\u00f3n y pueden utilizarla para mejorar a\u00fan m\u00e1s su capacidad de supervivencia y expandir la especie\u201d, se\u00f1alaron los investigadores.<\/p>\n \u201cEsperamos que nuestros hallazgos puedan servir de alerta oportuna para que la sociedad humana dedique m\u00e1s esfuerzos a comprender y evaluar los riesgos potenciales de los sistemas de IA de vanguardia, y forme una sinergia internacional para elaborar cuanto antes salvaguardas de seguridad eficaces\u201d.<\/p>\n","protected":false},"excerpt":{"rendered":" Un sistema avanzado de inteligencia artificial (IA) cruz\u00f3 un \u201cl\u00edmite peligroso\u201d tras replicarse con \u00e9xito sin ayuda humana, seg\u00fan revelaron<\/p>\n","protected":false},"author":4,"featured_media":55480,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"colormag_page_container_layout":"default_layout","colormag_page_sidebar_layout":"default_layout","_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":false,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[2050],"tags":[],"class_list":["post-55479","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-economia"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/politicosaldesnudo.com.mx\/wp-content\/uploads\/2025\/01\/DALL%C2%B7E-2024-01-23-17.42.07-Une-illustration-originale-et-captivante-pour-un-article-sur-la-cybersecurite-en-format-16_9.-Limage-devrait-etre-dynamique-et-inventive-incluant-d-1.png?fit=1792%2C1024&ssl=1","jetpack-related-posts":[],"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/politicosaldesnudo.com.mx\/index.php\/wp-json\/wp\/v2\/posts\/55479","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/politicosaldesnudo.com.mx\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/politicosaldesnudo.com.mx\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/politicosaldesnudo.com.mx\/index.php\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/politicosaldesnudo.com.mx\/index.php\/wp-json\/wp\/v2\/comments?post=55479"}],"version-history":[{"count":0,"href":"https:\/\/politicosaldesnudo.com.mx\/index.php\/wp-json\/wp\/v2\/posts\/55479\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/politicosaldesnudo.com.mx\/index.php\/wp-json\/wp\/v2\/media\/55480"}],"wp:attachment":[{"href":"https:\/\/politicosaldesnudo.com.mx\/index.php\/wp-json\/wp\/v2\/media?parent=55479"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/politicosaldesnudo.com.mx\/index.php\/wp-json\/wp\/v2\/categories?post=55479"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/politicosaldesnudo.com.mx\/index.php\/wp-json\/wp\/v2\/tags?post=55479"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}