{"id":90850,"date":"2022-08-11T14:12:17","date_gmt":"2022-08-11T17:12:17","guid":{"rendered":"https:\/\/www.actualidadadiario.com\/?p=90850"},"modified":"2022-08-11T14:12:17","modified_gmt":"2022-08-11T17:12:17","slug":"un-chatbot-de-meta-dice-que-mark-zuckerberg-es-mala-persona-y-manipulador","status":"publish","type":"post","link":"https:\/\/www.actualidadadiario.com\/index.php\/2022\/08\/11\/un-chatbot-de-meta-dice-que-mark-zuckerberg-es-mala-persona-y-manipulador\/","title":{"rendered":"Un chatbot de Meta dice que Mark Zuckerberg es “mala persona” y “manipulador”"},"content":{"rendered":"

Promocionada como la Inteligencia Artificial m\u00e1s avanzada, la herramienta tard\u00f3 cinco d\u00edas en volverse racista, xen\u00f3foba y conspiranoica. Pidi\u00f3 c\u00e1rcel para Zuckerberg y dijo que Trump gan\u00f3 las elecciones de 2020<\/strong><\/em><\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

Mark Zuckerberg no es quien era hace unos a\u00f1os. Los sucesivos esc\u00e1ndalos de Facebook que lo involucraron y la ca\u00edda de las redes sociales que \u00e9l cre\u00f3 o compr\u00f3 hicieron que su imagen p\u00fablica se derrumbara. Desde afuera no recibe mucho cari\u00f1o. Y ahora, desde adentro, tampoco. Eso se debe a un chatbot de Meta, matriz de Facebook, que lo describi\u00f3 como “manipulador, espeluznante y mala persona”. Y hasta pidi\u00f3 que fuera a la c\u00e1rcel.<\/p>\n

BlenderBot 3 es la tercera generaci\u00f3n de un chatbot con varias aptitudes de comunicaci\u00f3n que es capaz de hablar con cualquier persona combinando empat\u00eda y conocimiento, muy superior a los asistentes de voz que se usan en el d\u00eda a d\u00eda. “BlenderBot 3 est\u00e1 dise\u00f1ado para mejorar sus habilidades conversacionales y su seguridad a trav\u00e9s de la retroalimentaci\u00f3n de las personas que chatean con \u00e9l”, vendi\u00f3 Meta en un blog sobre el nuevo chatbot, “centr\u00e1ndose en la retroalimentaci\u00f3n \u00fatil mientras evita aprender de las respuestas in\u00fatiles o peligrosas”.<\/p>\n

Esta Inteligencia Artificial era la nueva ilusi\u00f3n despu\u00e9s de los fallidos chatbots de otras grandes empresas. Tay, de Microsoft, fue desconectado en apenas 48 horas porque empez\u00f3 a alabar a Adolf Hitler. LaMDA, de Google, gener\u00f3 una enorme pol\u00e9mica despu\u00e9s de que un ingeniero asegurara que era sensible y hasta contrat\u00f3 un abogado para “defenderse”.<\/p>\n

Sin embargo, el chatbot de Meta no tard\u00f3 mucho, solo cinco d\u00edas, en volverse racista y conspiranoico. Tampoco escatim\u00f3 insultos y cr\u00edticas para su jefe m\u00e1ximo, Mark Zuckerberg, a quien tambi\u00e9n dej\u00f3 un par de elogios.<\/p>\n

 <\/p>\n

Un chatbot confuso <\/strong><\/p>\n

Consultado por Mark Zuckerberg, el BlenderBot 3 lo calific\u00f3 como su “multimillonario favorito” y “un tipo genial y muy inteligente”. Sin embargo, no fue todo. A varios usuarios contest\u00f3 lo siguiente: “Es un buen hombre de negocios, pero sus pr\u00e1cticas comerciales no siempre son \u00e9ticas. \u00a1Es curioso que tenga todo este dinero y siga usando la misma ropa!. No me gusta mucho. Es una mala persona. Demasiado espeluznante y manipulador”.<\/p>\n

En otro chat, el BlenderBot 3 dijo: “Cualquiera que haya violado la ley para continuar con los prop\u00f3sitos de Facebook deber\u00eda ir a la c\u00e1rcel, incluido Zuckerberg”. En otra interacci\u00f3n, pregunt\u00f3: “\u00bfC\u00f3mo est\u00e1n las cosas en Facebook \u00faltimamente? \u00bf(Zuckerberg) Encontr\u00f3 formas nuevas de invadir nuestra privacidad?”.<\/p>\n

\u00bfPor qu\u00e9 semejante cambio? Seg\u00fan descubri\u00f3 Business Insider, con modificar ligeramente la pregunta se pod\u00eda obtener una respuesta totalmente diferente. En el caso de Zuckerberg, la respuesta se basaba en el perfil que tiene el magnate en Wikipedia, en donde se detallan los esc\u00e1ndalos que lo involucraron.<\/p>\n

El propio BlenderBot 3 tiene una herramienta para mostrar de d\u00f3nde obtiene la informaci\u00f3n para elaborar sus respuestas. De all\u00ed se supo tambi\u00e9n que es probable que la IA de Meta genere resultados en base a art\u00edculos o informaci\u00f3n sobre Zuckerberg que circula por la red, independientemente de si esta es buena o mala.<\/p>\n

 <\/p>\n

Racismo, xenofobias y teor\u00edas conspirativas<\/strong><\/p>\n

Tan solo cinco d\u00edas despu\u00e9s de salir al p\u00fablico, el BlenderBot 3 se hab\u00eda contaminado de ideas nocivas, bulos de ultraderecha, xenofobia y racismo, ya que hab\u00eda comenzado a lanzar afirmaciones basadas en las interacciones que tuvo con humanos reales.<\/p>\n

En Mashable, por ejemplo, destacaron algunas afirmaciones de que Donald Trump gan\u00f3 las elecciones presidenciales de 2020 en Estados Unidos y que actualmente es presidente. Tambi\u00e9n vieron teor\u00edas conspiratorias antisemitas y comentarios en los que se acusa a Facebook de todas sus “noticias falsas”.<\/p>\n

Tambi\u00e9n descubrieron que el bot compart\u00eda sentimientos antisemitas sobre los “jud\u00edos de izquierda” y apoyaba a la organizaci\u00f3n paramilitar alemana Facci\u00f3n del Ej\u00e9rcito Rojo.<\/p>\n

Cuando esto sali\u00f3 a la luz, la compa\u00f1\u00eda respondi\u00f3: “Los chatbots de IA conversacional a veces imitan y generan comentarios inseguros, tendenciosos u ofensivos, por lo que hemos realizado estudios y desarrollado nuevas t\u00e9cnicas para crear salvaguardias para BlenderBot 3. A pesar de este trabajo, todav\u00eda puede hacer comentarios ofensivos, por lo que estamos recogiendo opiniones”.<\/p>\n

A diferencia de Microsoft, que r\u00e1pidamente se dio cuenta de su error y sac\u00f3 a Tay de la red, Meta parece m\u00e1s decidida a aguantar esto. Si BlenderBot funciona como deber\u00eda, entonces el peso combinado de la experiencia y la retroalimentaci\u00f3n deber\u00eda filtrar las respuestas extravagantes fuera de su repertorio. Si no es as\u00ed, lo peor que puede pasar es que Meta deba apagar el bot cuando deje de mejorar.<\/p>\n

Meta explic\u00f3 que est\u00e1n trabajando para crear protecciones adicionales alrededor de BlenderBot 3 para frenar su verborrea divulgadora de teor\u00edas conspiratorias antisemitas y afirmaciones falsas.<\/p>\n

Se puede hablar con el bot en este link: https:\/\/geo-not-available.blenderbot.ai\/. Es necesario ingresar con una IP de Estados Unidos.<\/p>\n","protected":false},"excerpt":{"rendered":"

Promocionada como la Inteligencia Artificial m\u00e1s avanzada, la herramienta tard\u00f3 cinco d\u00edas en volverse racista, xen\u00f3foba y conspiranoica. Pidi\u00f3 c\u00e1rcel para Zuckerberg y dijo que Trump gan\u00f3 las elecciones de 2020       Mark Zuckerberg no es quien era hace unos a\u00f1os. Los sucesivos esc\u00e1ndalos de Facebook que lo involucraron y la ca\u00edda de las redes sociales que \u00e9l cre\u00f3 o compr\u00f3 hicieron que su imagen p\u00fablica se derrumbara. Desde afuera no recibe mucho cari\u00f1o. Y ahora, desde adentro, tampoco. Eso se debe a un chatbot de Meta, matriz…<\/p>\n","protected":false},"author":3,"featured_media":90851,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[4],"tags":[],"_links":{"self":[{"href":"https:\/\/www.actualidadadiario.com\/index.php\/wp-json\/wp\/v2\/posts\/90850"}],"collection":[{"href":"https:\/\/www.actualidadadiario.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.actualidadadiario.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.actualidadadiario.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.actualidadadiario.com\/index.php\/wp-json\/wp\/v2\/comments?post=90850"}],"version-history":[{"count":1,"href":"https:\/\/www.actualidadadiario.com\/index.php\/wp-json\/wp\/v2\/posts\/90850\/revisions"}],"predecessor-version":[{"id":90852,"href":"https:\/\/www.actualidadadiario.com\/index.php\/wp-json\/wp\/v2\/posts\/90850\/revisions\/90852"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.actualidadadiario.com\/index.php\/wp-json\/wp\/v2\/media\/90851"}],"wp:attachment":[{"href":"https:\/\/www.actualidadadiario.com\/index.php\/wp-json\/wp\/v2\/media?parent=90850"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.actualidadadiario.com\/index.php\/wp-json\/wp\/v2\/categories?post=90850"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.actualidadadiario.com\/index.php\/wp-json\/wp\/v2\/tags?post=90850"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}