- Nunca hubo un intento de asesinato contra Donald Trump.
Un chatbot de IA de Meta, la empresa matriz de Facebook, ha puesto a la compañía en una posición difícil al negar el intento de asesinato del ex presidente Donald Trump. Meta atribuye esto a un fenómeno conocido como "alucinaciones", en el que el software de IA fabrica información. La industria aún no ha encontrado una solución fundamental a este problema.
La Máquina Miente Cuando Se Le Pregunta Sobre el Intento de Asesinato de Trump
Meta tuvo que defenderse contra las críticas de los seguidores de Trump después de que el chatbot de Meta AI negara inicialmente responder preguntas sobre el intento de asesinato del ex presidente y luego afirmara que nunca había ocurrido.
En una publicación de blog, la empresa explicó que había instruido inicialmente a Meta AI para que no hablara del asesinato que tuvo lugar el 13 de julio. Esto se debe a que estos eventos de alto perfil a menudo implican informes contradictorios y especulaciones infundadas, lo que a veces lleva a teorías conspirativas.
Meta: "Desafortunado", Pero No Intencional
Even after the AI chatbot was fed information about the assassination, it still claimed in a few instances that it never happened, Meta admitted. The company described this as "unfortunate," but not intentional.
"Hallucinations" are a common issue with AI chatbots and are related to how the software functions. The programs are initially trained on vast amounts of information and then use this basis to weigh word by word how a sentence should probably continue when responding to user queries. This can lead the software to make completely false statements, even if it was trained only with correct information. AI developers are trying to tackle this problem by implementing additional guardrails for the programs.
Etiqueta de Verificación de Hechos en la Falsa Fotografía
En un problema separado, una foto de Trump con su equipo de seguridad inmediatamente después del intento de asesinato se etiquetó incorrectamente con una etiqueta de verificación de hechos. Esta etiqueta se destinó originalmente a una versión manipulada de la imagen en la que se agregaron sonrisas a las caras de los guardaespaldas. Sin embargo, los sistemas automáticos de Meta encontraron difícil distinguir entre las dos fotos y aplicaron la etiqueta de verificación de hechos a la imagen original también.
El intento de asesinato tuvo lugar cuando un hombre disparó contra Trump durante un evento de campaña en el estado de Pensilvania. Los disparos mataron a un espectador y hirieron a otros dos. El ex presidente resultó herido en la oreja.
Meta reconoció más críticas de los seguidores de Trump cuando el chatbot de IA afirmó durante una sesión de preguntas y respuestas que el intento de asesinato del ex presidente Donald Trump nunca había ocurrido, a pesar de haber recibido información correcta sobre el incidente.
A pesar de los esfuerzos de Meta para educar a la IA sobre el incidente, ocurrieron pequeños lapsos, como la IA negando ocasionalmente que el evento hubiera ocurrido, lo que la empresa atribuye al desafío continuo de eliminar "alucinaciones" en el software de IA.
