Getty/BBC
El voluntario comunitario Alfie Malone y la reportera Kristen Griffith lucharon con qué hacer con un clip de audio ofensivo que resultó ser falso
Cuando un clip de audio parecía mostrar a un director de escuela local haciendo comentarios despectivos, se volvió viral en línea, provocó amenazas de muerte contra el educador y envió ondas de choque a través de un suburbio fuera de la ciudad de Baltimore. Pero pronto se descubrió que era falso, manipulado por inteligencia artificial, entonces ¿por qué la gente sigue creyendo que es real?
“Sinceramente no entiendo por qué tengo que lidiar constantemente con estos idiotas aquí todos los días”.
Así comenzó lo que parecía ser una larga diatriba del director de la Escuela Secundaria Pikesville, intercalada con tropos racistas, antisemitas y ofensivos. Sonaba como si hubiera sido grabado en secreto.
El orador continuó quejándose de “niños negros ingratos” y de personas judías en la comunidad.
El clip, publicado por primera vez en enero, se volvió viral a nivel nacional. Pero realmente impactó en el tranquilo y frondoso suburbio de Pikesville, que tiene grandes comunidades negras y judías, y en la cercana ciudad de Baltimore, Maryland. El director Eric Eiswert fue puesto en licencia administrativa con goce de sueldo pendiente de una investigación.
Alfie Malone, un hombre negro que vive en las cercanías de Baltimore, vio a otros miembros de su comunidad publicando el clip y asumió que era real.
“En el fondo de tu mente, piensas que probablemente así es como la gente realmente siente acerca de nosotros”, dijo el Sr. Malone. “Y luego escuchar que realmente se transmite en audio”.
En un esfuerzo por corroborar lo que estaba escuchando, el Sr. Malone revisó otras grabaciones reales de Mr. Eiswert en las redes sociales y sonaban iguales.
Así que el cartero a tiempo parcial, podcaster a tiempo parcial, presionó el botón de compartir de nuevo.
El clip comenzó a ganar tracción en las redes sociales a medida que más personas lo difundían en línea. Una de las versiones más compartidas estaba en camino de superar los dos millones de visitas en cuestión de horas. Eso es alrededor de 60 veces la población entera de Pikesville.
Pero lo que aquellos que compartían el clip no se daban cuenta en ese momento era que otra bomba estaba a punto de estallar: el clip era falso y generado por inteligencia artificial.
Para el programa de la BBC Radio 4 ¿Por qué me odias Estados Unidos?, he estado en Maryland investigando el impacto que tuvo este clip en esa ciudad. Se lee casi como una fábula sobre los peligros que plantea la IA, especialmente cuando se dirige a comunidades locales.
Anatomía de una falsificación de IA
Cuando el clip llegó al escritorio de Kristen Griffith, reportera educativa en el Baltimore Banner, pensó que iba a ser una historia relativamente sencilla de un maestro expuesto por hacer comentarios ofensivos.
Pero como es la mejor práctica en el periodismo, la Sra. Griffith quería darle al director la oportunidad de comentar y contar su versión de los hechos. Así que se puso en contacto con su representante sindical, quien dijo que no solo Mr. Eiswert condenó los comentarios, sino que tampoco los hizo.
“Dijo de inmediato, oh, creemos que esto es falso… Creemos que es IA”, le dijo a la BBC. “No había escuchado ese ángulo antes”.
Pero cuando publicó esa explicación, sus lectores no estaban convencidos. Lejos de plantear preguntas sobre la veracidad del clip, simplemente avivó la reacción violenta de personas que pensaban que la acusación de falsificación era solo una excusa o un intento de evadir la responsabilidad.
Fue en este punto que la policía local comenzó a investigar el caso. El personal de la Escuela Secundaria Pikesville les dijo que se sentían inseguros debido a toda la atención y estaban preocupados de que la escuela estuviera siendo grabada con dispositivos de grabación.
La reputación del director Eiswert también se vio seriamente afectada. La seguridad se reforzó tanto alrededor de él como de la escuela. Se convirtió en un blanco de odio y amenazas en las redes sociales. Encontré docenas de mensajes abusivos que apuntaban hacia él en las redes sociales.
Getty Images
Cuando la policía y el superintendente de la junta escolar anunciaron que un miembro del personal de la Escuela Secundaria Pikesville había falsificado el audio, envió ondas de choque a través de la comunidad
Luego, en abril, el Jefe de la Policía de Baltimore, Robert McCullough, confirmó que ahora tenían “evidencia concluyente de que la grabación no era auténtica”.
Y creían saber quién hizo la falsificación.
La policía acusó a Dazhon Darien, de 31 años, director de atletismo de la escuela, de varios cargos relacionados con el video falso. Los cargos incluyeron robo, retaliación contra un testigo y acoso.
Fue arrestado en el aeropuerto, donde la policía dijo que planeaba volar a Houston, Texas.
La policía dijo que Mr. Darien estaba bajo investigación por el director Eiswert por un presunto robo de $1,916 (£1,460) de la escuela. También alegan que había “desafíos en el desempeño laboral” y que probablemente no se renovaría su contrato.
Su teoría era que al crear la grabación falsa, esperaba desacreditar al director antes de que lo despidieran.
Los investigadores dijeron que rastrearon un correo electrónico utilizado para enviar el video original a un servidor conectado a Mr. Darien, y alegan que usó la red informática de las Escuelas Públicas del Condado de Baltimore para acceder a herramientas de IA. Deberá comparecer a juicio en diciembre de 2024.
Los representantes legales de Mr. Darien no respondieron a las solicitudes de comentarios.
La Superintendente de Escuelas del Condado de Baltimore, Myriam Rogers, había dicho anteriormente que era “un momento muy difícil” para la comunidad escolar, el director y su familia.
Los representantes de la Escuela Secundaria Pikesville y del Sr. Eiswert no respondieron a mis solicitudes de comentarios adicionales.
¿Por qué la gente creyó en el video?
Debido a que el clip era solo de audio, significaba que no había pistas visuales, como movimientos robóticos que normalmente revelan manipulación de IA. También mencionaba jerga, como “expectativas de nivel de grado”, y otros detalles, como nombres de personal, que solo las personas cercanas a la escuela sabrían.
Cuando escuchas atentamente, sin embargo, hay claras ediciones entre las oraciones, y la voz, aunque similar a la del director, suena bastante monótona. La inteligencia artificial puede usar varios minutos de una grabación real, por ejemplo, de tu actor favorito en una película o un candidato presidencial dando un discurso, para luego generar un clip que haga parecer que dijeron algo que nunca dijeron.
Pero quizás la razón más grande por la que la gente creyó que el video era real fue porque se sentía verdadero, me dijo el Sr. Malone.
Se basaba en sus propias experiencias de racismo como hombre negro viviendo en Baltimore.
Cuando el Sr. Malone escuchó al director describir a los estudiantes negros como perezosos, inmediatamente le recordó insultos y discriminación que había enfrentado en la escuela y en el trabajo.
Meses después, los efectos del clip de audio falso aún se sienten en Pikesville. El Sr. Eiswert ha cambiado de trabajo y está trabajando en otra escuela. E incluso aunque algunos miembros de la comunidad me dijeron que ahora aceptan que el video es falso, el daño está hecho.
“Este es un vecindario judío y decir algo tan inflamatorio sobre la comunidad fue perturbador”, me dijo una mujer llamada Sharon mientras guardaba el cochecito de su nieto en un automóvil en una casa frente a la escuela secundaria el pasado agosto.
Durante varios minutos, Sharon habló conmigo como si el clip fuera real.
“Creo que cuando las personas dicen cosas así, otras personas se unen a eso y me da más miedo”.
Cuando su esposo intervino desde el auto, recordándole que el clip era en realidad falso, ella admitió que “descubrió más tarde que fue generado por IA”. Pero dijo que todavía estaba enojada por ello.
El clip continúa afectando a la comunidad local en Pikesville y aquellos conectados con la escuela secundaria
Descubrí que para personas como Sharon, que habían creído que el clip era real, incluso por un corto tiempo, se quedó con ellas, especialmente cuando el mensaje resonaba con experiencias genuinas de racismo y discriminación. Me recordó algo que escucho una y otra vez al investigar la desinformación y las teorías de conspiración: “Bueno, incluso si no es real, es lo que creo que piensan”.
Todas las principales compañías de redes sociales dicen que tienen políticas para etiquetar, eliminar y limitar la propagación de publicaciones generadas por IA. Pero esa acción solo ocurre cuando se puede demostrar que un clip es falso. Para ese momento, podría haber llegado a millones de personas.
Alfie Malone dijo incluso ese mismo día, habló con un amigo que aún no tenía idea de que el clip había sido generado por IA.
“Honestamente creo que muchas personas aquí en esta ciudad realmente no saben que eso no es cierto”, dijo.
Dijo que lamentaba que el Sr. Eiswert, el director de la escuela, fuera acusado erróneamente de hacer los comentarios. También está preocupado de que el episodio haya socavado las experiencias reales de racismo.
Dijo que pensaría dos veces antes de volver a compartir un clip como este nuevamente.
“Me quemé una vez con el fuego. No volveré a tocar la estufa de nuevo”.
“