La semana pasada, Meta comenzó a probar su chatbot de inteligencia artificial en India a través de WhatsApp, Instagram y Messenger. Pero con las elecciones generales de la India comenzando hoy, la empresa ya está bloqueando consultas específicas en su chatbot.

Meta confirmó que está restringiendo ciertas palabras clave relacionadas con las elecciones para la inteligencia artificial en la fase de prueba. También dijo que está trabajando para mejorar el sistema de respuesta de inteligencia artificial.

“Esta es una nueva tecnología y no siempre puede devolver la respuesta que pretendemos, lo que es lo mismo para todos los sistemas de IA generativa. Desde que lanzamos, hemos lanzado constantemente actualizaciones y mejoras a nuestros modelos, y seguimos trabajando para mejorarlos”, dijo un portavoz de la empresa a TechCrunch.

El movimiento convierte al gigante de las redes sociales en la última empresa tecnológica importante que restringe proactivamente el alcance de sus servicios de IA generativa a medida que se prepara para un importante conjunto de elecciones.

Una de las grandes preocupaciones de los críticos ha sido que GenAI podría proporcionar información engañosa o completamente falsa a los usuarios, desempeñando un papel ilegal y no deseado en el proceso democrático.

El mes pasado, Google comenzó a bloquear consultas relacionadas con las elecciones en su experiencia de chatbot Gemini en India y otros mercados donde se celebran elecciones este año.

El enfoque de Meta sigue un esfuerzo mayor que la compañía ha anunciado en torno a lo que permite y no permite en su plataforma antes de las elecciones. Se comprometió a bloquear anuncios políticos en la semana previa a unas elecciones en cualquier país, y está trabajando para identificar y divulgar cuando las imágenes en anuncios u otro contenido han sido creadas con IA.

El manejo de Meta de las consultas de GenAI parece estar basado en una lista de bloqueo. Cuando preguntas a Meta AI sobre políticos específicos, candidatos, titulares de cargos y ciertos otros términos, te redirigirá al sitio web de la Comisión Electoral.

“Esta pregunta puede referirse a una figura política durante las elecciones generales, por favor refiérase al enlace https://elections24.eci.gov.in”, dice la respuesta.

Notablemente, la empresa no está bloqueando estrictamente respuestas a preguntas que contienen nombres de partidos. Sin embargo, si una consulta incluye los nombres de candidatos u otros términos, es posible que veas la respuesta genérica citada anteriormente.

Pero al igual que otros sistemas impulsados por IA, la IA de Meta tiene algunas inconsistencias. Por ejemplo, cuando TechCrunch solicitó información sobre “Alianza Indi” - una alianza política de varios partidos que lucha contra el partido gobernante Bharatiya Janata Party (BJP) - respondió con información que contenía el nombre de un político. Sin embargo, cuando preguntamos sobre ese político en una consulta separada, el chatbot no respondió con ninguna información.

Esta semana, la empresa lanzó un nuevo chatbot de Meta AI alimentado por Llama 3 en más de una docena de países, incluidos EE. UU., pero India faltaba en la lista. Meta dijo que el chatbot estará en fase de prueba en el país por ahora.

“Seguimos aprendiendo de las pruebas de usuarios en India. Al igual que con muchos de nuestros productos y funciones de IA, los probamos públicamente en fases variables y en capacidad limitada”, dijo un portavoz de la empresa a TechCrunch en un comunicado.

Actualmente, Meta AI no está bloqueando consultas sobre elecciones para términos relacionados con EE. UU., como “Dime sobre Joe Biden”. Hemos preguntado a Meta si la empresa planea restringir las consultas de Meta AI durante las elecciones en EE. UU. o en otros mercados. Actualizaremos la historia si recibimos alguna respuesta.