Instagram apuesta a la IA para detectar a menores que mienten sobre su edad

Instagram continúa apostando a la inteligencia artificial para poder detectar y prevenir identidades falsas en esta red social y sobre todo a aquellos menores que mienten sobre su edad.

"Sí, Instagram ha implementado tecnologías de Inteligencia Artificial (IA) para detectar y prevenir identidades falsas en su plataforma. Ya presentamos algunas de las formas en que Instagram utiliza la IA para abordar este problema", indicaron desde Meta.ai.

En este sentido, destacaron que "Instagram utiliza algoritmos de inteligencia artificial para verificar la edad proporcionada por los usuarios durante el proceso de registro. Esto incluye el análisis de información proporcionada y patrones de comportamiento. La IA analiza el comportamiento del usuario, como interacciones, publicaciones y comentarios, para determinar si corresponde a la edad declarada."

Asimismo, remarcaron la implementación de la "detección de usuarios sospechosos: la IA identifica usuarios con comportamientos sospechosos que podrían indicar que un usuario miente sobre su edad. Instagram puede solicitar documentación de identidad para verificar la edad en casos específicos."

Desde Meta recordar que Instagram también "colabora con organizaciones especializadas en protección infantil y seguridad online para mejorar su capacidad de detección y prevención del acceso a menores. En algunos casos, Instagram puede utilizar tecnologías de reconocimiento facial y análisis de datos biométricos para estimar la edad del usuario."

Además, indicaron que "la IA monitorea las interacciones entre usuarios, especialmente aquellas que involucran a menores, para detectar posibles señales de riesgo. Estas medidas ayudan a proteger a los menores y garantizar un entorno seguro en Instagram. Sin embargo, es importante recordar que la eficacia de estas medidas también depende de la colaboración de los usuarios y de los padres/tutores."

También vale recordar que Instagram utiliza algoritmos de inteligencia artificial para verificar la autenticidad de las cuentas. Esto incluye analizar patrones de comportamiento, interacciones y contenido publicado para determinar si una cuenta es genuina o falsa. "La IA ayuda a identificar comportamientos sospechosos, como una cuenta que sigue o envía solicitudes de amistad a una gran cantidad de usuarios en un período corto".

Con respecto al análisis de imágenes y contenidos, comentaron que "Instagram utiliza IA para analizar las imágenes y contenidos publicados para detectar posibles signos de identidades falsas, como perfiles con imágenes genéricas o sin información personal."

"Estas medidas ayudan a proteger la seguridad y la integridad de la comunidad de Instagram. Es importante recordar que ninguna solución es infalible y los usuarios deben seguir siendo cautelosos y reportar cualquier actividad sospechosa."

El pasado mes de septiembre, Meta anunció las Cuentas de Adolescentes de Instagram, "una nueva experiencia para los adolescentes, guiados por sus padres."

Las cuentas de adolescentes tienen protecciones integradas que limitan quién puede ponerse en contacto con ellos y el contenido que ven, y también proporcionan nuevas formas para que estos exploren sus intereses. Colocaremos automáticamente a los adolescentes en Cuentas de Adolescentes, y los menores de 16 años necesitarán el permiso de sus padres para cambiar cualquiera de estos ajustes para que sean menos estrictos.

"Hemos desarrollado las Cuentas de Adolescentes pensando en los padres y los adolescentes. Las nuevas soluciones de protección están diseñadas para responder a las principales preocupaciones de los padres, como con quién hablan sus hijos en Internet, qué contenidos ven y si su tiempo está bien empleado. Estas protecciones se activan automáticamente, y los padres deciden si los adolescentes menores de 16 años pueden cambiar alguna de estas opciones para que sean menos estrictas", destacaron desde la compañía.

Cuentas privadas: Con las cuentas privadas por defecto, los adolescentes tienen que aceptar nuevos seguidores y las personas que no les siguen no pueden ver su contenido ni interactuar con ellos.

Restricciones en mensajes: Los adolescentes tendrán la configuración de mensajería más estricta, de modo que sólo podrán recibir mensajes de personas a las que sigan o con las que ya estén conectados.

Restricciones de contenido sensible: Los adolescentes pasarán automáticamente a la configuración más restrictiva de nuestro control de contenidos sensibles, que limita el tipo de contenidos sensibles (como los que muestran a gente peleándose o promocionan procedimientos estéticos) que los adolescentes ven en sitios como Explore y Reels.

Interacciones limitadas: Los adolescentes sólo pueden ser etiquetados o mencionados por las personas a las que siguen. También activaremos automáticamente la versión más restrictiva de nuestra función antiacoso, Palabras Ocultas, para que las palabras y frases ofensivas se filtren de los comentarios y solicitudes de DM de los adolescentes.

Recordatorios de tiempo límite: Los adolescentes recibirán notificaciones indicándoles que abandonen la aplicación después de 60 minutos cada día.

Modo reposo: El modo de reposo se activará entre las 22:00 y las 7:00, lo que silenciará las notificaciones durante la noche y enviará respuestas automáticas a los mensajes de texto.

"Los adolescentes pueden mentir sobre su edad y por eso les exigimos que la verifiquen en más sitios, por ejemplo, si intentan utilizar una cuenta nueva con una fecha de cumpleaños adulta. También estamos desarrollando tecnología para encontrar cuentas que pertenezcan a adolescentes y colocarlas automáticamente en entornos protegidos y apropiados para su edad. Esta tecnología nos permitirá encontrar proactivamente cuentas que pertenezcan a adolescentes, incluso si la cuenta indica una fecha de nacimiento adulta. Empezaremos a probar este cambio en Estados Unidos a principios del año que viene", confirmaron desde Meta.