Instagram aumenta la seguridad de los niños con inteligencia artificial

Meta, la empresa madre de plataformas icónicas como Facebook e Instagram, ha dado un paso significativo en su estrategia de protección infantil en Instagram. En esta nueva fase de su desarrollo, se ha incorporado la inteligencia artificial (IA) con el propósito de identificar la edad real del usuario mediante el análisis del comportamiento y las diversas señales contextuales que pueden indicar su edad. Esta innovadora medida no solo busca reconocer las cuentas de menores que han falsificado su edad, sino que también implementa automáticamente configuraciones de seguridad adaptadas a cada perfil específico.

Reconocimiento de edad por IA: señales y procesamiento

La inteligencia artificial que utilizará Meta no se limita simplemente a la verificación de la fecha de nacimiento que introduce el usuario al registrarse. Más bien, emplea un modelo de detección robusto que ha sido entrenado a través del aprendizaje supervisado. Este modelo es capaz de analizar una variedad de señales relevantes, incluyendo:

• Contenido común: Este aspecto se refiere a publicaciones y fotos, especialmente las que muestran celebraciones como cumpleaños, donde se puede observar la relación entre el contenido y el perfil del usuario.
• Patrones de uso e interacción: Se examinan factores como la frecuencia de las interacciones, el tipo de contenido que consume el usuario y con quién interactúa, lo que puede dar pistas sobre su edad.
• Idioma y metadatos: Este análisis considera el uso de emojis, expresiones frecuentes entre ciertos grupos etarios y configuraciones del perfil que puedan indicar la edad del usuario.

Después de recoger y procesar estos datos a través de algoritmos que han sido afinados para clasificar rangos de edad, el sistema de Instagram puede identificar discrepancias entre la edad real y la declarada. En tales casos, la plataforma procederá a aplicar medidas automatizadas sin requerir intervención manual, garantizando así una respuesta rápida y eficaz ante potenciales problemas.

Cuentas adaptadas a los jóvenes: restricciones automáticas

Si el sistema determina que un usuario es menor de edad, el perfil se ajustará automáticamente a lo que se denomina una “cuenta juvenil”, las cuales vienen con tantas restricciones específicas que buscan garantizar un entorno seguro. Estas restricciones incluyen:

• Mayor privacidad: Como regla general, los perfiles de estos usuarios se establecen en modo privado, limitando su visibilidad al público.
• Restricción de interacción: Esta función limita los mensajes directos solo a aquellos contactos que ya han sido aprobados por el usuario, previniendo interacciones no deseadas.
• Filtrado de contenido sensible: Se aplicará un filtro para excluir contenido que sea violento, explícito o que involucre operaciones estéticas, protegiendo así a los usuarios más jóvenes de visualizar material inapropiado.
• Uso control de tiempo: Los jóvenes recibirán notificaciones recordándoles que han excedido el tiempo de uso recomendado, promoviendo así un uso más equilibrado de la plataforma.
• Modo Nachtuhe: Entre las 10:00 p.m. y las 7:00 a.m., se desactivarán las notificaciones, y el usuario recibirá respuestas automáticas, favoreciendo el descanso y la desconexión nocturna.

Participación de los padres y cumplimiento de las regulaciones

Por otra parte, Meta también ha agregado un componente educativo para padres y tutores legales. La plataforma emitirá notificaciones automáticas que proporcionan recursos diseñados para fomentar diálogos familiares sobre el uso responsable de redes sociales como Instagram y enfatizar la importancia de mantener una discusión abierta sobre la edad real del usuario. Esta iniciativa busca alinear la experiencia digital del niño con los principios de alfabetización digital, así como fomentar la responsabilidad de los padres en el entorno online.

Este tipo de actualización se desarrolla en respuesta a la creciente presión global relacionada con la Regulación de las plataformas digitales y la protección de datos de los menores, incluyendo regulaciones como la Ordenanza General de Protección de Datos (GDPR) en Europa y la Ley de COPPA en los Estados Unidos, que exigen estándares más estrictos para proteger la privacidad y seguridad de los menores en el uso de tecnologías digitales.

Implementación y expansión

Es importante destacar que esta funcionalidad se introducirá inicialmente en los Estados Unidos y se espera que se extienda a otros mercados a medida que se reciba retroalimentación y se realicen mejoras. Según válidas fuentes de Meta, esta herramienta forma parte de una estrategia integral para integrar prácticas de moderación ética y responsable en sus plataformas digitales, asegurando que sus servicios evolucionen de manera segura y conforme a la normativa vigente.

Con estos avances, Meta reafirma su compromiso de crear espacios digitales seguros para los más jóvenes, buscando equilibrar las innovaciones tecnológicas con la responsabilidad social y asegurar el cumplimiento de las regulaciones pertinentes.

35