Pular para o conteúdo
Menu
Mix Vale

Los líderes mundiales exigen un pacto de seguridad digital sin precedentes para proteger a los jóvenes de los algoritmos

Luís Henrique Costa
Por 8 min de leitura
Compartilhe
Criança em telefone
Foto: Criança em telefone - Body Stock/shutterstock.com

El escenario tecnológico actual exige respuestas inmediatas de los líderes mundiales, y la protección de los niños en el entorno digital ocupó un lugar central durante el primer Diálogo Global sobre la Gobernanza de la Inteligencia Artificial. Realizado en la ciudad suiza de Ginebra, el encuentro impulsado por Naciones Unidas reunió a expertos en tecnología, legisladores y representantes gubernamentales. El principal objetivo de esta cumbre sin precedentes fue proporcionar una visión detallada del meteórico avance de los algoritmos generativos y establecer parámetros de seguridad para los usuarios más vulnerables de la red.

Publicidade

La urgencia de debatir este tema no surgió por casualidad, sino como una respuesta directa a una movilización masiva de la sociedad civil global. Más de un centenar de organizaciones no gubernamentales y entidades de derechos humanos se han unido para exigir que los gigantes tecnológicos abandonen la autorregulación y se hagan legalmente responsables de sus productos. Este bloque de presión sostiene que la responsabilidad corporativa es la única forma viable de garantizar que los nuevos sistemas informáticos no causen daños irreparables al desarrollo cognitivo y social de los menores.

Manos de una persona mayor, teléfono celular, Inteligencia Artificial
Manos de una persona mayor, celular, Inteligencia Artificial – Chayanit/ Shutterstock.com

Publicidade

El desfase entre el avance de los algoritmos y la legislación global

António Guterres, jefe de la diplomacia de la ONU, aprovechó su discurso de apertura para esbozar un diagnóstico preocupante sobre la actual carrera tecnológica. El secretario general señaló que la velocidad del desarrollo de herramientas automatizadas ha creado un abismo regulatorio, dejando a legisladores, gobiernos e incluso a los propios ingenieros de software sin control sobre sus creaciones. Según el líder internacional, estamos ante una fuerza capaz de reestructurar los mercados financieros, dictar la dirección del empleo global, interferir en los procesos electorales democráticos y reescribir las reglas de seguridad nacional a un ritmo imposible de asimilar por la mente humana.

Para evitar un escenario de caos digital, el diplomático portugués defendió la urgencia de un pacto global que estandarice las reglas para el uso y desarrollo de estas plataformas en todos los continentes. La visión presentada por los líderes de la ONU rechaza la idea de que la regulación sofoca el progreso, argumentando que la verdadera innovación tecnológica debe ir de la mano con la preservación de los derechos fundamentales. En una de sus declaraciones más contundentes durante el panel, afirmó que cualquier tecnología que pretenda ejercer un poder transformador sobre la sociedad debe necesariamente estar sujeta a rigurosos mecanismos de gobernanza y supervisión pública.

Los debates sostenidos en el foro suizo obtuvieron apoyo técnico gracias a la presentación de un documento histórico a la comunidad científica. Se trata del primer mapeo global importante y completamente imparcial de los impactos de la automatización inteligente, meticulosamente preparado por un comité formado por cuarenta investigadores de vanguardia. Este grupo de notables, que trabajan con el apoyo institucional de Naciones Unidas, dedicó meses a recopilar datos empíricos sobre cómo las redes neuronales están moldeando el comportamiento humano y cuáles son los riesgos reales de su adopción a gran escala sin las medidas de seguridad necesarias.

La vulnerabilidad de niños y adolescentes a las redes neuronales

El punto de mayor tensión del encuentro giró en torno a la exposición temprana y desprotegida de las nuevas generaciones a robots conversacionales y algoritmos de recomendación. El jefe de la diplomacia mundial expresó su profunda preocupación por el hecho de que las aplicaciones basadas en el aprendizaje automático ya estén integradas en las rutinas escolares, en las plataformas de entretenimiento y en las conversaciones íntimas de los jóvenes. El gran peligro reside en que estas herramientas fueron lanzadas al mercado de consumo e integradas en la vida cotidiana de millones de familias mucho antes de pasar por rigurosas auditorías que demostraron su total seguridad para niños y jóvenes.

  • Exigir a las corporaciones tecnológicas que realicen auditorías externas e independientes antes de lanzar cualquier producto dirigido a niños y jóvenes;
  • Implementar filtros absolutos e innegociables que impidan la generación, distribución o almacenamiento de cualquier contenido visual que sexualice a menores de edad;
  • Desarrollar mecanismos de inteligencia capaces de identificar signos de malestar psicológico durante la interacción con la máquina, deteniendo su uso inmediatamente;
  • Establecer un tratado internacional vinculante que unifique las leyes de protección digital para las nuevas generaciones en todos los países miembros.

Para ilustrar la gravedad y urgencia de la situación, las autoridades presentes recuperaron datos históricos sobre la adopción de tecnologías disruptivas durante las últimas décadas. Si bien la World Wide Web necesitó una década y media de expansión continua para conectar a sus primeros mil millones de usuarios, los sistemas modernos de procesamiento del lenguaje natural pulverizaron ese hito en apenas veinticuatro meses. Esta tasa de penetración, absolutamente sin precedentes en la historia de la humanidad, combinada con la capacidad de los algoritmos para crear vínculos emocionales simulados con los jóvenes, crea un terreno fértil para el abuso. El escenario se vuelve aún más complejo debido al monopolio tecnológico, ya que el control de estas herramientas avanzadas está restringido a un puñado de empresas multimillonarias y a un número muy pequeño de potencias globales.

Publicidade

La presión internacional exige un cambio de postura de los gigantes tecnológicos

El cerco diplomático contra la falta de regulación cobró peso momentos antes de la apertura oficial de los plenos en Suiza. Un consorcio formado por más de un centenar de prestigiosas instituciones, con la participación activa de Amnistía Internacional y la organización Save the Children, publicó un manifiesto reclamando acciones concretas e inmediatas. La coordinación de este movimiento global corrió a cargo de la Fundación 5Rights, una entidad dedicada a los derechos digitales que defiende una tesis clara: la carga de garantizar un entorno virtual seguro debe trasladarse íntegramente a los balances financieros de las empresas tecnológicas, aliviando la carga irreal que actualmente recae sobre los hombros de padres y educadores.

El documento entregado a los líderes mundiales propone un paquete de medidas punitivas y preventivas que promete cambiar radicalmente el modelo de negocio de Silicon Valley. Entre las principales exigencias de la coalición está la obligación de realizar rigurosas pruebas de estrés antes de cualquier lanzamiento comercial, simulando escenarios de riesgo extremo. Además, el grupo exige la aplicación de severas multas proporcionales a los ingresos globales de las empresas que descuidan la seguridad infantil. Otro punto innegociable del manifiesto es la prohibición total y definitiva de la recopilación, almacenamiento y monetización de fotografías, registros vocales y datos biométricos de personas menores de dieciocho años para el entrenamiento de nuevos modelos computacionales.

La directora ejecutiva de la Fundación 5Rights, Leanda Barrington-Leach, aprovechó la visibilidad del evento para dar voz a las preocupaciones de las víctimas de este vacío legal. El activista señaló que la juventud actual ya comprende perfectamente los peligros del entorno digital y tiene un diagnóstico claro de las fallas del sistema. Según el experto, las nuevas generaciones no quieren frenar el desarrollo científico ni prohibir el uso de herramientas innovadoras, pero consideran inaceptable el actual modelo industrial, que prefiere lanzar al mercado productos defectuosos para intentar reparar los daños psicológicos y sociales sólo cuando las tragedias ya han ocurrido.

Los próximos pasos de la diplomacia para frenar el avance desordenado

El final de las rondas de negociación en Ginebra no supone el fin de los trabajos, sino el inicio de una intensa agenda diplomática para los próximos meses. La comunidad internacional espera con gran expectación la publicación de un expediente científico aún más profundo y detallado, cuya publicación oficial está prevista para el próximo año. Este material servirá como base teórica para una nueva y decisiva cumbre global, que trasladará las discusiones a la sede principal de las Naciones Unidas, en la ciudad de Nueva York. El objetivo final de esta maratón de reuniones es consolidar, de una vez por todas, una arquitectura de gobernanza internacional que sea lo suficientemente ágil como para mantenerse al día con las innovaciones de los laboratorios tecnológicos, garantizando que el futuro digital sea un espacio de desarrollo seguro para la juventud global.

Publicidade

Luís Henrique Costa é jornalista formado pela FMU, editor-chefe e fundador do Mix Vale, portal de notícias em atividade desde 2011. Responde pela direção editorial do veículo, que cobre Brasil e mundo em economia, benefícios sociais, esportes, tecnologia, ciência e entretenimento. Atua na área há mais de 15 anos e lidera uma equipe de cerca de 15 colaboradores.

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto