¿Podría Facebook haber sabido acerca de las siniestras amenazas de mensajes directos hechas por un hombre armado que, según las autoridades de Texas, masacró a 19 niños y dos maestros en una escuela primaria? ¿Podría haber advertido a las autoridades?
El gobernador de Texas, Greg Abbott, reveló los mensajes en línea enviados minutos antes del ataque del miércoles, aunque los llamó publicaciones, que generalmente se distribuyen a una amplia audiencia. Facebook intervino para señalar que el pistolero envió mensajes directos uno a uno, no publicaciones públicas, y que no fueron descubiertos hasta «después de la terrible tragedia».
Los últimos tiroteos masivos en los EE. UU. por parte de usuarios activos de las redes sociales pueden generar más presión sobre las empresas de redes sociales para aumentar su escrutinio de las comunicaciones en línea, a pesar de que los políticos conservadores, entre ellos Abbott, también están presionando a las plataformas sociales para que relajen sus restricciones sobre algunos discursos. .
¿FACEBOOK DEBERÍA HABER CAPTADO LOS MENSAJES DEL TIRADOR?
La empresa matriz de Facebook, Meta, ha dicho que monitorea los mensajes privados de las personas en busca de algún tipo de contenido dañino, como enlaces a malware o imágenes de explotación sexual infantil. Pero las imágenes copiadas se pueden detectar mediante identificadores únicos, una especie de firma digital, lo que las hace relativamente fáciles de detectar para los sistemas informáticos. Intentar interpretar una serie de palabras amenazantes, que pueden parecerse a una broma, una sátira o la letra de una canción, es una tarea mucho más difícil para los sistemas de inteligencia artificial.
Facebook podría, por ejemplo, marcar ciertas frases como «va a matar» o «va a disparar», pero sin contexto, algo con lo que la IA en general tiene muchos problemas, habría demasiados falsos positivos para que la empresa los analizara. . Por lo tanto, Facebook y otras plataformas se basan en los informes de los usuarios para detectar amenazas, acoso y otras violaciones de la ley o de sus propias políticas. Como lo demuestran los últimos tiroteos, eso a menudo llega demasiado tarde, si es que llega.
OBSOLESCENCIA PROGRAMADA
Incluso este tipo de monitoreo pronto podría quedar obsoleto, ya que Meta planea implementar el cifrado de extremo a extremo en sus sistemas de mensajería de Facebook e Instagram el próximo año. Dicho cifrado significa que nadie más que el remitente y el destinatario, ni siquiera Meta, puede descifrar los mensajes de las personas. WhatsApp, también propiedad de Meta, ya cuenta con dicho cifrado.
Un informe reciente encargado por Meta enfatizó los beneficios de dicha privacidad, pero también señaló algunos riesgos, incluidos los usuarios que podrían abusar del cifrado para explotar sexualmente a los niños, facilitar el tráfico de personas y difundir el discurso de odio.
Apple ha tenido durante mucho tiempo encriptación de extremo a extremo en su sistema de mensajería. Eso ha llevado al fabricante del iPhone a un conflicto con el Departamento de Justicia por la privacidad de los mensajes. Después del tiroteo mortal de tres marineros estadounidenses en una instalación de la Armada en diciembre de 2019, el Departamento de Justicia insistió en que los investigadores necesitaban acceder a los datos de dos iPhone bloqueados y encriptados que pertenecían al presunto pistolero, un estudiante de aviación saudita.
Los expertos en seguridad dicen que esto podría hacerse si Apple diseñara una «puerta trasera» para permitir el acceso a los mensajes enviados por presuntos delincuentes. Tal clave secreta les permitiría descifrar información cifrada con una orden judicial.
Pero los mismos expertos advirtieron que tales puertas traseras en los sistemas de encriptación los hacen intrínsecamente inseguros. El solo hecho de saber que existe una puerta trasera es suficiente para que los espías y delincuentes del mundo se concentren en descubrir las claves matemáticas que podrían abrirla. Y cuando lo hacen, la información de todos es esencialmente vulnerable a cualquiera que tenga la clave secreta.
