Veintinueve fiscales generales estatales entraron este mes a un tribunal en Oakland, California, para exigir aproximadamente 200 mil millones de dólares de Meta por reclamaciones de adicción entre adolescentes. Su caso terminó en su segunda semana con un acuerdo de conciliación que obliga a Meta a pagar hasta 17 mil millones de dólares en 10 años y a realizar varios cambios en sus productos, como un bloqueo de 0:00 a 6:00, un tope diario de dos horas y un feed cronológico opcional. Si bien algunos de estos requisitos son avances en la dirección correcta, el acuerdo ofrece a la empresa demasiadas vías para evitar cambios significativos y duraderos en sus productos. El acuerdo tiene plazo limitado, se apoya en las definiciones de términos críticos de Meta y no exige una divulgación detallada al público.
Lo que hace que este acuerdo merezca atención es la exigencia de un auditor independiente, que es la primera vez que alguien ajeno a la empresa evaluará el diseño de los productos de Meta. Reguladores independientes, como la Comisión Federal de Comunicaciones (FCC), son un camino probado (aunque imperfecto) para proteger el interés público, y las plataformas de redes sociales son hoy tan importantes en nuestras vidas (y en las de nuestros hijos) como las industrias de radiodeterminación y telecomunicaciones que regula la FCC.
Bajo el acuerdo, un auditor independiente tendrá acceso a los datos internos y a los ingenieros de Meta, un mandato para presentar anualmente un informe sobre si la empresa está haciendo lo que prometió, y la obligación de hacer público un resumen de cada informe.
A simple vista, esto es una buena noticia. Pero mirando un poco más a fondo se vuelve claro que el poder del auditor es demasiado limitado. En primer lugar, el acuerdo reitera con frecuencia las prácticas comerciales actuales de Meta, en lugar de definir nuevos estándares basados en el interés público. Por ejemplo, las Experiencias Apropiadas para la Edad se definen como “contenido capturado en la configuración de contenido para mayores de 13 años aplicable de Meta.” Las Experiencias Perjudiciales se definen como “conductas que violan las Normas de la Comunidad de Meta,” y los datos de verificación de edad solo deben protegerse “utilizando los estándares de privacidad y seguridad de datos más altos de Meta.” Esto crea myriad de oportunidades para que empleados astutos de Meta cumplan la letra del acuerdo mientras evitan cambios reales.
En segundo lugar, el informe público del auditor estará fuertemente redactado. El resumen describirá el estado de la implementación del acuerdo durante el periodo, y si Meta adoptó o acordó adoptar las recomendaciones del auditor. Pero permite a Meta excluir información que considere “no pública, propietaria o confidencial.” Dado que uno de los temas centrales de este caso fue que Meta ocultaba datos desfavorables, esto es sumamente preocupante.
Este limitado divulgamiento público no es suficiente para investigadores externos ni para el interés público. Meta afirma en su anuncio público del acuerdo que éste incluye la creación de “una fundación independiente de investigación en redes sociales” con la cual “Meta compartirá datos de usuarios con su consentimiento… para promover investigaciones independientes sobre el bienestar de los adolescentes” — pero no pudimos encontrar mención de esta fundación como una obligación en el acuerdo.
Finalmente, el plazo para un auditor independiente puede expirar en apenas cinco años (el propio acuerdo expira a los 10 años). Esto crea un incentivo para que Meta deje que se agote el tiempo y vuelva a operar como de costumbre, en lugar de implementar cambios permanentes.
No queremos sugerir que este acuerdo no sea un paso positivo. Sus debilidades no son fracasos de negociación, sino un reflejo de los límites de un acuerdo legal: una negociación con una sola empresa, por un periodo fijo, basada en reclamaciones legales específicas en el momento del acuerdo.
Por ello, los legisladores deben actuar con urgencia. Una nueva ley, preferentemente a nivel federal, debería convertir al auditor independiente en un organismo de supervisión regulatoria fuerte y permanente, financiado con tasas anuales a las grandes empresas tecnológicas en proporción al tamaño de su negocio y al impacto que tienen en la sociedad.
Un regulador permanente podría ir más allá de acuerdos puntuales sobre características específicas de Meta y construir un cuerpo continuo de investigación y prácticas sobre las mejores prácticas de seguridad. Esto permitiría a la sociedad desarrollar sus propias definiciones y estándares de cuidado que podrían aplicarse a nivel de internet. Se necesita un enfoque más integral para regular las redes sociales, y mirar más allá de cuestiones de seguridad de los niños en plataformas específicas.
No queremos sugerir que este acuerdo no sea un paso positivo. Sus debilidades no son fracasos de negociación, sino un reflejo de los límites de un acuerdo legal: una negociación con una sola empresa, por un periodo fijo, basada en reclamaciones legales específicas en el momento del acuerdo.
Existe una necesidad particular de que el público tenga más claridad y control sobre cómo se construyen los feeds de las redes sociales. El acuerdo exige que Meta ofrezca a los adolescentes la opción de elegir un feed de inicio no personalizado (y por lo tanto presumiblemente menos adictivo), pero no lo establece como predeterminado, y todavía permite que los adolescentes continúen usando el feed personalizado. Dado que la investigación ha mostrado que la mayoría de las personas no gusta de los feeds cronológicos, es probable que este requisito tenga un impacto práctico limitado en la vida real.
Además, las disposiciones establecen que el feed no personalizado consistirá en “contenido [que] es poblado por las cuentas que el usuario adolescente sigue o con las que está en contacto, mostrado en orden cronológico.” Esto supone que un feed cronológico es la mejor alternativa al feed curado de Meta. Hay quien sostiene que algoritmos bien diseñados podrían, de hecho, contribuir a una mejor salud mental si se optimizan para despriorizar publicaciones tóxicas y desinformación, al tiempo que se alinean con las preferencias de los usuarios sobre lo que les aporta valor a largo plazo.
También necesitamos con urgencia estándares de auditoría independientes y rigurosos para la privacidad y la seguridad de los datos de identidad en línea. Confiar en la misma empresa que nos dio el escándalo de Cambridge Analytica para calificar su propio trabajo en este frente es una mala apuesta.
Esperamos que este acuerdo de conciliación se convierta en una línea base, y no en un techo alto, para una regulación más reflexiva de las plataformas de internet. Este caso, y los numerosos litigios pendientes en tribunales estatales y federales, resultan útiles para proporcionar material probatorio, atención política y concesiones específicas. Pero no sustituyen las reglas e instituciones duraderas que solo el Congreso y las legislaturas estatales pueden proveer.
Nota del editor: Este artículo de opinión se publicó conjuntamente el viernes 28 de agosto en el boletín semanal gratuito de Jonathan Bellack, Platformocracy, que aboga por más democracia en nuestras vidas en línea.
Este artículo es solo para fines informativos y no pretende ofrecer asesoramiento médico.
Opinión en Live Science te ofrece una visión de los temas más importantes en ciencia que te afectan a ti y al mundo que te rodea hoy, escrita por expertos y científicos líderes en su campo.
