La Comisión de Protección de Datos de Irlanda (DPC), principal regulador en el ámbito de la privacidad en Europa, impidió a Facebook introducir el pasado año una nueva herramienta diseñada para alertar a las autoridades cuando detecta usuarios con tendencias suicidas o en riesgo de autolesionarse.
El informe anual de la DPC, presentado este jueves, explicó que esa "herramienta automática", controlada por un algoritmo, ha seleccionado información personal de clientes para "notificarla a partes externas, como la policía y las organizaciones voluntarias, para que efectuasen una intervención con los usuarios en cuestión".
Por ello, la comisión se mostró "preocupada" por cuestiones relacionadas con la privacidad y solicitó a Facebook detalles sobre las salvaguardas que aplicaría para gestionar datos sensibles de sus clientes.
También indicó que, antes de dar su visto bueno a la introducción de una herramienta de estas características, Facebook debe abrir un proceso de consultas con las autoridades sanitarias "en toda Europa".
La red social, según el informe, comunicó a la DPC que aún confía en activar esta función automatizada "como una iniciativa a largo plazo", sobre todo ahora que la pandemia de coronavirus plantea nuevos "desafíos para los Gobiernos y autoridades nacionales de salud pública".
Entre otras funciones, Facebook ya permite a sus usuarios reportar tendencias suicidas o contenido de autolesiones visible en los perfiles de otros contactos.
No obstante, la DPC opinó en su análisis anual que Facebook podría usar estos algoritmos para detectar y eliminar los citados contenidos, pero nunca para "contactar automáticamente con terceras partes".
El informe también reveló que la citada comisión intervino el pasado año para lograr, junta a otras agencias, que Google introdujera una nueva función para los altavoces inteligentes, de manera que los usuarios pueden "solicitar oralmente" que la plataforma elimine "datos y conversaciones archivadas".