Cuando Microsoft anunció su nueva función Recall durante su conferencia anual para desarrolladores el lunes, la noticia causó revuelo más allá de la industria de la inteligencia artificial. Los expertos en ciberseguridad y privacidad también se fijaron en ella, y les preocupó.
Durante la presentación, Microsoft dijo que las nuevas computadoras habilitadas con Copilot podrán recordar y encontrar más tarde cualquier cosa que se muestre en la pantalla, incluyendo correos electrónicos, sitios web y aplicaciones, a través de capturas indexadas por inteligencia artificial y almacenadas en el dispositivo. La reacción al anuncio fue mixta, lo que llevó a algunos expertos en seguridad a calificar esta función como un software espía y un objetivo natural para los cibercriminales.
“Esta es la empresa que quiere grabar literalmente todo lo que hagas en tu computadora”, escribió Gary Marcus, fundador y CEO de Geometric Intelligence, en Twitter. “Si no crees que Microsoft Recall, local o no, será uno de los mayores objetivos cibernéticos de la historia, no estás prestando atención”.
“Me alegro de que Microsoft nos ayude a recordar por qué no uso Windows si puedo evitarlo, y cuando lo hago, desactivo todas las ‘funciones inteligentes’ que agregan”, escribió Emily Young, escritora de Linus Tech Tips.
“En mis tiempos, llamábamos a esto software espía”, escribió Molly White, ingeniera de software e investigadora y crítica de criptomonedas.
Con Recall, todo lo que aparece en la pantalla es capturado, incluyendo contraseñas, si la aplicación o formulario no las oculta automáticamente.
Aunque es una premisa simple, la implementación de Recall requiere mucho cuidado, dijo a Decrypt la experta en ciberseguridad Katelyn Bowden.
“Recall parece funcionar como los motores de búsqueda existentes, con un alcance expandido de lo que registra”, dijo Bowden, señalando que Recall solo funciona en PC con configuraciones de hardware específicas. “Ya tienes un historial de navegador e índice de contenido de archivos en tu PC, y esto no es diferente funcionalmente. Y a diferencia de muchos de esos archivos, Microsoft dice que los datos de Recall están encriptados”.
“Si Microsoft empezara a procesar el conjunto de entrenamiento fuera de línea, o a recopilar datos para usarlos en motores de recomendación o modelos fuera de la máquina, se podría comprometer la privacidad del usuario”, señaló.
Bowden es miembro del colectivo de hackers conocido como Cult of the Dead Cow y también es directora de marketing del proyecto de código abierto y enfocado en la privacidad Veilid Project. Dijo que es esencial una mayor transparencia sobre cómo se utilizan las herramientas de IA.
“Siempre me siento más cómoda cuando las empresas que desarrollan productos de IA son transparentes sobre qué conjuntos de datos se utilizaron para entrenar el software”, dijo Bowden. “La falta de transparencia de Microsoft sobre ese tema me preocupa. Si la gente no sabe qué datos se usaron para entrenar el modelo, no deberían someterse a él”.
Mientras OpenAI, Google y Microsoft empujan para llevar productos de IA generativa al mercado, varios proyectos y grupos también ofrecen alternativas descentralizadas y de código abierto, incluyendo Venice AI, FLock, PolkaBot AI y Superintelligence Alliance.
El co-fundador de Ethereum, Vitalik Buterin, escribió hoy que la IA de código abierto es la mejor manera de evitar un futuro donde “la mayor parte del pensamiento humano sea leído y mediado por unos pocos servidores centrales controlados por unas pocas personas”.
“La gente debería asumir que todo lo que escriben a OpenAI va a parar a ellos y que lo tendrán para siempre”, dijo anteriormente a Decrypt Erik Voorhees, fundador y CEO de Venice AI. “La única forma de resolver eso es usando un servicio donde la información no vaya a un repositorio central en primer lugar”.
