[Estamos en WhatsApp. Empieza a seguirnos ahora]
Apple, Microsoft y Google anuncian una nueva period de lo que describen como teléfonos inteligentes y computadoras con inteligencia synthetic. Dicen que estos dispositivos automatizarán tareas como editar fotos o felicitar a un amigo por su cumpleaños.
Sin embargo, para que eso funcione, estas empresas necesitan algo de ti: más datos.
En este nuevo paradigma, tu computadora con Home windows hará una captura de pantalla de todo lo que hagas cada pocos segundos. Un iPhone recopilará información de todas las aplicaciones que utilices. Y un teléfono Android podría escuchar una llamada en tiempo actual para alertarte de una estafa.
¿Estás dispuesto a compartir esta información?
Este cambio tiene importantes implicaciones para nuestra privacidad. Para ofrecer los nuevos servicios, las empresas y sus dispositivos necesitan un acceso a nuestros datos más persistente y profundo que antes. En el pasado, la manera en que utilizábamos las aplicaciones y consultábamos archivos y fotos en teléfonos y computadoras estaba relativamente aislada. La IA necesita una visión de conjunto para relacionar lo que hacemos a través de aplicaciones, sitios internet y comunicaciones, aseguran los expertos en seguridad.
“¿Me siento seguro dando esta información a esta empresa?”, preguntó Cliff Steinhauer, director de la Nationwide Cybersecurity Alliance, una organización sin fines de lucro centrada en la ciberseguridad, sobre las estrategias de IA de las empresas.
Todo esto sucede porque hace casi dos años ChatGPT, de OpenAI, puso patas arriba la industria tecnológica. Apple, Google, Microsoft y otras empresas han revisado desde entonces sus estrategias de producto, invirtiendo miles de millones en nuevos servicios bajo el término paraguas de la inteligencia synthetic. Están convencidos de que este nuevo tipo de interfaz informática —que estudia de manera constante lo que haces para ofrecerte ayuda— se convertirá en indispensable.
Según los expertos, el mayor riesgo potencial para la seguridad de este cambio se deriva de una sutil transformación en el funcionamiento de nuestros nuevos dispositivos. Dado que la IA puede automatizar acciones complejas —como eliminar objetos no deseados de una foto—, a veces requiere más potencia de cálculo de la que pueden manejar nuestros teléfonos. Eso significa que una mayor parte de nuestros datos personales quizás tenga que salir de nuestros teléfonos para ser tratados en otro lugar.
La información se transmite a la nube, una crimson de servidores que procesan las solicitudes. Cuando la información llega a la nube, puede ser vista por otros, incluidos empleados de la empresa, malos actores y agencias gubernamentales. Y aunque algunos de nuestros datos siempre han estado almacenados en la nube, nuestros datos más personales e íntimos que antes eran solo para nuestros ojos —fotos, mensajes y correos electrónicos— ahora podrían ser conectados y analizados por una empresa en sus servidores.
Las empresas tecnológicas afirman que han hecho todo lo posible para proteger los datos de los ciudadanos.
Por ahora, es importante entender qué ocurrirá con nuestra información cuando utilicemos herramientas de IA, así que obtuve más información de las empresas sobre sus prácticas de datos y entrevisté a expertos en seguridad. Esperaré a ver si las tecnologías funcionan lo suficientemente bien antes de decidir si vale la pena compartir mis datos.
Esto es lo que hay que saber.
Apple Intelligence
Apple anunció hace poco Apple Intelligence, un conjunto de servicios y su primer gran paso en la carrera de la IA.
Los nuevos servicios de IA se incorporarán a sus iPhone, iPad y Mac más veloces a partir de este otoño. Los usuarios podrán utilizarlos para eliminar automáticamente objetos no deseados de las fotos, crear resúmenes de artículos internet y escribir respuestas a mensajes de texto y correos electrónicos. Apple también está renovando su asistente de voz, Siri, para lograr que sea más conversacional y darle acceso a datos de todas las aplicaciones.
Durante la conferencia de Apple celebrada este mes en la que se presentó Apple Intelligence, el vicepresidente sénior de ingeniería de software program de la compañía, Craig Federighi, compartió cómo podría funcionar: Federighi recibió un correo electrónico de un colega que le pedía que retrasara una reunión, pero esa noche tenía que ver una obra de teatro protagonizada por su hija. Su teléfono le mostró su calendario, un documento con los detalles de la obra y una aplicación de mapas para predecir si llegaría tarde a la obra si aceptaba reunirse más tarde.
Apple dijo que estaba tratando de procesar la mayor parte de los datos de IA directamente en sus teléfonos y computadoras, lo que impediría que otros —incluida Apple— tengan acceso a la información. No obstante, para las tareas que tienen que ser enviadas a los servidores, Apple señaló que ha desarrollado salvaguardas, incluyendo la codificación de los datos a través de cifrado y su eliminación inmediata.
Apple también ha tomado medidas para que sus empleados no tengan acceso a los datos. Apple incluso afirmó que permitiría a los investigadores de seguridad auditar su tecnología para asegurarse de que se ajusta a sus compromisos.
El compromiso de Apple de eliminar los datos de los usuarios de sus servidores la diferencia de otras empresas que conservan datos. Pero Apple no ha sido clara sobre qué nuevas solicitudes de Siri podrían enviarse a los servidores de la empresa, comentó Matthew Inexperienced, investigador de seguridad y profesor adjunto de informática en la Universidad Johns Hopkins, a quien Apple informó sobre su nueva tecnología. Todo lo que sale de tu dispositivo es intrínsecamente menos seguro, añadió.
Apple señaló que, cuando Apple Intelligence esté disponible, los usuarios podrán ver un informe de las solicitudes que salen del dispositivo para ser procesadas en la nube.
Computadoras portátiles de Microsoft con IA
Microsoft lleva la inteligencia synthetic a la tradicional computadora portátil.
La semana pasada, la empresa empezó a distribuir computadoras Home windows denominadas Copilot+ PC, cuyo precio de venta parte de los 1000 dólares. Las computadoras contienen un nuevo tipo de chip y otros dispositivos que, según Microsoft, mantendrán los datos privados y seguros. Las computadoras pueden generar imágenes y rescribir documentos, entre otras nuevas funciones basadas en inteligencia synthetic.
La empresa también presentó Recall, un nuevo sistema para ayudar a los usuarios a encontrar rápidamente documentos y archivos en los que han trabajado, correos electrónicos que han leído o sitios internet por los que han navegado. Microsoft compara Recall con tener una memoria fotográfica integrada en la PC.
Para utilizarlo, se pueden escribir frases casuales, como “Estoy pensando en una videollamada que tuve con Joe hace poco cuando sostenía una taza de café que tenía el mensaje ‘I Love New York’ impreso”. La computadora recuperará entonces la grabación de la videollamada que contiene esos detalles.
Para ello, Recall hace capturas de pantalla cada cinco segundos de lo que el usuario está haciendo en la máquina y recopila esas imágenes en una base de datos en la que se pueden hacer búsquedas. Las instantáneas se almacenan y analizan directamente en la PC, por lo que los datos no son revisados por Microsoft ni utilizados para mejorar su IA, según la empresa.
Sin embargo, los investigadores de seguridad advirtieron de los posibles riesgos, explicando que los datos podrían exponer fácilmente todo lo que has escrito o visto si fueran hackeados. En respuesta, Microsoft, que tenía la intención de lanzar Recall la semana pasada, pospuso su lanzamiento de manera indefinida.
Las computadoras vienen equipadas con el nuevo sistema operativo Home windows 11 de Microsoft. Según David Weston, ejecutivo de la empresa responsable de la seguridad, este sistema cuenta con varios niveles de seguridad.
IA de Google
Google también anunció el mes pasado un conjunto de servicios de IA.
Uno de los más importantes fue un nuevo detector de estafas telefónicas basado en IA. La herramienta escucha las llamadas en tiempo actual y, si la persona que llama suena como un posible estafador (por ejemplo, si te pide un PIN bancario), la empresa te avisa. Según Google, los usuarios tendrían que activar el detector de estafas, que funciona completamente en el teléfono. Esto significa que Google no escuchará las llamadas.
Google anunció otra función, Ask Images, que requiere el envío de información a los servidores de la empresa. El usuario puede hacer preguntas como “¿Cuándo aprendió a nadar mi hija?” para que aparezcan las primeras imágenes de su hija nadando.
Google afirmó que sus trabajadores podrían, en casos excepcionales, revisar las conversaciones de Ask Images y los datos de las fotos para hacer frente a abusos o daños, y que la información también podría utilizarse para ayudar a mejorar su aplicación de fotos. Dicho de otro modo, tu pregunta y la foto de tu hija nadando podrían utilizarse para ayudar a otros padres a encontrar imágenes de sus hijos nadando.
Google aseguró que su nube estaba bloqueada con tecnologías de seguridad que incluían encriptación y protocolos para limitar el acceso de los empleados a los datos.
“Nuestra estrategia de protección a la privacidad se aplica a nuestras funciones de inteligencia synthetic, sin importar si se utilizan en un dispositivo o en la nube”, declaró en un comunicado Suzanne Frey, ejecutiva de Google que supervisa la confianza y la privacidad.
Pero Inexperienced, el investigador de seguridad, afirmó que el modelo de Google sobre la privacidad de la IA parecía relativamente poco transparente.
“No me gusta la thought de que mis fotos y búsquedas muy personales se envíen a una nube que no está bajo mi management”, concluyó.
Brian X. Chen es el columnista principal de tecnología de consumo del Instances. Reseña productos y escribe Tech Repair, una columna sobre las implicaciones sociales de la tecnología que utilizamos. Más de Brian X. Chen