El jefe de Signal dice que los asistentes de IA quieren las llaves de tu vida privada

La presidenta de Signal, Meredith Whittaker, advirtió que los usuarios no deben tratar a los chatbots de IA como amigos, confidentes o compañeros conscientes en conversaciones privadas.

Advertencia de Signal

Whittaker hizo estas declaraciones en una entrevista con Bloomberg sobre política, privacidad y Signal, donde se le preguntó sobre los riesgos de privacidad asociados a chatbots como ChatGPT y Claude. "Estos no son sus amigos. No son seres conscientes. No son interlocutores sintientes", dijo.

Afirmó que a veces usa herramientas de IA "para formatear un documento de vez en cuando", pero que no les hace preguntas. Whittaker dijo que es "muy seria" con respecto a su pensamiento y escritura, y que no quiere que ese proceso sea interrumpido por un sistema que "promedia lo que ya existe".

Sus comentarios se alinean con la posición más amplia de Signal de que las comunicaciones privadas no deben convertirse en insumo para sistemas construidos en torno al acceso masivo a datos. La advertencia no fue planteada como un rechazo a todo uso de la IA, sino como un rechazo a tratar a los chatbots como contrapartes personales de confianza.

También leer: Bitcoin Reclaims $64K On $39B Rally But Spot Demand Weakens

Privacidad de la IA

Whittaker también cuestionó un escenario planteado por el CEO de Microsoft AI, Mustafa Suleyman, quien predijo que los usuarios podrían dejar que Microsoft Copilot se encargue de todas sus compras navideñas este año. Dijo que dicho sistema necesitaría un amplio acceso a datos personales para funcionar como fue descrito.

Ese acceso, señaló, podría incluir una tarjeta de crédito, el navegador, Signal, la capacidad de enviar mensajes a familiares, una dirección de domicilio y un calendario. "Lo que acaba de describir es un sistema con un acceso muy invasivo a múltiples aplicaciones y servicios", dijo Whittaker.

Agregó que, en el contexto de Signal, esto equivaldría a "una especie de puerta trasera".

Su argumento fue que los asistentes de IA agénticos cambian la cuestión de la privacidad porque no solo responden preguntas, sino que pueden requerir permisos para actuar en múltiples servicios.

El debate sigue a un cambio más amplio en el mercado de la IA, que va desde chatbots que responden dentro de una sola aplicación hacia asistentes que pueden planificar, comprar, enviar mensajes y programar citas. Esto convierte el acceso, y no solo la calidad del resultado, en el tema central de los debates sobre privacidad en torno a la IA de consumo.

Leer siguiente: Saylor Fires Back As Strategy Bitcoin Reserves Beat Debt By $48B