OpenAI quiere darle mejor memoria a su agente de codificación Codex. El martes, la empresa lanzó la función «experimentar» llamado Chronicle, que ejecuta herramientas en segundo plano para capturar tu pantalla, extraer contexto de esas imágenes y crear recuerdos persistentes para que Codex entienda en qué estás trabajando sin tener que explicarlo en cada sesión. OpenAI dice que las capturas de pantalla se almacenan temporalmente en su dispositivo y se eliminan después de seis horas, aunque estas capturas también se procesan a través de los servidores de OpenAI para generar recuerdos, que luego se almacenan localmente como archivos de marcadores no cifrados. La compañía también advierte que Chronicle aumenta el impacto de sus ataques de inyección de alta velocidad al leer todo lo que aparece en la pantalla en un momento dado, incluidos los sitios web.
Esta función es opcional, solo está disponible para los suscriptores de ChatGPT Pro en macOS y aún no está habilitada en la UE, el Reino Unido o Suiza, una exclusión geográfica que en sí misma sugiere un conocimiento de las sensibilidades regulatorias aquí. Esta es una mejora significativa de las capacidades del Codex. También es muy similar a Microsoft Recall. La pregunta que vale la pena hacerse es si el Chronicle atraerá el mismo nivel de escrutinio.
Hace casi dos años, Microsoft. publicado por Retracciónuna función impulsada por IA en Windows 11 que le ayuda a recordar y encontrar información en su computadora tomando capturas de pantalla periódicas de su escritorio. ¿Te suena familiar? Originalmente se suponía que la «cancelación» sería uno de los principales puntos de venta de Copilot+ para PC, pero inmediatamente enfrentó una reacción violenta cuando la presidenta de Signal, Meredith Whittaker. critica la característica de Microsoft como un «peligroso tarro de miel para los hackers».
Abierto un enorme obstáculo para la privacidad y la seguridadMicrosoft retrasó el lanzamiento de Recall por un año más. Sin embargo, no parece ser completamente seguro: un investigador de seguridad afirma haberlo logrado extraer datos de una herramienta de Microsoft. Este es un reclamo la empresa niegadiciendo que no es un error y no tiene la intención de abordar la supuesta vulnerabilidad.
También vale la pena distinguir entre casos de uso. Microsoft diseñó Recall como Motor de búsqueda impulsado por IA para toda tu PC, la forma de encontrar todo lo que has visto en tu pantalla. Chronicle tiene una ambición más estrecha y práctica: reducir la tarifa de contexto que pagan los desarrolladores cada vez que inician una nueva sesión del Codex. En lugar de tener que explicar nuevamente en qué proyecto estás trabajando, qué herramientas estás usando o dónde está el archivo relevante, Chronicle crea esa comprensión en segundo plano para que la conversación pueda comenzar donde realmente estás. Para los desarrolladores que hacen malabares con múltiples bases de código y flujos de trabajo, este es un problema realmente útil de resolver.
¿Valen la pena las compensaciones?
Recall y Chronicle comparten una arquitectura común: se ejecutan silenciosamente en segundo plano, capturan la pantalla con regularidad y consultan el historial utilizando lenguaje natural. Sin embargo, hay una diferencia significativa: Microsoft Recall procesa todo localmente usando la NPU del dispositivo, mientras que Chronicle envía cuadros seleccionados a servidores OpenAI para su procesamiento. Esa distinción es importante. El procesamiento local protege los datos confidenciales de la red; el procesamiento en la nube proporciona un posible objetivo. También hay cuestiones legales más difíciles (sobre retención de datos, citaciones y cumplimiento de las normas de privacidad en todas las jurisdicciones) que OpenAI aún no ha respondido completamente.
El desarrollador del Codex es sincero sobre este riesgo. Debido a que Chronicle lee constantemente su pantalla, ve todo lo que hay en ella, incluido el contenido al que quizás no haya prestado mucha atención. Si visita una página web o abre un documento con instrucciones ocultas u ofuscadas, Chronicle puede agregar ese contenido a la memoria del Codex y actuar en consecuencia. Esta clase de vulnerabilidades, conocida como ataque de inyección rápida, engaña a la IA para que ejecute comandos incrustados en el contenido que se procesa en lugar de los comandos del usuario. Es uno de los riesgos mejor documentados de los sistemas de inteligencia artificial basados en agentes, y es tan notable que OpenAI lo señala claramente en su documentación Chronicle, recomendando que los usuarios suspendan la función antes de visitar sitios que no sean de confianza o manipular material confidencial.
Por cierto, OpenAI tiene construido en algunas barandillas. Las capturas de pantalla se guardan temporalmente y se eliminan después de seis horas, y los usuarios pueden pausar o desactivar la línea de tiempo en cualquier momento desde la barra de menú. Afirma que los archivos transmitidos a sus servidores se utilizan únicamente para generar recuerdos y no se almacenan para su posterior procesamiento a menos que lo exija la ley. Tampoco se utilizan para entrenar modelos OpenAI.
Chronicle no debe tener acceso a su micrófono o al audio del sistema; se limita a lo que se ve en la pantalla. Sin embargo, la empresa no recomienda utilizar esta función para grabar de forma encubierta reuniones o comunicaciones con terceros. En lugar de eso, pausa la crónica.
OpenAI también señala que los archivos de memoria generados por Chronicle no están disponibles exclusivamente en el Codex. Otras aplicaciones de tu dispositivo también pueden leerlos.
Desde que se anunció, Chronicle parece haber causado mucha menos ansiedad que Recall en una etapa similar. Algo de esto puede estar dentro de nuestro alcance. Recall se presentó como una característica emblemática para una clase completamente nueva de PC con Windows, poniéndola inmediatamente a disposición de cientos de millones de usuarios potenciales. Chronicle, por el contrario, es una revisión opcional de la investigación integrada en el agente de codificación utilizado por una parte de OpenAI durante más de 900 millones de usuarios activos semanales. No todos los desarrolladores que utilizan Codex permitirán esto. No todos los usuarios notarán su existencia. La superficie más estrecha puede explicar la recepción más silenciosa, pero eso no hace que valga la pena plantear las preguntas subyacentes sobre la captura de pantalla, el procesamiento en la nube y el almacenamiento de datos.
