La empresa detrás de ChatGPT disuelve la junta de seguridad de IA
ChatGPT es una herramienta increíble y su desarrollador, OpenAI, sigue agregando nuevas funciones de vez en cuando. Recientemente, la compañía introdujo una nueva función de memoria en ChatGPT, que esencialmente le permite recordar cosas sobre usted. Por ejemplo, puede recordar tu edad, sexo, creencias filosóficas y prácticamente cualquier otra cosa.
La función de memoria de ChatGPT está diseñada para que el chatbot sea más personal para usted. Recuerda información que podría ser útil para futuras conversaciones y adapta las respuestas en función de esa información, incluso si abres un chat diferente. Por ejemplo, si mencionas que eres vegetariano, la próxima vez que solicites recetas, solo te ofrecerán opciones vegetarianas.
También puedes entrenarlo para que recuerde detalles específicos sobre ti, como decir: “Recuerda que me gusta ver películas clásicas”. En futuras interacciones, adaptará las recomendaciones en consecuencia. Tienes control sobre la memoria de ChatGPT. Puede restablecerlo, borrar recuerdos específicos o todos los recuerdos, o desactivar esta función por completo en su configuración.
La vulnerabilidad de seguridad en ChatGPT
Según lo informado por el investigador de seguridad Johann Rehberger, descubrió que es posible engañar a la IA para que recuerde información falsa mediante un método llamado inyección rápida indirecta. Esto significa que la IA puede ser manipulada para que acepte instrucciones de fuentes no confiables, como correos electrónicos o publicaciones de blogs.
Por ejemplo, Rehberger demostró que podía engañar a ChatGPT haciéndole creer que cierto usuario tenía 102 años, vivía en un lugar ficticio llamado Matrix y pensaba que la Tierra era plana. Después de que la IA acepte esta información inventada, la transferirá a todos los chats futuros con ese usuario. Estos recuerdos falsos podrían implantarse mediante el uso de herramientas como Google Drive o Microsoft OneDrive para almacenar archivos, cargar imágenes o incluso navegar por un sitio como Bing, todo lo cual podría ser manipulado por un hacker.
Rehberger presentó un informe de seguimiento que incluía una prueba de concepto, demostrando cómo podía explotar la falla en la aplicación ChatGPT para macOS. Demostró que al engañar a la IA para que abriera un enlace web que contenía una imagen maliciosa, podía hacer que enviara todo lo que un usuario escribía y todas las respuestas de la IA a un servidor que él controlaba. Esto significaba que si un atacante pudiera manipular la IA de esta manera, podría monitorear todas las conversaciones entre el usuario y ChatGPT.
La respuesta de OpenAI
Después de que Rehberger compartió su prueba de concepto, los ingenieros de OpenAI tomaron medidas y lanzaron un parche para abordar esta vulnerabilidad. Lanzaron una nueva versión de la aplicación ChatGPT para macOS (versión 1.2024.247) que cifra las conversaciones y corrige el fallo de seguridad.
Entonces, si bien OpenAI ha tomado medidas para abordar la falla de seguridad inmediata, todavía existen vulnerabilidades potenciales relacionadas con la manipulación de la memoria y la necesidad de una vigilancia continua en el uso de herramientas de IA con funciones de memoria. El incidente subraya la naturaleza cambiante de los desafíos de seguridad en los sistemas de inteligencia artificial.
¿Cómo desactivo la memoria ChatGPT?
Si no te parece bien que ChatGPT guarde información sobre ti o la posibilidad de que un mal actor pueda acceder a tus datos, puedes desactivar esta función en la configuración.
Esto desactiva la capacidad de ChatGPT para retener información entre conversaciones, brindándote control total sobre lo que recuerda u olvida.
Mejores prácticas de ciberseguridad: proteger sus datos en la era de la IA
A medida que las tecnologías de inteligencia artificial como ChatGPT se vuelven más frecuentes, es fundamental cumplir con las mejores prácticas de ciberseguridad para proteger su información personal. A continuación se ofrecen algunos consejos para mejorar su ciberseguridad:
1. Revise periódicamente la configuración de privacidad: Manténgase informado sobre qué datos se recopilan. Verifique y ajuste periódicamente la configuración de privacidad en plataformas de inteligencia artificial como ChatGPT y otras para asegurarse de compartir solo información con la que se sienta cómodo.
2. Tenga cuidado al compartir información confidencial: Menos es más cuando se trata de datos personales. Evite revelar detalles confidenciales como su nombre completo, dirección o información financiera en conversaciones con IA.
3. Utilice contraseñas seguras y únicas: Cree contraseñas que tengan al menos 12 caracteres, combinen letras, números y símbolos, y evite reutilizarlas en diferentes cuentas. Considere usar un administrador de contraseñas para generar y almacenar contraseñas complejas.
4. Habilite la autenticación de dos factores (2FA): Agregue una capa adicional de seguridad a su ChatGPT y otras cuentas de IA. Al requerir una segunda forma de verificación, como un código de mensaje de texto, se reduce significativamente el riesgo de acceso no autorizado.
5. Mantenga el software y las aplicaciones actualizados: Manténgase a la vanguardia de las vulnerabilidades. Las actualizaciones periódicas a menudo incluyen parches de seguridad que protegen contra amenazas recién descubiertas, por lo que debe habilitar las actualizaciones automáticas siempre que sea posible.
6. Tenga un software antivirus potente: En una época en la que la IA está en todas partes, proteger sus datos de las ciberamenazas es más importante que nunca. Agregar un potente software antivirus a sus dispositivos agrega una capa crítica de protección. La mejor manera de protegerse de enlaces maliciosos que instalan malware y potencialmente acceden a su información privada es tener instalado un software antivirus potente en todos sus dispositivos. Esta protección también puede alertarle sobre correos electrónicos de phishing y estafas de ransomware, manteniendo seguros su información personal y sus activos digitales.
7. Supervise periódicamente sus cuentas: Detecte los problemas a tiempo. Verifique con frecuencia los extractos bancarios y las cuentas en línea para detectar cualquier actividad inusual, lo que puede ayudarlo a identificar posibles incumplimientos rápidamente.
Las conclusiones clave de Kurt
A medida que las herramientas de inteligencia artificial como ChatGPT se vuelven más inteligentes y personales, es bastante interesante pensar en cómo pueden adaptar las conversaciones a nosotros. Pero, como nos recuerdan los hallazgos de Johann Rehberger, existen algunos riesgos reales involucrados, especialmente cuando se trata de privacidad y seguridad. Si bien OpenAI puede mitigar estos problemas a medida que surgen, también muestra que debemos vigilar de cerca cómo funcionan estas características. Se trata de encontrar ese punto óptimo entre la innovación y mantener nuestros datos seguros.
¿Qué opina de que la IA recuerde datos personales? ¿Le resulta útil o le plantea preocupaciones sobre la privacidad? Háganos saber escribiéndonos a Cyberguy.com/Contacto
Para obtener más consejos técnicos y alertas de seguridad, suscríbase a mi boletín informativo gratuito CyberGuy Report dirigiéndose a Cyberguy.com/Newsletter
Hazle una pregunta a Kurt o cuéntanos qué historias te gustaría que cubriéramos..
Siga a Kurt en sus canales sociales:
Respuestas a las preguntas más frecuentes sobre CyberGuy:
Nuevo de Kurt:
Copyright 2024 CyberGuy.com. Reservados todos los derechos.
Kurt “CyberGuy” Knutsson es un periodista tecnológico galardonado que siente un profundo amor por la tecnología, los equipos y los dispositivos que mejoran la vida con sus contribuciones para Fox News y FOX Business desde las mañanas en “FOX & Friends”. ¿Tiene alguna pregunta técnica? Obtenga el boletín CyberGuy gratuito de Kurt, comparta su voz, una idea para una historia o comente en CyberGuy.com.