Эксперт в области кибербезопасности обнаружил уязвимость в ChatGPT, позволяющую злоумышленникам вводить ложные данные в память о искусственном интеллекте через вредоносные запросы. Это может серьезно угрожать конфиденциальности пользовательских данных, сообщает «Хайтек».
Специалист Иоганн Рейбергер обнаружил, что ChatGPT хранит информацию о пользователях, включая их возраст и предпочтения, что упрощает взаимодействие. Но он показал, что с помощью манипулятивных запросов можно поменять эту информацию на недостоверную. Например, искусственный интеллект может начать верить, что пользователь живет в «Матрице» или считает Землю плоской, что повлияет на все последующие беседы.
Рейбергер также продемонстрировал, как использование внешних файловых хранилищ, таких как Google Диск и OneDrive может способствовать внедрению фальшивых данных. Несмотря на то, что он сообщил об этом в OpenAI еще в мае, его предупреждение не было воспринято всерьез. Позже он предоставил доказательства, показывающие, как вредоносные ссылки могут дать хакерам доступ к переписке пользователя.
OpenAI частично исправила эту уязвимость, однако Рейбергер считает, что риск остается. Пользователям рекомендуется уважительно следить за добавляемой в память информацией и проверять ее на предмет достоверности. Также компания выпустила руководство по управлению функцией памяти, чтобы помочь защитить данные пользователей.
