„ChatGPT“ не е единствениот чет-бот кој е изложен на напади, туку, исто така, единствениот чет-бот што не е ранлив е „Google Gemini“.
Ако користите „ChatGPT“, треба да внимавате на информациите што ги споделувате со него. Имено, шефот на офанзивната истражувачка лабораторија за вештачка интелигенција на израелскиот универзитет Бен-Гурион, Јисроел Мирски, откри дека во моментов е можно да се читаат приватни разговори од „ChatGPT“ и други слични сервиси.
Иако услугите како „ChatGPT“ користат шифрирање за да ги заштитат разговорите помеѓу корисниците и услугата, како што истакнува Мирски, тоа шифрирање не е доволно добро за да ги заштити податоците.
Објаснува како хакерите или другите злонамерни актери кои се на истата мрежа со „жртвата“, можат да го набљудуваат сообраќајот помеѓу корисникот и услугата и со помош на метаподатоци и големи јазични модели специјално обучени за оваа задача, да ги усовршат овие податоци и дознајте за што се „пробиени“ разговарано во разговорот.
„Откривме дека овој напад е исклучително добар во дешифрирањето на одговорите на вообичаените прашања што луѓето им ги поставуваат на своите асистенти (на пр. историски податоци, совети), но се бори да дешифрира произволна содржина (на пример, решавање на загатка“, напиша Мирски.
Нападот е пасивен и може да се случи без знаење на „OpenAI“ или нивниот клиент.
„OpenAI“ го шифрира нивниот сообраќај за да ги спречи овие типови напади, но нашето истражување покажа дека начинот на кој „OpenAI“ користи шифрирање е погрешен и содржината на пораките е изложена“, изјави тој за „Ars Technica“.
Интересно е тоа што „ChatGPT“ не е единствениот чет-бот кој е изложен на таков напад, туку и единствениот чет-бот кој не е ранлив е „Google Gemini“.
Во нивната студија, истражувачите дадоа два предлози за ублажување на ефективноста на таквите напади. Првиот е да го следите водството на „Google“ и да престанете да испраќате пакети еден по еден, бидејќи ако ги испраќате на тој начин полесно се откриваат и преведуваат. Друга е да се примени техника која додава случајни количини на растојание на пакетите, така што сите тие имаат фиксна должина еднаква на најголемиот можен пакет. Ова ќе го отежне нивното препознавање.
Но, проблемот е што примената на двете предлози ќе го забави одговорот на чет-ботот кон корисникот, што би го деградирало корисничкото искуство. Како што објаснува Мирски, испраќањето токени во големи серии може да предизвика одложувања, додека дополнителните пакети би го зголемиле бројот на сообраќај испратен во секој одговор.
Откако беше објавена оваа студија, „OpenAI“ и „Cloudflare“ имплементираа промени кои треба да ја намалат можноста за такви напади.
