Соңғы жарты жылда ресейлік компаниялар қызметкерлерінің үштен бірге жуығы нейрожелілерге логиндерін, құпиясөздерін және жұмыс қалталарының кілттерін жіберген. Сонымен қатар, ChatGPT тек сұраныстарды өңдеп қана қоймай, пайдаланушылардың дербес деректерін жинақтап, әрқайсысына цифрлық досье құрайтыны анықталуда. Бұл екі фактор бірге корпоративтік тәуекелдердің жаңа, бағаланбаған қырын құрайды.
Нейрожелілерге нақты не кетеді
Жұмыста ИИ қолданатын 1,3 мың ресейлік компания қызметкерінің, сондай-ақ қауіпсіздік, IT, HR және құқық салаларындағы 500-ге жуық басшы мен маманның анонимді сауалнамасы барысында көрнекі деректер алынды. Құпиясөздер мен рұқсаттар чат-боттарға түсетін құпия ақпараттың ең жиі санаты болып шықты — бірақ жалғыз санат емес. Жарты жыл ішінде нейрожелілерге жүктелген:
- коммерциялық ұсыныстар — сауалнамаға қатысқандардың 25%-ы;
- қаржылық есептеулер мен есептер — 22%;
- жұмыс хат-хабары — 21%;
- шарттар — 16%;
- клиенттік базалар, оның ішінде дербес деректері барлар — 12%.
Себептер басым көпшілік жағдайда қасақана ниетпен байланысты емес. Респонденттердің шамамен 20%-ы күнделікті тапсырманы тезірек орындауға тырысқан. Қалғандары нейрожеліден үлкен көлемдегі ақпаратты түсінуді, құжат дайындауды немесе өңдеуді сұраған. Сонымен қатар, әр бесінші адам ИИ-сервистерге қандай жұмыс деректерін беруге жалпы рұқсат етілетінін түсінбеген, ал кейбір қызметкерлер тіпті құпия нәрсе жүктеп жатқанын да сезінбеген.
Институционалдық олқылық
Негізгі мәселе — ресімделген ережелердің болмауы. Нейрожелілер күнделікті жұмыс процестерінің бөлігіне айналды, алайда қызметкерлерде чат-боттарға нені жіберуге болатынын және нені жіберуге болмайтынын айқындайтын түсінікті регламенттер жоқ. Компаниялар мұндай саясаттарды жазып қана қоймай, оларды қолдануға ыңғайлы етуі қажет — әйтпесе олар қағазда қалып қояды.
Нейрожеліге жіберілген құжат чат жабылғаннан кейін жоғалмайтыны ерекше назар аударуға тұрарлық. Сервис оны есте сақтай алады — және бұл енді гипотетикалық тәуекел емес.
ChatGPT және пайдаланушылардың цифрлық портреттері
Киберқылмысқа қарсы күрес жөніндегі бейіндік бөлімшелер тікелей ескертеді: ChatGPT онымен не туралы сөйлескенін есте сақтайды және біртіндеп адам туралы цифрлық досье жинайды. Пайдаланушылар ботпен жеке толғаныстарымен бөліседі, жұмыс құжаттарын жүктейді, ақша мен денсаулық туралы сұрайды — және бұл мәліметтердің бір бөлігі келесі сессияларда әңгімелесушіні «тану» үшін модель жадында сақталады.
Академиялық зерттеулер құбылыстың ауқымын тіркейді: жадыдағы жазбалардың шамамен 95%-ы адамның айқын рұқсатынсыз қалыптасады, ал аккаунттардың 91%-ының жадында дербес деректерге қатысты мәліметтер сақталады. Жинақталған массивтен цифрлық портреттер құрылады.
Мамандар екі қауіпті атап өтеді. Біріншісі — жинақталған деректер бойынша адамды, тіпті ол бүркеншік атпен сөйлессе де, деанонимдеуге болады. Екіншісі — нейрожелі жадын сырттан басқаруға болады: пайдаланушының өзі ботқа өңдеуге жіберетін құжатқа жалған нұсқаулықтарды енгізу жеткілікті.
Қорғаныстың базалық шаралары
- ИИ-сервистердегі жады мен жекелендіру параметрлерін тексеру;
- чатқа жұмыс құжаттарын және өзге де жабық ақпаратты жүктемеу;
- сұраныстардан нақты есімдерді, мекенжайларды және өзге де сәйкестендіретін мәліметтерді алып тастау;
- жеке мәселелерді тек уақытша чаттарда талқылау;
- нейрожелінің нені есте сақтағанын жүйелі түрде тексеру.
Ашық нейрожеліге жіберілген есептеулер, шарттар мен клиенттік базаларды енді ішкі құжаттар деп санауға болмайды. Олардың бұдан кейінгі тағдыры пайдаланушылардың аз бөлігі ғана қарайтын сервис параметрлеріне байланысты.
Cryptalist талдауы: Бұл кейс генеративті ИИ-ді енгізу жылдамдығы мен корпоративтік қауіпсіздік саясаттарының жетілуі арасындағы жүйелік алшақтықты көрсетеді — деректердің таралуы бұзу арқылы емес, құралдарды адал пайдалану арқылы жүреді. Нарық үшін бұл DLP класындағы шешімдерге және жеке корпоративтік ИИ-контурларға сұраныстың өсіп келе жатқанының, сондай-ақ чат-боттардағы дербес деректерді өңдеуге қойылатын реттеушілік талаптардың қатаңдау ықтималдығының сигналы. Нейрожелілермен жұмыс ережелерін ресімдеуді кейінге қалдырып отырған компаниялар мұны беделдік және құқықтық шығындар туралы тікелей ескерту ретінде қарастырғаны жөн.