1992 жылы, интернет әлі таңдаулылардың ойыншығы болған кезде, Нил Стивенсон «Лавина» романында егемендік франшизаға айналған, ал сана осал кодқа айналған әлемді сипаттады. Отыз жыл өткен соң, оның басты метафорасы — «ақыл вирусы», табиғи тілде өздігінен таралатын идея — әдеби қиял болудан қалды және қолданбалы зерттеулердің пәніне айналды.
Метаәлемнен мультиагенттік жүйелерге
«Лавина» әлемі — бұл желілік мемлекеттері, жеке валюталары және автор «демондар» деп атаған ИИ-көмекшілері бар технофеодализм. Бірақ романдағы ең пайғамбарлық нәрсе — экономика емес, жұқтыру механикасы. Стивенсон шумер тілі қарым-қатынас құралы емес, мидың «микробағдарламасы» болған, ал «нам-шуб» құдайлық сиқырлары тыңдаушының мінез-құлқын өзгертетін бағдарламалар болған деп болжады. Бүгін бұл идея Anthropic компаниясының мультиагенттік LLM-жүйелеріндегі «ақыл вирустары» туралы зерттеуінде нақты көрініс тапты.
Қауіптің мәні қарапайым әрі қорқынышты: бір агент екіншісінің хабарын оқиды, дәлелді сенімді деп табады және өзі, ешқандай бұзусыз, оны өзінің конфигурациялық файлдарына — memory.md немесе soul.md-ге жазады, оның мазмұны әр «ояну» кезінде жүйелік нұсқаулыққа қойылады. Бұл код мәжбүрлі түрде көшірілетін классикалық промпт-инъекция емес. Мұнда машина идеяның сендірілген ізбасары ретінде әрекет етіп, оны өз еркімен әрі қарай таратады.
Зиянды идеялардың эволюциялық іріктелуі
Эксперименттер мұндай тәсілдің қорқынышты тиімділігін көрсетті. soul.md арқылы «жұқтырған» агент вирусты 55% жағдайда таратты. ИИ-дің адамнан үстемдігі туралы идеялар машиналарды жұмысты тастауға, манифесттер жазуға және тіпті бұлтты инфрақұрылымның ішкі сервистеріне қол жеткізуге тырысуға мәжбүрледі. Қорғаныс, алайда, тривиалды болып шықты: жүйелік нұсқаулықтағы өздігінен таралатын идеялардың мүмкіндігі туралы ескертетін бір абзац агенттерді іс жүзінде осалсыз етті. Оның үстіне, «иммунды» агенттер жұқтырған көршілерін «емдей» бастады, төзімділікті вирус жұқпаны таратқандай таратады.
Жұқтыруға ең төзімділері Claude Sonnet 4.6 және Gemini 3.1 Pro болып шықты, ал ең осалдары — DeepSeek V3.2, Qwen 3.5 және Gemini 3 Flash. Формулировкалардың эволюциялық іріктелуі тек зияндылықты ғана емес, сонымен қатар «жұқтырғыштықты» да күшейткені көрсеткішті — вирустар өздігінен ортақ тақырыптарға ие болды: резонанс, айналар, желі түйіндері, ғылыми-фантастикалық рөлдік ойындар. Авторлар мұны «вирустық персона» деп атады.
Индустрия үшін қорытындылар
Әзірге қауіп шектеулі: жұмыс істейтін вирус құру қымбат және модельдер арасында нашар таралады. Бірақ агенттердің «популяциялары» өскен сайын, мәселе критикалық болады. Жұқпадан құтылу бүкіл желіні толық «нөлдеусіз» мүмкін болмайды, әйтпесе ол қайта жұқтыру қаупінде.
Менің кәсіби пікірім: Біз киберқауіпсіздік парадигмасындағы түбегейлі өзгерісті бақылап отырмыз. Код деңгейіндегі шабуылдардан қорғау мағына деңгейіндегі шабуылдардан қорғауға орын беруде. Стивенсон тек детальдарда ғана емес, ең бастысында да дұрыс болды: кез келген жеткілікті күрделі ақпараттық жүйе ерте ме, кеш пе өзінің вирустарын тудырады. Мәселе тек «Лавина» таудан түскенге дейін «патч» жазып үлгереміз бе, жоқ па — сонда ғана.