ЖИ-фото ғылыми дерекқорларға қауіп төндіреді: сарапшылар дабыл қағуда
Генеративті нейрожелілер мен жасанды интеллект негізіндегі суреттерді өңдеу құралдары ғылыми зерттеулер үшін жаңа, әлі бағаланбаған қауіп тудырады. Мониторинг көрсеткендей, ЖИ арқылы жасалған немесе өзгертілген жануарлардың фотосуреттері бақылау дерекқорларын елеулі түрде бұрмалап, ғалымдар мен экологтарды жаңылыстыруы мүмкін.
Мәселе ұсақ-түйекте жатыр. Тіпті сурет сапасын стандартты жақсарту — айқындықты арттыру, түсті түзету немесе шуды жою — кілттік түр белгілерін байқаусызда өзгертуі мүмкін. Нәтижесінде суретте жоқ түс ерекшеліктері, дене пішіні немесе анатомия пайда болады. Бұл қазірдің өзінде жалған тіркеулерге әкеліп жатыр: жүйе түрді ешқашан мекендемеген аймақта «таниды» немесе, керісінше, нақты жануарды «жоғалтады».
Әсіресе еріктілер жаппай суреттерді жүктейтін азаматтық ғылым платформалары осал. Деректердің үлкен көлемі әр файлды қолмен тексеруді іс жүзінде мүмкін емес етеді. Ал «таза» суреттерге үйретілген алгоритмдер әзірге нақты суретті ЖИ-артефактісінен сенімді түрде ажырата алмайды.
Шұғыл шаралар қажет. Бүгінгі басты талап — ЖИ өңдеуден өткен барлық материалдарға міндетті таңбалауды енгізу. Платформалар мұндай суреттерді «потенциалды түрде өзгертілген» деп белгілеп, мінсіз жағдайда қосымша тексеру циклін іске қосуы керек. Онсыз біз қате экологиялық модельдер құрылып, дұрыс емес табиғат қорғау шешімдері қабылданатын «қоқыс» деректер жиынын алу қаупіне ұшыраймыз.
Аналитик ретіндегі менің пікірім: ЖИ-фото жағдайы — прогресті жеделдетуге арналған технологияның жүйелік қателер көзіне айналуының жарқын мысалы. Криптоиндустрия деректерді тексеру және Sybil-шабуылдар контекстінде ұқсас мәселеге тап болған. Барлығымызға сабақ: кез келген абстракция, желілік немесе визуалды болсын, түпнұсқалықты дәлелдеудің кіріктірілген механизмдерін қажет етеді. Деректердің шығу тегін криптографиялық тексерусіз біз ғылыми бақылаудың негіздеріне деген сенімді жоғалту қаупіне ұшыраймыз.