Генеративті нейрожелілер күнделікті тәжірибеге қарқынды еніп жатқан әлемде біз оларды қолданудың күтпеген салдарына жиі тап болып жатырмыз. Тәуелсіз сарапшылар тобы жүргізген соңғы зерттеу маңызды мәселені анықтады: жасанды интеллект көмегімен жасалған немесе өңделген жануарлардың суреттері ғылыми дерекқорлардың тұтастығына орны толмас зиян келтіруі мүмкін.
Талдау көрсеткендей, суретті «жақсартудың» қарапайым операциясы — айқындықты арттыру немесе түсті түзету — биологиялық түрдің визуалды белгілерін түбегейлі өзгертуі мүмкін. Нәтижесінде бақылау дерекқорларында жоқ дарақтар, кейде тіпті олар ешқашан болмаған аймақтардағы тұтас популяциялар тіркеледі. Бұл түрлердің таралуы туралы жалған деректерді тудырады, бұл табиғатты қорғау бағдарламалары мен экологиялық зерттеулерге әсер етуі мүмкін.
Еріктілер жаппай фотосуреттерді жүктейтін азаматтық ғылым платформаларындағы жағдай ерекше алаңдаушылық тудырады. Зерттеу авторларының пікірінше, дәл осы ресурстар «цифрлық галлюцинацияларға» ең осал. Тиісті валидация мен тексерусіз, ЖИ алгоритмдерінен өткен кез келген сурет құжаттық дәлел ретінде қате қабылдануы мүмкін.
Қатаң хаттамалардың қажеттілігі
Сарапшылар ЖИ өңдеуден өткен контентті міндетті түрде белгілеу тетіктерін енгізуді талап етеді. Платформалар нақты ережелерді әзірлеуі керек: нейрожелілердің көмегімен тіпті ең аз түзетуге ұшыраған кез келген сурет тиісті түрде белгіленуі тиіс. Сонымен қатар, синтетикалық суреттерге тән ауытқуларды анықтау үшін автоматтандырылған тексеру жүйелерін енгізу қажет.
Менің пікірім: Бұл мәселе биология шеңберінен әлдеқайда асып түседі. Ол ЖИ дәуірінде визуалды ақпаратқа деген сенімнің іргелі дағдарысын көрсетеді. Егер біз қазір деректерді тексерудің қатаң стандарттарын енгізбесек, ғылыми қорытындыларды синтетикалық артефактілердің құмына салу қаупі бар. Деректерді валидациялау негізгі принцип болып табылатын криптография мен блокчейн нарығы бұған ерекше назар аударуы керек.