Қазіргі заманғы суреттерді генерациялау және модификациялау алгоритмдері, оның ішінде нейрожелілер негізінде жұмыс істейтіндері, ғылыми дерекқорларға, әсіресе биология және экология саласында, елеулі қауіп төндіреді. Зерттеу тобы жануарлардың суреттерін қарапайым жақсартудың өзі — жарықтандыруды немесе контрасты түзету — түстің реңкі немесе қанаттардың пішіні сияқты түрдің негізгі белгілерін өзгерте алатынын анықтады. Бұл жануардың ешқашан мекендемеген аймақта қате анықталуына және тіркелуіне әкелуі мүмкін.
Ерекше қауіпті азаматтық ғылым платформалары, онда еріктілер суреттерді жүктеп, жіктейді. Қатаң тексерусіз мұндай платформалар бұрмаланған деректермен толып кету қаупіне ұшырайды, бұл ғылыми қорытындыларға деген сенімді әлсіретеді. Авторлар AI өңдеген суреттерді міндетті түрде таңбалауды, сондай-ақ верификация механизмдерін күшейтуді — мысалы, әр суреттің өзгерістер тізбегін бекіту үшін блокчейн шешімдерін қолдануды ұсынады.
Бұл криптовалюталардағы жағдайды еске түсіреді, онда жалған транзакциялар немесе жалған әмияндар бүкіл желіге деген сенімді жоюы мүмкін. Ғылыми дерекқорлар — бұл «ақиқат тізілімінің» бір түрі және оларды цифрлық манипуляциялардан қорғау блокчейннің қауіпсіздігінен кем емес мұқияттылықты талап етеді. Қауымдастық тексеру стандарттарын әзірлемейінше, әрбір жүктелген сурет экологиялық зерттеулер үшін баяу әрекет ететін бомбаға айналуы мүмкін.
Сарапшылық пікір: Аналитик ретінде мен бұл мәселе мен криптоиндустриядағы тәуекелдер арасындағы ұқсастықтарды көремін: екеуінде де қатенің бағасы жоғары. Суреттерге криптографиялық метадеректерді енгізу шешім бола алар еді, бірақ әзірге ғылыми қауымдастық қауіптің ауқымын жаңа ғана түсініп жатыр. Азаматтық ғылым платформаларына AI бұрмалауларын анықтау үшін өз дерекқорларына дереу аудит жүргізуді ұсынамын.