Цифрлық дәуір криптография мен орталықсыздандырылған жүйелердегі серпілістермен қатар іргелі ғылым үшін жаңа тәуекелдерді де әкелді. Соңғы зерттеулер жасанды интеллектпен жасалған немесе өзгертілген жануарлар бейнелері биологиялық бақылау дерекқорларындағы деректерді елеулі түрде бұрмалауға қабілетті екенін көрсетеді. Бұл «азаматтық ғылыммен» — еріктілер визуалды дәлелдемелерді жинап, жүктейтін платформалармен жұмыс істейтіндердің барлығы үшін алаңдатарлық сигнал.
Жақсарту маскасы астындағы шындықтың бұрмалануы
Мәселе ашық фейктермен шектелмейді. Тіпті суреттерді жақсартудың стандартты алгоритмдері — айқындықты арттыру, түсті түзету немесе шуды азайту — түрдің негізгі морфологиялық белгілерін өзгертуі мүмкін. Мысалы, тұмсықтың пішіні, қанаттардағы өрнек немесе жүннің түсі ЖИ өңдеуден кейін басқа жануарға сәйкес келе бастайды. Бұл жалған тіркеулерді тудырады: жүйе ешқашан мекендемеген аймақта сирек кездесетін түрді «көруі» мүмкін. Ғылым үшін мұндай қателіктер көші-қон, популяция динамикасы және экология туралы қате қорытындыларға әкеледі.
Орталықсыздандырылған жүйелер мен блокчейн үшін тәуекелдер
Бұл жағдай криптоқауымдастыққа таныс мәселелермен тікелей үндеседі. Азаматтық ғылым платформалары, орталықсыздандырылған тізілімдер сияқты, кіріс деректерінің дұрыстығына сүйенеді. Егер ақпарат жинау кезеңінде тексеру механизмдері болмаса, нәтижесінде біз «қоқыс» — талдау үшін пайдалану мүмкін емес сапасыз жазбаларды аламыз. Негізінде, бұл DeFi-дегі оракулдарға шабуылдың аналогы: кірістегі деректерді алмастыру бүкіл жүйе үшін апатты салдарға әкеледі.
Зерттеушілер не ұсынады?
Жұмыс авторлары ЖИ өңдеуден өткен барлық суреттер үшін міндетті таңбалауды енгізуді талап етеді. Сондай-ақ тексеру жүйесі қажет: жүктелген суреттер дерекқорға түспес бұрын ауытқуларды анықтау сүзгілерінен өтуі керек. Идеалды жағдайда — әр пайдаланушы файлдың тарихын қадағалай алуы үшін түпнұсқа метадеректер мен өзгерістер тізбегін бекіту үшін блокчейнді пайдалану.
Менің аналитик ретіндегі көзқарасым: Біз деректерді жинау жылдамдығы мен олардың сапасы арасындағы классикалық қақтығысты байқап отырмыз. Криптовалюталарда бұл консенсус механизмдері мен Proof-of-Stake арқылы шешіледі. Ғылыми платформалар бұл тәжірибені қабылдауы керек: суреттерді растау үшін орталықсыздандырылған дауыс беруді енгізу немесе түпнұсқалықты растау үшін криптографиялық хэштерді пайдалану. Әйтпесе, біз ауқымды, бірақ мүлдем сенімсіз білім базасын құру қаупіне ұшыраймыз.