OpenAI директорлар кеңесінің мүшесі және Alignment Research Center жетекшісі Пол Кристиано алдын ала оқыту және күшейту арқылы оқыту алгоритмдерін жетілдіруді уақытша тоқтату бастамасын көтерді. Бұл мәлімдеме озық ЖИ-модельдерімен жұмыс істейтін зерттеу зертханаларының қорғаныс деңгейіне қатысты алаңдаушылықтың өсуі аясында айтылды.
Кристианоның бағалауы бойынша, ЖИ-зертханаларының жеткіліксіз киберқауіпсіздігі серпінді әзірлемелердің ұрлануына нақты қауіп төндіреді. Мұндай ақпараттың ықтимал пайда көрушілерінің қатарында ол Қытайды атады, бұл ЖИ-технологиялар жарысының геосаяси өлшемін айқындайды. Сарапшы инфрақұрылымды қорғау күшейтіліп, ЖИ-жүйелерін бақылау тетіктерінің сенімділігіне тәуелсіз тексеру жүргізілгеннен кейін ғана жұмыстарды қайта бастауды ұсынады.
Жеке ұстаным, кеңес консенсусі емес
Кристиано өзінің жеке көзқарасын білдіріп отырғанын, OpenAI директорлар кеңесінің ресми ұстанымы емес екенін ерекше атап өтті. Бұл нақтылау принципті түрде маңызды: ол саланың жетекші зертханаларында да ЖИ даму қарқыны туралы ішкі пікірталастардың бар екенін көрсетеді.
Мәлімдеме технологиялық көшбасшылыққа ұмтылу мен қауіпсіздікті қамтамасыз ету қажеттілігі арасындағы іргелі қайшылықты көрсетеді. Озық модельдер стратегиялық активтерге айналған жағдайда, зияткерлік меншікті қорғау және ЖИ-жүйелерін бақылау мәселелері бүкіл индустрия үшін бірінші орынға шығады.
Cryptalist талдауы: Кристианоның бастамасы ЖИ қауіпсіздігі төңірегіндегі пікірталастың жетілгенін білдіреді — нарық абстрактілі ескертулерден әзірлеу қарқынын реттеуге қатысты нақты ұсыныстарға көшуде. Инвесторлар үшін бұл флагмандық модельдердің шығарылуының ықтимал баяулауының және реттеушілік қысымның күшеюінің индикаторы, бұл сектор компанияларының бағалауына әсер етуі мүмкін. Нарық OpenAI мен бәсекелестерінің осындай бастамаларға реакциясын мұқият бақылайтын болады.