Nvidia корпорациясы автономды ИИ-агенттердің үлкен тілдік модельдерді қосымша оқыту процесін түбегейлі жылдамдата алатынын көрсететін техникалық эксперимент жүргізді. Мәселе жол көріністерін талдауға арналған Cosmos 3 Nano моделіне қатысты. Нәтижелер таңқаларлық: төрт нұсқалы тесттегі жауаптардың дәлдігі 54,41%-дан 93,35%-ға көтерілді — мұның бәрі 24 сағаттан аз уақыт ішінде.
Негізгі орындаушы Nvidia-ның TAO құралдар жиынтығы аясында әрекет еткен Codex ИИ-агенті болды. Агент жай ғана скрипттерді іске қоспай, өз бетінше шешімдер қабылдады: мамандандырылған Cosmos-reason нұсқаулығын таңдады, Woven by Toyota компаниясының Woven Traffic Safety деректер жинағының аннотацияларын тексерді, кадр жиілігінің жоқ параметрін анықтады, конфигурацияны түзетіп, оқыту контейнерін іске қосты.
Бастапқы кезеңде бейімделмеген базалық модель дұрыс жауаптардың тек 54,41%-ын көрсетті. Codex төмен рангті бейімдеу (LoRA) әдісін қолданды. Толық қосымша оқытудан айырмашылығы, LoRA модельдің барлық параметрлеріне әсер етпей, тек шағын қосымша адаптерлерді оқытады. Nvidia есептеулері бойынша, мұндай тәсіл толық оқыту цикліне қарағанда шамамен жеті есе аз GPU-сағатты қажет етті.
Сегіз NVIDIA A100 үдеткішінде 80 ГБ жадымен LoRA-ның бірінші іске қосылуы шамамен 30 минутқа созылып, дәлдікті 87,14%-ға дейін көтерді. Содан кейін әзірлеушілер гиперпараметрлерді: оқыту жылдамдығын, пакет өлшемін және LoRA параметрлерін таңдау үшін TAO AutoML іске қосуға бұйрық берді. Жүйе байес оңтайландыруымен 43 параллель сынақ жүргізді. Ең жақсы нәтиже 93,35% құрады, ал бұл кезең Oracle Cloud Infrastructure-тегі бірнеше A100 түйінінде 19,5 сағатқа созылды.
Атап өту маңызды, бұл экспериментте Codex толығымен автономды болмады — ол алдын ала дайындалған нұсқаулықтар бойынша әрекет етті. Дегенмен, ол өз бетінше жұмыс процесін таңдады, деректерді тексерді, конфигурацияны түзетті және метрикаларды салыстырды. Бұл күрделі ML-пайплайндарды автоматтандыруға байланысты маңызды қадам.
Маңызды ескерту жасау керек: 93,35% көрсеткіші бір зерттеу деректер жинағының тексеру бөлігіндегі дәлдікті көрсетеді. Ол автономды жүргізу қауіпсіздігін өлшемейді және модельдің нақты уақыт режимінде шешім қабылдау қабілетін растамайды. Дегенмен, ИИ-агенттің модельді нақты тапсырмаға соншалықты жылдам және тиімді бейімдей алғанының өзі жасанды интеллект саласындағы ғылыми-зерттеу жұмыстарын жеделдету үшін жаңа көкжиектер ашады.
Сарапшының пікірі: Бұл эксперимент — ИИ-агенттердің ИИ-ді әзірлеу процесінің өзін қалай өзгерте алатынының айқын көрінісі. Егер бұрын модельді нақты деректер жинағына қосымша оқыту инженерлердің бірнеше күндік қол еңбегін қажет етсе, енді бұл тапсырманы автономды агентке тапсыруға болады. Ұзақ мерзімді перспективада бұл үлкен модельдерді дәл баптауға қолжетімділіктің арзандауына және демократиялануына әкеледі, бұл әсіресе жол қозғалысы қауіпсіздігі немесе медициналық диагностика сияқты тар салалы және талапшыл бағыттар үшін өте маңызды.