Ne pelno siekiančio AI tyrimų instituto epochos AI analizė rodo, kad PG pramonė gali daug ilgiau nepavykti išvengti didžiulio našumo padidėjimo iš samprotavimų. Remiantis ataskaitos išvadomis, kai tik per metus progresas iš samprotavimo modelių galėtų sulėtinti.

Tokie samprotavimo modeliai, kaip „Openai“ O3, pastaraisiais mėnesiais padarė didelę naudą AI etalonams, ypač etalonams, vertinantiems matematikos ir programavimo įgūdžius. Modeliai gali pritaikyti daugiau skaičiavimo problemoms, o tai gali pagerinti jų našumą, nes neigiama pusė yra ta, kad užduotims atlikti reikia ilgiau nei įprastų modelių.

Priežiūros modeliai yra kuriami pirmiausia mokant įprastą didžiulį duomenų kiekį, tada taikant techniką, vadinamą armatūros mokymu, kuris iš tikrųjų suteikia modelį „atsiliepimą“ apie savo sprendimus sunkioms problemoms.

Iki šiol „Frontier AI“ laboratorijos, tokios kaip „Openai“, „Epochas“ duomenimis, netaikė didžiulės skaičiavimo galios į argumentų mokymosi modelio mokymo etapą.

Tai keičiasi. „Openai“ teigė, kad ji pritaikė maždaug 10 kartų daugiau skaičiavimo, kad išmokytų O3, nei jo pirmtakas O1, ir epochas spėlioja, kad didžioji šio skaičiavimo dalis buvo skirta mokymosi sustiprinimui. O „Openai“ tyrėjas Danas Robertsas neseniai atskleidė, kad būsimiems bendrovės planams reikalaujama prioritetų sustiprinimo mokymosi, kad būtų galima naudoti kur kas daugiau skaičiavimo galios, net daugiau nei pradiniam modelio mokymui.

Tačiau vis dar yra viršutinė riba, kiek skaičiavimo galima pritaikyti sustiprinant mokymąsi vienai epochai.

Joshas You, „Epoch“ analitikas ir analizės autorius, paaiškina, kad „Standard AI“ modelio mokymo rezultatų padidėjimas šiuo metu kasmet yra keturis kartus, o pastiprinimo mokymosi rezultatų padidėjimas kas 3–5 mėnesius auga dešimt kartų. Jis tęsia samprotavimo mokymo progresą „greičiausiai suartins su bendra siena iki 2026 m.“.

„Epoch“ analizė daro daugybę prielaidų ir iš dalies remiasi AI bendrovės vadovų viešais komentarais. Tačiau taip pat leidžiama, kad samprotavimo modelių mastelio keitimas gali pasirodyti sudėtingas dėl priežasčių, išskyrus skaičiavimą, įskaitant dideles tyrimų išlaidas.

„Jei tyrimams reikalingos nuolatinės pridėtinės išlaidos, samprotavimo modeliai gali būti ne taip, kiek tikėtasi“, – rašo jums. „Greitas skaičiavimo mastelio keitimas gali būti labai svarbus samprotavimo modelio progreso ingredientas, todėl verta tai atidžiai sekti“.

Bet kokie požymiai, kad artėjantys modeliai artimiausiu metu gali pasiekti tam tikrą ribą, greičiausiai nerimins AI pramonę, kuri investavo milžiniškus išteklius, kuriančius tokio tipo modelius. Jau dabar tyrimai parodė, kad samprotavimo modeliai, kuriuos gali būti neįtikėtinai brangu, turi rimtų trūkumų, pavyzdžiui, polinkį haliucinuoti labiau nei kai kurie įprasti modeliai.