Google ни доближава до изкуствен интелект, който може да мисли като човек
Преди повече от седем години Гугъл направи пробив със своята архитектура за невронна мрежа Transformer, която към този момент зарежда генеративни AI приложения, в това число OpenAI - ChatGPT.
Сега, компанията разкри нова архитектура - Titans, която се явява като стъпка към изкуствен интелект, който може да мисли като човек.
Архитектурата Transformer няма дълготрайна памет, което лимитира способността ѝ да резервира и употребява информация за дълги интервали от време, макар че това е присъща характерност на човешкото мислене. За разлика от нея, Titans включва невронна дълготрайна памет, краткосрочна памет и система за образование на учредена на „ изненада ” – хората употребяват всичко това, с цел да запомнят непредвидени или доста значими събития.
Transformer има нещо като „ прожектор ” – механизъм, който разрешава на AI да акцентира най-важните думи в изречение и фрагменти от набор от данни във всеки един миг, отбелязва Forbes.
„ Прожекторът ” също участва в Titans, само че работи дружно с голяма библиотека – модул за дълготрайна памет, който е виновен за съхраняването на значима информация. Този механизъм е сходен на държанието на студент, който може да се върне към бележките, направени при започване на семестъра, вместо да се пробва да запомни всичко едновременно, написа technews.bg.
Фокусирането върху съответните детайлности и опцията за достъп до съхраненото познание разрешава на Titans да обработва голямо количество информация, без да пропуща значими елементи. С образован „ индикатор за изненада ”, който оказва помощ за приоритизиране на основни елементи от данни, Titans превъзхожда съществуващите AI модели при разнообразни задания, в това число езиково моделиране, прогнозиране и моделиране на ДНК. Така новата архитектура приближава AI до механизмите на човешкото знание.
Способността на новия AI да резервира богат подтекст ще му помогне да революционизира проучванията, като следене на научна литература или разкриване на аномалии в големи набори от данни, в медицината или финансите, тъй като системата „ помни ” какво е обикновено и акцентира това, което е „ изненада ”.
Новата архитектура отчасти възпроизвежда човешките когнитивни процеси – в допълнение към краткосрочната и дълготрайната памет, това е способността да „ забравяте ” по-малко значима информация и по-точно да приоритизирате. По същия метод хората по-лесно запомнят събития, които нарушават техните упования – тази функционалност ще помогне за основаването на по-фини и подвластни от подтекста AI системи.
Съвременните системи, основани на архитектурата Transformer, могат да обработват поръчки с подтекст до 2 милиона токена, до момента в който Titans остава ефикасна над тази граница, поддържайки висока акуратност с големи размери входни данни.
Механизмът на „ изненадата ” разрешава на системата да дефинира коя информация би трябвало да бъде записана в дълготрайната памет, като дава приоритет на детайли, които нарушават упованията. Това освен отразява човешките когнитивни механизми, само че се явява ново решение за ръководство на лимитираните запаси на паметта в региона на AI.
Ранните проби на системи, основани на архитектурата Titans, демонстрират обещаващи резултати в редица задания, като добиване на избрана информация от големи текстове. С увеличение на дължината на подтекста, съществуващите модели демонстрират внезапен спад в точността, до момента в който новата архитектура поддържа положително показване.
Технологията на Titans към момента е в начален стадий и не са изключени проблеми при внедряването ѝ в на практика приложения. Твърде рано е да се преценят систематичните условия за изчислителни логаритми, успеваемостта на образованието и вероятните закани – всичко това ще стане по-ясно с развиването на технологията.
Освен това, способността на изкуствения разсъдък да съхранява и прави оценка информация може да повдигне въпроси по отношение на поверителността, механизмите за обработка на данни и непредсказуемото държание на AI системите.
