Компания, наречена Goodfire, си е поставила за цел да разбере

Компания, наречена Goodfire, си е сложила за цел да разбере по какъв начин мислят AI моделите и да ги насочи към по-добри и по-безопасни отговори. Някои от огромните играчи в промишлеността, като Anthropic и Menlo Venture, са вложили над 50 милиона щатски $ в обещаващия стартъп, написа Fast Company.

Дори когато AI става все по-тясно обвързван с бизнес системите и персоналния живот, откривателите към момента нямат ясно схващане за това по какъв начин тъкмо моделите на AI генерират своите резултати. Досега главният способ за възстановяване на държанието на AI се концентрира върху оформянето на данни за образование и рационализиране на методите за подсещане, вместо да се занимава с вътрешните " мисловни " процеси на моделите . Goodfire обаче желае да насочи напъните си тъкмо натам.

Сред съоснователите на компанията са хора като Том Макграт , който оказа помощ за основаването на екипа за интерпретация в DeepMind, Лий Шарки , пионер в потреблението на редки автокодери в езиковите модели и Ник Камарата , стартирал екипа за интерпретация в OpenAI дружно с Крис Ола . Тези откриватели могат да се похвалят с някои от най-големите открития в региона на изкуствения разсъдък.