Най-новият "пробив" на OpenAI се оказа отрезвяващ провал

Пътят на OpenAI към създаването на суперинтелигентни машини изглежда все по-неясен, пише Парми Олсън в коментар за Bloomberg.

Поредният знак за това дойде от неудобна грешка, допусната от водещите учени на компанията през уикенда. „GPT-5 току-що намери решения на 10 (!) нерешени досега задачи на Ердос“, написа с възхищение вицепрезидентът по наука на компанията Кевин Уейл в публикация в социалната мрежа X. След това написаното беше изтрито.

Оказа се, че това не е вярно. Най-новият модел на компанията просто беше събрал отговори от интернет и ги беше преповторил като свои.

Много от известните, нерешени проблеми на математика Пол Ердос са изброени в конкретен уебсайт, а изследователите на OpenAI предполагат, че никой не е намерил отговорите на тези, които са изброени като „отворени“.

Но математикът Томас Блум, който е администратор на уебсайта, отговори в X, че просто не ги е актуализирал в платформата. GPT-5 не е решил проблемите, използвайки някакви принципи. Той просто е взел отговорите от вече публикувани научни статии, за които Блум не е знаел. „Това е драматично изопачаване“, написа Блум в платформата X. Уейл и други изследователи изтриха своите публикации.

Конкурентни лаборатории за изкуствен интелект се възползваха от възможността да подразнят OpenAI за грешката. „Това е срамно“, написа в X главният изпълнителен директор на Google DeepMind Демис Хасабис. И с право. OpenAI отдавна предполага, че големите езикови модели, на които се основава ChatGPT, които събират огромно количество данни и ги синтезират в умни отговори, предлагат реален път към изкуствения общ интелект (AGI). Това е теоретичен праг, при който машините стават по-умни от хората.

Амбицията за AGI допринесе за изключително високите оценки на фирми като OpenAI (500 млрд. долара) или Nvidia, която имаше 4,5 трлн. долара пазарна капитализация към понеделник сутринта, спрямо 2,5 трлн. долара по това време миналата година, защото предполага бъдеще, в което машините ще могат да разсъждават и да откриват отговорите на трудни проблеми в бизнеса и обществото. Но грешката с Ердос е грубо напомняне, че големите езикови модели, които стоят в основата на бума на генеративния изкуствен интелект, най-вече се преструват, че са добри в разсъжденията.

Разбира се, това, което правят, е полезно както за потребителите, така и за бизнеса. ChatGPT се използва от около 10% от населението на света, а генеративните системи за изкуствен интелект започват да променят начина, по който много фирми провеждат проучвания, обслужват клиенти, организират маркетингови кампании и други. За мнозина той се е превърнал в почти пълен заместител на Google. Но идеята, че технологията на чатботовете ще реши трудни проблеми във веригите на доставките, управлението на работната сила или дизайна на продукти, все още изглежда като далечна мечта, не на последно място, защото продължава да допуска грешки.

Оценките на технологичните компании се покачват благодарение на преувеличенията, които видяхме през изминалия уикенд, когато водещите учени на OpenAI се втурнаха да обявяват, без да проверяват фактите. Историята показва, че прекалените обещания имат тенденцията да забавят напредъка, а миналите „зими“ на изкуствения интелект бяха предизвикани от преувеличени очаквания, а не от неуспехи. Съществените пробиви в областта на разсъжденията вероятно ще изискват подходи към машинното обучение, които не са толкова модерни като генеративния изкуствен интелект, като например невросимволичния изкуствен интелект.

Истинското разсъждение, което разширява границите на научното знание, не трябва да се бърка, особено от страна на самите изследователи от компанията, със способността на ChatGPT да „ремиксира“ световното знание. Но не очаквайте това да спре Силициевата долина да ни казва, че суперинтелектът е точно зад ъгъла, или че бумът на изкуствения интелект ще продължи да се основава колкото на истински пробиви, толкова и на вяра.