Anthropic: Развитието на AI трябва да се насочва от религиозни лидери и гражданското общество

Съоснователят на компанията за изкуствен интелект Anthropic заяви, че развитието на изкуствения интелект не може да бъде оставено само на технологичните компании и призова за по-голям контрол от религиозни лидери, правителства и гражданското общество, предава Ройтерс.

Крис Олах, който говори при представянето на първата енциклика на папа Лъв XIV, посветена на предизвикателствата, свързани с изкуствения интелект, заяви, че съществува „действителна възможност“ изкуственият интелект да измести човешкия труд „в много голям мащаб“.

„Ако това се случи, подкрепата за хората, които са загубили работата си, ще бъде морален императив от исторически мащаб“, каза канадецът, седейки до папата.

Той допълни, че компании като неговата са изправени пред силен търговски, геополитически и личен натиск, който може да противоречи на по-широките интереси на обществото.

„Всяка лаборатория за изкуствен интелект на предни позиции...работи в рамките на набор от стимули и ограничения, които понякога може да влязат в конфликт с това да се постъпва правилно“, заяви Олах и добави, че дори изследователи с добри намерения остават повлияни от тези сили.

Затова той счита, че външният контрол е от основно значение.

Събитието отбеляза необичайно сближаване между технологичния сектор и Католическата църква, която се стреми да се позиционира като гласа на морала относно последиците от бързото развитие на изкуствения интелект.

Единственият представител на големите технологични компании във Ватикана

Anthropic е базирана в САЩ компания, които произвежда инструментите за изкуствен интелект  Claude. Тя беше основана през 2021 г. от Олах и други бивши служители на OpenAI, компанията за разработване на изкуствен интелект, създадена от Сам Алтман и Илон Мъск, която стои зад ChatGPT.

Основателите на Anthropic напуснаха сегашния си конкурент поради опасения, че OpenAI се движи твърде бързо, без да е извършила цялостни изпитания.

Anthropic влезе в конфликт с администрацията на президента Доналд Тръмп, като настоя за ограничения, които да регламентират как моделите ѝ могат да се използват за военни цели, като например автономно насочване на оръжия или вътрешно наблюдение.

В отговор на въпрос на Ройтерс защо е единственият представител на големите технологични компании, поканен на събитието във Ватикана, Олах отбеляза дългогодишния си фокус върху безопасността на изкуствения интелект и ангажирането с религиозните общности.

„В крайна сметка решението кого да поканят е на Ватикана“, каза той и добави, че през цялата си кариера е работил за това да направи системите за изкуствен интелект по-безопасни и е общувал с представители на над 15 религии по въпроси, свързани с тази технология.

„Страховит момент“

По време на речта си Олах приветства ангажираността на църквата с бързо развиващите се технологии, като заяви, че етичните въпроси, повдигнати от изкуствения интелект, се простират далеч отвъд инженерните дейности.

Олах заяви, че общественото безпокойство относно изкуствения интелект, особено сред младите хора, е разбираемо предвид скоростта на развитието му.

„Смятам, че това е страховит момент. Нещата се развиват бързо. Това е много мощна технология“, коментира той пред Ройтерс.

„Има опасност нещата да се развият зле и наш общ дълг е да насочим развитието в добра посока“, изтъкна Олах.

Той открои три области, които според него изискват спешно внимание – риска от повсеместна загуба на работни места, необходимостта да се гарантира, че ползите от изкуствения интелект се разпространяват в целия свят и нерешения въпрос как да се тълкува все по-сложното и понякога неясно поведение на системата.

„Развитието на изкуствения интелект е съсредоточено в няколко богати държави. Как можем да гарантираме, че ползите от него ще се споделят в световен мащаб?“, запита Олах пред аудиторията във Ватикана.