Шефът на Nvidia: Бих прекъснал доставките към компании, разработващи опасни AI системи

Главният изпълнителен директор на Nvidia Дженсън Хуанг заяви, че би спрял доставките на чипове към клиент, който разработва опасен софтуер с изкуствен интелект, въпреки че според него настоящото ниво на загриженост относно технологията е неоправдано, съобщава Bloomberg.

„Това е хипотетичен случай, но да“, отговори той в интервю за Bloomberg в Лондон, когато бе попитан дали би спрял доставките към безотговорен разработчик. „Но преди да го направиш, трябва да проведеш разговор. Ние не управляваме чужди компании и има граници на преценката, която прилагаме по отношение на използването на нашата технология от други компании. Нашата технология е с общо предназначение.“

Nvidia е доминиращият доставчик на ускорители за изкуствен интелект – чиповете, използвани за обучение и работа на AI модели. Това я поставя в центъра на дебата дали софтуерът рискува да стане прекалено мощен и да излезе извън човешки контрол. Ръководители в областта на изкуствения интелект, като главният изпълнителен директор на Anthropic Дарио Амодей, предложиха забавяне на темпа в цялата индустрия, за да се отговори на тези опасения.

Хуанг, който е на обиколка из Европа преди корпоративно събитие в Берлин, заяви, че опасенията относно безопасността на изкуствения интелект са част от „растящите болки“ на една бързо раширяваща се индустрия. Ръководителят изрази убеждението си, че софтуерът може да бъде контролиран и внедряван безопасно.

Като част от ангажимента си за осигуряване на безопасността на изкуствения интелект, Nvidia ще дари 250 млн. долара в рамките на пет години за изследвания по този въпрос във Великобритания. Подкрепата ще бъде под формата на достъп до изчислително време на съвременни компютри. Различни академични институции в страната, включително Оксфордският университет и University College London, ще проучват предпазни мерки и начини за контрол на агентите на изкуствения интелект.

„Много от младите компании преминават през трудности, свързани с растежа, и се разрастват невероятно бързо“, каза Хуанг в интервюто. „Съществува отчетност и отговорност, които съпътстват изграждането на компании, в които те тепърва се развиват.“

Част от съществуващите опасения са „самоналожени“, каза той, а индустрията като цяло се справя „ужасно“ с обясняването на ползите от новата технология.

Самият AI може да се използва за защита и за ограничаване на технологията, добави Хуанг.

„Трябва да ускорим интегрирането на тази технология за ограничаване в AI системите“, каза той. „Трябва да ускорим разработването на технологии за мониторинг, а AI е този мониторинг. Затова трябва да ускорим развитието на AI технологията.“

В деня, в който акциите на Nvidia и другите производители на чипове водеха спада на американските борси, Хуанг повтори убеждението си, че страховете от AI балон са преувеличени. Търсенето на AI инфраструктура ще продължи да надвишава предлагането на компоненти в следващите години, каза той.

„В крайна сметка търсенето и предлагането ще се хармонизират“, каза той по време на събитие в Лондон, „но не днес.“