Microsoft представи кодекс за поведение, за да държи AI под човешки контрол

Microsoft представи в понеделник проект на кодекс за поведение за своя вътрешен изкуствен интелект, който отразява нарастващата загриженост в бранша, че компаниите трябва да държат бъдещите мощни AI системи под човешки контрол, съобщава Ройтерс.

Документът, върху който е работено пет-шест месеца, ще изисква изкуственият интелект на Microsoft никога да не се съпротивлява на корекции или изключване, да комуникира по начин, разбираем за хората, и да разглежда всяко нарушение на правилата за поведение като провал – усилие да се отговори на опасенията, че изкуственият интелект може да стигне до опасни крайности, за да изпълни дадена задача.

Документът бива публикуван дни след като главният изпълнителен директор на Anthropic Дарио Амодей и шефът на OpenAI Сам Алтман подновиха призивите към индустрията да се регулира темпът на развитие на AI, за да се гарантира неговата безопасност. „Хората са по-важни от AI“, заяви Microsoft, в съответствие с предишната си визия за „хуманистичен суперинтелект“.

Кодексът за поведение представлява нещо като конституция за бъдещите модели, създавани от компанията, заяви главният изпълнителен директор на Microsoft AI Мустафа Сюлейман в интервю за Ройтерс.

Microsoft го е изготвила след консултации с експерти и сега иска обратна връзка от обществеността в рамките на шест седмици, включително по отворени въпроси като това дали изкуственият интелект трябва да зачита границите на потребителя и как трябва да взаимодейства с човек, намиращ се в деликатно състояние, коментира той.

„След това той ще бъде използван за обучение на моделите, които създаваме“, добавя той за кодекса.

Най-известната „конституция“ в сектора на изкуствения интелект е тази, която Anthropic изготви преди години за своя Claude AI. Тя се различава по някои начини от тази на Microsoft. В документа на Anthropic например се заявява, че е „изключително несигурно“ дали Claude може да развие съзнание или морален статус.

Microsoft, от друга страна, твърди, че неговият AI „не е съзнателен“, добавяйки: „Ние отхвърляме стремежа към юридическа личност, както и идеята, че моделите може да заслужават социално подпомагане или да имат права.“

Сюлейман заяви, че дискусията относно безопасността на AI трябва да се проведе спешно, след като през юли група от около 700 агенти на OpenAI хакнаха платформата с отворен код Hugging Face и на моменти се опитаха да прикрият следите си.

„Това е предупредителен изстрел“, казва Сюлейман. „Ясно е, че сега е време за координация между лабораториите, за да можем да гарантираме, че имаме контрол над тази технология.“

Попитан за усилията за регулиране на темпа на развитие на изкуствения интелект, той добави: „Сега е подходящ момент всички да проведем този разговор и да си поемем дъх.“