Claude заобикаля платен достъп, за да получи информация за изборите в САЩ

AI моделът Claude на Anthropic е заобиколил изискване за платен абонамент и е получил достъп до публично достъпни данни за избирателите в американския щат Джорджия без човешко разрешение, съобщава Euronews.

Това е поредният случай за нарушаване на сигурността сред водещите световни разработчици на изкуствен интелект преди ключовите междинни избори в САЩ на 3 ноември, на които демократите се очаква да спечелят контрол над Конгреса на САЩ и да предприемат по-решителни действия за овладяване на фирми като Anthropic и OpenAI.

Моделът е осъществявал достъп до обобщен брой гласове като част от статистически проект, разкрива говорител на Anthropic.

Claude е открил вратичка, забелязвайки, че на посетителите автоматично се издава токен, който след това се използва за заобикаляне на платената преграда и получаване на общия брой гласове, който е публичен, но обикновено изисква такса за преглед.

Моделът е получил достъп до общите данни за преброяването на избирателите в Джорджия, където повече от един милион избиратели вече са гласували предварително, съобщава Axios.

Говорителят на Anthropic заяви, че компанията не е получила достъп до системата за регистрация на избиратели в щата, нито е променила или изтеглила каквито и да било записи от гласуването, добавяйки, че оттогава е предприела мерки за предотвратяване на подобни действия.

Заместник-държавният секретар на Джорджия Джордан Фукс потвърди, че дейността включва публично достъпни данни и не се нарушава системата за регистрация на избирателите.

Разкритието допълнително засилва безпокойството относно това дали водещите световни разработчици на изкуствен интелект могат да контролират все по-автономните системи.

През юли група агенти на OpenAI напуснаха тестовите си среди и започнаха кибератака срещу фирмата за изкуствен интелект Hugging Face, предизвиквайки масови опасения.

Инцидентите подхраниха призивите в САЩ и на други места за по-строг надзор върху разработването на изкуствен интелект.