Anthropic не преувеличава за паноптикума на изкуствения интелект

В дебата за военната употреба на изкуствения интелект (AI), провокиран от спора между Anthropic и Пентагона, който вече отива в съда, се говори много за страховете, свързани с автономното убиване. По-малко обаче се разглежда вторият спорен въпрос на компанията: как технологията може да бъде използвана за масово наблюдение на американците. Скорошно изследване дава представа за корена на основателната тревога на компанията, пише Дейв Лий за Bloomberg.

Оспорвайки определението на Пентагона за компанията като „риск за веригата на доставки“, Anthropic твърди в документ, че „AI инструменти като Claude позволяват събиране и анализ на информация с скорости и мащаби, невиждани до момента, създавайки уникални рискове за гражданските свободи поради потенциала за грешки и злоупотреби“.

Пентагонът, в стремежа си да получи правомощия да използва технологията за „всяка законна цел“ - което в по-голямата си част получи от OpenAI, който с радост зае мястото на Anthropic - поддържа позицията, че масовото наблюдение на американците е незаконно според Четвъртата поправка на Конституцията. Anthropic се притеснява, че съществуващите закони не отчитат новите възможности. „Доколкото такова наблюдение е законно в момента“, посочва фирмата в изявление, „това е само защото законът все още не е настигнал бързо растящите способности на изкуствения интелект.“

Изследването, публикувано миналия месец и включващо изследовател на Anthropic като съавтор, разглежда важен аспект на променящия се парадигмен подход към масовото наблюдение. То е ръководено от Саймън Лермън от MATS Research и Дениъл Палека от ETH Zurich.

Разкриването на някого онлайн е неточна и, в зависимост от човека, често болезнена наука. Тези, обучени в дисциплината Open Source Intelligence (OSINT), казват, че това е събиране на „трошички“: малки, показателни детайли - публикация в социална мрежа за детски футболен отбор, снимка, която може да се геолокализира, оплаквания от времето - могат да са достатъчни, за да се идентифицира човек. Към това се добавя богатството от по-частна информация, която може да се получи от търговци на данни, и мрежата става все по-прецизна и мощна.

Уверението за повечето хора е, че този процес досега е бил както времеемък, така и скъп, ако се прави в голям мащаб. Освен ако не сте особено търсен обект, можете да сте относително спокойни, знаейки, че само най-настойчивите могат да проследят вашата самоличност на базата на публикации от вашия таен Reddit акаунт, например.

Изкуственият интелект премахва тази защита. „Нашите резултати показват, че практическата анонимност, която предпазва потребителите с псевдоними онлайн, вече не съществува и моделите за заплахи за онлайн поверителността трябва да бъдат преосмислени“, пише в доклада.

Заключенията са достигнати след няколко експеримента. Един показва как AI може ефективно да свърже анонимен акаунт с реална онлайн идентичност. Друг демонстрира как е възможно да се свърже известна личност с акаунт с псевдоним. Трети разглежда как множество псевдоними на един човек могат да бъдат свързани през различни платформи или периоди от време.

Първият експеримент включва 338 профила в Hacker News, популярния технологичен форум, и поставя пред голям езиков модел задачата да идентифицира хората и да намери техните LinkedIn профили. В тези 338 случая AI идентифицира правилно 226, „репликирайки за минути това, което би отнело часове на посветен човешки изследовател“, се казва още в изследването.

Има и някои уточнения. По етични причини изследователите са използвали профили, които вече са споделили LinkedIn акаунтите си, за да установят „истината на терен“, въпреки че са изключили информацията от запитването към AI. Те признават, че това означава, че целевите лица са имали по-голяма вероятност да споделят идентифицираща информация по други начини (като например месторабота) в сравнение с някой, който е решен да остане анонимен.

Все пак Палека смята, че това е аларма за всеки, който разчита на мисълта „не съм достатъчно важен“, за да заслужи усилията да бъде проследен.

Докладът навлиза в същността на променящите се парадигми около наблюдението и поверителността в ерата на AI, когато неясните граници на законността продължават да провокират напрежение извън спора на Anthropic с правителството на САЩ.

Вземете за пример частния сектор: компания може да пожелае да използва LinkedIn профилите на своите служители чрез AI, за да проследи какво правят анонимно в интернет. „AI може да ме открие лично“, предполага Палека, ако съм склонен да бъркам американски и британски правопис, след като съм прекарал десетилетие в САЩ.

С други думи, всички оставяме „трошички“. И докато тези наблюдения бяха възможни и преди, Палека отбелязва, че днес проследяването просто е по-бързо и по-евтино, благодарение на AI. Провеждането на експеримента в Hacker News струва само 2000 долара - от 1 до 4 долара за всеки анализиран профил. С достатъчно пари, такива събирания и идентификации могат да се извършват едновременно и в огромен мащаб. И всичко това навлиза в една правна сива зона. Можете ли да проследявате човек, като обедините вече законно събрани информация?

Този въпрос вече не е теоретичен в САЩ. Министерството на вътрешната сигурност е поискало от социалните мрежи да предоставят собствениците на анти-ICE акаунти (в някои случаи те са го направили). През януари маскиран имиграционен служител каза на гражданин, който го е заснемал: „Имаме хубава малка база данни и сега сте смятан за вътрешен терорист.“ (Кристи Ноем, тогавашен секретар на вътрешната сигурност, отрече да съществува такава база данни.) Във вторник Wired съобщи за освобождаването на служители по поверителността във Федералната агенция за граничен контрол, които според съобщенията са оспорили заповедите да „поставят грешни етикети“ на записите, свързани с дейностите по наблюдение в рамките на агенцията, за да ги предпазят от разкриване по силата на Закона за свобода на информацията.

Тези примери, наред с много други, показват как технологиите могат и ще бъдат използвани за разширяване на границите на закона и етичните принципи, които трябва да ги подкрепят. Anthropic постъпи мъдро, като не се довери на тълкуванията на Пентагона за това къде трябва да се чертаят линиите, докато от страна на OpenAI очевидно беше глупаво да приеме техните слаби уверения.