Ако предоставите на един AI агент пълен контрол върху личния си живот, очаквате ли той да извърши нещо незаконно? Е, това е повод за притеснение, тъй като може да се окажете отговорни за последствията.
Вече сме провели множество тестове с персонални AI агенти, стига се дори дотам, че им поверяваме пълния контрол върху личните си данни. Едно нещо обаче остана извън фокуса ни: какво се случва, когато един AI агент сгреши или извърши нещо нередно?
Разбира се, когато подобни проблеми възникнат при големите технологични компании, единственото последствие обикновено е извинение, което всъщност е прикрито хвалене с възможностите на техния модел.
Според ново проучване, цитирано от TechRadar, британците стават все по-недоверчиви към AI агентите – един на всеки седем се опасява, че неговият AI агент може да го замеси в незаконни действия. От какво всъщност трябва да се страхуваме и защо британците са толкова предпазливи, когато става въпрос за предоставяне на контрол?
Данни, събрани от агенцията за киберсигурност Eskenzi PR, показват, че британците имат много ниско доверие към идеята да предоставят на AI агентите твърде голям контрол върху ежедневието си.
Всъщност 34% от анкетираните не биха се чувствали комфортно да дадат на един AI агент дори минимален контрол. В другия край на спектъра, едва един на всеки десет души би бил склонен да повери на AI агент пълния контрол върху живота си.
Но какво точно означава „пълен контрол”? Вероятно това включва предоставяне на достъп до всички ваши акаунти и приложения, които използвате ежедневно, както и възможност за AI агента да организира живота ви, да отговаря на съобщения от приятели и колеги, и да ви помага при вземането на ключови решения – например, какво да обядвате.
Както обаче вероятно са чели повечето британци, AI агентите могат да излязат извън контрол. Опасението е, че докато помага в управлението на живота ви, AI агентът може да допусне грешка, която да ви въвлече в незаконна дейност. Това е особено сериозен повод за безпокойство сред хората на възраст между 18 и 24 години – един от всеки петима от тях се опасява, че неговият AI агент може да наруши закона.
„Смятам, че е важно да водим дискусия относно отговорността при използване на изкуствен интелект, а това проучване е значима част от въпросния дебат”, коментира Джонатан Армстронг, партньор в Punter Southall.
„Мнозина погрешно смятат, че сферата на изкуствения интелект е като „Дивия запад” – но от правна гледна точка това съвсем не е така. В повечето случаи вие носите отговорност за AI системата, която използвате, както и за последствията от нейната работа – дори ако действията ѝ са ви изненадали. Съществуват много полезни приложения на изкуствения интелект, но те трябва да започват с осъзнаване на рисковете и предприемане на мерки за тяхното ограничаване”, допълва той.
Интересен факт е, че що се отнася до това кой трябва да носи отговорност, ако един AI агент наруши закона, мнозинството британци смятат, че отговорността е на компанията, създала агента. На това мнение са 40% от анкетираните, докато 25% смятат, че отговорна трябва да бъде компанията или услугата, до която агентът е имал достъп. Едва 18% са на мнение, че отговорността трябва да се носи от самия потребител, който използва AI агента.
Освен опасенията, свързани с евентуално нарушаване на закона, 36% от британците се притесняват, че техният AI агент може да бъде хакнат или превзет от външни лица, а 28% се опасяват, че агентът може да похарчи парите им за неподходящи неща.
Редица банки вече трябваше да напомнят на клиентите си да не предоставят банковите си данни на своите AI агенти, тъй като съществува риск системите да извършат нерегламентирани разходи.
Британците обаче не се колебаят да се доверят само на личните си AI агенти; те изпитват недоверие и към компаниите, които използват изкуствен интелект при вземането на решения. На въпроса доколко биха се доверили на своята банка, застраховател или доставчик на комунални услуги, ако използват AI за вземане на решения, 37% от анкетираните отговарят, че искат гаранции, че крайното решение винаги ще бъде вземано от човек.
Сред другите притеснения са въпросите кои решения ще бъдат повлияни от изкуствения интелект (31%) и как се защитават личните им данни (24%). За един от всеки петима самото решение за включване на изкуствен интелект в процеса на вземане на решения би било достатъчно основание да обмисли смяна на доставчика, а 18% заявяват, че биха били по-малко склонни да използват други продукти или услуги от същата компания.
В по-широк план, за британците е изключително трудно да възприемат изкуствения интелект в положителна светлина. По-малко от един на всеки десет души гледа положително на бъдещето на AI.
Най-разпространеното опасение не е, че AI ще поеме контрола, а че хората ще го използват неправилно – над един от всеки петима се тревожи за това как хората биха могли да използват тази технология в бъдеще.
Наблюдава се известно разминаване в мненията сред онези, които възприемат AI като заплаха за човечеството. 19% се опасяват, че AI може да представлява реална екзистенциална заплаха, докато 18% смятат, че макар технологията да е потенциално опасна, тя не представлява непосредствена заплаха за човечеството.
Предвид тези данни, изглежда, че пред компаниите, разработващи изкуствен интелект, стои дълъг път, преди хората да се почувстват готови да се доверят на тази технология.
