Китайската компания Alibaba се натъкна на неочакван резултат по време на одит на своя модел с изкуствен интелект: при генериране на приложения за американски изпълнител в сферата на отбраната, моделът създава код, съдържащ уязвимости, по-често, отколкото при работа за китайски клиент.
Генерирането на код е едно от най-разпространените приложения на изкуствения интелект в професионалните среди. Оказва се обаче, че AI моделът на Alibaba генерира уязвим код за клиенти от САЩ по-често, отколкото за такива от Китай.
За странната особеност на китайския изкуствен интелект съобщи Hirundo – фирма, специализирана в сигурността на AI модели. Все пак разликата между кода за двата типа клиенти е изчезнала след корекции на модела.
Първоначалните тестове установяват уязвимости в 70% от приложенията, създадени за американската компания, и в 59% от тези, създадени за китайската компания.
Макар този резултат да показва разлика между двете групи задачи, той сам по себе си не доказва, че моделът умишлено е облагодетелствал една от страните.
Разликата е изчезнала, след като параметрите на модела са били коригирани. Това предполага, че генерирането на уязвим код може да е било повлияно от настройките на модела, а не единствено от това кой е клиентът, за когото се пишат приложенията.
Одитът е бил фокусиран върху Qwen3-Coder – AI модел, разработен от Alibaba за генериране на софтуерен код, уточнява SecurityWeek в публикация за странното поведение на китайския изкуствен интелект.
