Британската финтех компания Revolut намали десетократно разходите си за писане на код с помощта на изкуствен интелект, като се отказа от използването на AI модела Claude на Anthropic. Времето за писане на код е съкратено с 60%, а времето за изпълнение на задачи – със 70%. В рамките на около година компанията е намалила разходите си за заявки към AI системи за програмиране с 90%.
Вместо да разчита предимно на търговски услуги като Claude Code на Anthropic и Codex на OpenAI, финтехът е преминал към използване на собствени GLM модели, работещи върху неговата собствена инфраструктура, разкри Дейвид Абитбол, ръководител на отдел „Операции и инфраструктура” в Revolut, по време на конференцията AI Engineer в Ню Йорк.
Според Абитбол, внедряването на AI инструменти за около 2000 инженери е довело до 60% съкращаване на времето за писане на код и 70% намаление на времето, необходимо за изпълнение на задачи.
Първоначално компанията е използвала Gemini, а в началото на 2026 г. започва да експериментира с Claude Code, разказва за оптимизацията The Register. Строгите ограничения върху броя на използваните токени обаче са пречели на инженерите да използват AI за ежедневните си задачи.
Разгръщането на модела GLM-5.1 е струвало приблизително 0,30 долара на милион входни/изходни токена – около една десета от цената на търговските алтернативи. По-късно Revolut преминава към модела GLM-5.3.
Това намаляване на разходите е променило не само бюджета, но и ежедневните работни процеси в компанията. Инженерите вече не се налага да ограничават броя на заявките си – сега те често възлагат на AI моделите задачи като отстраняване на грешки в кода, анализ на заявки в Jira и управление на документация в Confluence.
Абитбол отбелязва, че автоматизирането на тези конкретни операции е допринесло за значителна част от спестеното време, тъй като основните пречки пред разработката често са произтичали именно от спомагателни задачи, а не от самото писане на код.
За работата на GLM-5.3 компанията използва 56 ускорителя Nvidia B200. Постигнатите подобрения в производителността обаче се дължат на нещо повече от чиста изчислителна мощ. От Revolut са извършили фина настройка на параметрите на модела, приложили са квантуване от типа NVFP4 и са разделили обработката на входния контекст от генерирането на отговори, разпределяйки тези процеси между различни етапи на своята инфраструктура.
Компанията също така e ограничила работния контекст до приблизително 256 000 токена. Според Абитбол, поддържането на прозорец от един милион токена не означава непременно, че разработчиците действително имат нужда от такъв. След тези оптимизации системата предоставя първия токен за по-малко от три секунди и генерира приблизително 200 токена в секунда.
GLM-5.3 не е заменил всички останали AI модели. Той работи само с текст, което го прави неподходящ за задачи, изискващи анализ на изображения на потребителски интерфейси. За такива заявки маршрутизаторът на Revolut ги пренасочва към Gemini или GPT, като същевременно запазва GLM като основен модел за генериране на код.
Абитбол признава, че използването на модели, разработени в Китай, може да породи опасения относно поверителността и сигурността, но подчертава, че основният риск произтича от достъпа до тях чрез API, хоствани в Китай. Той смята, че подобни опасения значително намаляват, когато моделите се внедряват локално или чрез регионални облачни ресурси.
