За продуктивністю можуть критися ризики управління! Goldman Sachs (GS.US) обмежує використання передових AI-інструментів програмування для нетехнічних співробітників

Згідно з інформацією, отриманою від додатку Zhihui Finance, за повідомленнями, Goldman Sachs (GS.US) після оцінки питань продуктивності та ризиків, заборонив частині співробітників використовувати передові інструменти штучного інтелекту (AI), спеціально розроблені для програмування. Це означає, що після кількох місяців активного впровадження AI, ця нью-йоркська фінансова установа почала змінювати політику щодо сфери використання певних AI-інструментів.

Повідомляється, що минулі місяці банкіри Goldman Sachs користувалися інструментами Anthropic і GitHub від Microsoft (MSFT.US) у своїй роботі. Однак, згідно з оновленими у жовтні внутрішніми інструкціями, зараз права використовувати ці інструменти мають лише інженери компанії.

Ці зміни викликали невдоволення серед частини співробітників. Поінформовані джерела зазначають, що деякі трейдери раніше використовували ці інструменти AI для прискорення завдань, таких як моніторинг потоків клієнтських транзакцій, моделювання ринкових змін і портфелів, а також створення текстового і графічного контенту, тож вони засмучені таким раптовим обмеженням доступу до зазначених інструментів.

Варто відзначити, що цей підхід різко контрастує з позитивною позицією щодо AI, яку Goldman Sachs висловлював у липні цього року. Тоді головний інформаційний директор Marco Argenti публічно говорив про так зване “vibe coding” — рішення, при якому нетехнічні співробітники можуть використовувати AI-інструменти для самостійної розробки софту або вирішення завдань. За такого підходу, співробітник, який найбільше обізнаний з бізнесом, наприклад трейдер чи банкір, міг би швидко з допомогою AI збудувати рішення, а вже потім передати його фахівцю з-поміж 12 тисяч інженерів Goldman Sachs для подальшого удосконалення та впровадження.

Головна перевага такої моделі полягає у зниженні порогу для розробки софту для нетехнічних співробітників і водночас у тому, що інженерна команда отримує чіткіше розуміння бізнес-потреб. Для трейдерів та банкірів це означає, що вони можуть спочатку використати AI для створення прототипу без необхідності чекати черги від інженерного відділу, і швидко перевірити – чи має ідея практичну цінність.

Проте, зі зростанням можливостей AI-агентів для кодування, ця модель приносить із собою й нові ризики: згенерований AI код може використовуватися для обробки клієнтських даних, торговельної інформації або внутрішніх систем, а його користувачі можуть не мати достатнього досвіду у розробці софту, щоб виявити у коді вразливості, логічні помилки чи проблеми з доступом до даних.

Для глобального банку, який підлягає суворому регуляторному нагляду, такі ризики особливо актуальні. Генеративний AI може не тільки створити неправильні відповіді, а й привести до витоку чутливої інформації, проблем з кібербезпекою, питання інтелектуальної власності, надійності виводу моделі і ведення регуляторних записів. Тому фінансові установи мають знайти баланс між підвищенням продуктивності співробітників і контролем за ризиками.

Нова політика Goldman Sachs насправді відображає ширшу тенденцію у використанні AI на Волл-стріт. За останні два роки фінансові установи сприймали генеративний AI як важливий інструмент підвищення продуктивності співробітників. Завдяки стрімкому розвитку Claude, ChatGPT та інших AI-агентів для кодування, AI вже не просто генерує тексти, а й може писати код, аналізувати дані, автоматично виконувати завдання і навіть створювати цілі робочі процеси як “інтелектуальний агент”.

Та зі зростанням потужності AI ускладнюється й корпоративне управління. Останнім часом повідомляється, що використання співробітниками непогоджених генеративних AI-інструментів у компаніях формує так звану проблему “тіньового AI” (shadow AI). Основні ризики для компаній — це втрата контролю над конфіденційною інформацією, кіберінциденти, помилки або упередженість виводу моделі, питання з інтелектуальною власністю та брак надійної фіксації важливих рішень.

Тому, замість простої заборони використання AI, дедалі більше компаній впроваджують диференційований підхід до управління — наприклад, класифікують AI-сценарії за ступенем чутливості даних, можливими наслідками помилок і важливістю бізнес-рішення, та встановлюють різний рівень доступу для різних груп співробітників. З цього погляду, обмеження Goldman Sachs щодо Claude Code та GitHub як просунутих інструментів програмування для інженерів, можна вважати переходом від “відкритих експериментів” до “професійного управління” AI.