Административният слой на AI без проверка за администраторски права

Предизвикателството

Софтуерен доставчик беше добавил генеративни AI функции към платформата си. Тестът трябваше да провери какво може да направи служител на клиентска организация с обикновен бизнес акаунт и без административни права.

Как се разви

1. През целия тест използвахме обикновен бизнес акаунт със сесиен токен без административна роля.
2. Административният интерфейс скриваше AI екраните само от страна на клиента. Услугите зад тях оставаха достъпни и приемаха промени въз основа на общи разрешения на ниво услуга.
3. Променихме конфигурацията за достъп до обектното хранилище на AI — крайна точка, регион, контейнер, ключ за достъп и тайна. След това я прочетохме обратно; тайните бяха само частично маскирани.
4. Със същия обикновен токен променихме конфигурацията на промптите за генеративния AI и отделното хранилище за идентификационни данни на бизнес системи.
5. Задействахме задачата за въвеждане на данни в AI и проверихме целия жизнен цикъл на модел: създаване, обучение и изтриване.
6. Потвърдихме, че липсващата проверка е пропуск: услугата за идентичност на същата платформа изискваше администраторски права и отказваше аналогична операция на същия потребител.

Въздействие

Обикновен бизнес потребител можеше да променя къде се записват данните за обучение и генериране на резултати, да пренаписва промптите за генерираното съдържание и да изтрива продукционни модели. За тези операции не се изискваше административна роля.

Резултат

Предадохме седем констатации — една висока, две средни и четири ниски — и посочихме общата първопричина. Необходима беше единна проверка за администраторски права при всяка операция, която променя състоянието в административния слой на AI. Платформата вече прилагаше такава проверка на други места. Записаните при теста стойности бяха безвредни тестови маркери, описани за премахване при предаването.