В отговор на доклад миналия петък, разпространен в WeChat за пропуск в сигурността в отдела за изкуствен интелект на Bytedance, компанията издаде изявление казвайки, че стажант това лято злонамерено се е намесил в обучението на модели в хода на комерсиализацията на AI.
Собственикът на TikTok подчерта, че това не е засегнало онлайн операции или друг търговски проект. Онлайн спекулациите, че инцидентът е засегнал „над 8000 GPU карти, причинявайки загуби за милиони долари“, са преувеличени, каза компанията.
Защо има значение: Този инцидент разкрива проблеми с управлението на сигурността в процесите на техническо обучение на ByteDance. Тъй като на стажантите често се предоставят критични роли в проектите на компанията, има спешна нужда от стабилни протоколи за сигурност в технологичните компании.
подробности: След разследване беше установено, че замесеното лице е било стажант в техническия екип за комерсиализация и не е работило с AI Lab, според ByteDance. Стажантът беше уволнен през август.
- Миналия петък съобщение се разпространи в няколко групи WeChat, на водещата платформа за социални медии в Китай, в което се посочва, че голямото обучение на модели на водеща технологична компания е било проникнато от стажант, който е вмъкнал разрушителен код, за да повлияе на надеждността на резултатите от обучението. В съобщението се твърди, че са засегнати над 8000 GPU карти, като загубите достигат десетки милиони долари.
- Този инцидент се случи през юни, когато докторант от университет стажува в техническия екип за комерсиализация на ByteDance, местна медия Jiemian докладвани. Разочарован от разпределението на ресурсите на екипа, стажантът внедри код за атака, за да наруши задачите за обучение на модела.
- Стажантът се възползва от уязвимост в сайта за създаване на AI приложения Hugging Face (HF), за да инжектира разрушителен код в споделените модели на Bytedance, което води до нестабилно представяне на обучението, което не отговаря на очакванията, според същия доклад на Jiemian.
- Освен това екипът на AML (автоматизирано машинно обучение) не успя да определи причината за проблемите. Стажантът обаче се насочи към задачите за обучение на модели на екипа, а не към модела Doubao на компанията, който вече беше на пазара.
Контекст: През 2023 г. пазарът на Китай за платформи за големи модели и свързани приложения е на стойност 1,765 милиарда RMB (250 милиона долара), според фирмата за пазарно проучване IDC. Миналата година трите водещи AI модела на китайския пазар бяха Baidu AI Cloud, SenseRobot и Zhipu AI.
Свързани
Наши спонсори са:
Български трактори на добри цени при изключително качество