ByteDance, создатель TikTok, недавно столкнулась с инцидентом безопасности, связанным с участием стажера, который якобы саботировал процесс обучения модели искусственного интеллекта (ИИ). Этот случай, о котором сообщили в WeChat, вызвал обеспокоенность в отношении протоколов безопасности в управлении ИИ-командой компании.
В ответ ByteDance уточнила, что, хотя стажер действительно нарушил работы по коммерциализации ИИ, никакие онлайн-операции или коммерческие проекты не пострадали. По заявлению компании, слухи о том, что более 8,000 графических карт (GPU) были затронуты и ущерб составил миллионы долларов, являются преувеличенными.
Основная проблема заключается не столько в одном стажере, сколько подчеркивает необходимость ужесточения мер безопасности в технологических компаниях, особенно когда стажерам доверяют ключевые обязанности. Даже незначительные ошибки в условиях работы высокого давления могут привести к серьезным последствиям.
В ходе расследования ByteDance установила, что стажер, являющийся аспирантом, работал в команде по коммерциализации технологий, а не в лаборатории по ИИ. Стажера уволили в августе.
Согласно информации местного медиа-ресурса Jiemian, стажер, разочарованный распределением ресурсов, воспользовался уязвимостью на платформе развития ИИ Hugging Face, что привело к сбоям в процессе обучения моделей, хотя коммерческая модель Doubao ByteDance не пострадала.
Несмотря на сбой, автоматизированной команде машинообучения (AML) ByteDance поначалу было сложно выявить причину. К счастью, атака затронула только внутренние модели, что позволило минимизировать больший ущерб.
В качестве контекста стоит отметить, что рынок ИИ в Китае, который, по оценкам, в 2023 году достигнет $250 миллиардов, стремительно растет, а такие лидеры отрасли, как Baidu AI Cloud, SenseRobot и Zhipu AI, продолжают вводить инновации. Тем не менее, инциденты, подобные этому, представляют большой риск для коммерциализации технологий ИИ, поскольку их точность и надежность напрямую связаны с успехом в бизнесе.
Ситуация также поднимает вопросы об управлении стажерами в технологических компаниях. Стажеры часто играют важные роли в условиях быстрого темпа работы, однако без надлежащего контроля и строгих протоколов безопасности их действия могут представлять угрозу. Компании должны убеждаться в том, что стажеры получают адекватное обучение и находятся под должным наблюдением, чтобы предотвратить как непреднамеренные, так и злонамеренные действия, способные нарушить рабочие процессы.
Влияние на коммерциализацию ИИ
Нарушение безопасности подчеркивает возможные риски коммерциализации И. Прерывание обучения моделей ИИ подобное этому, привести к задержкам в выпуске продуктов, утратеия клиентов и даже к финансовым потерям. Для компании, такой как ByteDance, где ИИ является основной движущей силой функциональности, подобные инциденты особенно разрушительны.
Этот вопрос подчервает важность этичной разработки ИИ и деловой ответственности. Компаниям необходимо не только разрабатывать передовые технологии ИИ, но и обеспечивать их безопасность, а также ответственное управление. Прозрачность и подотчетность критически важны для поддержания доверия в эпоху, когда ИИ играет значительную в бизнес-операциях.
Источник: Artificial Intelligence News
