Стажер саботировал проект ИИ компании ByteDance

ByteDance, создатель TikTok, недавно столкнулась с инцидентом безопасности, связанным с участием стажера, который якобы саботировал процесс обучения модели искусственного интеллекта (ИИ). Этот случай, о котором сообщили в WeChat, вызвал обеспокоенность в отношении протоколов безопасности в управлении ИИ-командой компании.

В ответ ByteDance уточнила, что, хотя стажер действительно нарушил работы по коммерциализации ИИ, никакие онлайн-операции или коммерческие проекты не пострадали. По заявлению компании, слухи о том, что более 8,000 графических карт (GPU) были затронуты и ущерб составил миллионы долларов, являются преувеличенными.

Основная проблема заключается не столько в одном стажере, сколько подчеркивает необходимость ужесточения мер безопасности в технологических компаниях, особенно когда стажерам доверяют ключевые обязанности. Даже незначительные ошибки в условиях работы высокого давления могут привести к серьезным последствиям.

В ходе расследования ByteDance установила, что стажер, являющийся аспирантом, работал в команде по коммерциализации технологий, а не в лаборатории по ИИ. Стажера уволили в августе.

Согласно информации местного медиа-ресурса Jiemian, стажер, разочарованный распределением ресурсов, воспользовался уязвимостью на платформе развития ИИ Hugging Face, что привело к сбоям в процессе обучения моделей, хотя коммерческая модель Doubao ByteDance не пострадала.

Несмотря на сбой, автоматизированной команде машинообучения (AML) ByteDance поначалу было сложно выявить причину. К счастью, атака затронула только внутренние модели, что позволило минимизировать больший ущерб.

В качестве контекста стоит отметить, что рынок ИИ в Китае, который, по оценкам, в 2023 году достигнет $250 миллиардов, стремительно растет, а такие лидеры отрасли, как Baidu AI Cloud, SenseRobot и Zhipu AI, продолжают вводить инновации. Тем не менее, инциденты, подобные этому, представляют большой риск для коммерциализации технологий ИИ, поскольку их точность и надежность напрямую связаны с успехом в бизнесе.

Ситуация также поднимает вопросы об управлении стажерами в технологических компаниях. Стажеры часто играют важные роли в условиях быстрого темпа работы, однако без надлежащего контроля и строгих протоколов безопасности их действия могут представлять угрозу. Компании должны убеждаться в том, что стажеры получают адекватное обучение и находятся под должным наблюдением, чтобы предотвратить как непреднамеренные, так и злонамеренные действия, способные нарушить рабочие процессы.

Влияние на коммерциализацию ИИ

Нарушение безопасности подчеркивает возможные риски коммерциализации И. Прерывание обучения моделей ИИ подобное этому, привести к задержкам в выпуске продуктов, утратеия клиентов и даже к финансовым потерям. Для компании, такой как ByteDance, где ИИ является основной движущей силой функциональности, подобные инциденты особенно разрушительны.

Этот вопрос подчервает важность этичной разработки ИИ и деловой ответственности. Компаниям необходимо не только разрабатывать передовые технологии ИИ, но и обеспечивать их безопасность, а также ответственное управление. Прозрачность и подотчетность критически важны для поддержания доверия в эпоху, когда ИИ играет значительную в бизнес-операциях.

Источник: Artificial Intelligence News

AI News

Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.

Социальные сети автора: