OpenAI присоединилась к растущему числу технологических лидеров и политиков, которые выступают против спорного закона Калифорнии о безопасности ИИ. Компания утверждает, что законопроект SB 1047 будет подавлять инновации. и что регулирование должно осуществляться на федеральном уровне.
В письме, направленном в офис сенатора штата Калифорния Скотта Винера, OpenAI выразила обеспокоенность тем, что законопроект может иметь «широкие и значительные» последствия для конкурентоспособности США и национальной безопасности. Компания утверждает, что SB 1047 угрожает позиции Калифорнии как мирового лидера в области ИИ, вынуждая таланты искать «большие возможности в других местах».
Законопроект, представленный сенатором Винером, направлен на внедрение «разумных стандартов безопасности» для компаний, разрабатывающих крупные модели ИИ, превышающие определенные пороговые значения по размеру и стоимости. Эти стандарты потребовали бы от компаний внедрять механизмы отключения, принимать «разумные меры» для предотвращения катастрофических последствий и подавать заявления о соблюдении в офис генерального прокурора Калифорнии. Несоблюдение требований может привести к судебным искам и гражданским штрафам.
Лейтенант генерал Джон (Джек) Шанахан, который служил в ВВС США и был первым директором Совместного центра искусственного интеллекта Министерства обороны США (JAIC), считает, что законопроект «вдумчиво подходит к серьезным рискам, которые ИИ представляет для гражданского общества и национальной безопасности», и предлагает «прагматические решения».
Почтенный Эндрю К. Вебер – бывший помощник министра обороны по программам ядерной, химической и биологической защиты – также выразил обеспокоенность по поводу национальной безопасности.
«Кража мощной системы ИИ из ведущей лаборатории нашими противниками создаст значительные риски для нас всех», — сказал Вебер. «Разработчики самых передовых систем ИИ должны принимать серьезные меры кибербезопасности с учетом потенциальных рисков, связанных с их работой. Я рад видеть, что SB 1047 помогает установить необходимые защитные меры».
SB 1047 вызвал ожесточенное сопротивление со стороны крупных технологических компаний, стартапов и венчурных капиталистов, которые утверждают, что он чрезмерно влияет на зарождающуюся технологию, потенциально подавляя инновации и вынуждая компании покидать штат. Эти опасения разделяют и в OpenAI, где источники сообщили, что компания приостановила планы по расширению своих офисов в Сан-Франциско из-за неопределенной нормативной среды.
Сенатор Винер защитил законопроект, заявив, что письмо OpenAI не критикует ни одного положения. Он отверг опасения по поводу оттока талантов как «нелепые», заявив, что закон будет применяться к любой компании, ведущей бизнес в Калифорнии, независимо от их физического местоположения. Винер подчеркнул «весьма разумное» требование законопроекта, чтобы крупные лаборатории ИИ тестировали свои модели на предмет катастрофических рисков безопасности, практику, к которой многие уже обязались.
Критики, однако, утверждают, что требование предоставления подробной информации о моделях государству будет препятствовать инновациям. Они также опасаются, что угроза судебных исков отпугнет более мелких разработчиков с открытым исходным кодом от создания стартапов. В ответ на критику сенатор Винер недавно внес поправки в законопроект, чтобы исключить уголовную ответственность компаний, не соблюдающих требования, защитить более мелких разработчиков и убрать предлагаемое «Подразделение по передовым моделям».
OpenAI утверждает, что ясная федеральная структура регулирования, а не регулирование на уровне штатов, необходима для обеспечения общественной безопасности, сохраняя при этом конкурентоспособность США по сравнению с такими странами, как Китай. Компания отметила, что федеральные агентства, такие как Управление науки и технологий Белого дома и Министерство торговли, имеют подходящую компетенцию для управления рисками ИИ.
Сенатор Винер признал идею действий Конгресса, но выразил скептицизм по поводу их вероятности. Он провел параллели с законом о конфиденциальности данных в Калифорнии, принятым в отсутствие действий на федеральном уровне, предлагая, что бездействие Конгресса не должно препятствовать Калифорнии играть ведущую роль.
Ожидается, что законодательное собрание штата Калифорния проголосует по закону SB 1047 в этом месяце. Если он будет принят, законопроект окажется на столе губернатора Гэвина Ньюсома, чья позиция по законопроекту остается неясной. Тем не менее, Ньюсом публично признал необходимость сбалансирования инноваций ИИ и смягчения рисков.
Источник: Artificial Intelligence News