Мистер. ChatGPT едет в Вашингтон: генеральный директор OpenAI Сэм Альтман дает показания перед Конгрессом о рисках ИИ

(Си-Эн-Эн) Генеральный директор OpenAI Сэм Альтман призвал законодателей регулировать искусственный интеллект во время слушаний в комитете Сената во вторник, назвав нынешний бум технологии потенциальным «моментом для прессы», но требующим мер безопасности.

«Мы считаем, что регулирующее вмешательство со стороны правительств будет иметь решающее значение для снижения рисков, связанных со все более мощными моделями», — сказал Альтман в своем вступительном слове перед Юридическим подкомитетом Сената.

Появление Альтмана произошло после того, как вирусный успех инструмента чат-бота его компании, ChatGPT, возобновил гонку вооружений вокруг ИИ и вызвал обеспокоенность некоторых законодателей по поводу рисков, связанных с этой технологией.

Сен. Ричард Блюменталь открыл слушания во вторник, имитируя собственный голос и объясняя потенциальные опасности технологии. В сообщении, которое включает комментарии, написанные ChatGPT, и аудиозапись голоса Блюменталя, созданную с использованием записей его реальных выступлений, утверждается, что ИИ нельзя допустить появления в неконтролируемой среде.

Блюменталь объяснил, что даже если SADGP точно отразит мнение реальных законодателей, это может легко привести к «капитуляции Украины или поддержке руководства Владимира Путина». Это, по его словам, «было бы действительно страшно».

Растущий список технологических компаний в последние месяцы внедряет новые инструменты искусственного интеллекта, способные изменить то, как мы работаем, делаем покупки и взаимодействуем друг с другом. Но эти же инструменты вызвали критику со стороны некоторых из самых громких имен в области технологий за подрыв миллионов рабочих мест, распространение дезинформации и увековечение предвзятости.

В своих комментариях во вторник Альтман сказал, что возможность использования ИИ для манипулирования избирателями и дезинформации является «одной из областей, вызывающих у меня наибольшее беспокойство», особенно с учетом того, что «в следующем году у нас будут выборы, и эти модели становятся все более популярными». лучше.»

Во вторник Альтман заявил, что один из способов, которым правительство США могло бы регулировать отрасль, — это создать режим лицензирования для компаний, работающих над более мощными системами искусственного интеллекта. Альтман сказал, что это «сочетание требований к лицензированию и тестированию может быть использовано для разработки и выпуска моделей ИИ с целым рядом возможностей».

Кристина Монтгомери, вице-президент IBM и директор по вопросам конфиденциальности и доверия, и Гэри Маркус, бывший профессор Нью-Йоркского университета и самопровозглашенный критик «ажиотажа» ИИ, дадут показания во вторник.

Монтгомери предостерег от создания новой эры «двигайся быстро и ломай вещи» — давняя мантра таких гигантов Силиконовой долины, как Facebook. «Эпоха искусственного интеллекта не может быть еще одной эрой «двигайся быстро и ломай вещи», — сказал Монтгомери законодателям. Тем не менее, по ее словам, «мы не должны тормозить инновации».

И Альтман, и Монтгомери также утверждали, что ИИ может сократить некоторые рабочие места, но также и создать новые.

«Это повлияет на рабочие места», — сказал Альтман Блюменталю. «Мы пытаемся четко обозначить это, и я думаю, что потребуется партнерство между промышленностью и правительством, но в основном действия правительства, чтобы выяснить, как мы хотим уменьшить это. Но я очень оптимистичен в отношении того, насколько большим рабочие места есть. Будущее будет».

В качестве генерального директора OpenAI Альтман больше, чем кто-либо другой, стал лицом нового поколения продуктов искусственного интеллекта, которые могут генерировать изображения и текст в ответ на запросы пользователя.

Комментарии Альтмана прозвучали на следующий день после того, как он встретился за ужином с более чем 60 законодателями Палаты представителей. На двухпартийном собрании республиканцев и демократов Альтман счел различные варианты использования ChatGPT «настолько интересными», что один человек в комнате назвал законодателей «сбитыми с толку» этим событием.

Он добавил, что большинство присутствующих в целом согласились с тем, что регулирование ИИ необходимо.

Член палаты представителей Ро Кханна, демократ из Калифорнии, освещающий Силиконовую долину, сказал Альтману на ужине, что ИИ — это инструмент, а не «организм», и что ИИ может «помогать с задачами, а не с работой».

«Самый полезный вклад Альтмана заключался в уменьшении ажиотажа», — сказал Ханна CNN.

Отражая то, как ИИ штурмом взял Конгресс, даже когда судебный подкомитет поставил под сомнение OpenAI и IBM, комитет Сената по внутренней безопасности и делам правительства провел отдельное и параллельное слушание по использованию искусственного интеллекта в правительстве.

Ранее в этом месяце Альтман был среди нескольких руководителей технологических компаний, которые встретились с вице-президентом Камалой Харрис и, кратко, с президентом Джо Байденом в рамках усилий Белого дома, направленных на то, чтобы подчеркнуть важность этичной и ответственной разработки ИИ.

В интервью в этом году Альтман охарактеризовал себя как человека, который осознает риски, связанные с ИИ, и «немного боится» этой технологии. Он и его компания обязались двигаться вперед ответственно.

Другие хотят, чтобы Altman и OpenAI действовали более осторожно. Илон Маск, который помог основать OpenAI, прежде чем покинуть группу, присоединился к десяткам технических лидеров, профессоров и исследователей, подписав письмо с призывом к лабораториям искусственного интеллекта, таким как OpenAI, прекратить обучение более мощных систем ИИ как минимум на шесть месяцев. «Глубокие опасности для общества и человечества».

Альтман сказал, что принял части письма. «Я думаю, что очень важно действовать осторожно и быть более агрессивным в вопросах безопасности, — сказал Альтман на мероприятии в прошлом месяце. — Я не думаю, что письмо является оптимальным способом решения этой проблемы».

— Дженнифер Корн CNN способствовала этому отчету.