Цукерберг не хоче сповільнювати ШІ: він підтримав позицію глави NVIDIA

Генеральний директор Meta Марк Цукерберг висловився щодо дискусії про безпеку штучного інтелекту та темпи розвитку ШІ-моделей. Його позиція більше відповідає поглядам генерального директора NVIDIA Дженсена Хуанга, ніж керівника Anthropic Даріо Амодея.

У дописі в X Цукерберг заявив, що ШІ-компанії, які не приділяють достатньо уваги "узгодженню" (alignment) моделей із людськими цінностями, зрештою відставатимуть від конкурентів. За його словами, довіра та "узгодження" швидко стають одними з найважливіших характеристик, які визначатимуть відмінності між ШІ-моделями та агентами.

Дискусія загострилася після публікації Амодея, у якій він закликав технологічну індустрію уповільнити темпи вдосконалення можливостей ШІ-моделей. Його позицію підтримав голова OpenAI Сем Альтман, тоді як Дональд Трамп її розкритикував, заявивши, що єдиним "запобіжником" для ШІ є "сильний і розумний президент США".

Цукерберг вважає, що компанії й без додаткового державного регулювання мають економічні стимули для підвищення безпеки своїх продуктів. Він зазначив, що ШІ-лабораторії можуть зіткнутися зі значною відповідальністю, якщо їхні моделі завдадуть шкоди.

За словами Цукерберга, Meta навіть відклала випуск своїх технологій Muse через міркування безпеки та захисту. Він підкреслив, що компанія зробила це добровільно, оскільки вважала такий підхід правильним.

Дженсен Хуанг висловив схожу позицію під час конференції Salesforce Dreamforce. Він заявив, що розробники ШІ повинні самостійно відповідати за свої продукти, а не домагатися нових законів для обмеження потенційних ризиків. За його словами, чинних законів і правил уже достатньо для регулювання надійності та функціональності продуктів.

Водночас Амодей на Dreamforce повторив, що уповільнення розробки ШІ може стати способом підвищити безпеку всієї індустрії.

Альтман також наголосив, що під час розробки ШІ безпека та моніторинг мають бути пріоритетнішими за нові функції. Водночас він визнав, що конкуренція між компаніями та країнами може створювати тиск, який ускладнює координацію зусиль у сфері безпеки.

Дискусія про темпи розвитку ШІ також впливає на настрої інвесторів. На тлі буму штучного інтелекту та закликів лідерів галузі сповільнити розвиток технології у них почали виникати побоювання щодо подальшого зростання фондового ринку. Водночас частина інвесторів вважає, що потенційні обмеження темпів розвитку ШІ зрештою можуть піти на користь сектору, зокрема завдяки більшій увазі до безпеки та сталого розвитку технологій.