04 Jun 2025, 23:48
Світ активно впроваджує нові стандарти та підходи до розвитку штучного інтелекту
- Провідні компанії та уряди адаптують політику ШІ до нових викликів безпеки та інновацій.
- Йошуа Бенджіо започаткував некомерційну ініціативу для розробки безпечних систем штучного інтелекту.
- Розробники та держави впроваджують додаткові заходи захисту від зловживань і кіберзагроз.
Про це повідомляють Forbes, The Verge, ZDNet.
У 2025 році світові компанії та уряди переглядають стратегії щодо розвитку та регулювання штучного інтелекту (ШІ). Департамент торгівлі США 3 червня перейменував Інститут безпеки ШІ на Центр стандартів та інновацій ШІ, змістивши акцент із загальної безпеки на національну безпеку, кіберзахист та протидію впливу іноземних систем.
У бізнесі лідери галузі, такі як OpenAI, Anthropic, xAI та DeepSeek, змагаються за вплив на глобальному ринку. OpenAI планує створити автономних ШІ-працівників, щоб зберегти технологічну перевагу, а Anthropic посилює захист своїх моделей через зростання ризиків CBRN (хімічна, біологічна, радіологічна та ядерна безпека).
Водночас науковці, зокрема Йошуа Бенджіо, виступають за розробку простіших і безпечних систем. 4 червня він анонсував створення некомерційної організації LawZero, мета якої — дослідження та впровадження рішень для безпечного дизайну ШІ. Одним із перших проєктів стане "Scientist AI" — неагентна система, що слугуватиме запобіжником для інших ШІ.
Значна увага приділяється питанням довіри до цифрових доказів, впливу ШІ на професії, а також викликам, пов’язаним із зловживанням технологіями — зокрема, фейковими дзвінками та дезінформацією. Уряди та компанії впроваджують нові протоколи ідентифікації та перевірки для зниження таких ризиків.
Теги: Технології/ШІ