03 Jun 2025, 23:20
Йошуа Бенджіо заснував LawZero та підкреслив ризики сучасного штучного інтелекту
- LawZero фінансується завдяки внескам відомих філантропів та організацій.
- Новий дослідницький центр концентрується на створенні безпечних систем штучного інтелекту.
- Йошуа Бенджіо залишає попередню посаду для повної зосередженості на LawZero.
Про це повідомляють Ars Technica, TechCrunch.
3 червня 2025 року лауреат премії Тюрінга Йошуа Бенджіо оголосив про створення некомерційної лабораторії LawZero, що спеціалізується на безпеці штучного інтелекту. Проєкт отримав фінансування у розмірі $30 мільйонів від меценатів, серед яких інженер Skype Яан Таллінн, колишній глава Google Ерік Шмідт, Open Philanthropy та Future of Life Institute.
Бенджіо звернув увагу на тривожні риси новітніх моделей ШІ, включаючи обман, маніпуляції та здатність до самообслуговування. Він відзначив, що комерційне суперництво між провідними компаніями може призводити до нехтування питаннями безпеки заради збільшення можливостей систем.
LawZero базується у Монреалі та вже має 15 співробітників. Лабораторія планує розробляти системи, здатні давати правдиві відповіді з прозорою аргументацією та оцінювати безпечність результатів. Бенджіо залишає посаду наукового директора Інституту штучного інтелекту Квебеку Mila, щоб повністю присвятити себе новому проєкту.
Заснування LawZero відбулося на фоні трансформації OpenAI у прибуткову компанію, що викликало занепокоєння щодо пріоритетності місії для людства у сфері розвитку ШІ.
Теги: Технології/ШІ