AI 2040
Доповнення
Щоб написати цей сценарій, нам довелося обдумати багато речей. Ми віримо в прозорість, тому публікуємо тут свої міркування у вигляді різних доповнень, навіть попри те, що деякі з них невідшліфовані, фрагментарні та/або є здогадками. На початку кожного ми постаралися вказати, наскільки ми в них впевнені.
FAQ
Відповіді на деякі з найпоширеніших заперечень і запитань щодо Плану А, які ми дотепер отримали.
Як План А розвʼязує наші 5 найбільших проблем
Як план відповідає на пʼять найбільших ризиків, повʼязаних із ШІ.
«Таємні ШІ-проєкти»
Наскільки приховані ШІ-проєкти загрожують Угоді, і як ми можемо їм запобігати, виявляти та стримувати їх?
План верифікації
Як США та Китай можуть забезпечити дотримання сповільнення ШІ, не мусячи довіряти одне одному?
План прозорості
Як ділитися важливою інформацією з тими, хто ухвалює рішення, і з громадськістю, уникаючи при цьому негативних наслідків?
Стратегія масштабування можливостей
Консорціум масштабується до ШІ рівня топ-експертів до 2035 року, а потім сповільнюється майже до паузи перед передачею керування.
Безпека в Плані А
Яка безпека потрібна Плану А щодо ваг моделей, цілісності верифікації та алгоритмічних секретів.
Припущення Плану А
Ключові прогнози та рекомендації, на які спирається сценарій, і наскільки ми впевнені в кожному з них.
Порівняння можливих планів
Оцінка альтернативних планів за важливими для нас метриками та наші шанси на те, що вони приведуть до хорошого майбутнього.
Ослаблення Угоди
Як ризик ослаблення Угоди з часом впливає на те, наскільки швидко масштабувати можливості.
Прогноз зльоту
Модифікована AI Futures Model, що стоїть за траєкторіями Плану А, з інтерактивним оглядачем.
Економіка Плану А
Чому ми очікуємо від ШІ повної автоматизації та вибухового зростання, і стислий виклад нашої економічної моделі.
Обчислювальні потужності в Плані А
Обґрунтування показників обчислювальних потужностей у нашому сценарії.
Оглядач економічного зростання
Інтерактивний оглядач нашої економічної моделі.
План врядування космосом
Як ресурси космосу можна було б розподілити в більш довгостроковому майбутньому.
ШІ для епістеміки
Як ми можемо використовувати ШІ для покращення людських суджень і колективного ухвалення рішень.
Дорожня карта узгодження
Наша орієнтовна дорожня карта цілей узгодження, потрібних, щоб уникнути захоплення влади ШІ.