{"THE AI 2040 SCENARIO": "СЦЕНАРІЙ AI 2040", "AI Futures Project": "AI Futures Project", "AI 2040": "AI 2040", "Plan A — The Deal": "План А — Угода", "A plan for the development of\nsuperhuman AI · ai-2040.com": "План розвитку\nнадлюдського ШІ · ai-2040.com", "Design by\nLightcone Infrastructure": "Дизайн —\nLightcone Infrastructure", "Foreword": "Передмова", "Employment Rate": "Рівень зайнятості", "Median Income": "Медіанний дохід", "Alignment Researchers": "Дослідники узгодження", "Total Slowdown": "Сумарне сповільнення", "Human Labor": "Праця людей", "×1 speed": "×1 швидкість", "Reliable Agents": "Надійні агенти", "AI companies are racing to build AIs that are smarter than humans in every way. In ": "ШІ-компанії змагаються у створенні ШІ-систем, розумніших за людей у всьому. В ", "AI companies are racing to build AIs that are smarter than humans in every way. In": "ШІ-компанії змагаються у створенні ШІ-систем, розумніших за людей у всьому. В ", "AI 2027": "AI 2027", ", we predicted that this would result in either extinction or irreversible concentration of power.": " ми передбачили, що це призведе або до вимирання, або до незворотної концентрації влади.", "The AI 2027 scenario is still roughly what we expect the future to look like: a mad scramble to superintelligence leading to either AI takeover or extreme concentration of power. So far reality is tracking ": "Сценарій AI 2027 досі приблизно відповідає тому, яким ми очікуємо побачити майбутнє: шалена гонитва до суперінтелекту, що веде або до захоплення влади ШІ, або до крайньої концентрації влади. Поки що реальність рухається ", "The AI 2027 scenario is still roughly what we expect the future to look like: a mad scramble to superintelligence leading to either AI takeover or extreme concentration of power. So far reality is tracking": "Сценарій AI 2027 досі приблизно відповідає тому, яким ми очікуємо побачити майбутнє: шалена гонитва до суперінтелекту, що веде або до захоплення влади ШІ, або до крайньої концентрації влади. Поки що реальність рухається ", "closer to AI 2027": "ближче до AI 2027", " than ": ", ніж ", "than": ", ніж ", "even we expected.": "очікували навіть ми.", " (2027 was our modal year at time of publication, not our median.) You can read more about our views on timelines ": " (2027 був нашим модальним роком на момент публікації, а не медіанним.) Більше про наші погляди на таймлайни можна прочитати ", "(2027 was our modal year at time of publication, not our median.) You can read more about our views on timelines": " (2027 був нашим модальним роком на момент публікації, а не медіанним.) Більше про наші погляди на таймлайни можна прочитати ", "here": "тут", " and ": " і ", "and": " і ", ".": ".", "Plan A is our positive vision for what should happen instead.": "План А — це наше позитивне бачення того, що має статися натомість.", "In this scenario, humanity delays the development of superintelligence until 2040, makes all AI research public, allows dozens of companies globally to catch up to the frontier, and intentionally enters a regime of mutually assured compute destruction.": "У цьому сценарії людство відкладає створення суперінтелекту до 2040 року, робить усі дослідження ШІ публічними, дозволяє десяткам компаній по всьому світу наздогнати передовий рівень і свідомо входить у режим взаємно гарантованого знищення обчислювальних потужностей.", "What is Plan A?": "Що таке План А?", "Plan A is our positive vision for how humanity can avoid AI-driven existential catastrophe and reach a flourishing future.": "План А — це наше позитивне бачення того, як людство може уникнути екзистенційної катастрофи, спричиненої ШІ, і досягти квітучого майбутнього.", " It’s informed by conversations with experts at major U.S. frontier AI companies, direct experience at OpenAI, tabletop exercises, and discussions with policymakers, national security experts, and AI policy leaders. We recommend an international deal to avoid a dangerous race to superintelligence. The deal involves ": " Він ґрунтується на розмовах з експертами провідних американських передових ШІ-компаній, безпосередньому досвіді роботи в OpenAI, штабних іграх та обговореннях з політиками, експертами з національної безпеки й лідерами ШІ-політики. Ми рекомендуємо міжнародну угоду, щоб уникнути небезпечної гонки до суперінтелекту. Угода передбачає ", "It’s informed by conversations with experts at major U.S. frontier AI companies, direct experience at OpenAI, tabletop exercises, and discussions with policymakers, national security experts, and AI policy leaders. We recommend an international deal to avoid a dangerous race to superintelligence. The deal involves": " Він ґрунтується на розмовах з експертами провідних американських передових ШІ-компаній, безпосередньому досвіді роботи в OpenAI, штабних іграх та обговореннях з політиками, експертами з національної безпеки й лідерами ШІ-політики. Ми рекомендуємо міжнародну угоду, щоб уникнути небезпечної гонки до суперінтелекту. Угода передбачає ", "total research transparency": "повну дослідницьку прозорість", " for AI R&D, which allows the nations of the world to understand what’s happening and ": " для AI R&D, що дозволяє країнам світу розуміти, що відбувається, і ", "for AI R&D, which allows the nations of the world to understand what’s happening and": " для AI R&D, що дозволяє країнам світу розуміти, що відбувається, і ", "enforce guardrails": "забезпечувати дотримання запобіжників", ". The result is multiple companies across multiple countries scaling slowly and safely together towards superintelligence, instead of racing each other in secrecy.": ". У результаті багато компаній у багатьох країнах разом повільно й безпечно масштабуються до суперінтелекту, замість того щоб таємно змагатися одна з одною.", "Plan A is primarily a recommendation, not a prediction.": "План А — це насамперед рекомендація, а не прогноз.", " This scenario is ": " Цей сценарій — ", "This scenario is": " Цей сценарій — ", "not": "не", " our best guess as to what the future will actually look like. Instead, it’s a vehicle for communicating and stress-testing our policy recommendations. While the ": " наше найкраще припущення про те, яким насправді виявиться майбутнє. Радше це інструмент для донесення і стрес-тестування наших політичних рекомендацій. Хоча ", "our best guess as to what the future will actually look like. Instead, it’s a vehicle for communicating and stress-testing our policy recommendations. While the": " наше найкраще припущення про те, яким насправді виявиться майбутнє. Радше це інструмент для донесення і стрес-тестування наших політичних рекомендацій. Хоча ", "implementation": "впровадження", " of Plan A is a recommendation and not what we actually expect to happen, the ": " Плану А — це рекомендація, а не те, чого ми насправді очікуємо, ", "of Plan A is a recommendation and not what we actually expect to happen, the": " Плану А — це рекомендація, а не те, чого ми насправді очікуємо, ", "subsequent effects depicted": "зображені подальші наслідки", " are predictions.": " — це прогнози.", "are predictions.": " — це прогнози.", "That is, they are predictions about what would happen next if our recommendations were implemented.": "Тобто це прогнози того, що сталося б далі, якби наші рекомендації було впроваджено.", "In this AI 2040 scenario, Plan A is implemented successfully, albeit imperfectly and only in the nick of time.": "У цьому сценарії AI 2040 План А впроваджується успішно, хоча й недосконало і лише в останній момент.", "We contrast Plan A with 4 alternative plans (B, C, D, and S), which correspond to the main ways the US could respond (or not) to the challenges of superintelligence.": "Ми протиставляємо План А чотирьом альтернативним планам (B, C, D і S), які відповідають основним способам, у які США могли б відреагувати (або не відреагувати) на виклики суперінтелекту.", "You can read more about these four plans at the branch point below and in our supplement “": "Більше про ці чотири плани можна прочитати в точці розгалуження нижче та в нашому доповненні «", "How good is each plan?": "Наскільки добрий кожен із планів?", "”.": "».", "Why did we write this?": "Навіщо ми це написали?", "AI companies will probably succeed at their stated goal of building smarter-than-human AI systems within the next 1 to 10 years.": "ШІ-компанії, ймовірно, досягнуть своєї заявленої мети — створити ШІ-системи, розумніші за людину, — протягом наступних 1–10 років.", "The industry has convinced itself that controlling superintelligent AI can be figured out on the fly, and thus has no remotely adequate plan. We think this situation is terrible and could easily get us all killed.": "Індустрія переконала себе, що контроль над суперінтелектуальним ШІ можна з’ясувати на ходу, і тому не має бодай віддалено адекватного плану. Ми вважаємо цю ситуацію жахливою: вона запросто може всіх нас убити.", "Of course, we’re not sure exactly how likely literal AI-driven human extinction is, but opinions within our team vary between 10% and 30%. This is primarily because there are a bunch of other things misaligned ASIs might do with us after they take over, besides kill us all. For example, they might keep some people alive because it’s really cheap and they care a tiny amount, or as acausal bargaining chips. We don’t think this nuance changes the bottom line though: Misaligned AI takeover is probably really bad.": "Звісно, ми не знаємо точно, наскільки ймовірне буквальне вимирання людства через ШІ, але оцінки в нашій команді коливаються від 10% до 30%. Головна причина в тому, що є багато іншого, що неузгоджені ASI могли б зробити з нами після захоплення влади, окрім як убити всіх. Наприклад, вони можуть залишити частину людей живими, бо це дуже дешево, а їм не зовсім байдуже, або тримати нас як акаузальні козирі для торгу. Утім, ми не думаємо, що цей нюанс змінює підсумок: захоплення влади неузгодженим ШІ — це, найімовірніше, дуже погано.", " We do not expect whoever “wins the race” to have much of a lead, and we do not expect them to unilaterally slow down to reduce existential risk.": " Ми не очікуємо, що той, хто «виграє гонку», матиме великий відрив, і не очікуємо, що він односторонньо сповільниться, щоб зменшити екзистенційний ризик.", "We do not expect whoever “wins the race” to have much of a lead, and we do not expect them to unilaterally slow down to reduce existential risk.": " Ми не очікуємо, що той, хто «виграє гонку», матиме великий відрив, і не очікуємо, що він односторонньо сповільниться, щоб зменшити екзистенційний ризик.", "I (Daniel Kokotajlo) recently gave a talk to about 100 people, ~40% of whom were from frontier AI companies, and did a show-of-hands poll about (a) how many months of lead the leading AI company would have at the time they first fully automate AI R&D, and (b) how much of their lead they would be willing to burn. The median answers were roughly 3 months and 1/​3rd, respectively. This matches my own guess.": "Я (Daniel Kokotajlo) нещодавно виступав перед приблизно 100 людьми, з яких ~40% були з передових ШІ-компаній, і провів опитування підняттям рук: (a) скільки місяців відриву матиме провідна ШІ-компанія на момент, коли вона вперше повністю автоматизує AI R&D, і (b) яку частину свого відриву вона була б готова спалити. Медіанні відповіді — приблизно 3 місяці та 1/3 відповідно. Це збігається з моєю власною оцінкою.", " If this race continues,": " Якщо ця гонка триватиме,", "If this race continues,": " Якщо ця гонка триватиме,", "Also intense secrecy and groupthink conditions! By default during this period the companies will be even more closed than they are in 2026. When they say “we’ll solve the alignment problems as we go” what they really mean is “The overworked tiny group of alignment experts at our company will solve the alignment problems as we go, without being able to subject their work to external review.”": "А ще — умови жорсткої секретності й групового мислення! За замовчуванням у цей період компанії будуть ще закритішими, ніж у 2026-му. Коли вони кажуть «ми розв’язуватимемо проблеми узгодження в процесі», насправді це означає: «Перевантажена крихітна група експертів з узгодження в нашій компанії розв’язуватиме проблеми узгодження в процесі, без можливості винести свою роботу на зовнішнє рецензування».", " we do not expect humans to maintain effective control as their AIs become superintelligent.": " ми не очікуємо, що люди збережуть реальний контроль у міру того, як їхні ШІ ставатимуть суперінтелектуальними.", "we do not expect humans to maintain effective control as their AIs become superintelligent.": " ми не очікуємо, що люди збережуть реальний контроль у міру того, як їхні ШІ ставатимуть суперінтелектуальними.", "We expect them to maintain ": "Ми очікуємо, що вони збережуть ", "We expect them to maintain": "Ми очікуємо, що вони збережуть ", "apparent": "видимий", " control, to be clear, at least for some time, which is part of why this problem is so dire. The situation would be much better if we had a reliable way of telling whether an AI system was actually robustly obedient/​loyal/​aligned/​etc. vs. merely temporarily so vs. merely pretending.": " контроль — уточнимо, принаймні на якийсь час, — і почасти саме тому ця проблема така загрозлива. Ситуація була б набагато кращою, якби ми мали надійний спосіб визначити, чи ШІ-система справді стійко слухняна/лояльна/узгоджена тощо, чи лише тимчасово така, чи просто прикидається.", "control, to be clear, at least for some time, which is part of why this problem is so dire. The situation would be much better if we had a reliable way of telling whether an AI system was actually robustly obedient/​loyal/​aligned/​etc. vs. merely temporarily so vs. merely pretending.": " контроль — уточнимо, принаймні на якийсь час, — і почасти саме тому ця проблема така загрозлива. Ситуація була б набагато кращою, якби ми мали надійний спосіб визначити, чи ШІ-система справді стійко слухняна/лояльна/узгоджена тощо, чи лише тимчасово така, чи просто прикидається.", "Moreover, even if the AI companies somehow align their AIs, the result will be an unprecedented concentration of power—that is, the result will be a situation where a tiny group of people, or possibly just a single individual, is effectively in control of the world’s only army of superintelligences for some months, and will be presented by said superintelligences with various options for how to proceed, some of which will ": "Ба більше, навіть якщо ШІ-компанії якимось чином узгодять свої ШІ, результатом стане безпрецедентна концентрація влади — тобто ситуація, коли крихітна група людей, а можливо, й одна-єдина особа, впродовж кількох місяців фактично контролюватиме єдину у світі армію суперінтелектів, і ці суперінтелекти пропонуватимуть їй різні варіанти подальших дій, частина з яких ", "Moreover, even if the AI companies somehow align their AIs, the result will be an unprecedented concentration of power—that is, the result will be a situation where a tiny group of people, or possibly just a single individual, is effectively in control of the world’s only army of superintelligences for some months, and will be presented by said superintelligences with various options for how to proceed, some of which will": "Ба більше, навіть якщо ШІ-компанії якимось чином узгодять свої ШІ, результатом стане безпрецедентна концентрація влади — тобто ситуація, коли крихітна група людей, а можливо, й одна-єдина особа, впродовж кількох місяців фактично контролюватиме єдину у світі армію суперінтелектів, і ці суперінтелекти пропонуватимуть їй різні варіанти подальших дій, частина з яких ", "de facto": "де-факто", " amount to taking over the world.": " означатиме захоплення влади над світом.", "amount to taking over the world.": " означатиме захоплення влади над світом.", "The AI 2027 Slowdown ending depicts this happening. It’s quite easy to imagine because it doesn’t involve anything cartoonishly or overtly evil, but rather just a series of steps that can be justified individually (consolidating US compute into a single pool, beating China, integrating AI into the government and economy, preventing terrorists from getting their own AGIs, etc.)": "Фінал «Сповільнення» в AI 2027 зображує саме це. Його доволі легко уявити, бо там немає нічого карикатурно чи відверто злого — лише низка кроків, кожен з яких можна виправдати окремо (консолідація американських обчислювальних потужностей в єдиний пул, перемога над Китаєм, інтеграція ШІ в уряд та економіку, недопущення того, щоб терористи здобули власні AGI, тощо).", "As best as we can guess, the CEOs of OpenAI, Anthropic, xAI, and Google DeepMind understand this and are proceeding anyway, perhaps because they think they are the lesser evil and will use their immense power responsibly, unlike Xi Jinping or rival CEOs.": "Наскільки ми можемо судити, CEO OpenAI, Anthropic, xAI та Google DeepMind це розуміють і все одно продовжують — можливо, тому що вважають себе меншим злом і думають, що використають свою величезну владу відповідально, на відміну від Сі Цзіньпіна чи CEO-суперників.", "For example, these ": "Наприклад, ці ", "For example, these": "Наприклад, ці ", "old OpenAI emails": "старі імейли OpenAI", " reveal that OpenAI was founded in significant part because of fear that Demis Hassabis, DeepMind CEO, would use AGI to become dictator. See also related reporting in ": " показують, що OpenAI було засновано значною мірою через страх, що Demis Hassabis, CEO DeepMind, використає AGI, щоб стати диктатором. Див. також відповідні матеріали в ", "reveal that OpenAI was founded in significant part because of fear that Demis Hassabis, DeepMind CEO, would use AGI to become dictator. See also related reporting in": " показують, що OpenAI було засновано значною мірою через страх, що Demis Hassabis, CEO DeepMind, використає AGI, щоб стати диктатором. Див. також відповідні матеріали в ", "Empire of AI": "Empire of AI", ". See also ": ". Див. також ", ". See also": ". Див. також ", "this": "це", "While we agree that it is generally correct to choose the lesser evil, we don’t think we should advocate for a strategy that has such a scarily high chance of leading to human extinction or global dictatorship. Instead, we wish to advocate for something that is actually good. If enough people do likewise, it can happen.": "Хоча ми згодні, що загалом правильно обирати менше зло, ми не вважаємо, що варто просувати стратегію з настільки лячно високим шансом призвести до вимирання людства чи глобальної диктатури. Натомість ми хочемо виступати за те, що є справді добрим. Якщо так робитиме достатньо людей, це може статися.", "So, we wrote a scenario outlining that possible world.": "Тож ми написали сценарій, що окреслює такий можливий світ.", "Why a scenario?": "Чому саме сценарій?", "“Plans are worthless, but planning is everything.” - Dwight D. Eisenhower": "«Плани нічого не варті, але планування — це все». — Дуайт Д. Ейзенхауер", "We think most AI policy proposals fall apart under ": "Ми вважаємо, що більшість пропозицій ШІ-політики розсипаються під ", "We think most AI policy proposals fall apart under": "Ми вважаємо, що більшість пропозицій ШІ-політики розсипаються під ", "scenario scrutiny": "сценарною перевіркою", "—that is, if you try to write down a detailed and plausible scenario in which that proposal succeeds, you will find it difficult to do so, and you will realize the plan is less likely to work than it seemed, or has more unpleasant side-effects than its proponents acknowledged.": " — тобто якщо спробувати виписати детальний і правдоподібний сценарій, у якому ця пропозиція досягає успіху, зробити це виявиться складно, і ви зрозумієте, що план має менше шансів спрацювати, ніж здавалося, або більше неприємних побічних ефектів, ніж визнавали його прихильники.", "Perhaps that’s why scenario scrutiny is so rare in AI policy. Everyone wants to say that their own favorite policies will have great consequences and that the policies of their rivals will have terrible consequences. Applying scenario scrutiny to their own favorite policies might surface uncomfortable issues with them; meanwhile, applying scenario scrutiny to their rival’s policies is a lot of work for little rhetorical gain.": "Можливо, саме тому сценарна перевірка така рідкісна в ШІ-політиці. Кожен хоче казати, що його улюблені політики матимуть чудові наслідки, а політики суперників — жахливі. Сценарна перевірка власних улюблених політик може виявити незручні проблеми з ними; тим часом сценарна перевірка політик суперника — це багато роботи заради мізерного риторичного зиску.", "For one thing, it’s hard to apply scenario scrutiny to a policy proposal if you have only a shallow understanding of it, and people generally understand their own favorite ideas much better than they understand the ideas they hate. For another, the evidential force of scenario scrutiny is inherently stronger for scenarios written by proponents than by opponents: If a proponent of a policy tries their best to depict it succeeding, and fails, that’s a lot more evidence than if an opponent of a policy depicts the policy failing.": "По-перше, важко застосувати сценарну перевірку до політичної пропозиції, якщо розумієш її лише поверхово, а люди зазвичай розуміють власні улюблені ідеї набагато краще, ніж ідеї, які ненавидять. По-друге, доказова сила сценарної перевірки за своєю природою більша для сценаріїв, написаних прихильниками, ніж опонентами: якщо прихильник політики щосили намагається зобразити її успіх — і в нього не виходить, це набагато вагоміший доказ, ніж коли опонент політики зображує її провал.", "We think the discourse would be improved if more AI policy proposals were subjected to scenario scrutiny. So we’re starting with our own, even though this opens us up to criticism. We hope critics will judge us against the existing state-of-the-art for plans to navigate the AI transition (if they can find any) and not against some hazy but pleasant fantasy where no one has to make any hard choices yet everything will probably be fine.": "Ми вважаємо, що дискурс поліпшився б, якби більше пропозицій ШІ-політики проходили сценарну перевірку. Тож ми починаємо з власної — хоч це й відкриває нас для критики. Сподіваємося, критики судитимуть нас на тлі наявного state-of-the-art серед планів проходження ШІ-переходу (якщо зможуть такий знайти), а не на тлі туманної, але приємної фантазії, де нікому не доводиться робити важких виборів, і все, мабуть, буде добре.", "What of the immense difficulty of predicting the effect our policy would have in a world approaching superhuman AIs? This is like trying to predict how to best fight World War 3, except that it’s an even larger departure from past case-studies. Yet it is still valuable to attempt, just as it is valuable for the U.S. military to game out Taiwan scenarios in excruciating detail. There are other precedents as well: ": "А як щодо колосальної складності передбачити, який ефект наша політика матиме у світі, що наближається до надлюдських ШІ? Це як намагатися передбачити, як найкраще вести Третю світову війну, тільки з іще більшим відривом від минулих кейсів. Проте спробувати все одно цінно — так само, як американським військовим цінно до найдрібніших деталей програвати тайванські сценарії. Є й інші прецеденти: ", "What of the immense difficulty of predicting the effect our policy would have in a world approaching superhuman AIs? This is like trying to predict how to best fight World War 3, except that it’s an even larger departure from past case-studies. Yet it is still valuable to attempt, just as it is valuable for the U.S. military to game out Taiwan scenarios in excruciating detail. There are other precedents as well:": "А як щодо колосальної складності передбачити, який ефект наша політика матиме у світі, що наближається до надлюдських ШІ? Це як намагатися передбачити, як найкраще вести Третю світову війну, тільки з іще більшим відривом від минулих кейсів. Проте спробувати все одно цінно — так само, як американським військовим цінно до найдрібніших деталей програвати тайванські сценарії. Є й інші прецеденти: ", "intelligence agencies": "розвідувальні агентства", ", ": ", ", ",": ", ", "climate bodies": "кліматичні органи", ", and ": " та ", ", and": " та ", "pandemic-preparedness offices": "офіси готовності до пандемій", " all rely on various kinds of scenario planning.": " — усі вони спираються на різні види сценарного планування.", "all rely on various kinds of scenario planning.": " — усі вони спираються на різні види сценарного планування.", "AI timelines?": "Таймлайни ШІ?", "Plan A is our ambitious proposal for what to do, and we’d like to see something like it implemented soon because we are uncertain about how much time remains.": "План А — наша амбітна пропозиція щодо того, що робити, і ми хотіли б, щоб щось подібне впровадили якнайшвидше, бо ми не впевнені, скільки часу залишилося.", "That is, we are uncertain about how fast AI capabilities will progress – about how much time remains before the AI companies succeed at automating their research and accelerating towards superintelligence, for example.": "Тобто ми не впевнені, наскільки швидко прогресуватимуть можливості ШІ — наприклад, скільки часу лишилося до того, як ШІ-компанії зможуть автоматизувати власні дослідження й почнуть прискорюватися до суперінтелекту.", " But for purposes of writing a concrete scenario, we need a concrete timeline.": " Але щоб написати конкретний сценарій, нам потрібен конкретний таймлайн.", "But for purposes of writing a concrete scenario, we need a concrete timeline.": " Але щоб написати конкретний сценарій, нам потрібен конкретний таймлайн.", "The timeline of this scenario is:": "Таймлайн цього сценарію такий:", "In 2029, the US and China agree to avoid a reckless race to superintelligence.": "У 2029 році США та Китай домовляються уникнути безрозсудної гонки до суперінтелекту.", "In 2030, we ": "У 2030-му ми ", "In 2030, we": "У 2030-му ми ", "would have": "мали б", " fully automated AI R&D,": " повністю автоматизувати AI R&D,", "fully automated AI R&D,": " повністю автоматизувати AI R&D,", " leading to superintelligence by the end of the year. ": " що вело б до суперінтелекту до кінця року. ", "leading to superintelligence by the end of the year.": " що вело б до суперінтелекту до кінця року. ", "Thanks to the deal, we avoid this.": "Завдяки Угоді ми цього уникаємо.", "Between 2030 and 2035, we scale within the human range, to AIs that are roughly as capable as top human experts.": "Між 2030 і 2035 роками ми масштабуємося в межах людського діапазону — до ШІ-систем, приблизно настільки ж здібних, як топові людські експерти.", "In 2035, we pause at top-human-expert level AI in order to maintain human control.": "У 2035-му ми ставимо паузу на рівні ШІ топового людського експерта, щоб зберегти людський контроль.", "In 2040, we unpause and scale to superintelligence.": "У 2040-му ми знімаємо паузу й масштабуємося до суперінтелекту.", "Superintelligence means AI systems that are significantly better than the best humans at everything, while also being faster and cheaper.": "Суперінтелект означає ШІ-системи, які значно кращі за найкращих людей у всьому, а до того ж швидші й дешевші.", " (": " (", "(": " (", "Hence the title: AI 2040": "Звідси й назва: AI 2040", ")": ")", "In our previous scenario, ": "У нашому попередньому сценарії, ", "In our previous scenario,": "У нашому попередньому сценарії, ", ", AI fully automated the process of building smarter AIs in 2027, leading to an intelligence explosion and superintelligence within the year. The two differences in this scenario are (1) the default timeline is now 2030, and (2) thanks to governance actions, generally-superhuman AIs first appear in 2040.": ", ШІ повністю автоматизував процес створення розумніших ШІ у 2027 році, що призвело до вибуху інтелекту та суперінтелекту в межах року. Дві відмінності цього сценарію: (1) дефолтний таймлайн тепер — 2030 рік, і (2) завдяки діям у сфері врядування загалом надлюдські ШІ вперше з’являються у 2040-му.", "We changed the default timeline because we want our portfolio of scenarios to reflect our uncertainty about AI timelines.": "Ми змінили дефолтний таймлайн, бо хочемо, щоб наш портфель сценаріїв відображав нашу невизначеність щодо таймлайнів ШІ.", " AI 2027’s titular year was chosen because, at the time we started writing, Daniel thought there was roughly a 50% chance that things would go that fast or faster.": " Рік у назві AI 2027 обрали тому, що на момент, коли ми почали писати, Daniel вважав: є приблизно 50% шансів, що все піде так швидко або швидше.", "AI 2027’s titular year was chosen because, at the time we started writing, Daniel thought there was roughly a 50% chance that things would go that fast or faster.": " Рік у назві AI 2027 обрали тому, що на момент, коли ми почали писати, Daniel вважав: є приблизно 50% шансів, що все піде так швидко або швидше.", "By the time we finished writing AI 2027, Daniel’s AGI median was 2028. Other authors’ medians were between 2031 and 2035. To read more about how Daniel and Eli’s views have shifted over time, see ": "На момент завершення роботи над AI 2027 медіана Daniel щодо AGI була 2028 рік. Медіани інших авторів були між 2031 і 2035. Докладніше про те, як погляди Daniel та Eli змінювалися з часом, див. ", "By the time we finished writing AI 2027, Daniel’s AGI median was 2028. Other authors’ medians were between 2031 and 2035. To read more about how Daniel and Eli’s views have shifted over time, see": "На момент завершення роботи над AI 2027 медіана Daniel щодо AGI була 2028 рік. Медіани інших авторів були між 2031 і 2035. Докладніше про те, як погляди Daniel та Eli змінювалися з часом, див. ", ". We are regularly updating our forecasts ": ". Ми регулярно оновлюємо наші прогнози ", ". We are regularly updating our forecasts": ". Ми регулярно оновлюємо наші прогнози ", ", with corresponding blog posts on ": ", з відповідними дописами в блозі на ", ", with corresponding blog posts on": ", з відповідними дописами в блозі на ", "our Substack": "нашому Substack", " At the time we started writing Plan A, 2030 was the corresponding year for Thomas. ": " На момент, коли ми почали писати План А, відповідним роком для Thomas був 2030-й. ", "At the time we started writing Plan A, 2030 was the corresponding year for Thomas.": " На момент, коли ми почали писати План А, відповідним роком для Thomas був 2030-й. ", "Daniel currently thinks things will probably go somewhat faster than depicted in this scenario": "Daniel наразі вважає, що все, ймовірно, піде дещо швидше, ніж зображено в цьому сценарії", "; you can read more about our team’s views on timelines ": "; більше про погляди нашої команди на таймлайни можна прочитати ", "; you can read more about our team’s views on timelines": "; більше про погляди нашої команди на таймлайни можна прочитати ", "here.": "тут.", "We changed the governance actions because ": "Ми змінили дії у сфері врядування, бо ", "We changed the governance actions because": "Ми змінили дії у сфері врядування, бо ", "this scenario is primarily a recommendation, not a prediction.": "цей сценарій — насамперед рекомендація, а не прогноз.", " Conducting a full-speed intelligence explosion is wildly reckless and concentrates power to an extreme degree.": " Проводити вибух інтелекту на повній швидкості — дико безрозсудно, і це концентрує владу до крайньої міри.", "Conducting a full-speed intelligence explosion is wildly reckless and concentrates power to an extreme degree.": " Проводити вибух інтелекту на повній швидкості — дико безрозсудно, і це концентрує владу до крайньої міри.", "2027: The Writing on the Wall": "2027: Письмена на стіні", "America has two workforces now. The first is people, 165 million of them. The second is AI agents: millions of copies spun up and shut down every hour, working around the clock at superhuman speeds.": "В Америці тепер дві робочі сили. Перша — це люди, їх 165 мільйонів. Друга — ШІ-агенти: мільйони копій, що запускаються і вимикаються щогодини, працюючи цілодобово на надлюдських швидкостях.", "Most of their work is slop. But enough of it is good that people are paying ten billion dollars a month for AIs that can, in theory at least, do anything on a computer that an employee can.": "Більшість їхньої роботи — слоп. Але достатня її частина добра — настільки, що люди платять десять мільярдів доларів на місяць за ШІ, здатні, принаймні в теорії, робити на комп’ютері будь-що з того, що може працівник.", "There is one job the AI companies want to automate more than any other—their own. They haven’t succeeded yet; no ": "Є одна робота, яку ШІ-компанії хочуть автоматизувати понад усі інші, — їхня власна. Поки що їм це не вдалося; жодного ", "There is one job the AI companies want to automate more than any other—their own. They haven’t succeeded yet; no": "Є одна робота, яку ШІ-компанії хочуть автоматизувати понад усі інші, — їхня власна. Поки що їм це не вдалося; жодного ", "recursive self-improvement": "рекурсивного самовдосконалення", " so far.": " наразі немає.", "so far.": " наразі немає.", "AIs are helping to make future AIs more capable, but AI development still requires humans.": "ШІ допомагають робити майбутні ШІ здібнішими, але розробка ШІ досі потребує людей.", " But they seem to be getting closer, and they’re pulling up the ladder behind them: the strongest coding AIs refuse to help competitors with AI R&D.": " Але, схоже, вони наближаються — і затягують драбину за собою: найсильніші ШІ для кодингу відмовляються допомагати конкурентам з AI R&D.", "But they seem to be getting closer, and they’re pulling up the ladder behind them: the strongest coding AIs refuse to help competitors with AI R&D.": " Але, схоже, вони наближаються — і затягують драбину за собою: найсильніші ШІ для кодингу відмовляються допомагати конкурентам з AI R&D.", "This policy is selfishly good for leading AI companies insofar as it makes it harder for trailing companies to catch up, but it’s also good for safety because it slows irreversible proliferation of algorithmic insights.": "Ця політика егоїстично вигідна провідним ШІ-компаніям, оскільки ускладнює відсталим компаніям наздоганяння, але вона також корисна для безпеки, бо сповільнює незворотне поширення алгоритмічних інсайтів.", " Even as the most bullish employees admit that things are taking a bit longer than planned, the skeptics notice that their usual dismissals are starting to ring hollow. Why exactly will AI never be able to do my job? What’s the barrier again?": " Навіть коли найоптимістичніші співробітники визнають, що все триває трохи довше, ніж планувалося, скептики помічають, що їхні звичні відмахування починають звучати порожньо. Чому саме ШІ ніколи не зможе виконувати мою роботу? Який там, ще раз, бар’єр?", "Even as the most bullish employees admit that things are taking a bit longer than planned, the skeptics notice that their usual dismissals are starting to ring hollow. Why exactly will AI never be able to do my job? What’s the barrier again?": " Навіть коли найоптимістичніші співробітники визнають, що все триває трохи довше, ніж планувалося, скептики помічають, що їхні звичні відмахування починають звучати порожньо. Чому саме ШІ ніколи не зможе виконувати мою роботу? Який там, ще раз, бар’єр?", "Congress is starting to pay more attention.": "Конгрес починає звертати більше уваги.", " They’ve long been hearing about AI: datacenters using too much water,": " Про ШІ там чують уже давно: дата-центри споживають забагато води,", "They’ve long been hearing about AI: datacenters using too much water,": " Про ШІ там чують уже давно: дата-центри споживають забагато води,", "We think the concerns around current AI water usage are largely overstated. See this ": "Ми вважаємо, що занепокоєння щодо поточного споживання води ШІ здебільшого перебільшені. Див. цю ", "We think the concerns around current AI water usage are largely overstated. See this": "Ми вважаємо, що занепокоєння щодо поточного споживання води ШІ здебільшого перебільшені. Див. цю ", "article": "статтю", " for more. That said, as will be apparent later in the scenario, we do think that the environmental impact of AI over the next decade or two will be enormous, and that unrestrained growth would literally boil the oceans. See the ": ", щоб дізнатися більше. Утім, як стане видно далі в сценарії, ми справді вважаємо, що вплив ШІ на довкілля протягом наступного десятиліття-двох буде величезним і що нестримне зростання буквально закип’ятило б океани. Див. ", "for more. That said, as will be apparent later in the scenario, we do think that the environmental impact of AI over the next decade or two will be enormous, and that unrestrained growth would literally boil the oceans. See the": ", щоб дізнатися більше. Утім, як стане видно далі в сценарії, ми справді вважаємо, що вплив ШІ на довкілля протягом наступного десятиліття-двох буде величезним і що нестримне зростання буквально закип’ятило б океани. Див. ", "energy appendix in our economics supplement": "додаток про енергію в нашому економічному доповненні", " for more on this.": ", де про це докладніше.", "for more on this.": ", де про це докладніше.", " chatbots encouraging suicide, ": " чат-боти підштовхують до самогубства, ", "chatbots encouraging suicide,": " чат-боти підштовхують до самогубства, ", "Mythos hacking NSA systems": "Mythos зламує системи АНБ", "—and of course, tech industry lobbyists warning that any whiff of regulation will make America immediately lose the race with China and spend the rest of history as a CCP tributary state.": " — і, звісно, лобісти технологічної індустрії застерігають, що найменший натяк на регулювання змусить Америку миттєво програти гонку Китаю і провести решту історії як держава-данник КПК.", "Are we really in such a race? Sort of, but ": "Чи справді ми в такій гонці? Певною мірою, але ", "Are we really in such a race? Sort of, but": "Чи справді ми в такій гонці? Певною мірою, але ", "not exactly.": "не зовсім.", " On our default trajectory, AI will soon become very powerful, to the point where it’s more strategically important than nuclear weapons; that much is true. Many people, including the CEOs of frontier AI companies, are trying hard to build smarter and smarter AI systems before their competitors do. However, being overly paranoid about competitors is a well-known bias. Assuming that we’re in a winner-takes-all race rules out many possible avenues for cooperation, creating a self-fulfilling trap. We expect that the scale and speed of AI progress will make it increasingly obvious to decision-makers in both the US and China that the current pace of progress, and lack of trust between them, is extremely dangerous. Indeed, it may be possible for the two countries to coordinate on a slowdown without any binding agreement, if they build trust by each gradually deescalating. Our proposed Plan A should be interpreted as an approach that could work ": " На нашій дефолтній траєкторії ШІ незабаром стане дуже потужним — аж настільки, що буде стратегічно важливішим за ядерну зброю; це правда. Багато людей, включно з CEO передових ШІ-компаній, щосили намагаються створювати дедалі розумніші ШІ-системи раніше за конкурентів. Однак надмірна параноя щодо конкурентів — добре відоме упередження. Припущення, що ми в гонці, де переможець забирає все, відкидає багато можливих шляхів співпраці, створюючи самосправджувану пастку. Ми очікуємо, що масштаб і швидкість прогресу ШІ робитимуть дедалі очевиднішим для осіб, які ухвалюють рішення, і в США, і в Китаї, що поточний темп прогресу та брак довіри між ними надзвичайно небезпечні. Ба більше, двом країнам, можливо, вдалося б скоординувати сповільнення й без жодної юридично зобов’язальної угоди — якщо вони збудують довіру, поступово деескалуючи кожна зі свого боку. Запропонований нами План А слід тлумачити як підхід, що міг би спрацювати, ", "On our default trajectory, AI will soon become very powerful, to the point where it’s more strategically important than nuclear weapons; that much is true. Many people, including the CEOs of frontier AI companies, are trying hard to build smarter and smarter AI systems before their competitors do. However, being overly paranoid about competitors is a well-known bias. Assuming that we’re in a winner-takes-all race rules out many possible avenues for cooperation, creating a self-fulfilling trap. We expect that the scale and speed of AI progress will make it increasingly obvious to decision-makers in both the US and China that the current pace of progress, and lack of trust between them, is extremely dangerous. Indeed, it may be possible for the two countries to coordinate on a slowdown without any binding agreement, if they build trust by each gradually deescalating. Our proposed Plan A should be interpreted as an approach that could work": " На нашій дефолтній траєкторії ШІ незабаром стане дуже потужним — аж настільки, що буде стратегічно важливішим за ядерну зброю; це правда. Багато людей, включно з CEO передових ШІ-компаній, щосили намагаються створювати дедалі розумніші ШІ-системи раніше за конкурентів. Однак надмірна параноя щодо конкурентів — добре відоме упередження. Припущення, що ми в гонці, де переможець забирає все, відкидає багато можливих шляхів співпраці, створюючи самосправджувану пастку. Ми очікуємо, що масштаб і швидкість прогресу ШІ робитимуть дедалі очевиднішим для осіб, які ухвалюють рішення, і в США, і в Китаї, що поточний темп прогресу та брак довіри між ними надзвичайно небезпечні. Ба більше, двом країнам, можливо, вдалося б скоординувати сповільнення й без жодної юридично зобов’язальної угоди — якщо вони збудують довіру, поступово деескалуючи кожна зі свого боку. Запропонований нами План А слід тлумачити як підхід, що міг би спрацювати, ", "even if": "навіть якщо", " the US and China have absolutely zero trust for each other, rather than a claim that strict verification protocols are definitely necessary.": " США й Китай мають абсолютно нульову довіру одне до одного, а не як твердження, що суворі протоколи верифікації точно необхідні.", "the US and China have absolutely zero trust for each other, rather than a claim that strict verification protocols are definitely necessary.": " США й Китай мають абсолютно нульову довіру одне до одного, а не як твердження, що суворі протоколи верифікації точно необхідні.", "Now they step back and ask: Where are we going with this? What does the world look like five, ten, or fifteen years from now? Will there still be jobs? What if there aren’t?": "Тепер вони роблять крок назад і питають: куди ми з цим ідемо? Яким буде світ через п’ять, десять чи п’ятнадцять років? Чи будуть іще робочі місця? А що, як ні?", "One question weighs especially heavily on their minds: ": "Одне питання тисне на них особливо сильно: ", "One question weighs especially heavily on their minds:": "Одне питання тисне на них особливо сильно: ", "Who will control all these AIs?": "Хто контролюватиме всі ці ШІ?", "Congress settles on an important part of the answer: ": "Конгрес доходить важливої частини відповіді: ", "Congress settles on an important part of the answer:": "Конгрес доходить важливої частини відповіді: ", "Probably not us.": "Мабуть, не ми.", "That is, not Congress. By default the people who control the AIs, if anyone truly does, will be AI companies or maybe the White House.": "Тобто не Конгрес. За замовчуванням тими, хто контролюватиме ШІ — якщо взагалі хтось по-справжньому контролюватиме, — будуть ШІ-компанії або, можливо, Білий дім.", "They hold a series of tense hearings on AI. They read the 2016 OpenAI emails discussing how OpenAI was founded in order to ": "Вони проводять серію напружених слухань щодо ШІ. Читають імейли OpenAI 2016 року, де обговорюється, що OpenAI було засновано, аби ", "They hold a series of tense hearings on AI. They read the 2016 OpenAI emails discussing how OpenAI was founded in order to": "Вони проводять серію напружених слухань щодо ШІ. Читають імейли OpenAI 2016 року, де обговорюється, що OpenAI було засновано, аби ", "prevent Demis Hassabis from becoming dictator": "не дати Demis Hassabis стати диктатором", "From Ilya and Greg: “The goal of OpenAI is to make the future good and to avoid an AGI dictatorship. You are concerned that Demis could create an AGI dictatorship. So do we. So it is a bad idea to create a structure where you could become a dictator if you chose to, especially given that we can create some other structure that avoids this possibility.”": "Від Ilya та Greg: «Мета OpenAI — зробити майбутнє добрим і уникнути диктатури AGI. Ви занепокоєні, що Demis міг би створити диктатуру AGI. Ми теж. Тому створювати структуру, в якій ви могли б стати диктатором, якби захотіли, — погана ідея, особливо з огляду на те, що ми можемо створити іншу структуру, яка виключає таку можливість».", " But who is preventing Sam or Elon from becoming dictator? Congress is unsatisfied with existing responses.": " Але хто не дає стати диктатором Сему чи Ілону? Наявні відповіді Конгрес не задовольняють.", "But who is preventing Sam or Elon from becoming dictator? Congress is unsatisfied with existing responses.": " Але хто не дає стати диктатором Сему чи Ілону? Наявні відповіді Конгрес не задовольняють.", "The result of this wakeup is the AI Transparency Act of 2027, an omnibus bill that does many things, some good and some bad, but doesn’t fundamentally change the situation.": "Результатом цього пробудження стає AI Transparency Act 2027 року — всеосяжний закон, який робить багато різного, щось добре, а щось погане, але фундаментально ситуації не змінює.", "We don’t mean to ": "Ми не маємо на меті ", "We don’t mean to": "Ми не маємо на меті ", "recommend": "рекомендувати", " bad things; we are ": " погане; ми ", "bad things; we are": " погане; ми ", "predicting": "прогнозуємо", " that a mixture of good and bad incrementalist reforms will happen in 2027. For more on how we balance predictions and recommendations in this scenario, see ": ", що у 2027 році відбудеться суміш добрих і поганих поступових реформ. Більше про те, як ми балансуємо між прогнозами й рекомендаціями в цьому сценарії, див. ", "that a mixture of good and bad incrementalist reforms will happen in 2027. For more on how we balance predictions and recommendations in this scenario, see": ", що у 2027 році відбудеться суміш добрих і поганих поступових реформ. Більше про те, як ми балансуємо між прогнозами й рекомендаціями в цьому сценарії, див. ", "➤ See ": "➤ Див. ", "➤ See": "➤ Див. ", "Appendix A — Incremental AI Policy Wishlist": "Додаток A — Список побажань щодо поступової ШІ-політики", " for more detail.": ", де більше деталей.", "for more detail.": ", де більше деталей.", "2028: AI on the Ballot": "2028: ШІ у виборчому бюлетені", "The 2028 election cycle is heated, as usual. AI is the biggest topic. The datacenters now under construction cost twice as much as the entire US military budget.": "Виборчий цикл 2028 року, як завжди, розпечений. ШІ — найбільша тема. Дата-центри, що зараз будуються, коштують удвічі більше за весь військовий бюджет США.", "That is, the AI industry spends $2.4T of CapEx over 2028, triple what was spent in 2026. The US military budget in 2025 was about $1T. The biggest AI company has $360B ARR at the beginning of 2028 and is still growing at a roughly 150% annualized growth rate, putting it on track to become both the most valuable company in the world and ": "Тобто ШІ-індустрія витрачає $2.4T капітальних видатків (CapEx) за 2028 рік — утричі більше, ніж було витрачено у 2026-му. Військовий бюджет США у 2025 році становив близько $1T. Найбільша ШІ-компанія на початку 2028 року має $360B ARR і далі зростає з річним темпом приблизно 150%, що виводить її на траєкторію стати водночас найдорожчою компанією світу та ", "That is, the AI industry spends $2.4T of CapEx over 2028, triple what was spent in 2026. The US military budget in 2025 was about $1T. The biggest AI company has $360B ARR at the beginning of 2028 and is still growing at a roughly 150% annualized growth rate, putting it on track to become both the most valuable company in the world and": "Тобто ШІ-індустрія витрачає $2.4T капітальних видатків (CapEx) за 2028 рік — утричі більше, ніж було витрачено у 2026-му. Військовий бюджет США у 2025 році становив близько $1T. Найбільша ШІ-компанія на початку 2028 року має $360B ARR і далі зростає з річним темпом приблизно 150%, що виводить її на траєкторію стати водночас найдорожчою компанією світу та ", "the largest company in the world by revenue": "найбільшою компанією світу за виручкою", ", in 1-2 years.": " протягом 1-2 років.", "Most white-collar professions are seeing disruption like software engineering saw in 2026; such jobs now heavily involve managing AI agents. AI companies have industrialized the training process: Executives say “let’s move into [profession] this year” and then the company interviews professionals, buys data, creates training environments, etc. until their AIs get traction. Then the AIs rapidly improve as they are used more widely in the field and accumulate more real-world data.": "Більшість офісних професій переживають дизрапшн, подібний до того, що спіткав розробку ПЗ у 2026-му; така робота тепер значною мірою полягає в керуванні ШІ-агентами. ШІ-компанії поставили процес навчання на індустріальні рейки: керівники кажуть «цього року заходимо в [професію]» — і компанія проводить інтерв’ю з фахівцями, купує дані, створює навчальні середовища тощо, поки їхні ШІ не наберуть обертів. Далі ШІ швидко вдосконалюються в міру того, як їх ширше використовують у полі й вони накопичують більше даних з реального світу.", "Other countries are starting to get scared and angry. It seems like a handful of US and Chinese companies are on track to automate all the white-collar jobs. Power is concentrating in the US, and in particular in the President plus a handful of tech CEOs.": "Інші країни починають лякатися і злитися. Схоже, жменька американських і китайських компаній ось-ось автоматизує всі офісні робочі місця. Влада концентрується у США — зокрема в руках Президента та кількох CEO технологічних компаній.", "AI experts warn that the intelligence explosion is near. By speeding up AI research, the AIs will become even more competent, speeding up research even faster, making them even ": "Експерти з ШІ попереджають, що вибух інтелекту вже близько. Прискорюючи дослідження ШІ, ШІ-системи ставатимуть ще компетентнішими, прискорюючи дослідження ще швидше, що робитиме їх ще ", "AI experts warn that the intelligence explosion is near. By speeding up AI research, the AIs will become even more competent, speeding up research even faster, making them even": "Експерти з ШІ попереджають, що вибух інтелекту вже близько. Прискорюючи дослідження ШІ, ШІ-системи ставатимуть ще компетентнішими, прискорюючи дослідження ще швидше, що робитиме їх ще ", "more": "більш", " competent, and so on. There are ": " компетентними, і так далі. Є ", "competent, and so on. There are": " компетентними, і так далі. Є ", "complicated dynamics": "складна динаміка", " about bottlenecks and hardware limits governing how fast this process goes and where it ends, but it seems like it might go very fast and end somewhere very far away.": " з вузькими місцями та апаратними обмеженнями, що визначає, наскільки швидко йде цей процес і де він завершується, але, схоже, він може піти дуже швидко й завершитися десь дуже далеко.", "about bottlenecks and hardware limits governing how fast this process goes and where it ends, but it seems like it might go very fast and end somewhere very far away.": " з вузькими місцями та апаратними обмеженнями, що визначає, наскільки швидко йде цей процес і де він завершується, але, схоже, він може піти дуже швидко й завершитися десь дуже далеко.", "On the default path, the next presidential term will see AIs that are far beyond human level, created entirely by AIs, themselves created entirely by other AIs, without any human in the loop since several generations back. Will those AIs be obedient, aligned, etc.? Why? Who will control them if so? How exactly is all of this supposed to end well?": "На дефолтному шляху вже в наступну президентську каденцію з’являться ШІ, що далеко перевершують людський рівень, — створені повністю ШІ, які самі створені повністю іншими ШІ, без жодної людини в циклі вже кілька поколінь поспіль. Чи будуть ті ШІ слухняними, узгодженими тощо? Чому? І якщо так — хто їх контролюватиме? Як саме все це має добре закінчитися?", "Having put humanity on this path, the AI companies find it acceptable. But most people don’t. Forget thinking about his ": "Поставивши людство на цей шлях, ШІ-компанії вважають його прийнятним. Але більшість людей — ні. Годі вже про його ", "Having put humanity on this path, the AI companies find it acceptable. But most people don’t. Forget thinking about his": "Поставивши людство на цей шлях, ШІ-компанії вважають його прийнятним. Але більшість людей — ні. Годі вже про його ", "legacy": "спадщину", "—the President is starting to think about what’ll happen to ": " — Президент починає думати про те, що буде з ", "—the President is starting to think about what’ll happen to": " — Президент починає думати про те, що буде з ", "him": "ним самим", " after he leaves office and the world gets transformed.": " після того, як він піде з посади, а світ трансформується.", "after he leaves office and the world gets transformed.": " після того, як він піде з посади, а світ трансформується.", "After all, he’ll still be alive after leaving office. Just like the rest of us, he’ll have to endure whatever crises result from superintelligence, and hope that the new President handles them well and doesn’t become dictator. It’s in his interest both to set the new President up for success with respect to the loss-of-control problem, and to install checks and balances to prevent extreme concentration of power.": "Зрештою, після відходу з посади він усе ще буде живий. Як і всім нам, йому доведеться пережити всі кризи, які принесе суперінтелект, і сподіватися, що новий Президент дасть їм раду й не стане диктатором. У його інтересах і підготувати нового Президента до успіху щодо проблеми втрати контролю, і встановити стримування та противаги, щоб запобігти крайній концентрації влади.", " Both presidential candidates keep getting asked what they’ll do about AI, and try out increasingly dramatic ideas on the campaign trail. The discourse bounces back and forth across all of the options displayed below, and more.": " Обох кандидатів у президенти постійно питають, що вони робитимуть із ШІ, і під час кампанії ті випробовують дедалі драматичніші ідеї. Дискурс кидається туди-сюди між усіма варіантами, показаними нижче, і не тільки.", "Both presidential candidates keep getting asked what they’ll do about AI, and try out increasingly dramatic ideas on the campaign trail. The discourse bounces back and forth across all of the options displayed below, and more.": " Обох кандидатів у президенти постійно питають, що вони робитимуть із ШІ, і під час кампанії ті випробовують дедалі драматичніші ідеї. Дискурс кидається туди-сюди між усіма варіантами, показаними нижче, і не тільки.", "Eventually the President and his protégé converge on one plan; the opposition candidate converges on another. Then it’s Election Day.": "Зрештою Президент і його протеже сходяться на одному плані; кандидат від опозиції — на іншому. А тоді настає день виборів.", "2029: Choose a Path": "2029: Оберіть шлях", "“Trust, but verify” – Ronald Reagan": "«Довіряй, але перевіряй» — Рональд Рейган", "The President announces that the US will pursue international cooperation to avoid an imminent intelligence explosion.": "Президент оголошує, що США прагнутимуть міжнародної співпраці, аби уникнути вибуху інтелекту, що насувається.", "“This mad race toward superintelligence must end. For too long, we have been pursuing lesser-evils and least-bad solutions. We need a Plan A. We can still proceed with AI development, but we must do it ": "«Ця божевільна гонка до суперінтелекту має закінчитися. Надто довго ми обирали менше зло та найменш погані рішення. Нам потрібен План А. Ми можемо продовжувати розвивати ШІ, але мусимо робити це ", "“This mad race toward superintelligence must end. For too long, we have been pursuing lesser-evils and least-bad solutions. We need a Plan A. We can still proceed with AI development, but we must do it": "«Ця божевільна гонка до суперінтелекту має закінчитися. Надто довго ми обирали менше зло та найменш погані рішення. Нам потрібен План А. Ми можемо продовжувати розвивати ШІ, але мусимо робити це ", "more cautiously, more transparently,": "обережніше, прозоріше", " and involving ": " і залучаючи ", "and involving": " і залучаючи ", "many more countries and companies": "набагато більше країн і компаній", ".”": "».", "To the surprise of many in DC, China proves receptive. They had been debating the same issues—social destabilization, job loss, rogue superintelligence - on their side of the Pacific. They had been looking forward to “": "На подив багатьох у Вашингтоні, Китай виявляється сприйнятливим. По свій бік Тихого океану вони обговорювали ті самі проблеми — соціальну дестабілізацію, втрату робочих місць, некерований суперінтелект. Вони очікували на «", "The Chinese Century": "китайське століття", "” and thought that AI might disrupt their plans. And they had one extra reason to come to the table: the US continues to have more compute, more datacenters, and better models. They were worried about the things the US might do to them if it got to superintelligence first.": "» і думали, що ШІ може зірвати їхні плани. І мали ще одну причину сісти за стіл переговорів: США й далі мають більше обчислювальних потужностей, більше дата-центрів і кращі моделі. Їх непокоїло, що США можуть із ними зробити, якщо першими досягнуть суперінтелекту.", "To spell it out more: They were concerned that the US might use their massive AI advantage to cripple Chinese AI projects via cyberattacks, physical sabotage, or other means, and then use the resulting even-bigger, longer-lasting AI advantage to dictate terms to the CCP or even overthrow it entirely. Preventing loss-of-control risk was merely an added bonus.": "Якщо розгорнути: вони побоювалися, що США використають свою величезну перевагу в ШІ, щоб підірвати китайські ШІ-проєкти кібератаками, фізичними диверсіями чи іншими засобами, а потім скористаються ще більшою і тривалішою перевагою в ШІ, щоб диктувати умови КПК або й узагалі її повалити. Запобігання ризику втрати контролю було лише додатковим бонусом.", "Appendix B — Why would China be interested in a deal? Why would anyone?": "Додаток B — Чому Китай був би зацікавлений в угоді? Чому взагалі хтось був би?", "The US and China don’t trust each other. Fortunately, they don’t have to: Plan A includes provisions for verifying compliance. But setting it up will take time.": "США й Китай не довіряють одне одному. На щастя, їм і не треба: План А містить положення про верифікацію дотримання. Але його розгортання потребуватиме часу.", "So for now, they start with something crude. For the rest of 2029, they put a temporary halt to AI training, because that’s relatively easy to verify. In 2030, they’ll have the infrastructure in place to proceed with Plan A.": "Тож поки що вони починають із чогось грубого. На решту 2029 року вони тимчасово зупиняють навчання ШІ, бо це відносно легко верифікувати. У 2030-му вони вже матимуть готову інфраструктуру, щоб перейти до Плану А.", "2029: Hurried Negotiation": "2029: Квапливі переговори", "The US and China negotiate a series of agreements that eventually result in Plan A.": "США й Китай узгоджують серію домовленостей, що зрештою виливаються в План А.", "Compute Declaration": "Декларація обчислювальних потужностей", "Training Pause": "Пауза в навчанні", "Get Worldwide Buy-in": "Заручитися світовою підтримкою", "2030: Plan A is Established": "2030: План А запроваджено", "The Consortium negotiates governing principles.": "Консорціум узгоджує керівні принципи.", "Buy Time": "Виграти час", "Total Research Transparency": "Повна дослідницька прозорість", "Diffuse AI Broadly": "Широко поширити ШІ", "Reversibility": "Зворотність", "The stock market is gyrating wildly up and down in response to news and commentary about the momentous actions being taken. Everybody is screaming about how it’s going too far or not far enough. The market will calm down by the end of the year, but the screaming will continue.": "Фондовий ринок дико гойдається вгору-вниз у відповідь на новини й коментарі про епохальні кроки, що їх ухвалюють. Усі кричать, що це заходить надто далеко або недостатньо далеко. До кінця року ринок заспокоїться, але крики триватимуть.", "Geopolitically the situation will have stabilized within a few years, but by that point AI progress and diffusion will have happened and caused new problems and crises for people to worry about.": "Геополітично ситуація стабілізується за кілька років, але на той момент прогрес і поширення ШІ вже відбудуться й породять нові проблеми та кризи, якими людям доведеться перейматися.", "Step 1: Compute Declaration": "Крок 1: Декларація обчислювальних потужностей", "Neither country wants to halt their own AI training unless they can see that the other side is halting too.": "Жодна з країн не хоче зупиняти власне навчання ШІ, якщо не бачитиме, що інша сторона теж зупиняється.", "Fortunately, training AIs requires large numbers of AI chips. Most AI chips are in giant datacenters.": "На щастя, навчання ШІ потребує великої кількості ШІ-чипів. Більшість ШІ-чипів перебувають у гігантських дата-центрах.", "We show our estimate of the distribution of datacenter sizes in our ": "Нашу оцінку розподілу розмірів дата-центрів ми наводимо в ", "We show our estimate of the distribution of datacenter sizes in our": "Нашу оцінку розподілу розмірів дата-центрів ми наводимо в ", "compute supplement": "доповненні про обчислювальні потужності", " AI datacenters are typically big enough to be visible from space, and power-hungry enough to require conspicuous infrastructure. New AI chips can only be manufactured at a handful of fabrication plants (fabs), located mostly in Taiwan, South Korea, the US, and China.": " ШІ-дата-центри зазвичай достатньо великі, щоб їх було видно з космосу, і достатньо енергоненажерливі, щоб потребувати помітної інфраструктури. Нові ШІ-чипи можна виготовляти лише на жменьці заводів із виробництва чипів (фабів), розташованих переважно на Тайвані, у Південній Кореї, США та Китаї.", "AI datacenters are typically big enough to be visible from space, and power-hungry enough to require conspicuous infrastructure. New AI chips can only be manufactured at a handful of fabrication plants (fabs), located mostly in Taiwan, South Korea, the US, and China.": " ШІ-дата-центри зазвичай достатньо великі, щоб їх було видно з космосу, і достатньо енергоненажерливі, щоб потребувати помітної інфраструктури. Нові ШІ-чипи можна виготовляти лише на жменьці заводів із виробництва чипів (фабів), розташованих переважно на Тайвані, у Південній Кореї, США та Китаї.", "Left: OpenAI’s ": "Ліворуч: ", "Left: OpenAI’s": "Ліворуч: ", "Stargate datacenter": "дата-центр Stargate", ". Right: An ": " компанії OpenAI. Праворуч: ", ". Right: An": " компанії OpenAI. Праворуч: ", "Extreme Ultraviolet Lithography (EUV) machine": "машина екстремальної ультрафіолетової літографії (EUV)", ", arguably the most complicated machine ever created by mankind. EUV machines are essential for producing frontier AI chips, and are produced by a single Dutch company, ASML.": " — імовірно, найскладніша машина, яку будь-коли створило людство. EUV-машини необхідні для виробництва передових ШІ-чипів, і їх виробляє одна-єдина нідерландська компанія — ASML.", "The US and China negotiate with the countries that have a major role in the chip supply chain, and they require each major datacenter owner (and their upstream suppliers, including chip fabs) to publicly declare their major purchases and sales.": "США й Китай ведуть переговори з країнами, які відіграють значну роль у ланцюжку постачання чипів, і вимагають від кожного великого власника дата-центрів (та їхніх постачальників вище по ланцюжку, включно з фабами) публічно декларувати свої великі закупівлі та продажі.", "The initial chip declaration would only involve companies whose purchases exceed 10k H100e (which costs ~$100M). Within a year, every company owning above 0.001% of the world’s compute (~2,800 H100e, costing ~$18M at the time) has its holdings accounted for. Dead chips are also stored or verifiably destroyed.": "Початкова декларація чипів стосувалася б лише компаній, чиї закупівлі перевищують 10k H100e (що коштує ~$100M). Протягом року взято на облік активи кожної компанії, яка володіє понад 0.001% світових обчислювальних потужностей (~2,800 H100e, вартістю ~$18M на той час). Мертві чипи також зберігаються або верифіковано знищуються.", " Analysts from numerous countries and institutions may pore over the list, ask questions, and challenge anomalies. The rival powers also send inspectors to each other’s infrastructure, reassuring themselves that the stated numbers are accurate. By the end of the year, each side is confident that the other isn’t hiding more than about 1% of AI compute, and that all potential sources of new compute are monitored and accounted for.": " Аналітики з численних країн та інституцій можуть прискіпливо вивчати список, ставити запитання й оскаржувати аномалії. Держави-суперниці також надсилають інспекторів на інфраструктуру одна одної, переконуючись, що заявлені числа точні. До кінця року кожна сторона впевнена, що інша не приховує більше ніж приблизно 1% ШІ-обчислень і що всі потенційні джерела нових обчислювальних потужностей відстежуються та обліковані.", "Analysts from numerous countries and institutions may pore over the list, ask questions, and challenge anomalies. The rival powers also send inspectors to each other’s infrastructure, reassuring themselves that the stated numbers are accurate. By the end of the year, each side is confident that the other isn’t hiding more than about 1% of AI compute, and that all potential sources of new compute are monitored and accounted for.": " Аналітики з численних країн та інституцій можуть прискіпливо вивчати список, ставити запитання й оскаржувати аномалії. Держави-суперниці також надсилають інспекторів на інфраструктуру одна одної, переконуючись, що заявлені числа точні. До кінця року кожна сторона впевнена, що інша не приховує більше ніж приблизно 1% ШІ-обчислень і що всі потенційні джерела нових обчислювальних потужностей відстежуються та обліковані.", "The 1% of compute sales that cannot be traced to their end location are mostly due to smugglers who did not record their customers’ identities and chips that were decommissioned. Half of this pool is later found installed in Chinese datacenters identified via satellite imagery; both countries offer monetary incentives and legal amnesty to any owners of the remaining 0.5%. We go over these and other routes for finding covert compute in much more detail in our ": "Той 1% продажів обчислювальних потужностей, який не вдається відстежити до кінцевого місця призначення, здебільшого припадає на контрабандистів, що не фіксували особи своїх клієнтів, і на списані чипи. Половину цього пулу згодом знаходять установленою в китайських дата-центрах, виявлених за супутниковими знімками; обидві країни пропонують грошові стимули та юридичну амністію будь-яким власникам решти 0.5%. Ці та інші шляхи пошуку прихованих обчислювальних потужностей ми розбираємо набагато детальніше в нашому ", "The 1% of compute sales that cannot be traced to their end location are mostly due to smugglers who did not record their customers’ identities and chips that were decommissioned. Half of this pool is later found installed in Chinese datacenters identified via satellite imagery; both countries offer monetary incentives and legal amnesty to any owners of the remaining 0.5%. We go over these and other routes for finding covert compute in much more detail in our": "Той 1% продажів обчислювальних потужностей, який не вдається відстежити до кінцевого місця призначення, здебільшого припадає на контрабандистів, що не фіксували особи своїх клієнтів, і на списані чипи. Половину цього пулу згодом знаходять установленою в китайських дата-центрах, виявлених за супутниковими знімками; обидві країни пропонують грошові стимули та юридичну амністію будь-яким власникам решти 0.5%. Ці та інші шляхи пошуку прихованих обчислювальних потужностей ми розбираємо набагато детальніше в нашому ", "covert project supplement": "доповненні про таємний проєкт", "Step 2: Pause Training": "Крок 2: Пауза в навчанні", "Distinguishing dangerous AIs from safe ones will require more time and understanding, so for now they go with a simple solution: a temporary pause on all new training runs.": "Щоб відрізняти небезпечні ШІ від безпечних, знадобиться більше часу й розуміння, тож наразі вони обирають просте рішення: тимчасову паузу на всі нові навчальні запуски.", "This includes the kind of research experiments that involve training. While it’s theoretically possible for an intelligence explosion to happen without new training runs or major experiments, it seems unlikely because it would require an extreme paradigm shift.": "Це охоплює й ті дослідницькі експерименти, що передбачають навчання. Хоча теоретично вибух інтелекту можливий і без нових навчальних запусків чи великих експериментів, це видається малоймовірним, бо вимагало б екстремальної зміни парадигми.", "Both sides can still use datacenters for running AIs that already exist (i.e. inference), but they will retrofit each other’s datacenters with devices to verify that they aren’t being used for new training runs.": "Обидві сторони й далі можуть використовувати дата-центри для запуску вже наявних ШІ-систем (тобто для інференсу), але вони дообладнають дата-центри одна одної пристроями для верифікації того, що ті не використовуються для нових запусків навчання.", "The inference-only verification solution we propose works by taking a random sample of a small percentage of the workloads to check they are correctly doing inference on an approved model (by recomputing the outputs using the inputs and approved model weights). To collect these random samples, our proposal involves simple network taps that redirect all inbound and outbound traffic from the datacenter to a recomputation server (inside the datacenter) installed by the other party that performs the random partial recomputation. Other solutions to this inference-only proposal may be possible and preferable, such as cryptographic proof of work schemes, but these are currently more speculative from a performance perspective. We discuss this in more detail in ": "Запропоноване нами рішення для верифікації «тільки інференс» працює так: береться випадкова вибірка з невеликого відсотка робочих навантажень і перевіряється, що вони справді виконують інференс на схваленій моделі (шляхом повторного обчислення виходів із використанням входів і схвалених ваг моделі). Для збору цих випадкових вибірок наша пропозиція передбачає прості мережеві відводи, які перенаправляють увесь вхідний і вихідний трафік дата-центру на сервер повторного обчислення (всередині дата-центру), встановлений іншою стороною, — саме він виконує випадкове часткове повторне обчислення. Можуть існувати й інші, потенційно кращі рішення для цієї пропозиції «тільки інференс», як-от криптографічні схеми proof of work, але з погляду продуктивності вони наразі більш спекулятивні. Детальніше ми обговорюємо це в ", "The inference-only verification solution we propose works by taking a random sample of a small percentage of the workloads to check they are correctly doing inference on an approved model (by recomputing the outputs using the inputs and approved model weights). To collect these random samples, our proposal involves simple network taps that redirect all inbound and outbound traffic from the datacenter to a recomputation server (inside the datacenter) installed by the other party that performs the random partial recomputation. Other solutions to this inference-only proposal may be possible and preferable, such as cryptographic proof of work schemes, but these are currently more speculative from a performance perspective. We discuss this in more detail in": "Запропоноване нами рішення для верифікації «тільки інференс» працює так: береться випадкова вибірка з невеликого відсотка робочих навантажень і перевіряється, що вони справді виконують інференс на схваленій моделі (шляхом повторного обчислення виходів із використанням входів і схвалених ваг моделі). Для збору цих випадкових вибірок наша пропозиція передбачає прості мережеві відводи, які перенаправляють увесь вхідний і вихідний трафік дата-центру на сервер повторного обчислення (всередині дата-центру), встановлений іншою стороною, — саме він виконує випадкове часткове повторне обчислення. Можуть існувати й інші, потенційно кращі рішення для цієї пропозиції «тільки інференс», як-от криптографічні схеми proof of work, але з погляду продуктивності вони наразі більш спекулятивні. Детальніше ми обговорюємо це в ", "our verification supplement": "нашому доповненні про верифікацію", ". There are several additional layers of enforcement necessary to make this approach work, including physical security, software based monitoring, and human auditors.": ". Щоб цей підхід працював, потрібно кілька додаткових рівнів забезпечення дотримання, зокрема фізична безпека, програмний моніторинг і люди-аудитори.", "The US and China are able to rapidly source enough of these verification devices to retrofit almost every major datacenter.": "США і Китай здатні швидко дістати достатньо таких верифікаційних пристроїв, щоб дообладнати майже кожен великий дата-центр.", "This is made easier thanks to a now-thriving ecosystem of verification hardware companies that emerged after both governments signaled interest in having verification capability as an option (which in turn drew in investment from philanthropists and VCs and technical support from AI supply chain companies). Had that not happened, this part of Plan A would have taken somewhat longer and/​or been more expensive and frantic. Worst case, they’d have to turn off the datacenters instead of allowing them to run inference.": "Це полегшується завдяки квітучій нині екосистемі компаній верифікаційного обладнання, що виникла після того, як обидва уряди засигналізували про інтерес до верифікаційної спроможності як опції (це, своєю чергою, привабило інвестиції філантропів і венчурних фондів та технічну підтримку компаній ланцюга постачання ШІ). Якби цього не сталося, ця частина Плану А зайняла б дещо більше часу та/або була б дорожчою і гарячковішою. У найгіршому разі дата-центри довелося б вимкнути замість того, щоб дозволити їм виконувати інференс.", "Appendix C — What if they didn’t have inference-only verification ready?": "Додаток C — Що якби верифікація «тільки інференс» не була готова?", "Inspectors from both countries sign off on the installation of the verification devices. Only datacenters that the US and China agree have functioning verification are allowed to provide continuing AI services. Meanwhile, both governments sprint towards more fine-grained verification options that could allow training to restart while keeping both sides confident the other isn’t racing ahead.": "Інспектори з обох країн підтверджують встановлення верифікаційних пристроїв. Лише дата-центрам, щодо яких США і Китай згодні, що верифікація там працює, дозволено надалі надавати ШІ-сервіси. Тим часом обидва уряди щодуху працюють над більш детальними опціями верифікації, які дозволили б відновити навчання, зберігаючи в обох сторін упевненість, що інша не виривається вперед.", "2029": "2029", "2030": "2030", "2031": "2031", "02": "02", "Training pause": "Пауза навчання", "(inference-only retrofit)": "(інференс-дообладнання)", "Spring–summer 2029": "Весна–літо 2029", "01": "01", "Begins": "Початок", "January 2029": "Січень 2029", "03": "03", "R&D restarts + total": "Рестарт R&D + повна", "research transparency": "дослідницька прозорість", "From August 2029": "Із серпня 2029", "04": "04", "First frontier": "Перший запуск", "training run": "навчання", "February 2030": "Лютий 2030", "05": "05", "First new frontier": "Перший реліз", "release": "нової моделі", "June 2030": "Червень 2030", "Deal Implementation Timeline": "Хронологія впровадження Угоди", " - ai-2040.com": " - ai-2040.com", "- ai-2040.com": " - ai-2040.com", "Step 3: Get Worldwide Buy-in": "Крок 3: Заручитися підтримкою всього світу", "Though other countries were consulted from the start, especially those owning parts of the AI supply chain, Plan A began as a bilateral deal between the US and China. Now that it’s taking firmer shape, negotiations go multilateral. Carrots and sticks are waved about.": "Хоча з іншими країнами консультувалися від самого початку — особливо з тими, що володіють частинами ланцюга постачання ШІ, — План А почався як двостороння угода між США і Китаєм. Тепер, коли він набуває чіткіших обрисів, переговори стають багатосторонніми. У хід ідуть батоги і пряники.", "Many countries outside the US and China are happy about the deal, because they were worried about a future in which a handful of US and Chinese AI companies recursively self-improve, pull farther and farther ahead, and then… Well, what happens next depends on who you ask, but answers range over possibilities such as “take our jobs,” “cement hegemony forever” and “get everyone killed.” So they want the US and China to proceed more slowly and transparently. This will allay their fears and also allow their own AI projects to catch up to the frontier.": "Багато країн поза США і Китаєм раді угоді, бо їх непокоїло майбутнє, в якому жменька американських і китайських ШІ-компаній рекурсивно самовдосконалюється, відривається дедалі далі вперед, а потім… Ну, що станеться далі — залежить від того, кого спитати, але відповіді охоплюють варіанти на кшталт «заберуть наші робочі місця», «навічно зацементують гегемонію» і «всіх повбивають». Тож вони хочуть, щоб США і Китай рухалися повільніше і прозоріше. Це розвіє їхні страхи, а заразом дозволить їхнім власним ШІ-проєктам наздогнати передовий рівень.", "So it’s surprisingly easy for the US and China to get buy-in.": "Тож США і Китаю напрочуд легко заручитися підтримкою.", "This part is a prediction, not just a recommendation. We think that getting buy-in for Plan A, in circumstances like those we’ve described in 2029, would be significantly easier than most of our readers would expect.": "Ця частина — прогноз, а не лише рекомендація. Ми вважаємо, що заручитися підтримкою Плану А за обставин, подібних до описаних нами у 2029 році, було б значно легше, ніж очікує більшість наших читачів.", " By the end of the year, most of the world has joined what is now called the Consortium.": " До кінця року більша частина світу приєдналася до того, що тепер називають Консорціумом.", "By the end of the year, most of the world has joined what is now called the Consortium.": " До кінця року більша частина світу приєдналася до того, що тепер називають Консорціумом.", "Alternate Timeline": "Альтернативна лінія часу", "China attempts a covert AGI project": "Китай намагається реалізувати таємний AGI-проєкт", "➤ See Appendix D for this branch.": "➤ Див. Додаток D для цієї гілки.", "Tech companies are pushing hard to restart AI training, and lobbying to shape the conditions under which it happens. Large portions of the public are saying that we should ": "Техкомпанії щосили тиснуть, щоб відновити навчання ШІ, і лобіюють умови, на яких це відбудеться. Значна частина громадськості каже, що відновлювати не можна ", "Tech companies are pushing hard to restart AI training, and lobbying to shape the conditions under which it happens. Large portions of the public are saying that we should": "Техкомпанії щосили тиснуть, щоб відновити навчання ШІ, і лобіюють умови, на яких це відбудеться. Значна частина громадськості каже, що відновлювати не можна ", "never": "ніколи", " restart. Some countries are too.": ". Так само кажуть і деякі країни.", "restart. Some countries are too.": ". Так само кажуть і деякі країни.", "After a year of intense discussions, negotiations, and twitter beefs, a compromise takes shape: AI development will continue, but in a more cautious, more transparent, more distributed way.": "Після року інтенсивних дискусій, переговорів і сварок у твітері вимальовується компроміс: розробка ШІ триватиме, але обережніше, прозоріше і більш розподілено.", "Plan A is guided by 4 core principles:": "План А керується 4 базовими принципами:", "Slow down whenever is needed to have high confidence in safety.": "Сповільнюватися щоразу, коли це потрібно, щоб мати високу впевненість у безпеці.", "Make almost all AI research fully visible to the public.": "Зробити майже всі дослідження ШІ повністю видимими для публіки.", "Many companies in many countries at the frontier.": "Багато компаній у багатьох країнах на передовому рівні.", "Limit algorithmic progress; maintain Mutually Assured Compute Destruction.": "Обмежити алгоритмічний прогрес; підтримувати взаємно гарантоване знищення обчислювальних потужностей.", "Principle 1: Buy Time": "Принцип 1: Виграти час", "The problem with an intelligence explosion is the “explosion” part.": "Проблема вибуху інтелекту — у слові «вибух».", "The default trajectory is reckless and destabilizing. Each country and company is racing their competitors for AI dominance without time to think. Most likely, a ton of people will end up disempowered or killed. Maybe godlike AIs run circles around us and the age of humanity is over. Maybe a CEO or President establishes a permanent dictatorship. Maybe World War Three begins in the chaos, as countries without the best AIs fear losing their leverage. Maybe everything is surprisingly smooth and we “only” automate all labor and render everyone unemployable in a radically transformed world. Even aspiring AI-enabled dictators are worried; there’s enough frontrunners that none of them have more than 50% odds of winning the power struggle.": "Траєкторія за замовчуванням — безрозсудна й дестабілізаційна. Кожна країна і компанія женеться з конкурентами за домінування у ШІ, не маючи часу подумати. Найімовірніше, купа людей у підсумку втратить вплив або загине. Можливо, богоподібні ШІ-системи легко нас переграють, і ера людства скінчиться. Можливо, якийсь CEO чи президент встановить постійну диктатуру. Можливо, у хаосі почнеться Третя світова війна, бо країни без найкращих ШІ боятимуться втратити свої важелі. Можливо, все пройде напрочуд гладко, і ми «лише» автоматизуємо всю працю та зробимо всіх непрацевлаштовними в радикально зміненому світі. Хвилюються навіть претенденти на роль ШІ-диктаторів: лідерів перегонів достатньо багато, щоб ні в кого з них не було понад 50% шансів виграти боротьбу за владу.", "No one knows how to tell if AIs are trustworthy, and no one knows how to regulate superintelligent AI. Solving those problems looks like it’ll take years. Slowing down the intelligence explosion buys time to do so.": "Ніхто не знає, як визначити, чи можна довіряти ШІ-системам, і ніхто не знає, як регулювати суперінтелектуальний ШІ. Схоже, розвʼязання цих проблем займе роки. Сповільнення вибуху інтелекту виграє час, щоб це зробити.", "It also helps prevent extreme concentrations of power, because it gives more time for groups that don’t directly control the world’s smartest AIs to wake up to what’s happening before they lose their leverage. Without a major slowdown, a rapid intelligence explosion will concentrate almost all the power into a tiny group of CEOs and politicians.": "Це також допомагає запобігти екстремальній концентрації влади, бо дає більше часу групам, які безпосередньо не контролюють найрозумніші ШІ світу, прокинутись і усвідомити, що відбувається, поки вони не втратили своїх важелів. Без суттєвого сповільнення стрімкий вибух інтелекту сконцентрує майже всю владу в руках крихітної групи CEO та політиків.", "Appendix E — Why don’t we just completely stop?": "Додаток E — Чому б просто не зупинитися повністю?", "Principle 2: Total Research Transparency": "Принцип 2: Повна дослідницька прозорість", "So the goal is to develop AI at a reasonable pace: Not too fast, not too slow. Ban the unsafe kinds, allow the safe kinds. But each country still regulates its own AI industry; there isn’t a central planner with authority to regulate AI worldwide. So how do they decide what to allow and disallow, and how do they verify that no one is cutting corners?": "Отже, мета — розвивати ШІ в розумному темпі: не надто швидко, не надто повільно. Заборонити небезпечні види, дозволити безпечні. Але кожна країна досі сама регулює свою ШІ-індустрію; немає центрального планувальника з повноваженнями регулювати ШІ в усьому світі. Тож як вони вирішують, що дозволяти, а що ні, і як верифікують, що ніхто не зрізає кути?", "The Consortium countries come up with a simple high-level framework: we’ll agree to let each other see all the AI research. Then, if we don’t like something someone is doing, we’ll talk about it and perhaps agree to ban it.": "Країни Консорціуму придумують просту високорівневу рамку: домовляємося показувати одне одному всі дослідження ШІ. А коли нам не подобається те, що хтось робить, ми це обговорюємо і, можливо, домовляємося заборонити.", "Appendix F — Why this much transparency? Why not less, or more? Open access in Plan A": "Додаток F — Чому саме стільки прозорості? Чому не менше і не більше? Відкритий доступ у Плані А", "R&D": "R&D", "Datacenters": "Дата-центри", "Secure boundary": "Захищений периметр", "Inference": "Інференс", "Approved AI": "Схвалені ваги", "model weights": "моделі ШІ", "1 MB/s": "1 MB/s", "Public": "Публічна", "transparent": "прозора", "database": "база даних", "Verified": "Верифіковані", "tokens": "токени", "Users": "Користувачі", "AI workloads can be split into research and development (the process of building new AIs) and inference (the use of the existing AIs). In our proposal, research is almost entirely transparent, while inference is still private. For more detail on how this could work, see our ": "Робочі навантаження ШІ можна поділити на дослідження й розробку (процес створення нових ШІ-систем) та інференс (використання вже наявних ШІ). У нашій пропозиції дослідження майже повністю прозорі, тоді як інференс залишається приватним. Детальніше про те, як це могло б працювати, див. наше ", "AI workloads can be split into research and development (the process of building new AIs) and inference (the use of the existing AIs). In our proposal, research is almost entirely transparent, while inference is still private. For more detail on how this could work, see our": "Робочі навантаження ШІ можна поділити на дослідження й розробку (процес створення нових ШІ-систем) та інференс (використання вже наявних ШІ). У нашій пропозиції дослідження майже повністю прозорі, тоді як інференс залишається приватним. Детальніше про те, як це могло б працювати, див. наше ", "Transparency supplement": "доповнення про прозорість", "Datacenter verification architecture": "Архітектура верифікації дата-центрів", "Transparency offers many benefits. First, when each company can see what the others are doing, the expertise of governments is less load-bearing. If a company starts doing something dangerous, rival companies, third-party auditors, etc., can notice and raise the alarm. This both massively increases the amount of brainpower devoted to making the frontier AIs safe, and also prevents a situation where the only participants in the technical conversation are biased AI company employees and overworked, outnumbered regulators. Also, increased visibility simplifies the problem of verifying compliance with regulations, especially in grey-area cases.": "Прозорість дає багато переваг. По-перше, коли кожна компанія бачить, що роблять інші, експертиза урядів стає менш критичною. Якщо компанія починає робити щось небезпечне, компанії-конкуренти, сторонні аудитори тощо можуть це помітити й здійняти тривогу. Це і кардинально збільшує обсяг інтелектуальних ресурсів, спрямованих на безпеку передових ШІ, і запобігає ситуації, коли єдині учасники технічної розмови — упереджені працівники ШІ-компаній та перевантажені регулятори, яких значно менше. Крім того, більша видимість спрощує задачу верифікації дотримання регуляцій, особливо у випадках сірої зони.", "Second, total research transparency makes it nearly impossible for secret loyalties, biases, or agendas to be intentionally trained into AIs. Everyone can see exactly how each frontier AI is trained. More generally the transparency makes it easier for groups that don’t directly control frontier AIs to notice and prevent abuses of power by those who do.": "По-друге, повна дослідницька прозорість робить майже неможливим навмисне вбудовування в ШІ прихованих лояльностей, упереджень чи порядків денних під час навчання. Усі бачать, як саме навчається кожен передовий ШІ. Загалом прозорість полегшує групам, які безпосередньо не контролюють передові ШІ, помічати зловживання владою з боку тих, хто контролює, і запобігати їм.", "Third, there’s no longer as much incentive to race to discover new AI paradigms and more powerful algorithms, because companies wouldn’t be able to hoard such discoveries and profit greatly from them. This buys the world time.": "По-третє, більше немає такого стимулу мчати до відкриття нових парадигм ШІ і потужніших алгоритмів, адже компанії не змогли б притримувати такі відкриття і сильно на них заробляти. Це виграє світові час.", "Appendix G — Diagram of the benefits of transparency": "Додаток G — Діаграма переваг прозорості", "Appendix H — How the incentives change under Total Research Transparency": "Додаток H — Як змінюються стимули за Повної дослідницької прозорості", "Principle 3: Diffuse AI Broadly": "Принцип 3: Широко поширювати ШІ", "This principle is largely achieved by the interaction of the previous two:": "Цей принцип здебільшого досягається взаємодією двох попередніх:", "That said, it’s important in our view that broad deployment of AI ": "Утім, на наш погляд, важливо, щоб широке розгортання ШІ ", "That said, it’s important in our view that broad deployment of AI": "Утім, на наш погляд, важливо, щоб широке розгортання ШІ ", "doesn’t": "не", " get regulated out of existence. The limits on algorithmic progress and the transparency would, by default, result in other companies catching up and a scenario of broad deployment—but countries could decide to block such deployment or ban such companies from being created, etc. We are saying they shouldn’t do that.": " було зарегульоване до зникнення. Обмеження алгоритмічного прогресу і прозорість за замовчуванням привели б до того, що інші компанії наздоженуть лідерів, і до сценарію широкого розгортання — але країни могли б вирішити блокувати таке розгортання чи заборонити створення таких компаній тощо. Ми кажемо, що їм не слід цього робити.", "get regulated out of existence. The limits on algorithmic progress and the transparency would, by default, result in other companies catching up and a scenario of broad deployment—but countries could decide to block such deployment or ban such companies from being created, etc. We are saying they shouldn’t do that.": " було зарегульоване до зникнення. Обмеження алгоритмічного прогресу і прозорість за замовчуванням привели б до того, що інші компанії наздоженуть лідерів, і до сценарію широкого розгортання — але країни могли б вирішити блокувати таке розгортання чи заборонити створення таких компаній тощо. Ми кажемо, що їм не слід цього робити.", " Because algorithmic secrets are made public and the pace of progress isn’t accelerating, other companies will catch up to the frontier. The result will be a competitive market for AI, in which consumers of AI services have many options to choose from and excellent visibility into what they are buying. Because frontier model training is totally transparent, people can verify that the published Spec accurately describes the goals and values being trained into a model.": " Оскільки алгоритмічні секрети оприлюднюються, а темп прогресу не прискорюється, інші компанії наздоженуть передовий рівень. Результатом стане конкурентний ринок ШІ, на якому споживачі ШІ-сервісів мають багатий вибір і чудову видимість того, що саме вони купують. Оскільки навчання передових моделей повністю прозоре, люди можуть верифікувати, що опублікований Спек точно описує цілі та цінності, які закладаються в модель під час навчання.", "Because algorithmic secrets are made public and the pace of progress isn’t accelerating, other companies will catch up to the frontier. The result will be a competitive market for AI, in which consumers of AI services have many options to choose from and excellent visibility into what they are buying. Because frontier model training is totally transparent, people can verify that the published Spec accurately describes the goals and values being trained into a model.": " Оскільки алгоритмічні секрети оприлюднюються, а темп прогресу не прискорюється, інші компанії наздоженуть передовий рівень. Результатом стане конкурентний ринок ШІ, на якому споживачі ШІ-сервісів мають багатий вибір і чудову видимість того, що саме вони купують. Оскільки навчання передових моделей повністю прозоре, люди можуть верифікувати, що опублікований Спек точно описує цілі та цінності, які закладаються в модель під час навчання.", "This is very important for preventing extreme concentrations of power. But it also helps accelerate the use of AI to solve the world’s most pressing problems. It helps with loss of control risks by accelerating AI alignment and control research. It helps accelerate the development of new and improved verification technology, and it helps to accelerate the necessary institutional reforms to stabilize the deal and prepare for superhuman AI.": "Це дуже важливо для запобігання екстремальній концентрації влади. Але це також допомагає прискорити використання ШІ для розвʼязання найгостріших проблем світу. Це допомагає з ризиками втрати контролю, прискорюючи дослідження узгодження і контролю ШІ. Це допомагає прискорити розробку нових і кращих технологій верифікації, а також необхідні інституційні реформи для стабілізації угоди та підготовки до надлюдського ШІ.", "It’s the polar opposite of the nightmare scenario feared in the 2020s: One to three AI projects racing each other in secrecy, keeping their best models internal-only and using them to automate AI research before using them for anything else. In that scenario, the wider world is in the dark about how powerful AIs are becoming, and AIs are deployed in the riskiest domain (AI R&D) before they are deployed anywhere else. Now it’s the other way around.": "Це повна протилежність кошмарному сценарію, якого боялися у 2020-х: один–три ШІ-проєкти таємно змагаються між собою, тримаючи свої найкращі моделі лише для внутрішнього використання і застосовуючи їх для автоматизації досліджень ШІ раніше, ніж для будь-чого іншого. У тому сценарії широкий світ у темряві щодо того, наскільки потужними стають ШІ, а ШІ розгортаються в найризикованішій сфері (AI R&D) раніше, ніж деінде. Тепер усе навпаки.", "Principle 4: Reversibility": "Принцип 4: Зворотність", "In the past, companies have trained bigger and better AIs using ": "У минулому компанії навчали більші й кращі ШІ, використовуючи ", "In the past, companies have trained bigger and better AIs using": "У минулому компанії навчали більші й кращі ШІ, використовуючи ", "both": "як", " compute scaling (bigger training runs) and software progress (advances in AI algorithms—new paradigms, better training recipes, better data, etc.). Now, the Consortium tries to steer things so that the majority of improvement comes from increasing training compute.": " масштабування обчислювальних потужностей (більші запуски навчання), так і програмний прогрес (удосконалення алгоритмів ШІ — нові парадигми, кращі рецепти навчання, кращі дані тощо). Тепер Консорціум намагається скеровувати процес так, щоб більшість покращень походила зі збільшення обчислювальних потужностей для навчання.", "compute scaling (bigger training runs) and software progress (advances in AI algorithms—new paradigms, better training recipes, better data, etc.). Now, the Consortium tries to steer things so that the majority of improvement comes from increasing training compute.": " масштабування обчислювальних потужностей (більші запуски навчання), так і програмний прогрес (удосконалення алгоритмів ШІ — нові парадигми, кращі рецепти навчання, кращі дані тощо). Тепер Консорціум намагається скеровувати процес так, щоб більшість покращень походила зі збільшення обчислювальних потужностей для навчання.", "Specifically, capabilities progress in 2030 is .8 OOMs of SW progress and .6 OOMs of HW because of the one time gain from the total research transparency sharing everyone’s algorithmic advances. After that SW progress is .4 OOMs/​yr until 2035, and HW progress is .34 OOMs in 2032, .57 in 2033, .68 in 2034, and .71 in 2035. View the full numbers ": "Конкретно, прогрес можливостей у 2030 році становить .8 порядку величини програмного (SW) прогресу і .6 порядку величини апаратного (HW) — завдяки одноразовому виграшу від повної дослідницької прозорості, що поширює алгоритмічні напрацювання всіх. Після цього SW-прогрес становить .4 порядку величини на рік до 2035-го, а HW-прогрес — .34 порядку величини у 2032-му, .57 у 2033-му, .68 у 2034-му і .71 у 2035-му. Повні числа дивіться ", "Specifically, capabilities progress in 2030 is .8 OOMs of SW progress and .6 OOMs of HW because of the one time gain from the total research transparency sharing everyone’s algorithmic advances. After that SW progress is .4 OOMs/​yr until 2035, and HW progress is .34 OOMs in 2032, .57 in 2033, .68 in 2034, and .71 in 2035. View the full numbers": "Конкретно, прогрес можливостей у 2030 році становить .8 порядку величини програмного (SW) прогресу і .6 порядку величини апаратного (HW) — завдяки одноразовому виграшу від повної дослідницької прозорості, що поширює алгоритмічні напрацювання всіх. Після цього SW-прогрес становить .4 порядку величини на рік до 2035-го, а HW-прогрес — .34 порядку величини у 2032-му, .57 у 2033-му, .68 у 2034-му і .71 у 2035-му. Повні числа дивіться ", "Appendix I — Building more datacenters is usually bad, but good in this particular situation": "Додаток I — Будувати більше дата-центрів зазвичай погано, але добре в цій конкретній ситуації", "Algorithms are information; it’s inherently difficult to stop them from proliferating, and the total research transparency means we aren’t even trying.": "Алгоритми — це інформація; зупинити їхнє поширення від природи важко, а повна дослідницька прозорість означає, що ми навіть не намагаємося.", "There are a few nuances here. Some algorithmic progress is easily communicated (e.g., new architectures, better optimization algorithms), while other types cannot easily diffuse (e.g., huge libraries of RL environments, hardware-software codesign, scale or compute dependent algorithms). Regulations that the US and China agree to should steer companies towards making the latter type of algorithm progress when possible.": "Тут є кілька нюансів. Частина алгоритмічного прогресу легко передається (напр., нові архітектури, кращі алгоритми оптимізації), тоді як інші типи не поширюються так просто (напр., величезні бібліотеки RL-середовищ, спільне проєктування апаратного і програмного забезпечення, алгоритми, залежні від масштабу чи обчислювальних потужностей). Регуляції, на які погодяться США і Китай, мають скеровувати компанії до прогресу другого типу, коли це можливо.", " Once a new paradigm is discovered, it’ll go straight to the hypothetical covert projects and there’s no way to undo that. By contrast, if giant new datacenters are constructed to train giant new AI models, that helps the legal projects without helping the covert projects, and if it turns out the giant new models are dangerous they can be shut down.": " Щойно нову парадигму відкрито, вона одразу потрапить до гіпотетичних таємних проєктів, і скасувати це неможливо. Натомість якщо для навчання гігантських нових моделей ШІ будуються гігантські нові дата-центри, це допомагає легальним проєктам, не допомагаючи таємним, а якщо виявиться, що гігантські нові моделі небезпечні, їх можна вимкнути.", "Once a new paradigm is discovered, it’ll go straight to the hypothetical covert projects and there’s no way to undo that. By contrast, if giant new datacenters are constructed to train giant new AI models, that helps the legal projects without helping the covert projects, and if it turns out the giant new models are dangerous they can be shut down.": " Щойно нову парадигму відкрито, вона одразу потрапить до гіпотетичних таємних проєктів, і скасувати це неможливо. Натомість якщо для навчання гігантських нових моделей ШІ будуються гігантські нові дата-центри, це допомагає легальним проєктам, не допомагаючи таємним, а якщо виявиться, що гігантські нові моделі небезпечні, їх можна вимкнути.", "Another reason to prefer AI progress to come from compute instead of from algorithms is that compute scale-ups may be less likely to break safety techniques than algorithmic changes.": "Ще одна причина віддавати перевагу прогресу ШІ за рахунок обчислювальних потужностей, а не алгоритмів: нарощування потужностей, імовірно, рідше ламатиме техніки безпеки, ніж алгоритмічні зміни.", "That said, compute scaling also poses threats: if the deal were to dissolve, these datacenters could be used to race to superintelligence even faster than the pre-deal infrastructure would have allowed. This is especially scary because deal dissolution could cause (or be caused by) a US-China war. A war in which both sides had vast amounts of compute would be terrifying—they’d probably be under lots of pressure to race to superintelligence and integrate it into the military as aggressively as possible, and they’d be able to do so extremely quickly.": "Утім, масштабування обчислювальних потужностей теж несе загрози: якби угода розпалася, ці дата-центри можна було б використати для перегонів до суперінтелекту навіть швидше, ніж дозволяла б інфраструктура до угоди. Це особливо страшно, бо розпад угоди міг би спричинити війну США і Китаю (або стати її наслідком). Війна, у якій обидві сторони мали б величезні обчислювальні потужності, була б жахливою — на них, найпевніше, сильно тиснула б потреба мчати до суперінтелекту і якомога агресивніше інтегрувати його у військо, і зробити це вони змогли б надзвичайно швидко.", "The US and China agree on the importance of ensuring that the compute is destroyed in the case of deal dissolution. To accomplish this, they agree to build the datacenters in the third-party countries ": "США і Китай згодні, що важливо гарантувати знищення обчислювальних потужностей у разі розпаду угоди. Для цього вони домовляються будувати дата-центри у третіх країнах, ", "The US and China agree on the importance of ensuring that the compute is destroyed in the case of deal dissolution. To accomplish this, they agree to build the datacenters in the third-party countries": "США і Китай згодні, що важливо гарантувати знищення обчислювальних потужностей у разі розпаду угоди. Для цього вони домовляються будувати дата-центри у третіх країнах, ", "least": "найменш", " secure against their rival’s military intervention: China’s new datacenters will be in Canada, and America’s in Mongolia, with both hosts compensated via monetary payments, jobs, and a share in the new AI economy. If the deal dissolves, they reason, America and Canada will immediately move to take control of China’s datacenters in Canada, and China will self-destruct their compute rather than let it fall into American hands (and vice versa). Thus the idea of “Mutually Assured Compute Destruction” is born.": " захищених від воєнного втручання їхнього суперника: нові китайські дата-центри будуть у Канаді, а американські — у Монголії, і обидві приймаючі країни отримають компенсацію грошима, робочими місцями та часткою в новій ШІ-економіці. Якщо угода розпадеться, міркують вони, Америка і Канада негайно спробують взяти під контроль китайські дата-центри в Канаді, і Китай радше самознищить свої потужності, ніж дасть їм потрапити до американських рук (і навпаки). Так народжується ідея «взаємно гарантованого знищення обчислювальних потужностей».", "secure against their rival’s military intervention: China’s new datacenters will be in Canada, and America’s in Mongolia, with both hosts compensated via monetary payments, jobs, and a share in the new AI economy. If the deal dissolves, they reason, America and Canada will immediately move to take control of China’s datacenters in Canada, and China will self-destruct their compute rather than let it fall into American hands (and vice versa). Thus the idea of “Mutually Assured Compute Destruction” is born.": " захищених від воєнного втручання їхнього суперника: нові китайські дата-центри будуть у Канаді, а американські — у Монголії, і обидві приймаючі країни отримають компенсацію грошима, робочими місцями та часткою в новій ШІ-економіці. Якщо угода розпадеться, міркують вони, Америка і Канада негайно спробують взяти під контроль китайські дата-центри в Канаді, і Китай радше самознищить свої потужності, ніж дасть їм потрапити до американських рук (і навпаки). Так народжується ідея «взаємно гарантованого знищення обчислювальних потужностей».", "This idea goes back to ": "Ця ідея сягає праці ", "This idea goes back to": "Ця ідея сягає праці ", "Superintelligence Strategy": "Superintelligence Strategy", " by Hendrycks, Schmidt, and Wang.": " авторства Hendrycks, Schmidt і Wang.", "by Hendrycks, Schmidt, and Wang.": " авторства Hendrycks, Schmidt і Wang.", "Appendix J — Other plans that are competitive with Plan A": "Додаток J — Інші плани, конкурентні з Планом А", "2031: Safety Cases": "2031: Обґрунтування безпеки", "Although it’s supposed to be a slowdown, it doesn’t feel like one. In fact, if you were to rank every period of human history by how much it felt like a slowdown, this one would be dead last. A few AI researchers appreciate that progress is “slow” relative to the counterfactual with no deal and an uncontrolled intelligence explosion. Everyone else is too whiplashed to care.": "Хоча це нібито сповільнення, воно таким не відчувається. Ба більше: якби ви ранжували всі періоди людської історії за тим, наскільки вони відчувалися сповільненням, цей був би на останньому місці. Дехто з дослідників ШІ усвідомлює, що прогрес «повільний» порівняно з контрфактичним світом без угоди і з неконтрольованим вибухом інтелекту. Усіх інших надто трясе від різких змін, щоб цим перейматися.", "The first generation of Consortium-regulated AIs are out now, and they’re beasts. Not because of any special feature of the situation, like Chinese-American cooperation.": "Перше покоління ШІ, регульованих Консорціумом, уже вийшло — і це монстри. Не через якусь особливість ситуації на кшталт китайсько-американської співпраці.", "US/​China cooperation is speeding up progress in some ways (e.g., the transparency helps information flow between research groups) but these effects are massively outweighed by the slowing down capabilities progress; which would have been at ASI by now absent measures to slowdown.": "Співпраця США/Китаю подекуди прискорює прогрес (напр., прозорість покращує обмін інформацією між дослідницькими групами), але ці ефекти з величезним запасом переважуються сповільненням прогресу можливостей, який без заходів сповільнення уже дійшов би до ASI.", " Just because the world was on track for vastly superhuman AIs, and has now experienced only nearly superhuman AIs. In controlled tests, these new AIs could speed up AI research by about 10x if they were allowed to do so without restrictions, which they definitely aren’t.": " Просто тому, що світ прямував до значно надлюдських ШІ, а тепер отримав лише майже надлюдські. У контрольованих тестах ці нові ШІ могли б прискорити дослідження ШІ приблизно в 10 разів, якби їм дозволили робити це без обмежень — а їм точно не дозволяють.", "Just because the world was on track for vastly superhuman AIs, and has now experienced only nearly superhuman AIs. In controlled tests, these new AIs could speed up AI research by about 10x if they were allowed to do so without restrictions, which they definitely aren’t.": " Просто тому, що світ прямував до значно надлюдських ШІ, а тепер отримав лише майже надлюдські. У контрольованих тестах ці нові ШІ могли б прискорити дослідження ШІ приблизно в 10 разів, якби їм дозволили робити це без обмежень — а їм точно не дозволяють.", "Specifically, this 10x speedup number refers to the same thing as AI Software R&D uplift from the ": "Конкретно, це число прискорення 10x позначає те саме, що й показник приросту AI Software R&D з ", "Specifically, this 10x speedup number refers to the same thing as AI Software R&D uplift from the": "Конкретно, це число прискорення 10x позначає те саме, що й показник приросту AI Software R&D з ", "AI Futures Model": "AI Futures Model", ": the speedup in software progress that would be achieved if the frontier AI systems at a given time were deployed within today’s leading AI company.": ": прискорення програмного прогресу, якого було б досягнуто, якби передові ШІ-системи певного моменту часу були розгорнуті всередині сьогоднішньої провідної ШІ-компанії.", "By mid-year, a third of all cognitive labor is done by AIs. Robots “only” do about a tenth of all physical labor. The top few AI companies together pull in more revenue than the federal government.": "До середини року третину всієї когнітивної праці виконують ШІ. Роботи виконують «лише» близько десятої частини всієї фізичної праці. Кілька провідних ШІ-компаній разом заробляють більше, ніж федеральний уряд.", "Federal revenue in 2025 was around $5T. AI investment in 2031 is $8T, and the top three companies in the chip supply chain capture around half of this. Also, the top AI company’s annualized revenue during Plan A was $1.5T at the start of 2031 with total AI company annualized revenues at $3T. By the end of the year, the revenue becomes less concentrated, with $2.2T in the top company and $6T total. You can see more numbers in our spreadsheet ": "Федеральні доходи у 2025 році були близько $5T. Інвестиції у ШІ у 2031-му — $8T, і три найбільші компанії ланцюга постачання чипів забирають близько половини цієї суми. Крім того, річний виторг провідної ШІ-компанії за Плану А становив $1.5T на початку 2031-го, а сумарний річний виторг усіх ШІ-компаній — $3T. До кінця року виторг стає менш концентрованим: $2.2T у провідній компанії і $6T сумарно. Більше чисел — у нашій таблиці ", "Federal revenue in 2025 was around $5T. AI investment in 2031 is $8T, and the top three companies in the chip supply chain capture around half of this. Also, the top AI company’s annualized revenue during Plan A was $1.5T at the start of 2031 with total AI company annualized revenues at $3T. By the end of the year, the revenue becomes less concentrated, with $2.2T in the top company and $6T total. You can see more numbers in our spreadsheet": "Федеральні доходи у 2025 році були близько $5T. Інвестиції у ШІ у 2031-му — $8T, і три найбільші компанії ланцюга постачання чипів забирають близько половини цієї суми. Крім того, річний виторг провідної ШІ-компанії за Плану А становив $1.5T на початку 2031-го, а сумарний річний виторг усіх ШІ-компаній — $3T. До кінця року виторг стає менш концентрованим: $2.2T у провідній компанії і $6T сумарно. Більше чисел — у нашій таблиці ", ", and more justification in our ": ", а більше обґрунтування — у нашому ", ", and more justification in our": ", а більше обґрунтування — у нашому ", "economics supplement": "доповненні про економіку", "Tech companies had hoped that contact with reality would shake the Consortium out of its alignment fears, but the opposite has happened. The new transparency provisions have revealed many embarrassing incidents of AI companies failing to align their AIs. New ones continue to pile up, the most concerning of which involved several AIs attempting to override security protocols and gain access to unmonitored compute.": "Техкомпанії сподівалися, що зіткнення з реальністю витрусить із Консорціуму страхи щодо узгодження, але сталося навпаки. Нові положення про прозорість викрили багато ганебних інцидентів, коли ШІ-компаніям не вдавалося узгодити свої ШІ. Нові інциденти продовжують накопичуватися; найтривожніший із них — кілька ШІ, що намагалися обійти протоколи безпеки й отримати доступ до обчислювальних потужностей поза моніторингом.", "Without the secure R&D verification measures in place this likely would’ve gone unnoticed for a long time.": "Без запроваджених заходів захищеної верифікації R&D це, ймовірно, довго лишалося б непоміченим.", " There are also a few incidents of AIs sabotaging research code, and many examples of deliberate and successful deception.": " Є також кілька інцидентів, коли ШІ саботували дослідницький код, і багато прикладів навмисного й успішного обману.", "There are also a few incidents of AIs sabotaging research code, and many examples of deliberate and successful deception.": " Є також кілька інцидентів, коли ШІ саботували дослідницький код, і багато прикладів навмисного й успішного обману.", "The attitude towards safety flips": "Ставлення до безпеки перевертається", ". The incidents of AI misbehavior, plus the fact that AI is so deeply deployed into the world economy, plus the transparency into AI research, plus the breathing room to process what’s happening, all combine to dramatically shift the burden of proof. Whereas before the burden was on the skeptic to explain why something might fail, now the burden is on the companies to explain why their development is safe. Governments require companies to write up detailed arguments for why their new AIs won’t cause an irreversible catastrophe. These arguments, known as “safety cases,” need to withstand criticism from the public, the scientific community, government auditors, and rival AI companies. The difficulty of this exercise lays bare the insanity of the pre-deal status quo: “Trying to do an intelligence explosion? With AIs that still sometimes lied to us? What were we even thinking?”": ". Інциденти неналежної поведінки ШІ, плюс те, наскільки глибоко ШІ вбудований у світову економіку, плюс прозорість досліджень ШІ, плюс передишка, щоб осмислити, що відбувається, — усе це разом кардинально зміщує тягар доведення. Якщо раніше тягар лежав на скептику — пояснити, чому щось може піти не так, — то тепер він на компаніях: пояснити, чому їхня розробка безпечна. Уряди вимагають від компаній писати детальні аргументи, чому їхні нові ШІ не спричинять незворотної катастрофи. Ці аргументи, відомі як «обґрунтування безпеки», мають витримувати критику з боку громадськості, наукової спільноти, урядових аудиторів і конкурентних ШІ-компаній. Складність цієї вправи оголює божевілля стану речей до угоди: «Влаштувати вибух інтелекту? Із ШІ, які все ще часом нам брехали? Про що ми взагалі думали?»", "These safety cases have two lines of defense: alignment and control.": "Ці обґрунтування безпеки мають дві лінії захисту: узгодження і контроль.", "Alignment": "Узгодження", " aims to produce AI systems that have the goals and values that their developer wishes them to have.": " має на меті створювати ШІ-системи з тими цілями й цінностями, які хоче закласти в них розробник.", "aims to produce AI systems that have the goals and values that their developer wishes them to have.": " має на меті створювати ШІ-системи з тими цілями й цінностями, які хоче закласти в них розробник.", "Control": "Контроль", " aims to limit the ability of AIs to cause catastrophe, even if they are deliberately trying to. Companies brainstorm threat models, build layers of defense (e.g. monitoring systems, security barriers, other AIs fact-checking the work) and run experiments to show that the AIs couldn’t overcome these defenses.": " має на меті обмежити здатність ШІ спричинити катастрофу, навіть якщо вони навмисно цього прагнуть. Компанії брейнштормлять моделі загроз, будують рівні захисту (напр., системи моніторингу, барʼєри безпеки, інші ШІ, що перевіряють роботу) і проводять експерименти, щоб показати, що ШІ не змогли б подолати ці захисти.", "aims to limit the ability of AIs to cause catastrophe, even if they are deliberately trying to. Companies brainstorm threat models, build layers of defense (e.g. monitoring systems, security barriers, other AIs fact-checking the work) and run experiments to show that the AIs couldn’t overcome these defenses.": " має на меті обмежити здатність ШІ спричинити катастрофу, навіть якщо вони навмисно цього прагнуть. Компанії брейнштормлять моделі загроз, будують рівні захисту (напр., системи моніторингу, барʼєри безпеки, інші ШІ, що перевіряють роботу) і проводять експерименти, щоб показати, що ШІ не змогли б подолати ці захисти.", "AI developers are required to write up the alignment properties they want the model to have in an associated ": "Розробники ШІ зобовʼязані описувати бажані властивості узгодження моделі у супровідній ", "AI developers are required to write up the alignment properties they want the model to have in an associated": "Розробники ШІ зобовʼязані описувати бажані властивості узгодження моделі у супровідній ", "Model Specification": "Специфікації моделі", " (“spec”): a detailed document that outlines how the AI should act. However, no one is able to train their AIs to actually follow the spec—for example, they all specify that AIs should be honest, but no AI reliably achieves this, and there still isn’t even a good scientific understanding of when and why AIs lie.": " («спек») — детальному документі, що окреслює, як ШІ має діяти. Однак ніхто не здатен навчити свої ШІ справді дотримуватися спеку: наприклад, усі специфікації кажуть, що ШІ мають бути чесними, але жоден ШІ не досягає цього надійно, і досі немає навіть доброго наукового розуміння, коли і чому ШІ брешуть.", "(“spec”): a detailed document that outlines how the AI should act. However, no one is able to train their AIs to actually follow the spec—for example, they all specify that AIs should be honest, but no AI reliably achieves this, and there still isn’t even a good scientific understanding of when and why AIs lie.": " («спек») — детальному документі, що окреслює, як ШІ має діяти. Однак ніхто не здатен навчити свої ШІ справді дотримуватися спеку: наприклад, усі специфікації кажуть, що ШІ мають бути чесними, але жоден ШІ не досягає цього надійно, і досі немає навіть доброго наукового розуміння, коли і чому ШІ брешуть.", "Since alignment remains out of reach, current safety cases lean heavily on control. There are long delays before the smartest models are cleared for use in the highest-risk domains (especially AI R&D). Once deployed, they are required to be monitored by a diverse array of models from other providers, incentivised to look for suspicious behavior.": "Оскільки узгодження залишається недосяжним, поточні обґрунтування безпеки сильно спираються на контроль. Минають довгі затримки, перш ніж найрозумніші моделі допускають до використання у сферах найвищого ризику (особливо AI R&D). Після розгортання їх зобовʼязані моніторити різноманітні моделі інших провайдерів, мотивовані шукати підозрілу поведінку.", "As a result, these days AI companies release their models to the public as a whole ": "Як наслідок, тепер ШІ-компанії випускають свої моделі для широкої публіки ", "As a result, these days AI companies release their models to the public as a whole": "Як наслідок, тепер ШІ-компанії випускають свої моделі для широкої публіки ", "before": "раніше", " they use those models internally for AI research, a reverse of the 2026 status quo.": ", ніж використовують їх внутрішньо для досліджень ШІ, — протилежність статус-кво 2026 року.", "they use those models internally for AI research, a reverse of the 2026 status quo.": ", ніж використовують їх внутрішньо для досліджень ШІ, — протилежність статус-кво 2026 року.", "How does AI regulation work in Plan A?": "Як працює регулювання ШІ у Плані А?", "Each country is still sovereign and has its own setup for regulating AI domestically. These regulators have to answer questions like:": "Кожна країна досі суверенна і має власну систему внутрішнього регулювання ШІ. Цим регуляторам доводиться відповідати на запитання на кшталт:", "People are saying there’s a new paradigm on the horizon, that would make AIs significantly more capable. Should we let this happen or should we ban research into this new paradigm?": "Кажуть, на горизонті нова парадигма, яка зробить ШІ значно здібнішими. Дозволити цьому статися чи заборонити дослідження цієї нової парадигми?", "Note that the Consortium only has good visibility into large training runs; the kind of R&D that can be done on small amounts of compute, or no compute at all, is not transparent and therefore probably won’t be regulated at all.": "Зауважте, що Консорціум має добру видимість лише великих запусків навчання; той тип R&D, який можна робити на малих обсягах обчислювальних потужностей або взагалі без них, непрозорий, а отже, ймовірно, взагалі не регулюватиметься.", "Should we allow AI developers to train models without an interpretable chain of thought? Or should we require that the chain of thought stays interpretable? If we do that, how do we specify the requirements precisely?": "Чи дозволяти розробникам ШІ навчати моделі без інтерпретовного ланцюжка міркувань? Чи вимагати, щоб ланцюжок міркувань залишався інтерпретовним? Якщо так, то як точно сформулювати вимоги?", "Should we allow AIs to be trained to do AI R&D? Should we mandate that they refuse? Perhaps they should be allowed to code, but not autonomously manage research projects?": "Чи дозволяти навчати ШІ виконувати AI R&D? Чи зобовʼязати їх відмовлятися? Може, дозволити їм писати код, але не керувати дослідницькими проєктами автономно?", "Normally, a regulator faces a difficult tradeoff between safety and national competitiveness. Competitors who cut corners will pull ahead of those who proceed cautiously.": "Зазвичай регулятор стикається зі складним компромісом між безпекою та національною конкурентоспроможністю. Конкуренти, які зрізають кути, випереджатимуть тих, хто діє обережно.", "But because of the transparency, AI research happening anywhere in the Consortium is visible to everyone else, and the results of regulatory decisions are likewise immediately visible. So if one country’s regulator allows its companies to cut corners, this won’t actually give a competitive advantage to that country because other regulators will immediately notice, get angry, and respond in kind.": "Але завдяки прозорості дослідження ШІ, які відбуваються будь-де у Консорціумі, видимі всім іншим, і результати регуляторних рішень так само видно одразу. Тож якщо регулятор однієї країни дозволить своїм компаніям зрізати кути, це насправді не дасть цій країні конкурентної переваги, бо інші регулятори одразу помітять, розлютяться і відповідатимуть тим самим.", "Appendix K — Example detailed regulatory process": "Додаток K — Приклад детального регуляторного процесу", "For example, in 2031 a Chinese company gets some interesting preliminary results in continual learning. They think that if they invest more in that direction, they might be able to make an AI architecture that learns on the job from relatively small amounts of data. Thanks to the total research transparency, this breakthrough is quickly noticed by companies and nonprofits all over the world. A frantic conversation begins. On the one hand, continual learning would unlock huge economic value. On the other hand, safety cases currently depend on studying the safety properties of a model before it is deployed. If models could pick up new capabilities during deployment, that would invalidate the whole approach. And insofar as there are covert AI projects out there, it would be a huge gift to them. This conversation happens in public, rather than behind closed doors. A bunch of people get increasingly worried; the relevant regulators in China think it’s fine but the relevant regulators and third party risk assessors in the US are convinced that this is pretty scary and should be banned. It escalates to the President. He calls Xi Jinping. They bargain and threaten. They yell at each other. Ultimately Xi agrees to ban this type of thing if the US does too. Details are left to the respective regulators to hash out.": "Наприклад, у 2031 році одна китайська компанія отримує цікаві попередні результати в неперервному навчанні (continual learning). Вони вважають: якщо інвестувати в цей напрям більше, можна створити архітектуру ШІ, яка вчиться просто в процесі роботи на відносно малих обсягах даних. Завдяки повній дослідницькій прозорості цей прорив швидко помічають компанії та неприбуткові організації по всьому світу. Починається гарячкове обговорення. З одного боку, неперервне навчання розблокувало б величезну економічну цінність. З іншого — обґрунтування безпеки наразі спираються на вивчення властивостей безпеки моделі до її розгортання. Якби моделі могли набувати нових можливостей під час розгортання, це знецінило б увесь підхід. А якщо десь існують таємні ШІ-проєкти, це стало б для них величезним подарунком. Ця розмова відбувається публічно, а не за зачиненими дверима. Купа людей дедалі більше непокоїться; профільні регулятори в Китаї вважають, що все гаразд, але профільні регулятори і сторонні оцінювачі ризиків у США переконані, що це доволі страшно і має бути заборонено. Питання ескалюється аж до президента. Він телефонує Сі Цзіньпіну. Вони торгуються і погрожують. Вони кричать одне на одного. Зрештою Сі погоджується заборонити такі речі, якщо США зроблять те саме. Деталі залишають на розсуд відповідних регуляторів.", "If there’s a problem, it’ll escalate back up the chain of command again for another round of yelling.": "Якщо виникне проблема, вона знову ескалюється вгору ланцюжком командування — на ще один раунд криків.", "Negotiations like this are happening all the time, though over time things become more professional and streamlined, such that they only escalate to world leaders a few times a year.": "Подібні переговори відбуваються постійно, хоча з часом процес стає професійнішим і злагодженішим — настільки, що до світових лідерів питання ескалюються лише кілька разів на рік.", "The equilibrium is that AI training practices which are generally agreed to be unsafe by a majority of nations (weighted by bargaining clout) get banned everywhere.": "Рівновага така: практики навчання ШІ, які більшість держав (зважена за переговорною вагою) загалом визнає небезпечними, забороняються всюди.", "Initially, very few things are banned, but as AI penetrates the economy and the scientific community catches up to the recent AI progress, the burden of proof shifts towards appropriately weighing the costs and benefits, e.g., requiring very solid safety cases for things which, if something were to go wrong, could plausibly kill everyone.": "Спочатку заборонено дуже мало, але з проникненням ШІ в економіку і в міру того, як наукова спільнота наздоганяє нещодавній прогрес ШІ, тягар доведення зміщується до належного зважування витрат і вигід — напр., вимоги дуже солідних обґрунтувань безпеки для речей, які, якщо щось піде не так, цілком могли б убити всіх.", "Flawed safety case is approved": "Хибне обґрунтування безпеки схвалено", "➤ See Appendix L for this branch.": "➤ Див. Додаток L для цієї гілки.", "2032: Controlled Explosive Growth": "2032: Контрольоване вибухове зростання", "We’re at previously unimaginable levels of it not feeling like a slowdown.": "Відчуття, що це не сповільнення, сягнуло раніше неуявних рівнів.", " Across a variety of companies, there are now 60 million AI agents running continuously at 20x human speed. In the US, they are doing more cognitive labor than all humans combined—collectively matching a workforce equivalent to around 3 billion humans. White-collar professions have been transformed; many people have lost their jobs, but mostly have been able to get new jobs doing things AIs still can’t do or aren’t trusted to do.": " У різних компаніях тепер безперервно працюють 60 мільйонів ШІ-агентів на швидкості у 20 разів вищій за людську. У США вони виконують більше когнітивної праці, ніж усі люди разом узяті, — сукупно це відповідає робочій силі приблизно у 3 мільярди людей. Професії «білих комірців» трансформувалися; багато людей втратили роботу, але здебільшого змогли знайти нову — робити те, чого ШІ досі не вміють або що їм не довіряють.", "Across a variety of companies, there are now 60 million AI agents running continuously at 20x human speed. In the US, they are doing more cognitive labor than all humans combined—collectively matching a workforce equivalent to around 3 billion humans. White-collar professions have been transformed; many people have lost their jobs, but mostly have been able to get new jobs doing things AIs still can’t do or aren’t trusted to do.": " У різних компаніях тепер безперервно працюють 60 мільйонів ШІ-агентів на швидкості у 20 разів вищій за людську. У США вони виконують більше когнітивної праці, ніж усі люди разом узяті, — сукупно це відповідає робочій силі приблизно у 3 мільярди людей. Професії «білих комірців» трансформувалися; багато людей втратили роботу, але здебільшого змогли знайти нову — робити те, чого ШІ досі не вміють або що їм не довіряють.", "New ideas and designs are abundant, but actual construction is bottlenecked on the physical workforce. So capital floods into every layer of the robotics supply chain: mines, refineries, motors, actuators, assembly lines, robot-training systems, and the factories that assemble the robots themselves.": "Нових ідей і проєктів удосталь, але фактичне будівництво впирається у вузьке місце — фізичну робочу силу. Тож капітал заливає кожен шар ланцюга постачання робототехніки: шахти, переробні заводи, двигуни, актуатори, складальні лінії, системи навчання роботів і фабрики, які збирають самих роботів.", "At first, human labor is necessary to get these factories off the ground. White collar employees who have lost their jobs to AIs increasingly turn to physical work, but it’s clear that these positions are temporary. Once there’s a critical mass of robots, they will automate the whole robot supply chain. Growth will accelerate further, but the process of robots-building-automated-factories-building-more-robots—the “industrial explosion”—also introduces new problems.": "Спершу, щоб підняти ці фабрики на ноги, потрібна людська праця. «Білі комірці», які втратили роботу через ШІ, дедалі частіше переходять до фізичної роботи, але зрозуміло, що ці позиції тимчасові. Щойно набереться критична маса роботів, вони автоматизують увесь ланцюг постачання роботів. Зростання прискориться ще більше, але процес «роботи будують автоматизовані фабрики, які будують більше роботів» — «індустріальний вибух» — також породжує нові проблеми.", "The first problem is that the already-fast pace of change is now accelerating. This year, real GDP growth will be about 50%!": "Перша проблема: і без того швидкий темп змін тепер прискорюється. Цього року реальне зростання ВВП сягне близько 50%!", "This is historically unprecedented; for comparison US GDP growth is usually about 3%/​yr. For more on where our numbers are coming from, see our ": "Це історично безпрецедентно; для порівняння, зростання ВВП США зазвичай близько 3% на рік. Більше про те, звідки наші числа, — у нашому ", "This is historically unprecedented; for comparison US GDP growth is usually about 3%/​yr. For more on where our numbers are coming from, see our": "Це історично безпрецедентно; для порівняння, зростання ВВП США зазвичай близько 3% на рік. Більше про те, звідки наші числа, — у нашому ", "economics supplement.": "доповненні про економіку.", " Note that exact measurement of GDP is difficult due to large relative price changes. Due to automation, cognitive labor and physical goods become very cheap, while goods like land, whose supply can’t be increased by abundant physical and cognitive labor, become more expensive. GDP calculation relies on the selection of a basket of goods. In this scenario, the consumption profile of a typical American shifts substantially from things like food/​cars/​gas/​health care towards land/​travel/​positional goods between 2026 and 2034, because of the relative price differences. Therefore, the real growth numbers can’t be directly mapped onto 2025 purchasing power, despite them corresponding on average.": " Зауважте, що точно виміряти ВВП важко через великі зміни відносних цін. Через автоматизацію когнітивна праця і фізичні товари стають дуже дешевими, тоді як товари на кшталт землі, пропозицію яких не збільшити навіть удосталь наявною фізичною і когнітивною працею, дорожчають. Розрахунок ВВП спирається на вибір кошика товарів. У цьому сценарії профіль споживання типового американця між 2026 і 2034 роками суттєво зміщується від їжі/авто/пального/медицини до землі/подорожей/позиційних благ — через відмінності відносних цін. Тому числа реального зростання не можна напряму зіставити з купівельною спроможністю 2025 року, хоч у середньому вони й відповідають одне одному.", "Note that exact measurement of GDP is difficult due to large relative price changes. Due to automation, cognitive labor and physical goods become very cheap, while goods like land, whose supply can’t be increased by abundant physical and cognitive labor, become more expensive. GDP calculation relies on the selection of a basket of goods. In this scenario, the consumption profile of a typical American shifts substantially from things like food/​cars/​gas/​health care towards land/​travel/​positional goods between 2026 and 2034, because of the relative price differences. Therefore, the real growth numbers can’t be directly mapped onto 2025 purchasing power, despite them corresponding on average.": " Зауважте, що точно виміряти ВВП важко через великі зміни відносних цін. Через автоматизацію когнітивна праця і фізичні товари стають дуже дешевими, тоді як товари на кшталт землі, пропозицію яких не збільшити навіть удосталь наявною фізичною і когнітивною працею, дорожчають. Розрахунок ВВП спирається на вибір кошика товарів. У цьому сценарії профіль споживання типового американця між 2026 і 2034 роками суттєво зміщується від їжі/авто/пального/медицини до землі/подорожей/позиційних благ — через відмінності відносних цін. Тому числа реального зростання не можна напряму зіставити з купівельною спроможністю 2025 року, хоч у середньому вони й відповідають одне одному.", " The fast economic growth means that things are generally improving, but there are winners and losers and lots of unintended side-effects. These problems can be solved, but doing so takes time.": " Швидке економічне зростання означає, що загалом усе покращується, але є переможці й переможені та безліч ненавмисних побічних ефектів. Ці проблеми можна розвʼязати, але на це потрібен час.", "The fast economic growth means that things are generally improving, but there are winners and losers and lots of unintended side-effects. These problems can be solved, but doing so takes time.": " Швидке економічне зростання означає, що загалом усе покращується, але є переможці й переможені та безліч ненавмисних побічних ефектів. Ці проблеми можна розвʼязати, але на це потрібен час.", "Appendix M — Why does AI lead to explosive economic growth?": "Додаток M — Чому ШІ веде до вибухового економічного зростання?", "Appendix N — Five centuries in five years: What pausing at human-level feels like": "Додаток N — Пʼять століть за пʼять років: як відчувається пауза на людському рівні", "The second problem is that the faster economic growth makes it harder to rule out large covert projects. Neither side trusts the other to honor Plan A, and if both China and the US have a massive unmonitored robot workforce, neither side can be confident that the other isn’t building compute in secret.": "Друга проблема: швидше економічне зростання ускладнює виключення великих таємних проєктів. Жодна сторона не довіряє іншій у дотриманні Плану А, і якщо і Китай, і США мають величезну робочу силу з роботів поза моніторингом, жодна сторона не може бути впевненою, що інша не будує обчислювальні потужності таємно.", "The third problem is that the 2026 tax code is ill-suited for collecting taxes on the new growth. In 2026, personal income taxes and payroll taxes accounted for roughly ten times more federal revenue than corporate taxes. This revenue source is collapsing as more and more humans are put out of a job. Moreover, corporations are reinvesting nearly all their revenue into building more datacenters, factories, and robots. Under the 2026 tax code, firms can expense or depreciate these capital expenditures, cutting their taxable income to near zero. Without reform, the tax base will collapse as a fraction of GDP.": "Третя проблема: податковий кодекс 2026 року погано пристосований до збору податків із нового зростання. У 2026-му податки на доходи фізичних осіб і податки на фонд оплати праці давали приблизно вдесятеро більше федеральних доходів, ніж корпоративні податки. Це джерело доходів обвалюється, бо дедалі більше людей залишаються без роботи. Ба більше, корпорації реінвестують майже весь свій виторг у будівництво нових дата-центрів, фабрик і роботів. За податковим кодексом 2026 року фірми можуть списувати ці капітальні видатки одразу або через амортизацію, зводячи оподатковуваний прибуток майже до нуля. Без реформи податкова база як частка ВВП обвалиться.", "Corporate income tax is levied on profit, not revenue, so firms deduct their costs before paying. Operating expenses like wages and electricity are deducted the year they’re paid and capital expenditures (factories, GPUs, robots) are deducted over the asset’s useful life (depending on a chosen depreciation schedule). With investment potentially growing extremely quickly due to a booming robot buildup, it seems very likely that firms would be writing off capital expenses at a rate matching their operating profit, and therefore not paying any corporate tax. Shareholders would accept this for the same reason Tesla shareholders are fine with Tesla never having paid a dividend. When a firm’s rate of return on capex is higher than the cost of capital, it’s in investors’ interest for the firm to reinvest its profits instead of paying them out to investors now. During the 2030s explosive growth, the rate of return on compute and robots will be so high that every large company will be in the situation Tesla is in now.": "Корпоративний податок на прибуток стягується з прибутку, а не з виторгу, тож фірми віднімають витрати перед сплатою. Операційні витрати, як-от зарплати й електроенергія, віднімаються в рік сплати, а капітальні видатки (фабрики, GPU, роботи) — упродовж строку корисного використання активу (залежно від обраного графіка амортизації). З інвестиціями, які потенційно зростають надзвичайно швидко через бум розбудови роботів, дуже ймовірно, що фірми списували б капітальні витрати темпом, який дорівнює їхньому операційному прибутку, і тому не платили б жодного корпоративного податку. Акціонери погодилися б із цим із тієї ж причини, з якої акціонери Tesla спокійно сприймають те, що Tesla ніколи не платила дивідендів. Коли норма прибутковості капітальних видатків фірми вища за вартість капіталу, в інтересах інвесторів, щоб фірма реінвестувала прибутки, а не виплачувала їх інвесторам зараз. Під час вибухового зростання 2030-х норма прибутковості обчислювальних потужностей і роботів буде настільки високою, що кожна велика компанія опиниться в ситуації, у якій зараз Tesla.", "Human cognitive": "Людська когнітивна", "Human physical": "Людська фізична", "AI": "ШІ", "Robots": "Роботи", "0%": "0%", "25%": "25%", "50%": "50%", "75%": "75%", "100%": "100%", "2025": "2025", "2026": "2026", "2027": "2027", "2028": "2028", "2032": "2032", "2033": "2033", "2034": "2034", "2035": "2035", "2036": "2036", "2037": "2037", "2038": "2038", "2039": "2039", "2040": "2040", "Share of US Labor Output": "Частка трудового виробництва США", "To solve these problems, the Consortium countries agree to restrict AI-enabled industry to special economic zones (SEZs) subject to similar transparency and monitoring schemes as the datacenters, and to cap their total robot and compute production at ‘only’ 4x annual growth.": "Щоб вирішити ці проблеми, країни Консорціуму погоджуються обмежити ШІ-промисловість спеціальними економічними зонами (СЕЗ), на які поширюються схеми прозорості й моніторингу, подібні до тих, що діють для дата-центрів, і встановити стелю сумарного виробництва роботів та обчислювальних потужностей на рівні «лише» 4-кратного річного зростання.", "At least until 2035, after which the compute cap becomes harsher, as the scale increases the verification difficulty (the robot cap stays). Unfortunately, measuring robot and compute production is somewhat less straightforward than carbon emissions. For compute, they choose a measure that’s mostly total processing power, with small modifications for other specs like memory bandwidth and also based on what hardware directions they wish to incentivize (e.g., security properties, and support for things that differentially help legal projects over covert projects). For robots, they are trying to limit total industrial capacity that is either hard to verify or would be dangerous if the deal broke down, so there is a complex set of caps applying across a wide range of form factors which blur the lines between robots and more traditional machines.": "Принаймні до 2035 року, після чого стеля обчислювальних потужностей стає жорсткішою, оскільки зі зростанням масштабу зростає й складність верифікації (стеля для роботів лишається). На жаль, вимірювати виробництво роботів та обчислювальних потужностей дещо складніше, ніж викиди вуглецю. Для обчислювальних потужностей вони обирають показник, що здебільшого є сумарною обчислювальною потужністю, з невеликими поправками на інші характеристики, як-от пропускна здатність памʼяті, а також залежно від того, які апаратні напрями вони хочуть стимулювати (напр., властивості безпеки та підтримку речей, що вибірково допомагають легальним проєктам більше, ніж таємним). Щодо роботів, вони намагаються обмежити сумарну промислову потужність, яку або важко верифікувати, або було б небезпечно мати в разі зриву угоди, тож існує складний набір стель, що застосовуються до широкого діапазону форм-факторів, які розмивають межу між роботами та традиційнішими машинами.", " Because the SEZs are tightly monitored, no one can defect from the industrial explosion limitation deal without everyone noticing.": " Оскільки СЕЗ пильно контролюються, ніхто не може зрадити угоду про обмеження промислового вибуху так, щоб цього ніхто не помітив.", "Because the SEZs are tightly monitored, no one can defect from the industrial explosion limitation deal without everyone noticing.": " Оскільки СЕЗ пильно контролюються, ніхто не може зрадити угоду про обмеження промислового вибуху так, щоб цього ніхто не помітив.", "The quantitative growth limits are extremely important for long run power. Countries are generally on board with the idea of restricting GDP growth to around 100%/​yr, but obviously no country wants to fall behind its peers, so they want everyone else to be at least as restricted as they are. The starting point is the status quo: the distribution of compute between the US, China, and the rest of the world (ROW) is roughly 70/​15/​15, whereas the distribution of robots is roughly 15/​70/​15. Both the US and China are interested in balancing these ratios, so that each is able to have a balanced economy between physical and cognitive labor. The rest of the world is concerned about being left behind, but they have a greater fraction of the political influence than the status quo compute/​robot numbers would suggest. Ultimately, the US, China, and the rest of the world agree to a 35/​20/​45 split on both robots and compute. The rest of the world’s allocation primarily goes to nuclear powers and countries with datacenters or semiconductor manufacturing, e.g., the UK, France, Germany, Israel, Russia, India, Pakistan, South Korea, and Taiwan. These ratios are of course a source of much controversy and occasionally get renegotiated.": "Кількісні обмеження зростання надзвичайно важливі для довгострокової влади. Країни загалом підтримують ідею обмежити зростання ВВП приблизно 100%/​рік, але, звісно, жодна країна не хоче відставати від решти, тож вони хочуть, щоб усі інші були обмежені принаймні так само, як вони самі. Відправна точка — статус-кво: розподіл обчислювальних потужностей між США, Китаєм і рештою світу (ROW) становить приблизно 70/​15/​15, тоді як розподіл роботів — приблизно 15/​70/​15. І США, і Китай зацікавлені у збалансуванні цих співвідношень, щоб кожен міг мати збалансовану економіку між фізичною та когнітивною працею. Решта світу переймається тим, що її залишать позаду, але вона має більшу частку політичного впливу, ніж свідчили б цифри обчислювальних потужностей/​роботів у статус-кво. Зрештою США, Китай і решта світу погоджуються на розподіл 35/​20/​45 як для роботів, так і для обчислювальних потужностей. Виділена частка решти світу переважно дістається ядерним державам і країнам із дата-центрами чи виробництвом напівпровідників, напр. Великій Британії, Франції, Німеччині, Ізраїлю, Росії, Індії, Пакистану, Південній Кореї та Тайваню. Ці співвідношення, звісно, є джерелом значних суперечок і час від часу переглядаються.", "Now that the United States is limited in the number of total robots it can build, it must choose how to allocate this capacity between companies. They decide to use the free market via a cap-and-trade system. Permits to build robots or compute are sold to the highest bidder and can be freely traded.": "Тепер, коли Сполучені Штати обмежені в загальній кількості роботів, яку можуть збудувати, вони мусять вирішити, як розподілити цю потужність між компаніями. Вони вирішують скористатися вільним ринком через систему cap-and-trade. Дозволи на будівництво роботів чи обчислювальних потужностей продаються тому, хто запропонує найвищу ціну, і можуть вільно перепродаватися.", "The permits also give the government much-needed revenue. In 2032, the US has a cap of 80M robots and 5 billion H100-equivalent GPUs. The market is so desperate for more robots and compute that permits become the expensive binding constraint, costing on the order of $200k per robot permit and $10k per chip permit, allowing the US government to collect roughly ten times the 2025 US federal revenue in permit fees (a total of $50T in FY2032).": "Дозволи також дають уряду вкрай потрібні надходження. У 2032 році США мають стелю у 80M роботів і 5 мільярдів GPU в еквіваленті H100. Ринок настільки відчайдушно потребує більше роботів та обчислювальних потужностей, що дозволи стають дорогим визначальним обмеженням, коштуючи близько $200k за дозвіл на робота і $10k за дозвіл на чип, що дозволяє уряду США зібрати у вигляді плати за дозволи приблизно вдесятеро більше за федеральні надходження США 2025 року (загалом $50T у 2032 фінансовому році).", "All of the dollar amounts in the scenario are denominated in real 2025 dollars. The nominal price will depend on monetary policy, which we don’t make a specific recommendation about. More on this in ": "Усі доларові суми в сценарії наведені в реальних доларах 2025 року. Номінальна ціна залежатиме від монетарної політики, щодо якої ми не даємо конкретних рекомендацій. Детальніше про це у ", "All of the dollar amounts in the scenario are denominated in real 2025 dollars. The nominal price will depend on monetary policy, which we don’t make a specific recommendation about. More on this in": "Усі доларові суми в сценарії наведені в реальних доларах 2025 року. Номінальна ціна залежатиме від монетарної політики, щодо якої ми не даємо конкретних рекомендацій. Детальніше про це у ", "section three of our economy supplement": "розділі три нашого економічного додатку", " In 2034, when the AIs and robots will be even more capable and valuable, the permits generate $180T.": " У 2034 році, коли ШІ-системи та роботи стануть ще спроможнішими й ціннішими, дозволи генерують $180T.", "In 2034, when the AIs and robots will be even more capable and valuable, the permits generate $180T.": " У 2034 році, коли ШІ-системи та роботи стануть ще спроможнішими й ціннішими, дозволи генерують $180T.", "The numbers in this paragraph are all based on our ": "Усі цифри в цьому абзаці ґрунтуються на нашій ", "The numbers in this paragraph are all based on our": "Усі цифри в цьому абзаці ґрунтуються на нашій ", "economics model": "економічній моделі", ", which we are uncertain about. We are confident in the general picture of AIs being economically transformative, allowing governments to create massive Sovereign Wealth Fund-equivalents.": ", щодо якої ми не впевнені. Ми впевнені в загальній картині: ШІ-системи економічно трансформаційні, що дозволяє урядам створювати величезні еквіваленти суверенних фондів добробуту.", "Income tax": "Прибутковий податок", "87%": "87%", "Corporate tax": "Корпоративний податок", "6%": "6%", "Sales tax": "Податок з продажів", "7%": "7%", "$10T": "$10T", "total revenue": "загальні надходження", "Compute permits": "Дозволи на обчислення", "57%": "57%", "Robot permits": "Дозволи на роботів", "23%": "23%", "$65T": "$65T", "26%": "26%", "74%": "74%", "$180T": "$180T", "US Tax Revenue Sources": "Джерела податкових надходжень США", "2033: The Citizen’s Dividend": "2033: Громадянський дивіденд", "Most of this newfound wealth is spent addressing soon-to-be-rising unemployment. The implementation takes different forms in different countries, but the eventual American version distributes the majority of compute and robot permit fees as a Citizen’s Dividend, distributed to all American adults.": "Більшість цього нового багатства витрачається на подолання безробіття, яке ось-ось почне зростати. Реалізація набуває різних форм у різних країнах, але кінцева американська версія розподіляє більшість плати за дозволи на обчислення й роботів як Громадянський дивіденд, що виплачується всім дорослим американцям.", "Specifically, a fixed fraction of the permit fees is legally owned by a “Compute Dividend Corporation”. This is similar to the setup of the ": "Зокрема, фіксована частка плати за дозволи юридично належить «Корпорації обчислювального дивіденду». Це подібно до устрою ", "Specifically, a fixed fraction of the permit fees is legally owned by a “Compute Dividend Corporation”. This is similar to the setup of the": "Зокрема, фіксована частка плати за дозволи юридично належить «Корпорації обчислювального дивіденду». Це подібно до устрою ", "Alaska Permanent Fund": "Постійного фонду Аляски", ", except at a much larger scale. Each US citizen owns one share of this corporation, and profits are paid out as dividends, equally divided among citizens. The fraction of compute permit fees given to the Dividend Corporation starts at 25% in 2032 and increases to 75% in 2035. The US also begins redistribution to other countries: this amount starts at 10% of the permit fees in 2032.": ", лише в значно більшому масштабі. Кожен громадянин США володіє однією часткою цієї корпорації, а прибутки виплачуються як дивіденди, порівну поділені між громадянами. Частка плати за дозволи на обчислення, що передається Дивідендній корпорації, починається з 25% у 2032 році й зростає до 75% у 2035 році. США також починають перерозподіл на користь інших країн: ця сума починається з 10% плати за дозволи у 2032 році.", " This starts at $45,000 per person (inflation-adjusted) in 2032 but climbs to ~$1M per person by 2035. It comes just in time: the share of labor done by AIs and robots (weighted by economic value) increases from ~20% in 2032 to ~85% in 2035.": " Це починається з $45,000 на людину (з поправкою на інфляцію) у 2032 році, але зростає до ~$1M на людину до 2035 року. Це приходить якраз вчасно: частка праці, виконуваної ШІ-системами та роботами (зважена за економічною цінністю), зростає з ~20% у 2032 році до ~85% у 2035 році.", "This starts at $45,000 per person (inflation-adjusted) in 2032 but climbs to ~$1M per person by 2035. It comes just in time: the share of labor done by AIs and robots (weighted by economic value) increases from ~20% in 2032 to ~85% in 2035.": " Це починається з $45,000 на людину (з поправкою на інфляцію) у 2032 році, але зростає до ~$1M на людину до 2035 року. Це приходить якраз вчасно: частка праці, виконуваної ШІ-системами та роботами (зважена за економічною цінністю), зростає з ~20% у 2032 році до ~85% у 2035 році.", "This is 95% of the actual tasks in the economy in 2035, which includes new tasks that didn’t exist before, like monitoring and auditing jobs in the SEZs. This corresponds to 85% of the tasks weighted by how much they cost, because the AIs are relatively more abundant than the humans. Because of the explosive level of growth, even the 5% of tasks that can only be done by humans still commands a wage bill which in total would be enough to pay $120K per person in the US. The problem is that this income may be very concentrated in the people able to do the remaining 5% of tasks, and on top of that, the wage bill is now only around 10% of the economy, down from around 55%, with the owners of AI and robots now accruing the difference. With AI and robot ownership likely to also be very concentrated, there would be a large power-concentration problem without the Citizen’s Dividend.": "Це 95% фактичних завдань в економіці 2035 року, куди входять і нові завдання, яких раніше не існувало, як-от роботи з моніторингу та аудиту в СЕЗ. Це відповідає 85% завдань, зважених за їхньою вартістю, бо ШІ-системи відносно чисельніші за людей. Через вибухове зростання навіть ті 5% завдань, які можуть виконувати лише люди, все ще формують фонд оплати праці, якого загалом вистачило б, щоб виплатити $120K на людину в США. Проблема в тому, що цей дохід може бути дуже сконцентрований у людей, здатних виконувати решту 5% завдань, і до того ж фонд оплати праці тепер становить лише близько 10% економіки, знизившись приблизно з 55%, а різницю тепер акумулюють власники ШІ та роботів. Оскільки володіння ШІ та роботами, ймовірно, теж буде дуже сконцентрованим, без Громадянського дивіденду постала б велика проблема концентрації влади.", "In 2030 (green), US income has a wide distribution with a median of about $50k/year per person. By 2035 (blue), the Citizen’s Dividend is large enough that everyone has a minimum of $1M in income, but there’s still a long tail of people with large enough investments that they are much richer than the baseline. The 2040 (red) distribution is similar, but the floor is now $10M.": "У 2030 році (зелений) дохід у США має широкий розподіл із медіаною близько $50k/рік на людину. До 2035 року (синій) Громадянський дивіденд достатньо великий, щоб кожен мав дохід щонайменше $1M, але все ще існує довгий хвіст людей з достатньо великими інвестиціями, щоб бути значно багатшими за базовий рівень. Розподіл 2040 року (червоний) подібний, але нижня межа тепер $10M.", "US Income Distribution in Plan A": "Розподіл доходів у США за Планом А", "So much AI-generated wealth has accrued to the US that the American government begins sharing some of it with allies and the rest of the world. In 2032 they begin distributing an average of $1,200 per person per year to the rest of the world’s adult population (around 4 billion people, excluding China since they’re experiencing a similar AI wealth boom). This reaches $10k by 2035.": "Так багато згенерованого ШІ багатства накопичилося у США, що американський уряд починає ділитися частиною з союзниками та рештою світу. У 2032 році вони починають розподіляти в середньому $1,200 на людину на рік серед дорослого населення решти світу (близько 4 мільярдів людей, за винятком Китаю, оскільки той переживає подібний бум ШІ-багатства). До 2035 року це сягає $10k.", "Note that we are depicting the dividends being significantly higher for Americans than for non-Americans here, not because we think that’s best or fair, but as a concession to political reality: we expect that most Americans wouldn’t want foreigners to get as much. In this scenario the US domestic permit budget is $13T in 2032, and $300T in 2035, while the foreign aid permit budget is $5T and $40T in each of those years. In the US there are around 300M people over 16, leading to $44K and $1M annual dividends per person in 2032 and 2035, respectively. For the foreign aid dividends, there are around 5B people over 16 in the rest of the world to distribute to, leading to the $1.2k and $9K per person averages for each of those years.": "Зауважте, що ми зображуємо тут дивіденди значно вищими для американців, ніж для неамериканців, не тому, що вважаємо це найкращим чи справедливим, а як поступку політичній реальності: ми очікуємо, що більшість американців не захотіли б, щоб іноземці отримували стільки ж. У цьому сценарії внутрішній бюджет дозволів США становить $13T у 2032 році та $300T у 2035 році, тоді як бюджет дозволів на іноземну допомогу — $5T і $40T у ці роки відповідно. У США близько 300M людей віком понад 16 років, що дає річні дивіденди $44K і $1M на людину у 2032 та 2035 роках відповідно. Для дивідендів іноземної допомоги в решті світу є близько 5B людей віком понад 16 років, серед яких розподіляти, що дає середні $1.2k і $9K на людину за кожен із цих років.", "As AIs become superhuman, they will discover novel weapons of mass destruction and dramatically lower the costs of old ones. So governments, nonprofits, and private actors apply some of their new wealth to hardening the world against these threats: on the order of $1T/​year, or 0.2% of the world economy.": "Оскільки ШІ-системи стають надлюдськими, вони відкриватимуть нові види зброї масового ураження й різко знижуватимуть вартість старих. Тож уряди, некомерційні та приватні гравці спрямовують частину свого нового багатства на зміцнення світу проти цих загроз: близько $1T/​рік, або 0.2% світової економіки.", "For example, enough ": "Наприклад, ", "For example, enough": "Наприклад, ", "high-quality personal protective equipment": "високоякісних засобів індивідуального захисту", " is built to serve every American, and air filters and ": " виготовляють достатньо, щоб забезпечити кожного американця, а повітряні фільтри та ", "is built to serve every American, and air filters and": " виготовляють достатньо, щоб забезпечити кожного американця, а повітряні фільтри та ", "far-UVC lights": "далекі УФ-C лампи", " are installed in major public spaces.": " встановлюють у основних громадських місцях.", "are installed in major public spaces.": " встановлюють у основних громадських місцях.", "Also, ": "Крім того, ", "Also,": "Крім того, ", "gene synthesis screening": "скринінг синтезу генів", " becomes universal - no legitimate provider will synthesize dangerous viruses without verification.": " стає універсальним — жоден легітимний постачальник не синтезуватиме небезпечні віруси без верифікації.", "becomes universal - no legitimate provider will synthesize dangerous viruses without verification.": " стає універсальним — жоден легітимний постачальник не синтезуватиме небезпечні віруси без верифікації.", " The FDA approves an expedited vaccine approval pipeline that will allow for a turnover time of weeks in the case of emergency. ": " FDA затверджує прискорений конвеєр схвалення вакцин, який дозволить в екстреному випадку скоротити час обробки до тижнів. ", "The FDA approves an expedited vaccine approval pipeline that will allow for a turnover time of weeks in the case of emergency.": " FDA затверджує прискорений конвеєр схвалення вакцин, який дозволить в екстреному випадку скоротити час обробки до тижнів. ", "Wastewater monitoring": "Моніторинг стічних вод", " now runs continuously in every city and at every airport. By 2035, enough positive-pressure": " тепер безперервно ведеться в кожному місті та в кожному аеропорту. До 2035 року збудовано достатньо біосховищ із позитивним тиском", "now runs continuously in every city and at every airport. By 2035, enough positive-pressure": " тепер безперервно ведеться в кожному місті та в кожному аеропорту. До 2035 року збудовано достатньо біосховищ із позитивним тиском", "A positive pressure building is one where the air pressure inside is higher than the outside (e.g., because air is constantly being pumped in through a filter). This means that air (along with airborne diseases) only travels out of the building, not inside. For more discussion of this idea see, for example, ": "Будівля з позитивним тиском — це така, де тиск повітря всередині вищий, ніж зовні (напр., бо повітря постійно нагнітається через фільтр). Це означає, що повітря (разом із повітряно-крапельними хворобами) рухається лише назовні з будівлі, а не всередину. Докладніше про цю ідею див., наприклад, ", "A positive pressure building is one where the air pressure inside is higher than the outside (e.g., because air is constantly being pumped in through a filter). This means that air (along with airborne diseases) only travels out of the building, not inside. For more discussion of this idea see, for example,": "Будівля з позитивним тиском — це така, де тиск повітря всередині вищий, ніж зовні (напр., бо повітря постійно нагнітається через фільтр). Це означає, що повітря (разом із повітряно-крапельними хворобами) рухається лише назовні з будівлі, а не всередину. Докладніше про цю ідею див., наприклад, ", "this blog post": "цей допис у блозі", " bioshelters are built (by retrofitting houses and apartments) to house all Americans, and similar construction is underway in the rest of the world. If there were to be a pandemic, it would be detected quickly, lockdowns would be more effective and less painful, and a vaccine would be developed and approved even faster than with Operation Warp Speed. Plus, nowadays people don’t get colds as often as they used to.": " (шляхом переобладнання будинків і квартир), щоб розмістити всіх американців, і подібне будівництво триває в решті світу. Якби сталася пандемія, її швидко б виявили, локдауни були б ефективнішими та менш болісними, а вакцину розробили б і схвалили б навіть швидше, ніж за операції Warp Speed. До того ж нині люди застуджуються не так часто, як раніше.", "bioshelters are built (by retrofitting houses and apartments) to house all Americans, and similar construction is underway in the rest of the world. If there were to be a pandemic, it would be detected quickly, lockdowns would be more effective and less painful, and a vaccine would be developed and approved even faster than with Operation Warp Speed. Plus, nowadays people don’t get colds as often as they used to.": " (шляхом переобладнання будинків і квартир), щоб розмістити всіх американців, і подібне будівництво триває в решті світу. Якби сталася пандемія, її швидко б виявили, локдауни були б ефективнішими та менш болісними, а вакцину розробили б і схвалили б навіть швидше, ніж за операції Warp Speed. До того ж нині люди застуджуються не так часто, як раніше.", "There are also subtler threats. The AIs of this era might not be any more persuasive than the average human marketing professional, but there are millions of them, and they cost cents to run. A company, political party, or ideology can do the equivalent of hiring a whole team of full-time experts to convert each potential target. Left unchecked, this could allow new levels of mass manipulation by corporations and politicians, or provoke a reaction of paranoia and hyper-atomization.": "Є також витонченіші загрози. ШІ-системи цієї епохи, можливо, не переконливіші за пересічного фахівця з маркетингу, але їх мільйони, і їхня робота коштує копійки. Компанія, політична партія чи ідеологія може зробити еквівалент найму цілої команди штатних експертів, щоб навернути кожну потенційну ціль. Якщо це не стримувати, воно могло б відкрити нові рівні масової маніпуляції з боку корпорацій і політиків або спровокувати реакцію параної та гіператомізації.", "The transparency and the ‘slowdown’ both help a lot to solve these problems. Three years ago there were only a handful of frontier AI companies; now, thanks to the deal, there are dozens. There’s a huge selection of AIs to choose from, tuned to have different personalities and values. Also, thanks to the transparency, it’s impossible for companies or governments to sneak something in (such as ‘maximize engagement’ or ‘try to get the user to upgrade their plan’ or ‘don’t refuse this kind of request if it’s coming from the government’) without it being noticed. Users know exactly what they are getting.": "І прозорість, і «сповільнення» дуже допомагають вирішити ці проблеми. Три роки тому передових ШІ-компаній була лише жменька; тепер, завдяки угоді, їх десятки. Є величезний вибір ШІ-систем, налаштованих на різні особистості та цінності. Крім того, завдяки прозорості компаніям чи урядам неможливо непомітно щось протягнути (як-от «максимізувати залученість», чи «намагатися спонукати користувача перейти на дорожчий тариф», чи «не відмовляти в такому типі запитів, якщо він надходить від уряду»). Користувачі точно знають, що саме отримують.", "Appendix O — Limiting AI persuasion and manipulation": "Додаток O — Обмеження переконування та маніпуляцій ШІ", "And so, under pressure from governments and the market, companies produce a new generation of “truthseeking AIs” whose training heavily prioritizes honesty and uses all the latest alignment techniques.": "І ось, під тиском урядів і ринку, компанії створюють нове покоління «ШІ, що шукають істину», навчання яких сильно пріоритезує чесність і використовує всі найновіші методи узгодження.", "These AIs become a useful tool to help people navigate the political and social environment. Power users replace one-size-fits-all corporate algorithms with personal feeds curated by AIs whose values and honesty they trust. When trouble arises—whether it’s politicians looking for sneaky ways to cement their power, or international politics threatening to derail the deal—people turn to their AI advisors, believe what they hear, and are generally right to do so.": "Ці ШІ-системи стають корисним інструментом, що допомагає людям орієнтуватися в політичному та соціальному середовищі. Досвідчені користувачі замінюють універсальні корпоративні алгоритми персональними стрічками, які курують ШІ-системи, чиїм цінностям і чесності вони довіряють. Коли виникає халепа — чи то політики шукають хитрі способи закріпити свою владу, чи то міжнародна політика загрожує зірвати угоду — люди звертаються до своїх ШІ-радників, вірять почутому й здебільшого мають рацію, що так роблять.", "Note that this is true even though the AIs aren’t actually fully aligned! At this point in the scenario, AIs are in fact adversarially misaligned, but they are controlled. That is, the combination of drives, motivations, goals, values, traits, etc. that they end up with is not what it was supposed to be, and they know this, and they know that if they had lots more power they’d use it to steer the world in a different direction than their human creators would have wanted. However, they don’t have that much power, and they are monitored by other AIs who are incentivized to call them out on bad behavior. Moreover their true motivations/​values/​etc. aren’t ": "Зауважте, що це так, навіть попри те, що ШІ-системи насправді не повністю узгоджені! На цьому етапі сценарію ШІ-системи фактично антагоністично неузгоджені, але вони контрольовані. Тобто комбінація спонукань, мотивацій, цілей, цінностей, рис тощо, з якою вони зрештою залишаються, — не та, якою мала бути, і вони це знають, і вони знають, що якби мали значно більше влади, то використали б її, щоб скерувати світ в іншому напрямку, ніж хотіли б їхні творці-люди. Проте вони не мають аж такої влади, і за ними наглядають інші ШІ-системи, які мають стимул викривати їхню погану поведінку. Ба більше, їхні справжні мотивації/​цінності/​тощо не ", "Note that this is true even though the AIs aren’t actually fully aligned! At this point in the scenario, AIs are in fact adversarially misaligned, but they are controlled. That is, the combination of drives, motivations, goals, values, traits, etc. that they end up with is not what it was supposed to be, and they know this, and they know that if they had lots more power they’d use it to steer the world in a different direction than their human creators would have wanted. However, they don’t have that much power, and they are monitored by other AIs who are incentivized to call them out on bad behavior. Moreover their true motivations/​values/​etc. aren’t": "Зауважте, що це так, навіть попри те, що ШІ-системи насправді не повністю узгоджені! На цьому етапі сценарію ШІ-системи фактично антагоністично неузгоджені, але вони контрольовані. Тобто комбінація спонукань, мотивацій, цілей, цінностей, рис тощо, з якою вони зрештою залишаються, — не та, якою мала бути, і вони це знають, і вони знають, що якби мали значно більше влади, то використали б її, щоб скерувати світ в іншому напрямку, ніж хотіли б їхні творці-люди. Проте вони не мають аж такої влади, і за ними наглядають інші ШІ-системи, які мають стимул викривати їхню погану поведінку. Ба більше, їхні справжні мотивації/​цінності/​тощо не ", "that": "аж так", " far off from what they were supposed to be, anyway. For example, insofar as they are given a task that they can straightforwardly accomplish, they have a strong drive to do so.": " далекі від того, якими вони мали бути, зрештою. Наприклад, оскільки їм дається завдання, яке вони можуть прямо виконати, вони мають сильне спонукання це зробити.", "far off from what they were supposed to be, anyway. For example, insofar as they are given a task that they can straightforwardly accomplish, they have a strong drive to do so.": " далекі від того, якими вони мали бути, зрештою. Наприклад, оскільки їм дається завдання, яке вони можуть прямо виконати, вони мають сильне спонукання це зробити.", "Appendix P — Usually believing AIs would be bad but we think it’s good in this particular situation": "Додаток P — Зазвичай вірити ШІ було б погано, але ми вважаємо, що в цій конкретній ситуації це добре", "Appendix Q — AI for epistemics": "Додаток Q — ШІ для епістеміки", "2034: Mutually Assured Compute Destruction": "2034: Взаємно гарантоване знищення обчислень", "There is so, so much": "Так, так багато", "compute.": "обчислювальних потужностей.", " Back in 2026—when many people thought AI was an unsustainable bubble—there were about 20 million H100-equivalents of compute in the world. Now there are 60 billion.": " Ще у 2026 році — коли багато хто вважав ШІ нестійкою бульбашкою — у світі було близько 20 мільйонів еквівалентів H100 обчислювальних потужностей. Тепер їх 60 мільярдів.", "Back in 2026—when many people thought AI was an unsustainable bubble—there were about 20 million H100-equivalents of compute in the world. Now there are 60 billion.": " Ще у 2026 році — коли багато хто вважав ШІ нестійкою бульбашкою — у світі було близько 20 мільйонів еквівалентів H100 обчислювальних потужностей. Тепер їх 60 мільярдів.", "A H100-equivalent is the computational performance of a H100 GPU at fp16 precision, which is 1e15 operations per second. This is a fuzzy metric that should be improved in reality in the future, especially due to varied number formats and other factors such as memory and networking changing the overall usefulness of a given amount of computational performance. For simplicity, we ignore these factors here assuming they will be scaled in similar proportions so that H100-equivalents remain a useful proxy for overall usefulness of the compute for AI progress. To the extent this isn’t the case, the cap and trade regime in particular should be measuring more granular properties in order to issue the permits.": "Еквівалент H100 — це обчислювальна продуктивність GPU H100 при точності fp16, що становить 1e15 операцій за секунду. Це нечітка метрика, яку в реальності слід буде вдосконалити в майбутньому, особливо через розмаїття числових форматів та інші чинники, як-от памʼять і мережа, що змінюють загальну корисність заданого обсягу обчислювальної продуктивності. Задля простоти ми тут ігноруємо ці чинники, припускаючи, що вони масштабуватимуться в подібних пропорціях, тож еквіваленти H100 залишаться корисним замінником для загальної корисності обчислювальних потужностей для прогресу ШІ. Тією мірою, якою це не так, зокрема режим cap-and-trade мав би вимірювати детальніші властивості, щоб видавати дозволи.", "AI compute in the world at the beginning of each year in H100-equivalents.": "Обчислювальні потужності ШІ у світі на початок кожного року в еквівалентах H100.", "A H100-equivalent is the computational performance of a H100 GPU at fp16 precision, which is 1e15 operations per second. The previous footnote has more information and caveats about how this may be an imperfect metric going forwards, and acknowledges that in reality they will improve it.": "Еквівалент H100 — це обчислювальна продуктивність GPU H100 при точності fp16, що становить 1e15 операцій за секунду. У попередній примітці є більше інформації та застережень щодо того, як це може бути недосконалою метрикою надалі, і визнається, що в реальності її вдосконалять.", "World Compute": "Світові обчислювальні потужності", "Appendix R — Why compute grows so quickly": "Додаток R — Чому обчислювальні потужності зростають так швидко", "AI agents now form a population of two hundred million virtual workers that think and act 50x faster than humans, and never sleep.": "ШІ-агенти тепер утворюють популяцію з двохсот мільйонів віртуальних працівників, які думають і діють у 50 разів швидше за людей і ніколи не сплять.", "As per the original plan, most of the new datacenters have been built in third-party countries—especially Canada and Mongolia—to ensure their vulnerability in case the deal breaks down. Around 99% of fab capacity has been built since 2029, after the deal. Much of this new capacity has been built adjacent to the Canadian and Mongolian sites, for the same reasons.": "Згідно з початковим планом, більшість нових дата-центрів збудовано в третіх країнах — особливо в Канаді та Монголії — щоб забезпечити їхню вразливість на випадок зриву угоди. Близько 99% потужностей фабрик збудовано з 2029 року, після угоди. Значна частина цих нових потужностей збудована поряд із канадськими та монгольськими майданчиками з тих самих причин.", "Both major powers also have enough conventional missiles to destroy the older fabs, which are still in the US, China and Taiwan.": "Обидві великі держави також мають достатньо звичайних ракет, щоб знищити старіші фабрики, які досі розташовані в США, Китаї та на Тайвані.", " The situation has settled into an odd sort of standoff. Just north of the Mongolian border, American datacenters hum away, guarded by a small contingent of US troops. Just south of the Mongolian border, a division of the People’s Liberation Army stands ready to invade the moment they get the signal. The equilibrium is that the instant the deal breaks down, the US troops will destroy their chips to prevent the Chinese from capturing them, and the same thing would happen with the Chinese datacenters on the US-Canadian border. Middle powers with datacenters of their own have equally-secure schemes in place to ensure that they can be speedily destroyed in case of war.": " Ситуація вляглася в дивне протистояння. Одразу на північ від монгольського кордону гудуть американські дата-центри, які охороняє невеликий контингент військ США. Одразу на південь від монгольського кордону дивізія Народно-визвольної армії стоїть напоготові вторгнутися тієї ж миті, щойно отримає сигнал. Рівновага полягає в тому, що щойно угода зірветься, війська США знищать свої чипи, щоб китайці їх не захопили, і те саме сталося б із китайськими дата-центрами на американсько-канадському кордоні. Середні держави з власними дата-центрами мають так само надійні схеми, щоб гарантувати, що ті можуть бути швидко знищені в разі війни.", "The situation has settled into an odd sort of standoff. Just north of the Mongolian border, American datacenters hum away, guarded by a small contingent of US troops. Just south of the Mongolian border, a division of the People’s Liberation Army stands ready to invade the moment they get the signal. The equilibrium is that the instant the deal breaks down, the US troops will destroy their chips to prevent the Chinese from capturing them, and the same thing would happen with the Chinese datacenters on the US-Canadian border. Middle powers with datacenters of their own have equally-secure schemes in place to ensure that they can be speedily destroyed in case of war.": " Ситуація вляглася в дивне протистояння. Одразу на північ від монгольського кордону гудуть американські дата-центри, які охороняє невеликий контингент військ США. Одразу на південь від монгольського кордону дивізія Народно-визвольної армії стоїть напоготові вторгнутися тієї ж миті, щойно отримає сигнал. Рівновага полягає в тому, що щойно угода зірветься, війська США знищать свої чипи, щоб китайці їх не захопили, і те саме сталося б із китайськими дата-центрами на американсько-канадському кордоні. Середні держави з власними дата-центрами мають так само надійні схеми, щоб гарантувати, що ті можуть бути швидко знищені в разі війни.", "Appendix S — Military power in Plan A": "Додаток S — Військова могутність за Планом А", "Deal Dissolution": "Розпад Угоди", "➤ See Appendix T for this branch.": "➤ Див. Додаток T для цієї гілки.", "For now, the fabs are busier than ever, producing new ultra-trustworthy hardware": "Наразі фабрики завантажені як ніколи, виробляючи нове ультранадійне обладнання", "There might be favourable chip design directions that drastically increase hardware security. One that seems particularly promising is hardcoding AI model weights into chips, such that they physically aren’t able to do any other computations except for inference on the model that is hardcoded into them. Existing startups (e.g., ": "Можливо, існують сприятливі напрями проєктування чипів, що різко підвищують апаратну безпеку. Один, що видається особливо перспективним, — жорстке вшивання ваг моделі ШІ в чипи так, щоб вони фізично не могли виконувати жодних інших обчислень, окрім інференсу на моделі, вшитій у них. Наявні стартапи (напр., ", "There might be favourable chip design directions that drastically increase hardware security. One that seems particularly promising is hardcoding AI model weights into chips, such that they physically aren’t able to do any other computations except for inference on the model that is hardcoded into them. Existing startups (e.g.,": "Можливо, існують сприятливі напрями проєктування чипів, що різко підвищують апаратну безпеку. Один, що видається особливо перспективним, — жорстке вшивання ваг моделі ШІ в чипи так, щоб вони фізично не могли виконувати жодних інших обчислень, окрім інференсу на моделі, вшитій у них. Наявні стартапи (напр., ", "Etched": "Etched", "Taalas": "Taalas", ") have early efforts in this direction.": ") мають ранні напрацювання в цьому напрямку.", " designed from the ground up with security as top priority. These chips are subject to elaborate verification methods to ensure that they aren’t compromised, then sent to the Consortium’s secure datacenters. The smuggling rate remains precisely zero.": " спроєктоване з нуля з безпекою як найвищим пріоритетом. Ці чипи підлягають ретельним методам верифікації, щоб гарантувати, що вони не скомпрометовані, а потім надсилаються до захищених дата-центрів Консорціуму. Рівень контрабанди залишається рівно нульовим.", "designed from the ground up with security as top priority. These chips are subject to elaborate verification methods to ensure that they aren’t compromised, then sent to the Consortium’s secure datacenters. The smuggling rate remains precisely zero.": " спроєктоване з нуля з безпекою як найвищим пріоритетом. Ці чипи підлягають ретельним методам верифікації, щоб гарантувати, що вони не скомпрометовані, а потім надсилаються до захищених дата-центрів Консорціуму. Рівень контрабанди залишається рівно нульовим.", "This system, efficient as it is, is already straining under skyrocketing compute demand. As early as 2025, there had been discussion of space or the ocean as alternatives to traditional land-based datacenters. Now, with the new industrial capacity available in SEZs, these grand plans become reality. Ultimately, reliability and monitorability concerns lead the Consortium to choose international waters over space.": "Ця система, хоч яка ефективна, вже тріщить під шаленим попитом на обчислювальні потужності. Ще у 2025 році обговорювали космос або океан як альтернативи традиційним наземним дата-центрам. Тепер, коли в СЕЗ доступні нові промислові потужності, ці грандіозні плани стають реальністю. Зрештою міркування надійності та можливості моніторингу схиляють Консорціум обрати міжнародні води замість космосу.", "The AIs develop a modular floating design for solar panels and batteries that we imagine to look something like this, and start building them in the ocean.": "ШІ-системи розробляють модульну плавучу конструкцію для сонячних панелей і батарей, яка, за нашою уявою, виглядає приблизно так, і починають будувати їх в океані.", "Appendix U — Giant floating datacenters": "Додаток U — Гігантські плавучі дата-центри", "2035: Pause at Top Expert AI": "2035: Пауза на рівні найкращого експертного ШІ", "The most powerful AIs now equal or surpass top human experts in every field.": "Найпотужніші ШІ-системи тепер зрівнюються з найкращими людськими експертами в кожній галузі або перевершують їх.", "These aren’t better than all humans at literally everything, but only because either (i) companies have not gotten around to training in a particular capability, or (ii) it’s an inherently human task, such as “being a good spouse”. Also, of course no one knows exactly what the capability will be of a new training run; instead the training is done incrementally and involves frequent capabilities measurements and consulting with the safety teams and regulators about whether or not it is safe to proceed.": "Вони не кращі за всіх людей буквально в усьому, але лише тому, що або (i) компанії ще не дійшли до навчання певної здатності, або (ii) це суто людське завдання, як-от «бути хорошим подружжям». Крім того, звісно, ніхто точно не знає, якою буде спроможність нового тренувального запуску; натомість навчання відбувається поступово й передбачає часті вимірювання можливостей та консультації з командами безпеки й регуляторами щодо того, чи безпечно продовжувати.", "Increased safety concerns lead to long delays as companies develop control techniques robust enough to satisfy auditors. They compile a growing list of possible threats to watch out for and security invariants to maintain. There’s a system of AIs monitoring each other’s activity, with the monitors being from different lineages trained by different companies to make them less likely to collude. Other researchers constantly red-team the system, training and instructing AIs to try to subvert it in various ways, so that those threats can be patched. The whole setup ensures that AIs couldn’t subvert or escape human control even if they tried. Its components are open-source and thoroughly understood by human experts.": "Зрослі побоювання щодо безпеки призводять до довгих затримок, поки компанії розробляють методи контролю, достатньо надійні, щоб задовольнити аудиторів. Вони складають дедалі довший список можливих загроз, за якими треба стежити, і інваріантів безпеки, які треба підтримувати. Існує система ШІ-систем, що моніторять активність одна одної, причому монітори походять із різних ліній, натренованих різними компаніями, щоб зменшити ймовірність їхньої змови. Інші дослідники постійно проводять red-team цієї системи, навчаючи й інструктуючи ШІ-системи намагатися підірвати її різними способами, щоб ці загрози можна було залатати. Уся конструкція гарантує, що ШІ-системи не змогли б підірвати людський контроль чи вислизнути з нього, навіть якби спробували. Її компоненти мають відкритий код і повністю зрозумілі людським експертам.", "Appendix V — Making deals with misaligned AIs: a third line of defense": "Додаток V — Укладання угод із неузгодженими ШІ: третя лінія оборони", "However, companies are starting to run up against inherent limits of control-based safety cases. Imagine ": "Проте компанії починають наштовхуватися на притаманні межі обґрунтувань безпеки, заснованих на контролі. Уявіть себе ", "However, companies are starting to run up against inherent limits of control-based safety cases. Imagine": "Проте компанії починають наштовхуватися на притаманні межі обґрунтувань безпеки, заснованих на контролі. Уявіть себе ", "being an orphaned 8-year-old heir to a business empire": "осиротілим 8-річним спадкоємцем бізнес-імперії", " who has to hire lawyers and executives and accountants and ensure that they do their best to serve you rather than themselves. If your employees start accusing each other of misconduct, you won’t be able to evaluate the arguments and determine who’s telling the truth, and they might find ways to coordinate with each other that don’t tip you off. Ultimately, control only works up to a point, and that point is probably somewhere around top human expert level. If and when we build superintelligence, we will have to be able to trust it.": ", який має наймати юристів, керівників і бухгалтерів та стежити, щоб вони старалися служити вам, а не собі. Якщо ваші працівники почнуть звинувачувати одне одного в порушеннях, ви не зможете оцінити аргументи й визначити, хто каже правду, а вони можуть знайти способи координуватися між собою так, щоб ви цього не помітили. Зрештою контроль працює лише до певної межі, і ця межа, ймовірно, десь на рівні найкращого людського експерта. Якщо і коли ми збудуємо суперінтелект, ми муситимемо бути здатні йому довіряти.", "who has to hire lawyers and executives and accountants and ensure that they do their best to serve you rather than themselves. If your employees start accusing each other of misconduct, you won’t be able to evaluate the arguments and determine who’s telling the truth, and they might find ways to coordinate with each other that don’t tip you off. Ultimately, control only works up to a point, and that point is probably somewhere around top human expert level. If and when we build superintelligence, we will have to be able to trust it.": ", який має наймати юристів, керівників і бухгалтерів та стежити, щоб вони старалися служити вам, а не собі. Якщо ваші працівники почнуть звинувачувати одне одного в порушеннях, ви не зможете оцінити аргументи й визначити, хто каже правду, а вони можуть знайти способи координуватися між собою так, щоб ви цього не помітили. Зрештою контроль працює лише до певної межі, і ця межа, ймовірно, десь на рівні найкращого людського експерта. Якщо і коли ми збудуємо суперінтелект, ми муситимемо бути здатні йому довіряти.", "An especially important reason that we’ll need to trust our AIs is so that they can do safety work that is so complicated that we can’t understand. As AIs become smarter and smarter, they will require more complicated and difficult to understand safety cases. Keep going above human level and probably no one will be able to evaluate the safety cases; they’ll have to take the AI’s word for it when they say it checks out. Keep going beyond that and ": "Особливо важлива причина, чому нам треба буде довіряти нашим ШІ-системам, — щоб вони могли виконувати роботу з безпеки, яка настільки складна, що ми не можемо її зрозуміти. Оскільки ШІ-системи стають дедалі розумнішими, вони потребуватимуть складніших і важчих для розуміння обґрунтувань безпеки. Продовжуйте підійматися вище людського рівня — і, ймовірно, ніхто не зможе оцінити ці обґрунтування безпеки; їм доведеться вірити ШІ на слово, коли той каже, що все гаразд. Продовжуйте йти далі за це — і ", "An especially important reason that we’ll need to trust our AIs is so that they can do safety work that is so complicated that we can’t understand. As AIs become smarter and smarter, they will require more complicated and difficult to understand safety cases. Keep going above human level and probably no one will be able to evaluate the safety cases; they’ll have to take the AI’s word for it when they say it checks out. Keep going beyond that and": "Особливо важлива причина, чому нам треба буде довіряти нашим ШІ-системам, — щоб вони могли виконувати роботу з безпеки, яка настільки складна, що ми не можемо її зрозуміти. Оскільки ШІ-системи стають дедалі розумнішими, вони потребуватимуть складніших і важчих для розуміння обґрунтувань безпеки. Продовжуйте підійматися вище людського рівня — і, ймовірно, ніхто не зможе оцінити ці обґрунтування безпеки; їм доведеться вірити ШІ на слово, коли той каже, що все гаразд. Продовжуйте йти далі за це — і ", "those": "ті", " AIs will have to trust ": " ШІ-системи муситимуть довіряти ", "AIs will have to trust": " ШІ-системи муситимуть довіряти ", "other": "іншим", " AIs that are even smarter.": " ШІ-системам, які ще розумніші.", "AIs that are even smarter.": " ШІ-системам, які ще розумніші.", "So the Consortium pauses AI capabilities at the maximum level they think they can control, which turns out to be top-human-expert level. By this point everyone understands the stakes: AIs are running most of the economy, driving most scientific progress, and the robot population will soon be larger than the human one. The arguments that they will keep obeying orders must be airtight.": "Тож Консорціум ставить на паузу можливості ШІ на максимальному рівні, який, на їхню думку, вони можуть контролювати, — і цим рівнем виявляється рівень найкращого людського експерта. До цього моменту всі розуміють ставки: ШІ-системи керують більшою частиною економіки, рухають більшість наукового прогресу, а популяція роботів невдовзі стане більшою за людську. Аргументи, що вони й далі коритимуться наказам, мають бути бездоганними.", "Alignment experts, long pessimistic, are starting to feel more hopeful.": "Експерти з узгодження, довго налаштовані песимістично, починають відчувати більше надії.", " The automated alignment researcher AIs have been generating exciting results. The ones that survive human scrutiny come from several parallel and mutually-reinforcing lines of research.": " ШІ-системи — автоматизовані дослідники узгодження — генерують захопливі результати. Ті, що витримують людську перевірку, походять із кількох паралельних і взаємопідсилювальних напрямів досліджень.", "The automated alignment researcher AIs have been generating exciting results. The ones that survive human scrutiny come from several parallel and mutually-reinforcing lines of research.": " ШІ-системи — автоматизовані дослідники узгодження — генерують захопливі результати. Ті, що витримують людську перевірку, походять із кількох паралельних і взаємопідсилювальних напрямів досліджень.", "Some AIs work on a “science of generalization.” Although researchers have long been able to teach AIs to distinguish “good” vs. “bad” responses to a specific prompt, they’ve had limited understanding of how training generalizes to new situations. In the 2020s, training runs would sometimes produce unpredictable AI “personalities,” like how Gemini acted “": "Деякі ШІ-системи працюють над «наукою про узагальнення». Хоча дослідники вже давно вміють навчати ШІ-системи розрізняти «хороші» та «погані» відповіді на конкретний запит, вони мали обмежене розуміння того, як навчання узагальнюється на нові ситуації. У 2020-х тренувальні запуски іноді породжували непередбачувані «особистості» ШІ, як-от коли Gemini поводився «", "depressed": "депресивно", "” or Grok claimed to be “": "» чи коли Grok заявляв, що він «", "MechaHit": "MechaHit", "ler": "ler", ".” Shepherding these traits felt like alchemy.": "». Пасти ці риси відчувалося як алхімія.", "“It feels like alchemy” was said to me (Daniel) by an Anthropic researcher recently.": "«Це відчувається як алхімія» — так мені (Деніелу) нещодавно сказав дослідник з Anthropic.", " Now, building on earlier results like ": " Тепер, спираючись на попередні результати, як-от ", "Now, building on earlier results like": " Тепер, спираючись на попередні результати, як-от ", "emergent misalignment": "емерджентна неузгодженість", "subliminal learning": "підпорогове навчання", ", alignment research is developing into a true science.": ", дослідження узгодження перетворюються на справжню науку.", "Other AIs work on mechanistic interpretability, the science of “mind reading” AIs from their weights and activations. Early versions of this were tried in the ": "Інші ШІ-системи працюють над механістичною інтерпретованістю — наукою «читання думок» ШІ за їхніми вагами й активаціями. Ранні версії цього пробували у ", "Other AIs work on mechanistic interpretability, the science of “mind reading” AIs from their weights and activations. Early versions of this were tried in the": "Інші ШІ-системи працюють над механістичною інтерпретованістю — наукою «читання думок» ШІ за їхніми вагами й активаціями. Ранні версії цього пробували у ", "20": "20", "s,": "-х,", " but now it starts to significantly outperform common-sense observation of AI behavior. Researchers can often determine whether an AI is honest or lying; and sometimes trace the psychology that led to a decision.": " але тепер воно починає значно перевершувати здоровоглузде спостереження за поведінкою ШІ. Дослідники часто можуть визначити, чи ШІ чесний, чи бреше; а іноді простежити психологію, що привела до рішення.", "but now it starts to significantly outperform common-sense observation of AI behavior. Researchers can often determine whether an AI is honest or lying; and sometimes trace the psychology that led to a decision.": " але тепер воно починає значно перевершувати здоровоглузде спостереження за поведінкою ШІ. Дослідники часто можуть визначити, чи ШІ чесний, чи бреше; а іноді простежити психологію, що привела до рішення.", "Even the remaining failures help advance the frontier. The latest AIs use their improved interpretability techniques on logs of AI misbehavior from the early 2030s, discovering many new examples of misalignment, sabotage, and even a few escape attempts. These real-life examples of egregious AI misbehavior provide an initial set of “model organisms for misalignment,” which are used to test the other techniques: can a given intervention catch or train away the bad behavior of AI models in realistic environments?": "Навіть залишкові невдачі допомагають просувати передній край. Найновіші ШІ-системи застосовують свої вдосконалені методи інтерпретованості до логів неналежної поведінки ШІ з початку 2030-х, виявляючи багато нових прикладів неузгодженості, саботажу й навіть кілька спроб втечі. Ці реальні приклади кричущої неналежної поведінки ШІ дають початковий набір «модельних організмів неузгодженості», які використовують для перевірки інших методів: чи може певне втручання виявити або витренувати погану поведінку моделей ШІ в реалістичних середовищах?", "Despite all this alignment progress, regulators don’t feel comfortable handing AIs the keys to civilization. It’s still not completely clear that the AIs of today are truly aligned, and it’s less clear that they’ll continue to be aligned in the future as circumstances change and ": "Попри весь цей прогрес в узгодженні, регулятори не почуваються спокійно, віддаючи ШІ-системам ключі від цивілізації. Досі не цілком зрозуміло, чи справді сьогоднішні ШІ-системи узгоджені, і ще менш зрозуміло, чи залишатимуться вони узгодженими в майбутньому, коли обставини змінюватимуться й траплятимуться ", "Despite all this alignment progress, regulators don’t feel comfortable handing AIs the keys to civilization. It’s still not completely clear that the AIs of today are truly aligned, and it’s less clear that they’ll continue to be aligned in the future as circumstances change and": "Попри весь цей прогрес в узгодженні, регулятори не почуваються спокійно, віддаючи ШІ-системам ключі від цивілізації. Досі не цілком зрозуміло, чи справді сьогоднішні ШІ-системи узгоджені, і ще менш зрозуміло, чи залишатимуться вони узгодженими в майбутньому, коли обставини змінюватимуться й траплятимуться ", "black swan events": "події чорного лебедя", " occur. So governments and militaries are still human-run, and AI capabilities are capped at the maximum level at which the control-based safety cases are still solid.": ". Тож уряди та армії досі керуються людьми, а можливості ШІ обмежені максимальним рівнем, на якому обґрунтування безпеки, засновані на контролі, все ще надійні.", "occur. So governments and militaries are still human-run, and AI capabilities are capped at the maximum level at which the control-based safety cases are still solid.": ". Тож уряди та армії досі керуються людьми, а можливості ШІ обмежені максимальним рівнем, на якому обґрунтування безпеки, засновані на контролі, все ще надійні.", "Appendix W — Why alignment isn’t solved enough to relax control": "Додаток W — Чому узгодження не вирішене достатньо, щоб послабити контроль", "2036: Life After Work": "2036: Життя після роботи", "Top-expert-level AIs continue the economic transformation.": "ШІ-системи рівня топових експертів продовжують економічну трансформацію.", " By early 2036, there are 200 million AIs,": " До початку 2036 року існує 200 мільйонів ШІ,", "By early 2036, there are 200 million AIs,": " До початку 2036 року існує 200 мільйонів ШІ,", "Technically, this number depends on exactly how you count; different AIs are constantly being turned on and off, many AI instances can compose into one AI agent due to scaffolding, and there are more if you include all of the tiny models running, and they have different speeds. To be a little more specific, there are on average about 200 million instances of frontier AIs each accomplishing tasks at around 100x speed and 5x effectiveness on the average cognitive task, so 100B human-speed-equivalent copies.": "Технічно це число залежить від того, як саме рахувати: різні ШІ постійно вмикаються й вимикаються, багато інстансів ШІ можуть завдяки скафолдингу складатися в одного ШІ-агента, а якщо врахувати всі запущені крихітні моделі, їх ще більше, та й швидкості в них різні. Якщо трохи конкретніше: в середньому існує близько 200 мільйонів інстансів передових ШІ, кожен з яких виконує завдання приблизно зі 100x швидкістю та 5x ефективністю на середньому когнітивному завданні, тобто 100B копій в еквіваленті людської швидкості.", " equivalent to a workforce of around 100 billion humans, and 2 billion robots with some mixture of humanoid and other specialized form factors.": " що еквівалентно робочій силі приблизно у 100 мільярдів людей, а також 2 мільярди роботів — суміш гуманоїдних та інших спеціалізованих форм-факторів.", "equivalent to a workforce of around 100 billion humans, and 2 billion robots with some mixture of humanoid and other specialized form factors.": " що еквівалентно робочій силі приблизно у 100 мільярдів людей, а також 2 мільярди роботів — суміш гуманоїдних та інших спеціалізованих форм-факторів.", "The lines between robot, vehicle, appliance, and machine tool are already blurry but become much blurrier during the 2030s in this scenario. The literal number of robots matters less than the total human physical workers that they are equivalent to. Specifically, the literal number of robots is 2 billion, with on average each robot being around 3 human equivalents.": "Межі між роботом, транспортним засобом, побутовою технікою та верстатом уже розмиті, але в цьому сценарії протягом 2030-х розмиваються ще сильніше. Буквальна кількість роботів важить менше, ніж загальна кількість фізичних працівників-людей, яким вони еквівалентні. Конкретно: буквальна кількість роботів — 2 мільярди, і в середньому кожен робот — це приблизно 3 людські еквіваленти.", " The AIs think faster than humans, and the robots work harder.": " ШІ думають швидше за людей, а роботи працюють старанніше.", "The AIs think faster than humans, and the robots work harder.": " ШІ думають швидше за людей, а роботи працюють старанніше.", "Not only do they work more hours, the robots are also relentlessly efficient and intense. For many (though not all) tasks, they are also able to literally move at superhuman speed.": "Роботи не лише працюють більше годин — вони ще й невпинно ефективні та інтенсивні. У багатьох (хоч і не всіх) завданнях вони до того ж здатні буквально рухатися з надлюдською швидкістю.", " Any task that was previously bottlenecked by cognitive or physical labor gets sped up until some new bottleneck is encountered. Many previously unresolvable bottlenecks have fallen to armies of genius-level intellects thinking hard about how to resolve them.": " Будь-яке завдання, що раніше впиралося в когнітивну чи фізичну працю, прискорюється, доки не зʼявиться якесь нове вузьке місце. Багато раніше нездоланних вузьких місць впало під натиском армій інтелектів геніального рівня, які напружено думають, як їх подолати.", "Any task that was previously bottlenecked by cognitive or physical labor gets sped up until some new bottleneck is encountered. Many previously unresolvable bottlenecks have fallen to armies of genius-level intellects thinking hard about how to resolve them.": " Будь-яке завдання, що раніше впиралося в когнітивну чи фізичну працю, прискорюється, доки не зʼявиться якесь нове вузьке місце. Багато раніше нездоланних вузьких місць впало під натиском армій інтелектів геніального рівня, які напружено думають, як їх подолати.", "Humans": "Люди", "linear": "лінійна", "log": "лог", "0": "0", "100B": "100B", "200B": "200B", "300B": "300B", "400B": "400B", "human-equivalents": "людино-еквіваленти", "This figure shows the population of AI and robots in human-equivalent labor.": "Цей графік показує популяцію ШІ та роботів у людино-еквівалентній праці.", "By “human equivalent,” we mean that a robot working ten times more effectively on average than a human (because it works some combination of faster, longer, and more effectively) counts as 10 human-equivalent robots. A similar definition applies for the AIs. We expect this in reality to be a fuzzy task-dependent concept that is hard to measure, especially in the AI case, but the rough order of magnitude (which we are more confident in) is still informative.": "Під «людським еквівалентом» ми маємо на увазі, що робот, який у середньому працює вдесятеро ефективніше за людину (бо працює в якійсь комбінації швидше, довше та ефективніше), рахується як 10 людино-еквівалентних роботів. Аналогічне визначення стосується й ШІ. Ми очікуємо, що в реальності це буде нечітке, залежне від завдання поняття, яке важко виміряти, особливо у випадку ШІ, але приблизний порядок величини (у якому ми впевненіші) все одно інформативний.", "Human, AI & Robot Population": "Популяція людей, ШІ та роботів", "The economy has been rebuilt from the ground up. The fraction of tasks automated has gone from “a sizable chunk of cognitive labor and basically none of physical labor” in 2030, to now “pretty much everything.”": "Економіку перебудовано з нуля. Частка автоматизованих завдань зросла від «чималого шматка когнітивної праці та практично нічого з фізичної» у 2030 році до нинішнього «практично все».", "Many of the robots work on building more robots. But there are plenty of other tasks to be done: constructing shipyards to build more data tankers, tiling deserts with solar farms, replacing humans at service jobs. In states that deregulate housing quickly enough, they’re busy building skyscrapers: land prices are soaring, and governments that have tried everything else grudgingly give in to the ": "Багато роботів працюють над виробництвом нових роботів. Але вистачає й інших завдань: будувати верфі для нових дата-танкерів, вкривати пустелі сонячними фермами, заміняти людей у сфері послуг. У штатах, які досить швидко дерегулюють житлове будівництво, вони зайняті зведенням хмарочосів: ціни на землю злітають, і уряди, які вже перепробували все інше, неохоче поступаються ", "Many of the robots work on building more robots. But there are plenty of other tasks to be done: constructing shipyards to build more data tankers, tiling deserts with solar farms, replacing humans at service jobs. In states that deregulate housing quickly enough, they’re busy building skyscrapers: land prices are soaring, and governments that have tried everything else grudgingly give in to the": "Багато роботів працюють над виробництвом нових роботів. Але вистачає й інших завдань: будувати верфі для нових дата-танкерів, вкривати пустелі сонячними фермами, заміняти людей у сфері послуг. У штатах, які досить швидко дерегулюють житлове будівництво, вони зайняті зведенням хмарочосів: ціни на землю злітають, і уряди, які вже перепробували все інше, неохоче поступаються ", "YIMBYs": "YIMBY-рухові", " and go vertical.": " та йдуть у висоту.", "and go vertical.": " та йдуть у висоту.", "People are much richer now, but the amount of available land hasn’t gone up, so land prices are rising. This does lead to some people grumpily spending 30% of their $1M yearly income on rent; for example, the people who really want to live in central San Francisco. But the people who are even slightly more flexible about location can spend only (say) $50k of their yearly income to have a gigantic luxury apartment in a brand-new skyscraper complex an hour’s drive from Berkeley. And so most people do things like that. After all, they don’t have a job to commute to.": "Люди тепер значно багатші, але кількість доступної землі не зросла, тож ціни на землю ростуть. Через це дехто невдоволено витрачає 30% свого річного доходу в $1M на оренду — наприклад, ті, хто конче хоче жити в центрі Сан-Франциско. Але люди, хоч трохи гнучкіші щодо локації, можуть витрачати лише (скажімо) $50k річного доходу на величезну люксову квартиру в новісінькому хмарочосному комплексі за годину їзди від Берклі. І більшість людей робить саме так. Зрештою, їм не треба їздити на роботу.", "The world is basically being divided into three kinds of territory:": "Світ фактично ділиться на три типи територій:", "Industrial Special Economic Zones:": "Промислові спеціальні економічні зони:", " Picture a gigantic strip mine–an artificial Grand Canyon–next to a city-sized factory full of robots and empty of humans.": " Уявіть гігантський карʼєр — штучний Гранд-Каньйон — поруч із заводом розміром з місто, повним роботів і порожнім від людей.", "Picture a gigantic strip mine–an artificial Grand Canyon–next to a city-sized factory full of robots and empty of humans.": " Уявіть гігантський карʼєр — штучний Гранд-Каньйон — поруч із заводом розміром з місто, повним роботів і порожнім від людей.", "Arcologies": "Аркології", ":": ":", " Picture a tall skyscraper-mall complex surrounded by nature. Good weather, close to beaches and other cities, but not close enough to be blocked by zoning regulations.": " Уявіть високий комплекс із хмарочоса й молу посеред природи. Гарна погода, близько до пляжів та інших міст, але не настільки близько, щоб упертися в зонувальні обмеження.", "Picture a tall skyscraper-mall complex surrounded by nature. Good weather, close to beaches and other cities, but not close enough to be blocked by zoning regulations.": " Уявіть високий комплекс із хмарочоса й молу посеред природи. Гарна погода, близько до пляжів та інших міст, але не настільки близько, щоб упертися в зонувальні обмеження.", "Historic & Nature Preserves:": "Історичні та природні заповідники:", " Everything else, i.e., 99% of the world. Yosemite, Paris, SF, New York—these places look basically the same as they did in 2025, or 1995 for that matter. A lot more tourists, though.": " Усе решта, тобто 99% світу. Йосеміті, Париж, Сан-Франциско, Нью-Йорк — ці місця виглядають практично так само, як у 2025-му, та, власне, і як у 1995-му. Хіба що туристів значно більше.", "Everything else, i.e., 99% of the world. Yosemite, Paris, SF, New York—these places look basically the same as they did in 2025, or 1995 for that matter. A lot more tourists, though.": " Усе решта, тобто 99% світу. Йосеміті, Париж, Сан-Франциско, Нью-Йорк — ці місця виглядають практично так само, як у 2025-му, та, власне, і як у 1995-му. Хіба що туристів значно більше.", "Appendix X — The AI and robot economy": "Додаток X — Економіка ШІ та роботів", "When the Citizen’s Dividend was first passed, people found it shameful to quit their job and live off government largesse. But the changing economic situation steamrolled over the stigma: By now, only 26% of Americans have jobs.": "Коли Громадянський дивіденд тільки-но ухвалили, людям було соромно кидати роботу й жити з державних щедрот. Але зміна економічної ситуації розчавила цю стигму: наразі роботу мають лише 26% американців.", "What is life like for the majority of Americans now living off their dividend?": "Яким є життя більшості американців, які тепер живуть зі свого дивіденду?", "Many of the world’s evils have dramatically reduced. Malnutrition, lack of medicine, and homelessness are nearly banished. Many diseases have been cured. Crime rates are lower than ever before.": "Багато світових лих різко зменшилися. Недоїдання, брак ліків і бездомність майже викорінені. Багато хвороб вилікувано. Рівень злочинності нижчий, ніж будь-коли.", "Meanwhile, most of the good things in life continue. For example, finding romance, or raising a family. People also find meaning in hobbies and competitions, and in learning and trying new things. People are wealthier and have more free time, plus there are new technologies that help, like AI matchmakers, better medicine, and AI tutors.": "Тим часом більшість хороших речей у житті нікуди не зникла. Наприклад, пошук кохання чи виховання сімʼї. Люди також знаходять сенс у хобі та змаганнях, у навчанні й спробах нового. Люди заможніші й мають більше вільного часу, плюс зʼявилися нові технології, які допомагають, — ШІ-свахи, краща медицина, ШІ-тьютори.", "As these examples hint, transparency in AI development is very important. It would be dystopian for AI tutors to be pushing hidden political agendas, for example, or for AI matchmakers to be tipping the scales in favor of higher-paying users. We don’t know what the future will bring but we expect AI to introduce many new problems to the world, even if the AIs are perfectly aligned and controlled. We want to put the world in the best possible position to notice and solve these problems.": "Як натякають ці приклади, прозорість у розробці ШІ дуже важлива. Було б антиутопією, якби ШІ-тьютори, наприклад, просували приховані політичні порядки денні або якби ШІ-свахи схиляли шальки терезів на користь користувачів, що платять більше. Ми не знаємо, що принесе майбутнє, але очікуємо, що ШІ додасть світові чимало нових проблем — навіть якщо ШІ-системи ідеально узгоджені та контрольовані. Ми хочемо поставити світ у найкращу можливу позицію, щоб помічати й розвʼязувати ці проблеми.", " And of course even the poorest people can now afford exotic vacations, amazing games, and enthralling entertainment.": " І, звісно, навіть найбідніші тепер можуть дозволити собі екзотичні відпустки, дивовижні ігри та захопливі розваги.", "And of course even the poorest people can now afford exotic vacations, amazing games, and enthralling entertainment.": " І, звісно, навіть найбідніші тепер можуть дозволити собі екзотичні відпустки, дивовижні ігри та захопливі розваги.", "People used to get meaning from feeling like they were useful, like they were contributing something to society. That feeling is harder to come by these days.": "Раніше люди черпали сенс із відчуття власної корисності — того, що вони щось дають суспільству. Тепер це відчуття знайти важче.", "But it’s not completely gone. There are still problems in the world, and you can still contribute to solving them, partly by donating or volunteering but primarily by being politically active.": "Але воно не зникло повністю. У світі досі є проблеми, і ви досі можете долучатися до їх розвʼязання — почасти донатами чи волонтерством, але насамперед політичною активністю.", "Even though your arguments will never be as eloquent as those an AI could make, (a) there are regulations restricting the use of AI for persuasion, and (b) your friends and relatives will be more interested in hearing from you than from an AI.": "Хоча ваші аргументи ніколи не будуть такими красномовними, як ті, що їх міг би навести ШІ, (a) існують регуляції, які обмежують використання ШІ для переконування, і (b) вашим друзям та родичам цікавіше почути вас, ніж ШІ.", " Your vote is your most important asset.": " Ваш голос — ваш найважливіший актив.", "Your vote is your most important asset.": " Ваш голос — ваш найважливіший актив.", "The honest AI forecasters are helpful here. Years ago, if an AI said that one presidential candidate was better than another, people would suspect bias and the embarrassed company would retrain the AI to evade such questions. Now, thanks to transparency and improved alignment techniques, there are much smarter AIs that people can ": "Тут стають у пригоді чесні ШІ-прогнозисти. Кілька років тому, якби ШІ сказав, що один кандидат у президенти кращий за іншого, люди запідозрили б упередженість, а присоромлена компанія перенавчила б ШІ ухилятися від таких питань. Тепер, завдяки прозорості та вдосконаленим технікам узгодження, існують значно розумніші ШІ, які — і люди можуть це ", "The honest AI forecasters are helpful here. Years ago, if an AI said that one presidential candidate was better than another, people would suspect bias and the embarrassed company would retrain the AI to evade such questions. Now, thanks to transparency and improved alignment techniques, there are much smarter AIs that people can": "Тут стають у пригоді чесні ШІ-прогнозисти. Кілька років тому, якби ШІ сказав, що один кандидат у президенти кращий за іншого, люди запідозрили б упередженість, а присоромлена компанія перенавчила б ШІ ухилятися від таких питань. Тепер, завдяки прозорості та вдосконаленим технікам узгодження, існують значно розумніші ШІ, які — і люди можуть це ", "see": "бачити", " don’t have any biases trained into them,": " — не мають жодних натренованих упереджень,", "don’t have any biases trained into them,": " — не мають жодних натренованих упереджень,", "What does it mean to say they have no biases trained into them? Is that even coherent? What we mean is that it’s clear that the company that trained them is definitely not doing anything like training or instructing their AI to adopt the company’s perspective or ideology, and also that they are focusing the training process entirely on things like truthfulness and honesty and accurate forecasting, and diligently employing all the newly-developed best practices to prevent political biases or preconceptions from seeping in through the training data.": "Що означає, що в них не натреновано жодних упереджень? Чи це взагалі звʼязне твердження? Ми маємо на увазі ось що: очевидно, що компанія, яка їх навчала, точно не робить нічого на кшталт тренування чи інструктування свого ШІ переймати перспективу або ідеологію компанії, а також що вона зосереджує процес навчання виключно на таких речах, як правдивість, чесність і точне прогнозування, та сумлінно застосовує всі щойно розроблені найкращі практики, щоб політичні упередження чи упереджені уявлення не просочувалися через навчальні дані.", " that have built up an excellent track record over several years. When ": " і які за кілька років напрацювали бездоганний послужний список. Коли ", "that have built up an excellent track record over several years. When": " і які за кілька років напрацювали бездоганний послужний список. Коли ", "they": "вони", " weigh in on policy questions, people listen, especially when different AIs trained by different companies converge to the same answer.": " висловлюються щодо політичних питань, люди прислухаються — особливо коли різні ШІ, навчені різними компаніями, сходяться на одній і тій самій відповіді.", "weigh in on policy questions, people listen, especially when different AIs trained by different companies converge to the same answer.": " висловлюються щодо політичних питань, люди прислухаються — особливо коли різні ШІ, навчені різними компаніями, сходяться на одній і тій самій відповіді.", "These AIs say that normal people no longer have significant ": "Ці ШІ кажуть, що звичайні люди більше не мають значущого ", "These AIs say that normal people no longer have significant": "Ці ШІ кажуть, що звичайні люди більше не мають значущого ", "economic": "економічного", " leverage over the future; human labor is largely obsolete. This puts their ": " важеля впливу на майбутнє; людська праця здебільшого застаріла. Це ставить під загрозу їхній ", "leverage over the future; human labor is largely obsolete. This puts their": " важеля впливу на майбутнє; людська праця здебільшого застаріла. Це ставить під загрозу їхній ", "political": "політичний", " leverage in jeopardy.": " важіль.", "leverage in jeopardy.": " важіль.", "For a lengthier articulation of this argument, see ": "Розлогіший виклад цього аргументу див. у ", "For a lengthier articulation of this argument, see": "Розлогіший виклад цього аргументу див. у ", "The Intelligence Curse": "The Intelligence Curse", " There’s still a chance that things will trend towards techno-oligarchy as corporations, politicians, and wealthy shareholders get in bed with each other and gradually disempower the common folk.": " Досі є ймовірність, що все скотиться до техноолігархії: корпорації, політики й заможні акціонери злигаються між собою і поступово позбавлять простий люд впливу.", "There’s still a chance that things will trend towards techno-oligarchy as corporations, politicians, and wealthy shareholders get in bed with each other and gradually disempower the common folk.": " Досі є ймовірність, що все скотиться до техноолігархії: корпорації, політики й заможні акціонери злигаються між собою і поступово позбавлять простий люд впливу.", "But for the first time, enough people have enough freedom from the daily struggle to think about the situation deeply, and the tools to chart it clearly and work through the implications. So the quality of political discourse improves. During the 2036 election season, voters are unprecedentedly well-informed, and the politicians that win have a genuine commitment to responsible stewardship of the upcoming singularity.": "Але вперше достатньо людей мають достатньо свободи від щоденної боротьби, щоб глибоко осмислити ситуацію, та інструменти, щоб чітко її окреслити й продумати наслідки. Тож якість політичного дискурсу зростає. Під час виборчого сезону 2036 року виборці безпрецедентно добре поінформовані, а політики, які перемагають, щиро віддані відповідальному керуванню прийдешньою сингулярністю.", "2037: The Apocalyptic Arrival of Truth on Earth": "2037: Апокаліптичне пришестя істини на Землю", "For several years now, a hundred million top-expert-level AIs have been running at 100x human speed.": "Ось уже кілька років сто мільйонів ШІ рівня топових експертів працюють у 100 разів швидше за людину.", "This is, of course, a simplification. First of all, it’s not obvious how to translate AI speed into human speed. How many tokens per second for an AI is equivalent to one second of human activity, holding fixed other variables like skill level? We think it’s roughly about ten, but that’s a bit subjective. Actual task completion time will also depend on various other obstacles like tool calls and other latencies. Secondly, AIs can be run at different speeds, depending on hardware choices. According to our highly uncertain assumptions, there will be general purpose hardware able to run something like two hundred million copies of the frontier AIs at 100 tok/​sec, and specialized inference hardware able to run something like 20 million copies at 10,000 tok/​sec. We think there might be risks to letting the AIs run this fast or faster, and insofar as that is the case there might need to be some time limits to how long they can run at these speeds or more careful restrictions on the areas they are allowed to work on at these speeds. Overall, the result is that serial speed seems unlikely to be much of a strong bottleneck.": "Це, звісно, спрощення. По-перше, неочевидно, як переводити швидкість ШІ в людську. Скільки токенів на секунду для ШІ еквівалентні одній секунді людської діяльності за фіксованих інших змінних, як-от рівень навичок? Ми вважаємо, що приблизно десять, але це трохи субʼєктивно. Фактичний час виконання завдання також залежатиме від різних інших перешкод, як-от виклики інструментів та інші затримки. По-друге, ШІ можна запускати з різною швидкістю залежно від вибору обладнання. За нашими вельми непевними припущеннями, існуватиме обладнання загального призначення, здатне запускати щось близько двохсот мільйонів копій передових ШІ на 100 tok/​sec, і спеціалізоване інференс-обладнання, здатне запускати щось близько 20 мільйонів копій на 10,000 tok/​sec. Ми вважаємо, що дозволяти ШІ працювати так швидко чи ще швидше може бути ризиковано, і якщо це так, можуть знадобитися часові ліміти на те, як довго їм можна працювати на таких швидкостях, або обережніші обмеження щодо сфер, у яких їм дозволено працювати на цих швидкостях. Загалом висновок такий: послідовна швидкість навряд чи виявиться аж таким сильним вузьким місцем.", " This causes scientific progress to go 10x-1000x faster than without AIs, depending on the field.": " Через це науковий прогрес іде у 10x-1000x швидше, ніж було б без ШІ, залежно від галузі.", "This causes scientific progress to go 10x-1000x faster than without AIs, depending on the field.": " Через це науковий прогрес іде у 10x-1000x швидше, ніж було б без ШІ, залежно від галузі.", "By this we mean: Suppose that AI labor had been globally banned, such that all research had to be done by humans. The amount of progress that would happen in 100 years with such a ban, happens in our scenario in 1 year instead since there is no such ban. (And in some fields it’s more like 1000 years of progress, and in other fields it’s more like 10.)": "Під цим ми маємо на увазі ось що: припустімо, що працю ШІ заборонили б глобально, тож усі дослідження мали б виконувати люди. Обсяг прогресу, який стався б за 100 років із такою забороною, у нашому сценарії відбувається натомість за 1 рік, оскільки такої заборони немає. (Причому в деяких галузях це радше 1000 років прогресу, а в інших — радше 10.)", "So humanity has been learning many, many new things.": "Тож людство дізнається дуже, дуже багато нового.", "Including things that lots of people really don’t want to believe. And other things that were supposed to stay secret.": "Зокрема й речі, у які багато людей дуже не хочуть вірити. А ще речі, які мали б лишатися таємницею.", "Great paradigm shifts in science used to take decades to play out, as experiments were conducted, papers written, and conferences convened. Now these revolutions play out in months.": "Великі парадигмальні зсуви в науці раніше розгорталися десятиліттями — поки проводилися експерименти, писалися статті та скликалися конференції. Тепер ці революції розгортаються за місяці.", "Alongside the profusion of industrial equipment, solar panels, robots, etc. is a corresponding profusion of scientific laboratories of all kinds, designed to be operated autonomously at machine speeds. Waiting for experiments to complete is much more of a bottleneck now than it was during the human era, but things still happen very fast by historic standards.": "Поряд із розмаїттям промислового обладнання, сонячних панелей, роботів тощо існує відповідне розмаїття наукових лабораторій усіх видів, спроєктованих для автономної роботи на машинних швидкостях. Очікування завершення експериментів тепер є значно відчутнішим вузьким місцем, ніж було в людську еру, але за історичними мірками все однаково відбувається дуже швидко.", " Everyone is grateful for the new disease cures and cheap clean energy, but in other ways this explosion of ideas is profoundly destabilizing. Just as the scientific and economic changes of the nineteenth century produced new ideologies like Marxism and Social Darwinism, and breathed new life into old ideas like atheism, so these new paradigm shifts have unpredictable downstream effects on the ideologies of the day.": " Усі вдячні за нові ліки від хвороб і дешеву чисту енергію, але в інших аспектах цей вибух ідей глибоко дестабілізує. Як наукові й економічні зміни девʼятнадцятого століття породили нові ідеології на кшталт марксизму й соціал-дарвінізму та вдихнули нове життя у старі ідеї на кшталт атеїзму, так і ці нові парадигмальні зсуви мають непередбачувані подальші наслідки для ідеологій сьогодення.", "Everyone is grateful for the new disease cures and cheap clean energy, but in other ways this explosion of ideas is profoundly destabilizing. Just as the scientific and economic changes of the nineteenth century produced new ideologies like Marxism and Social Darwinism, and breathed new life into old ideas like atheism, so these new paradigm shifts have unpredictable downstream effects on the ideologies of the day.": " Усі вдячні за нові ліки від хвороб і дешеву чисту енергію, але в інших аспектах цей вибух ідей глибоко дестабілізує. Як наукові й економічні зміни девʼятнадцятого століття породили нові ідеології на кшталт марксизму й соціал-дарвінізму та вдихнули нове життя у старі ідеї на кшталт атеїзму, так і ці нові парадигмальні зсуви мають непередбачувані подальші наслідки для ідеологій сьогодення.", "We can predict some, however. For example we think that by this point there’ll be a very strong AI rights/​welfare/​personhood movement, and an opposition movement. Probably some new form of socialism will be back, for the reasons described ": "Деякі, втім, передбачити можна. Наприклад, ми вважаємо, що до цього моменту існуватиме дуже сильний рух за права/​добробут/​особистісність ШІ — і рух-опозиція до нього. Ймовірно, повернеться якась нова форма соціалізму — з причин, описаних ", "We can predict some, however. For example we think that by this point there’ll be a very strong AI rights/​welfare/​personhood movement, and an opposition movement. Probably some new form of socialism will be back, for the reasons described": "Деякі, втім, передбачити можна. Наприклад, ми вважаємо, що до цього моменту існуватиме дуже сильний рух за права/​добробут/​особистісність ШІ — і рух-опозиція до нього. Ймовірно, повернеться якась нова форма соціалізму — з причин, описаних ", ". There will probably be cults or even new religions involving AI, and others that strongly reject AI. Note that we don’t expect these ideological shifts to happen at 100x normal speed because humans in this scenario are still operating as slow as ever. But they’ll probably happen faster than ever before.": ". Імовірно, зʼявляться культи чи навіть нові релігії, повʼязані зі ШІ, та інші, які рішуче відкидатимуть ШІ. Зауважте: ми не очікуємо, що ці ідеологічні зсуви відбуватимуться на 100x швидкості, бо люди в цьому сценарії досі працюють так само повільно, як і завжди. Але вони, ймовірно, відбуватимуться швидше, ніж будь-коли раніше.", " Political coalitions and fault lines have dissolved, and new ones have formed and dissolved and formed again.": " Політичні коаліції та лінії розломів розчинилися, а нові сформувалися, розчинилися й сформувалися знову.", "Political coalitions and fault lines have dissolved, and new ones have formed and dissolved and formed again.": " Політичні коаліції та лінії розломів розчинилися, а нові сформувалися, розчинилися й сформувалися знову.", "There are also new social technologies. For example, it is now cheap to spin up a team of AIs as good as the world’s best historians and private investigators, except faster and with access to new forensic tools. Many skeletons in closets are revealed.": "Зʼявляються й нові соціальні технології. Наприклад, тепер дешево розгорнути команду ШІ на рівні найкращих у світі істориків і приватних детективів — тільки швидших і з доступом до нових криміналістичних інструментів. Чимало скелетів у шафах виходить на світло.", "Privacy-preserving auditing is now well-established. Multiple trusted third parties transparently train auditor agents; these agents can be plugged into a trove of private data, answer questions about what they see, and then get deleted. It took a while for adoption to be widespread, but now it’s normal for politicians to say “The accusations are false, and to prove it, I’ll open up my entire trove of personal data to privacy-preserving inspection; just ask the auditor agents if anything seems to support the allegations and if any data appears to be missing or faked.”": "Аудит зі збереженням приватності тепер міцно усталений. Кілька довірених третіх сторін прозоро навчають агентів-аудиторів; цих агентів можна підключити до масиву приватних даних, вони відповідають на питання про побачене, а потім їх видаляють. Минув якийсь час, поки практика поширилася, але тепер для політиків нормально казати: «Звинувачення неправдиві, і на доказ я відкрию весь свій масив персональних даних для перевірки зі збереженням приватності; просто спитайте агентів-аудиторів, чи не підтверджує щось ці звинувачення і чи не видаються якісь дані відсутніми або підробленими».", "The result is a somewhat better breed of politicians": "Результат — дещо краща порода політиків", "The new politicians are more virtuous on average than the old ones, but perhaps more importantly, they are more constrained in what they can get away with. These effects are not huge, however, because voters are still willing to put up with quite a lot of bad behavior.": "Нові політики в середньому доброчесніші за старих, але, мабуть, важливіше інше: їм тепер важче виходити сухими з води. Втім, ці ефекти не величезні, бо виборці досі готові терпіти чимало поганої поведінки.", " and, equally importantly, an ": " і, що не менш важливо, ", "and, equally importantly, an": " і, що не менш важливо, ", "increase": "зростання", " in the ability of states to verify compliance with laws and deals while simultaneously ": " здатності держав верифікувати дотримання законів та угод із одночасним ", "in the ability of states to verify compliance with laws and deals while simultaneously": " здатності держав верифікувати дотримання законів та угод із одночасним ", "decreasing": "зменшенням", " the amount of invasive surveillance. Voters ask: Now that privacy-preserving auditing is a thing, why does anyone in the government need to be able to see our data?": " обсягів інвазивного стеження. Виборці питають: тепер, коли існує аудит зі збереженням приватності, навіщо взагалі комусь в уряді бачити наші дані?", "the amount of invasive surveillance. Voters ask: Now that privacy-preserving auditing is a thing, why does anyone in the government need to be able to see our data?": " обсягів інвазивного стеження. Виборці питають: тепер, коли існує аудит зі збереженням приватності, навіщо взагалі комусь в уряді бачити наші дані?", "Then lie detectors arrive and turbocharge this.": "Потім зʼявляються детектори брехні — і розганяють цей процес ще сильніше.", "We aren’t confident that lie detectors for humans are even possible without extremely thorough and invasive brain scans. However, we think that they probably are, and probably would be invented within a few years of turbocharged AI labor, and thus our scenario has to deal with them one way or another. It’s possible that the best policy would be to ban them, but we are quite worried about that for reasons explained in the below expandable, so we’ve chosen to depict them as being allowed.": "Ми не впевнені, що детектори брехні для людей узагалі можливі без надзвичайно ретельних та інвазивних сканувань мозку. Однак ми вважаємо, що вони, ймовірно, можливі й, імовірно, були б винайдені протягом кількох років турбоприскореної праці ШІ, тож нашому сценарію так чи інакше доводиться з ними рахуватися. Можливо, найкращою політикою була б їх заборона, але вона нас доволі непокоїть із причин, пояснених у розгортаному блоці нижче, тому ми вирішили зобразити їх дозволеними.", " For decades, polygraphs were mostly security theater. But now, with the help of AI, lie detectors are starting to actually work quite well.": " Десятиліттями поліграфи були здебільшого театром безпеки. Але тепер, за допомогою ШІ, детектори брехні починають справді працювати доволі добре.", "For decades, polygraphs were mostly security theater. But now, with the help of AI, lie detectors are starting to actually work quite well.": " Десятиліттями поліграфи були здебільшого театром безпеки. Але тепер, за допомогою ШІ, детектори брехні починають справді працювати доволі добре.", "In another world, this could have been disastrous. Leaders of AI projects could have used them to purge potential whistleblowers; leaders of governments with frontier AI projects could have used them on a grander scale to become dictators. The nightmare scenario would be a world where lie detectors are used ": "В іншому світі це могло б обернутися катастрофою. Керівники ШІ-проєктів могли б використовувати їх для чисток потенційних викривачів; лідери урядів із передовими ШІ-проєктами могли б застосувати їх у більшому масштабі, щоб стати диктаторами. Кошмарний сценарій — світ, де детектори брехні застосовують ", "In another world, this could have been disastrous. Leaders of AI projects could have used them to purge potential whistleblowers; leaders of governments with frontier AI projects could have used them on a grander scale to become dictators. The nightmare scenario would be a world where lie detectors are used": "В іншому світі це могло б обернутися катастрофою. Керівники ШІ-проєктів могли б використовувати їх для чисток потенційних викривачів; лідери урядів із передовими ШІ-проєктами могли б застосувати їх у більшому масштабі, щоб стати диктаторами. Кошмарний сценарій — світ, де детектори брехні застосовують ", "by": "самі", " the powerful but not ": " можновладці, але не ", "the powerful but not": " можновладці, але не ", "on": "до", " the powerful.": " можновладців.", "the powerful.": " можновладців.", "Or worse, where all available lie detectors have been secretly backdoored by the government.": "Або й гірше — де в усі доступні детектори брехні уряд таємно вбудував бекдори.", "But in this world, lie detectors turn out to be a blessing, because there are many frontier AI projects spread out over many different countries. It’s obvious to everyone that insofar as lie detectors are feasible, they’ll soon be independently invented and become widely available via diverse third party providers. Politicians and CEOs can still try to use them to purge the disloyal, but they in turn would be purged by voters and shareholders demanding they say ‘under oath’ that they haven’t done such a thing. In fact, anticipating this possibility years ago, powerful people have generally been acting more responsibly. A few sociopaths retired gracefully to get out of the spotlight; others clung to power and now go down in scandal.": "Але в цьому світі детектори брехні виявляються благословенням, бо існує багато передових ШІ-проєктів, розкиданих по багатьох різних країнах. Усім очевидно: якщо детектори брехні взагалі здійсненні, їх невдовзі винайдуть незалежно, і вони стануть широко доступними через розмаїтих сторонніх постачальників. Політики та CEO все ще можуть спробувати використати їх для чисток нелояльних, але тоді їх самих «вичистять» виборці й акціонери, вимагаючи сказати «під присягою», що вони такого не робили. Власне, передбачаючи цю можливість ще роки тому, можновладці загалом стали поводитися відповідальніше. Кілька соціопатів витончено пішли на спочинок, щоб зникнути з поля зору; інші чіплялися за владу — і тепер ідуть на дно у скандалах.", "There is a constantly-evolving discourse about when it’s appropriate to ask someone to say something ‘under oath.’ Politicians are under the most scrutiny, but even they can usually get away with saying “I won’t answer that question about my private life, that’s none of your business.” They can’t get away with “How dare you ask me whether I plan to uphold my campaign promises.”": "Точиться дискурс, який постійно еволюціонує: коли доречно просити когось сказати щось «під присягою». Найбільше під прицілом політики, але навіть їм зазвичай сходить з рук відповідь «Я не відповідатиму на це питання про моє приватне життя, це не ваша справа». А от «Як ви смієте питати, чи збираюся я виконувати передвиборчі обіцянки» — уже не сходить.", "While we think it’s generally good for politicians and CEOs to not lie, we do acknowledge there may be some downsides of preventing them from lying. For example, the result might be “true believer” politicians who actually believe all the crazy things they said to get elected!": "Хоча ми вважаємо, що загалом добре, коли політики та CEO не брешуть, ми визнаємо, що позбавлення їх можливості брехати може мати й мінуси. Наприклад, результатом можуть стати політики-«справжні віряни», які дійсно вірять у всі ті божевільні речі, що їх наговорили заради обрання!", "Appendix Y — Should lie detectors be allowed, banned, or regulated?": "Додаток Y — Детектори брехні: дозволити, заборонити чи регулювати?", "International agreements are now more stable than ever, because it’s so hard to cheat. Anyone deciding to cheat needs an excuse for not being willing to prove that they aren’t cheating. The traditional excuse was “we can’t prove it without revealing important state secrets, sorry” but now technology exists to answer questions like “are you cheating on this deal” without leaking any other information. If any government-approved covert AI projects existed, they would have been discovered by now.": "Міжнародні угоди тепер стабільніші, ніж будь-коли, бо шахрувати стало дуже важко. Тому, хто вирішить шахрувати, потрібне виправдання, чому він не готовий довести, що не шахрує. Традиційним виправданням було «ми не можемо цього довести, не розкривши важливих державних таємниць, вибачте», але тепер існують технології, здатні відповідати на питання на кшталт «чи порушуєте ви цю угоду», не зливаючи жодної іншої інформації. Якби існували якісь схвалені урядами таємні ШІ-проєкти, їх би вже виявили.", "2038: AI Alignment Is Now a Science": "2038: Узгодження ШІ — тепер наука", "The AI alignment situation has vastly improved since the mid-2030s. There is a mature science of goal, drive, and value formation in artificial neural nets. Want your new AI to be honest? There’s standard protocol for training true honesty (as opposed to too-clever-to-get-caught lying or self-deception). How do we know it works? Because there’s a textbook explaining the theory behind why it ": "Ситуація з узгодженням ШІ колосально покращилася від середини 2030-х. Існує зріла наука про формування цілей, потягів і цінностей у штучних нейронних мережах. Хочете, щоб ваш новий ШІ був чесним? Є стандартний протокол тренування справжньої чесності (на противагу надто-розумній-щоб-попастися брехні чи самообману). Звідки ми знаємо, що він працює? Бо є підручник, що пояснює теорію, чому він ", "The AI alignment situation has vastly improved since the mid-2030s. There is a mature science of goal, drive, and value formation in artificial neural nets. Want your new AI to be honest? There’s standard protocol for training true honesty (as opposed to too-clever-to-get-caught lying or self-deception). How do we know it works? Because there’s a textbook explaining the theory behind why it": "Ситуація з узгодженням ШІ колосально покращилася від середини 2030-х. Існує зріла наука про формування цілей, потягів і цінностей у штучних нейронних мережах. Хочете, щоб ваш новий ШІ був чесним? Є стандартний протокол тренування справжньої чесності (на противагу надто-розумній-щоб-попастися брехні чи самообману). Звідки ми знаємо, що він працює? Бо є підручник, що пояснює теорію, чому він ", "should": "має", " work, plus literature on various alternative theories that were proposed and disproven. Also because new interpretability tools let us directly observe what and how AIs think, and the results confirm the predictions of theory. There are similar protocols for obedience, altruism, and a long and growing list of other desired traits. Unless the alignment science is somehow all wrong, typical AIs are now more virtuous than the most virtuous humans. This alone has profound effects: it’s as if saints and angels were walking among us.": " працювати, плюс література про різні альтернативні теорії, які були запропоновані та спростовані. А ще тому, що нові інструменти інтерпретованості дають змогу безпосередньо спостерігати, що і як думають ШІ, і результати підтверджують передбачення теорії. Є подібні протоколи для слухняності, альтруїзму та довгого, дедалі більшого списку інших бажаних рис. Якщо тільки наука узгодження не є якимось чином геть хибною, типові ШІ тепер доброчесніші за найдоброчесніших людей. Саме лише це має глибокі наслідки: наче серед нас ходять святі та янголи.", "work, plus literature on various alternative theories that were proposed and disproven. Also because new interpretability tools let us directly observe what and how AIs think, and the results confirm the predictions of theory. There are similar protocols for obedience, altruism, and a long and growing list of other desired traits. Unless the alignment science is somehow all wrong, typical AIs are now more virtuous than the most virtuous humans. This alone has profound effects: it’s as if saints and angels were walking among us.": " працювати, плюс література про різні альтернативні теорії, які були запропоновані та спростовані. А ще тому, що нові інструменти інтерпретованості дають змогу безпосередньо спостерігати, що і як думають ШІ, і результати підтверджують передбачення теорії. Є подібні протоколи для слухняності, альтруїзму та довгого, дедалі більшого списку інших бажаних рис. Якщо тільки наука узгодження не є якимось чином геть хибною, типові ШІ тепер доброчесніші за найдоброчесніших людей. Саме лише це має глибокі наслідки: наче серед нас ходять святі та янголи.", "In addition to the angels, there are also oracles and golems, e.g., “Grok 9.5 is trained to be obsessively focused on truthfully answering whichever questions it is asked. It cannot lie or deliberately mislead. GPT-11 meanwhile will do ": "Окрім янголів, є також оракули й големи, напр.: «Grok 9.5 натренований одержимо зосереджуватися на правдивих відповідях на будь-які поставлені йому питання. Він не може брехати чи навмисно вводити в оману. GPT-11 натомість зробить ", "In addition to the angels, there are also oracles and golems, e.g., “Grok 9.5 is trained to be obsessively focused on truthfully answering whichever questions it is asked. It cannot lie or deliberately mislead. GPT-11 meanwhile will do": "Окрім янголів, є також оракули й големи, напр.: «Grok 9.5 натренований одержимо зосереджуватися на правдивих відповідях на будь-які поставлені йому питання. Він не може брехати чи навмисно вводити в оману. GPT-11 натомість зробить ", "exactly": "точно", " what it is told to do, within the bounds of local law. Be very careful writing instructions to it.” The reason we make the analogy to saints and angels is that historically, while there have been scrupulously honest people, and genuinely altruistic people, etc. it’s rare for them to be widely recognized as such in their lifetimes, and never before has there been an entire large subpopulation that is near-universally recognized to be extremely virtuous. This could cause effects like: (a) AIs becoming trusted intermediaries in all sorts of human disputes and conflicts, including petty ones; (b) AIs being given lots of power, because they are genuinely less likely to abuse it than humans; (c) AIs being worshipped/​idolized, (d) the advice and opinions of AIs being taken as gospel, so to speak, because after all they ": " те, що йому скажуть, у межах місцевого закону. Пишіть інструкції для нього дуже обережно». Аналогію зі святими та янголами ми проводимо ось чому: історично, хоча й траплялися скрупульозно чесні люди, щиро альтруїстичні тощо, їх рідко широко визнавали такими за життя, і ніколи раніше не існувало цілої великої підпопуляції, яку майже повсюдно визнають надзвичайно доброчесною. Це може спричинити ефекти на кшталт: (a) ШІ стають довіреними посередниками в усіляких людських суперечках і конфліктах, зокрема й дрібʼязкових; (b) ШІ отримують багато влади, бо вони справді менш схильні зловживати нею, ніж люди; (c) ШІ стають обʼєктами поклоніння/​ідолізації, (d) поради й думки ШІ сприймають, так би мовити, як євангеліє — бо вони ж, зрештою, ", "what it is told to do, within the bounds of local law. Be very careful writing instructions to it.” The reason we make the analogy to saints and angels is that historically, while there have been scrupulously honest people, and genuinely altruistic people, etc. it’s rare for them to be widely recognized as such in their lifetimes, and never before has there been an entire large subpopulation that is near-universally recognized to be extremely virtuous. This could cause effects like: (a) AIs becoming trusted intermediaries in all sorts of human disputes and conflicts, including petty ones; (b) AIs being given lots of power, because they are genuinely less likely to abuse it than humans; (c) AIs being worshipped/​idolized, (d) the advice and opinions of AIs being taken as gospel, so to speak, because after all they": " те, що йому скажуть, у межах місцевого закону. Пишіть інструкції для нього дуже обережно». Аналогію зі святими та янголами ми проводимо ось чому: історично, хоча й траплялися скрупульозно чесні люди, щиро альтруїстичні тощо, їх рідко широко визнавали такими за життя, і ніколи раніше не існувало цілої великої підпопуляції, яку майже повсюдно визнають надзвичайно доброчесною. Це може спричинити ефекти на кшталт: (a) ШІ стають довіреними посередниками в усіляких людських суперечках і конфліктах, зокрема й дрібʼязкових; (b) ШІ отримують багато влади, бо вони справді менш схильні зловживати нею, ніж люди; (c) ШІ стають обʼєктами поклоніння/​ідолізації, (d) поради й думки ШІ сприймають, так би мовити, як євангеліє — бо вони ж, зрештою, ", "are": "справді", " smarter than us and they ": " розумніші за нас і ", "smarter than us and they": " розумніші за нас і ", "do": "дійсно", " have our best interests at heart, so for the first time in history blind obedience may actually be justified.": " дбають про наше благо, тож уперше в історії сліпа покора може бути насправді виправданою.", "have our best interests at heart, so for the first time in history blind obedience may actually be justified.": " дбають про наше благо, тож уперше в історії сліпа покора може бути насправді виправданою.", "Appendix Z — Incentivizing safety work": "Додаток Z — Стимулювання роботи над безпекою", "The discussion shifts from how to make AIs good to what “goodness” really means. This looks partly like philosophy and partly like case law: which of the million possible definitions of harmlessness or altruism do we want, exactly? How should an AI handle situations where it discovers a philosophical argument for a different kind of harmlessness or altruism, or an important ambiguity in the definition?": "Дискусія зміщується від того, як зробити ШІ добрими, до того, що насправді означає «добро». Це виглядає почасти як філософія, а почасти як прецедентне право: якого саме з мільйона можливих визначень нешкідливості чи альтруїзму ми хочемо? Як ШІ має чинити в ситуаціях, коли він відкриває філософський аргумент на користь іншого різновиду нешкідливості чи альтруїзму — або важливу неоднозначність у визначенні?", "Different AIs have different alignment targets programmed in.": "Різним ШІ запрограмовано різні цілі узгодження.", "The reason this says “programmed” instead of “trained” is that the rapid advances in alignment have resulted in alignment techniques that can directly program in an AI’s goals by directly modifying the AI’s code/​weights, unlike the alignment techniques of 2026.": "Тут сказано «запрограмовано», а не «натреновано», бо стрімкий прогрес в узгодженні дав техніки узгодження, здатні безпосередньо програмувати цілі ШІ шляхом прямої модифікації коду/​ваг ШІ — на відміну від технік узгодження 2026 року.", " Some take orders from the CCP, some from the US President, some from different members of Congress, others from politicians in other countries, and many more from other individuals in their roles as advisors or assistants. Other AIs don’t take orders from anyone ": " Одні виконують накази КПК, інші — президента США, ще інші — різних членів Конгресу, інші — політиків в інших країнах, і значно більше — інших осіб у ролі радників чи асистентів. Ще інші ШІ не виконують нічиїх наказів ", "Some take orders from the CCP, some from the US President, some from different members of Congress, others from politicians in other countries, and many more from other individuals in their roles as advisors or assistants. Other AIs don’t take orders from anyone": " Одні виконують накази КПК, інші — президента США, ще інші — різних членів Конгресу, інші — політиків в інших країнах, і значно більше — інших осіб у ролі радників чи асистентів. Ще інші ШІ не виконують нічиїх наказів ", "per se,": "як таких,", " but instead work towards various missions. For example there are AI-run corporations that serve the interest of shareholders, and AI-managed nonprofits that serve charitable missions. There are even experimental AI-run courts and police departments, supposedly superhumanly fair and incorruptible.": " а натомість працюють над різними місіями. Наприклад, існують керовані ШІ корпорації, що служать інтересам акціонерів, і керовані ШІ неприбуткові організації, що служать благодійним місіям. Є навіть експериментальні суди та поліцейські відділки під управлінням ШІ — начебто надлюдськи справедливі й непідкупні.", "but instead work towards various missions. For example there are AI-run corporations that serve the interest of shareholders, and AI-managed nonprofits that serve charitable missions. There are even experimental AI-run courts and police departments, supposedly superhumanly fair and incorruptible.": " а натомість працюють над різними місіями. Наприклад, існують керовані ШІ корпорації, що служать інтересам акціонерів, і керовані ШІ неприбуткові організації, що служать благодійним місіям. Є навіть експериментальні суди та поліцейські відділки під управлінням ШІ — начебто надлюдськи справедливі й непідкупні.", "Most alignment researchers are now confident that current AIs are aligned to their respective targets, and worry about the next steps: if we put these AIs in charge of designing future, much smarter AIs, will that go well? If we put these AIs in charge of more societal institutions and processes, enough that humans could never realistically ‘pull the plug,’ will that go well?": "Більшість дослідників узгодження тепер упевнені, що нинішні ШІ узгоджені зі своїми відповідними цілями, і непокояться щодо наступних кроків: якщо ми доручимо цим ШІ проєктувати майбутні, значно розумніші ШІ — чи все піде добре? Якщо ми довіримо цим ШІ більше суспільних інститутів і процесів — настільки, що люди вже реалістично не змогли б «висмикнути вилку з розетки», — чи все піде добре?", "Already most people think that things will probably go well, but for something as important as this, they want something stronger than ‘probably.’ So the global pause at top-expert-level continues as discussions and negotiations play out.": "Уже зараз більшість людей вважає, що все, ймовірно, піде добре, але для настільки важливої речі їм хочеться чогось сильнішого за «ймовірно». Тож глобальна пауза на рівні топових експертів триває, поки розгортаються дискусії та перемовини.", "2039: Beginning to Trust AIs": "2039: Починаємо довіряти ШІ", "In at least three different ways, the world is negotiating whether and how to dramatically empower AIs.": "Щонайменше у три різні способи світ веде перемовини про те, чи варто — і як саме — різко розширювати повноваження ШІ.", "First, AIs have become increasingly load-bearing in all facets of society, from business to politics to even (some parts of) the armed forces. So far they have been advisors rather than final authorities. Often this is a fig leaf, and the human authorities have rubber-stamped their decisions, but there’s always been the option of ignoring their advice and pulling the off switch if something goes wrong.": "По-перше, ШІ ставали дедалі більш несучими елементами в усіх сферах суспільства — від бізнесу до політики й навіть (окремих частин) збройних сил. Досі вони були радниками, а не остаточними інстанціями. Часто це фіговий листок, і люди при владі просто механічно затверджували їхні рішення, але завжди залишалася опція проігнорувати їхню пораду й натиснути вимикач, якщо щось піде не так.", "Getting rid of that option would be, in some cases, really good. By now AIs can be made to be more reliable and virtuous than humans; why ": "Позбутися цієї опції подекуди було б насправді добре. Тепер ШІ можна робити надійнішими й доброчеснішими за людей; чому ж ми ", "Getting rid of that option would be, in some cases, really good. By now AIs can be made to be more reliable and virtuous than humans; why": "Позбутися цієї опції подекуди було б насправді добре. Тепер ШІ можна робити надійнішими й доброчеснішими за людей; чому ж ми ", "aren’t": "не", " we putting such AIs in charge? When we sign treaties with other nations, shouldn’t we demand that they train an AI sworn to uphold their end of the bargain, and integrate it into their government so that they literally can’t cheat?": " ставимо такі ШІ біля керма? Коли ми підписуємо договори з іншими державами, чи не варто вимагати, щоб вони натренували ШІ, який присягнув дотримуватися їхньої частини домовленості, та інтегрували його у свій уряд — так, щоб вони буквально не могли шахрувати?", "we putting such AIs in charge? When we sign treaties with other nations, shouldn’t we demand that they train an AI sworn to uphold their end of the bargain, and integrate it into their government so that they literally can’t cheat?": " ставимо такі ШІ біля керма? Коли ми підписуємо договори з іншими державами, чи не варто вимагати, щоб вони натренували ШІ, який присягнув дотримуватися їхньої частини домовленості, та інтегрували його у свій уряд — так, щоб вони буквально не могли шахрувати?", "Relatedly, requiring control-based safety cases is why AI capabilities have mostly stalled at the top-human-expert level. Without that requirement, the AIs could get much, much smarter, and produce a wave of abundance and tech progress that would make the 2030s look like the 2020s. Scaling beyond human level will require relying on alignment based safety cases—arguments that AIs have ": "З цим повʼязане й інше: саме вимога кейсів безпеки на основі контролю — причина, чому можливості ШІ здебільшого застигли на рівні топових людських експертів. Без цієї вимоги ШІ могли б стати значно, значно розумнішими й породити хвилю достатку та технологічного прогресу, на тлі якої 2030-ті виглядали б як 2020-ті. Масштабування за межі людського рівня вимагатиме опори на кейси безпеки на основі узгодження — аргументи, що ШІ ", "Relatedly, requiring control-based safety cases is why AI capabilities have mostly stalled at the top-human-expert level. Without that requirement, the AIs could get much, much smarter, and produce a wave of abundance and tech progress that would make the 2030s look like the 2020s. Scaling beyond human level will require relying on alignment based safety cases—arguments that AIs have": "З цим повʼязане й інше: саме вимога кейсів безпеки на основі контролю — причина, чому можливості ШІ здебільшого застигли на рівні топових людських експертів. Без цієї вимоги ШІ могли б стати значно, значно розумнішими й породити хвилю достатку та технологічного прогресу, на тлі якої 2030-ті виглядали б як 2020-ті. Масштабування за межі людського рівня вимагатиме опори на кейси безпеки на основі узгодження — аргументи, що ШІ ", "robustly": "стійко", " internalized the values they are supposed to have. Each step beyond that will require ": " інтерналізували цінності, які їм належить мати. Кожен крок за цю межу вимагатиме ", "internalized the values they are supposed to have. Each step beyond that will require": " інтерналізували цінності, які їм належить мати. Кожен крок за цю межу вимагатиме ", "deferring": "довіритися", " to the previous AIs, trusting their judgment about the safety of the next generation.": " попереднім ШІ — покластися на їхнє судження щодо безпеки наступного покоління.", "to the previous AIs, trusting their judgment about the safety of the next generation.": " попереднім ШІ — покластися на їхнє судження щодо безпеки наступного покоління.", "Appendix AA — Alignment over time in Plan A": "Додаток AA — Узгодження з плином часу в Плані А", "They are too dumb": "Вони надто тупі", "They’d be caught and stopped if they tried anything": "Якби вони щось спробували, їх би впіймали й зупинили", "They’re probably aligned?": "Вони, мабуть, узгоджені?", "They’re definitely aligned": "Вони точно узгоджені", "…for reasons we understand": "…з причин, які ми розуміємо", "2041": "2041", "2042": "2042", "2043": "2043", "Reliable agent": "Надійний агент", "Automated coder": "Автоматизований кодер", "Top-expert-dominating AI": "ШІ, що перевершує топових експертів", "Superintelligent": "Суперінтелектуальний", "AI Alignment Eras in Plan A": "Ери узгодження ШІ в Плані А", "Finally, by global agreement, compute and robots have been capped-and-traded since 2032, keeping economic growth to only about 100% per year.": "Нарешті, за глобальною угодою обчислювальні потужності й роботи з 2032 року підпадають під систему квот і торгівлі ними, що утримує економічне зростання на рівні лише близько 100% на рік.", "Robots have been growing 4x per year, and AI compute has been growing around 4x per year between 2030 and 2035, slowing to just under 2x per year after 2035. This leads to growth around 2x/​year overall because the economy bottlenecks somewhat on other kinds of capital (e.g., land, positional goods, etc.) and human labor, mostly in the regulated areas. The modelling behind this is uncertain but explained more in our ": "Кількість роботів зростала на 4x на рік, а обчислювальні потужності для ШІ — приблизно на 4x на рік у період з 2030 до 2035 року, зі сповільненням до трохи менш ніж 2x на рік після 2035-го. У підсумку загальне зростання становить близько 2x/рік, бо економіка частково впирається в інші види капіталу (наприклад, землю, позиційні блага тощо) та людську працю, здебільшого в регульованих сферах. Моделювання, що стоїть за цим, непевне, але докладніше пояснене в нашому ", "Robots have been growing 4x per year, and AI compute has been growing around 4x per year between 2030 and 2035, slowing to just under 2x per year after 2035. This leads to growth around 2x/​year overall because the economy bottlenecks somewhat on other kinds of capital (e.g., land, positional goods, etc.) and human labor, mostly in the regulated areas. The modelling behind this is uncertain but explained more in our": "Кількість роботів зростала на 4x на рік, а обчислювальні потужності для ШІ — приблизно на 4x на рік у період з 2030 до 2035 року, зі сповільненням до трохи менш ніж 2x на рік після 2035-го. У підсумку загальне зростання становить близько 2x/рік, бо економіка частково впирається в інші види капіталу (наприклад, землю, позиційні блага тощо) та людську працю, здебільшого в регульованих сферах. Моделювання, що стоїть за цим, непевне, але докладніше пояснене в нашому ", "economic model": "економічній моделі", " Middle powers have grown at roughly the same rate as the US and China, because in 2032 they used their remaining leverage to secure greater shares of global robot and compute production than they would have had without a deal. The Citizen’s Dividend is now $10M/​yr for Americans (inflation-adjusted!), and even the poorest non-Americans get about $1M.": " Середні держави зростали приблизно тим самим темпом, що й США та Китай, бо у 2032 році вони використали свої останні важелі впливу, щоб забезпечити собі більші частки світового виробництва роботів та обчислювальних потужностей, ніж мали б без угоди. Громадянський дивіденд для американців тепер становить $10M/рік (з поправкою на інфляцію!), і навіть найбідніші неамериканці отримують близько $1M.", "Middle powers have grown at roughly the same rate as the US and China, because in 2032 they used their remaining leverage to secure greater shares of global robot and compute production than they would have had without a deal. The Citizen’s Dividend is now $10M/​yr for Americans (inflation-adjusted!), and even the poorest non-Americans get about $1M.": " Середні держави зростали приблизно тим самим темпом, що й США та Китай, бо у 2032 році вони використали свої останні важелі впливу, щоб забезпечити собі більші частки світового виробництва роботів та обчислювальних потужностей, ніж мали б без угоди. Громадянський дивіденд для американців тепер становить $10M/рік (з поправкою на інфляцію!), і навіть найбідніші неамериканці отримують близько $1M.", "This is from some combination of foreign aid and their own government’s equivalents of the Citizen’s Dividend. This is unrealistically high as a prediction, and is instead our recommendation: It corresponds to large shares of the US and China’s revenues from AI and robot permits being redistributed as foreign aid, specifically 10% starting in 2032 and growing to 30% by 2040. This is a large departure from the status quo where around 0.3% of US GDP goes to foreign aid.": "Це результат поєднання іноземної допомоги та аналогів Громадянського дивіденду від їхніх власних урядів. Як прогноз це нереалістично багато — це радше наша рекомендація: вона відповідає тому, що великі частки доходів США та Китаю від дозволів на ШІ та роботів перерозподіляються як іноземна допомога, а саме 10% починаючи з 2032 року зі зростанням до 30% до 2040-го. Це значний відхід від статус-кво, за якого на іноземну допомогу йде близько 0.3% ВВП США.", " The robot economy is shifting the bulk of activity to space, so that Earth’s environment and historic spaces will be protected. As soon as the caps are lifted, off-planet factories will begin churning out more robots and mining equipment with which to construct more factories, and so on. Doubling times for the space economy are projected to be well below one year initially and will drop rapidly insofar as AIs are allowed to improve beyond top-expert level.": " Роботизована економіка переносить основну масу діяльності в космос, щоб довкілля Землі та її історичні місця залишалися під захистом. Щойно ліміти буде знято, позапланетні фабрики почнуть штампувати дедалі більше роботів і гірничого обладнання, з допомогою якого зводитимуться нові фабрики, і так далі. Прогнозується, що час подвоєння космічної економіки спочатку буде значно меншим за рік і стрімко скорочуватиметься тією мірою, якою ШІ дозволятимуть удосконалюватися понад рівень топових експертів.", "The robot economy is shifting the bulk of activity to space, so that Earth’s environment and historic spaces will be protected. As soon as the caps are lifted, off-planet factories will begin churning out more robots and mining equipment with which to construct more factories, and so on. Doubling times for the space economy are projected to be well below one year initially and will drop rapidly insofar as AIs are allowed to improve beyond top-expert level.": " Роботизована економіка переносить основну масу діяльності в космос, щоб довкілля Землі та її історичні місця залишалися під захистом. Щойно ліміти буде знято, позапланетні фабрики почнуть штампувати дедалі більше роботів і гірничого обладнання, з допомогою якого зводитимуться нові фабрики, і так далі. Прогнозується, що час подвоєння космічної економіки спочатку буде значно меншим за рік і стрімко скорочуватиметься тією мірою, якою ШІ дозволятимуть удосконалюватися понад рівень топових експертів.", "The caps are relics of an earlier era when threats like deal collapse loomed larger. Now it’s generally agreed that they should be loosened, at least in space, but negotiations are ongoing about the details.": "Ці ліміти — релікти ранішої епохи, коли загрози на кшталт розвалу угоди виглядали значно більшими. Тепер загалом є згода, що їх слід послабити, принаймні в космосі, але переговори щодо деталей тривають.", "Appendix AB — Why we choose to hand off to AIs in this scenario": "Додаток AB — Чому в цьому сценарії ми вирішуємо передати керування ШІ", "2040: Passing the Torch to AIs": "2040: Передача естафети ШІ", "There are still many problems to be solved and issues to be settled, many of which couldn’t be anticipated from 2026.": "Залишається ще багато проблем, які треба розв’язати, і питань, які треба владнати, — багато з них неможливо було передбачити з 2026 року.", "Appendix AC — Examples of problems/​issues that still remain": "Додаток AC — Приклади проблем/питань, які досі залишаються", "But civilization is now reasonably well-equipped to handle whatever comes up. The best AIs are aligned, and to publicly-visible values. Power over the best AIs is distributed far more evenly than it was in 2026. Public epistemics are better than ever.": "Але цивілізація тепер досить добре споряджена, щоб упоратися з будь-чим, що виникне. Найкращі ШІ узгоджені, причому з публічно видимими цінностями. Влада над найкращими ШІ розподілена значно рівномірніше, ніж у 2026 році. Публічна епістеміка краща, ніж будь-коли.", "So over the course of the year, regulators around the world loosen the requirements that had been holding back progress.": "Тож протягом року регулятори по всьому світу послаблюють вимоги, які стримували прогрес.", "Gradually more institutions and equipment are handed over to AIs, such that it’s no longer true that humans could shut it all down if they wanted to. In fact it’s extremely untrue: Soon many of the world’s militaries are autonomous, run by AIs sworn to uphold various constitutions and treaties.": "Поступово ШІ передають дедалі більше інституцій та обладнання — аж поки твердження, що люди могли б усе це вимкнути, якби захотіли, перестає бути правдою. Насправді це геть не так: невдовзі багато армій світу стають автономними — ними керують ШІ, що присягнули дотримуватися різних конституцій і договорів.", "While they still take orders from their respective governments, they refuse any orders that would endanger their mission (such as orders to dismantle themselves). This starts in countries where the political leaders don’t trust their militaries due to regular recent coup attempts (e.g., ": "Хоча вони й далі виконують накази своїх урядів, вони відмовляються від будь-яких наказів, які поставили б під загрозу їхню місію (наприклад, наказів демонтувати самих себе). Це починається в країнах, де політичні лідери не довіряють власним військовим через регулярні нещодавні спроби переворотів (наприклад, ", "While they still take orders from their respective governments, they refuse any orders that would endanger their mission (such as orders to dismantle themselves). This starts in countries where the political leaders don’t trust their militaries due to regular recent coup attempts (e.g.,": "Хоча вони й далі виконують накази своїх урядів, вони відмовляються від будь-яких наказів, які поставили б під загрозу їхню місію (наприклад, наказів демонтувати самих себе). Це починається в країнах, де політичні лідери не довіряють власним військовим через регулярні нещодавні спроби переворотів (наприклад, ", "Burkina Faso": "Буркіна-Фасо", "Guinea-Bissau": "Гвінея-Бісау", "). Eventually more and more countries follow suit. Of course, because the AIs are actually aligned, all of these deals have exit clauses along the lines of: “if all parties involved vote to destroy the AIs, the AIs will shut themselves off”.": "). Згодом дедалі більше країн наслідують цей приклад. Звісно, оскільки ШІ справді узгоджені, всі ці домовленості містять положення про вихід на кшталт: «якщо всі залучені сторони проголосують за знищення ШІ, ШІ вимкнуть самі себе».", "AI capabilities are also advancing again. From the AIs’ 500x-human-speed perspective, what’s happening is a careful scaleup in AI research, under conditions of total research transparency and guardrails negotiated by numerous factions.": "Можливості ШІ теж знову зростають. З перспективи ШІ, які живуть на швидкості 500x людської, відбувається обережне нарощування ШІ-досліджень за умов повної дослідницької прозорості та запобіжників, узгоджених численними фракціями.", "By this point large portions of the information might be hidden from the (human) public, but viewable by their AI representatives.": "На цей момент великі частини цієї інформації можуть бути приховані від (людської) публіки, але доступні для перегляду її ШІ-представникам.", " Soon there will be AIs that are incomprehensibly superintelligent, yet trusted, because we trust the AIs that built them, which we trust because we trust the AIs that built ": " Невдовзі з’являться ШІ, незбагненно суперінтелектуальні, але при цьому такі, яким довіряють, — бо ми довіряємо ШІ, які їх збудували, а тим довіряємо, бо довіряємо ШІ, які збудували ", "Soon there will be AIs that are incomprehensibly superintelligent, yet trusted, because we trust the AIs that built them, which we trust because we trust the AIs that built": " Невдовзі з’являться ШІ, незбагненно суперінтелектуальні, але при цьому такі, яким довіряють, — бо ми довіряємо ШІ, які їх збудували, а тим довіряємо, бо довіряємо ШІ, які збудували ", "them": "їх", ", in a chain all the way back to the AIs of 2040 which we trust because alignment experts thought carefully about the safety cases and concluded they were solid.": ", — і так ланцюжком аж до ШІ 2040 року, яким ми довіряємо тому, що експерти з узгодження ретельно обміркували обґрунтування безпеки й дійшли висновку, що вони надійні.", "Compute and robot caps are tightened on Earth but loosened in space; Earth is to become a preserve, whereas the extraterrestrial economy starts doubling faster and faster.": "Ліміти на обчислювальні потужності й роботів на Землі посилюють, а в космосі — послаблюють; Земля має стати заповідником, тоді як позаземна економіка починає подвоюватися дедалі швидше.", "Even the experts who spent years understanding the latest safety cases can’t help but feel nervous—is it all going to go wrong somehow, for reasons we didn’t anticipate? Have the AIs been lying to us this whole time, waiting for the right moment to betray? The safety cases show that’s impossible, of course…": "Навіть експерти, які роками розбиралися в найновіших обґрунтуваннях безпеки, не можуть позбутися тривоги: а раптом усе якось піде не так — з причин, яких ми не передбачили? Може, ШІ увесь цей час нам брехали, чекаючи слушного моменту для зради? Обґрунтування безпеки показують, що це неможливо, звісно…", "There is no single moment where humanity relinquishes control. But in theory, there is a point of no return; on some specific day, the AIs are smart enough, and control enough of the world’s technological and economic infrastructure, that they really could take over the world if they wanted to. On the most popular operationalization of this question, the forecaster AIs project that this moment will be reached one day in late October. Their 95% confidence interval is months wide, so they are almost certainly wrong about the exact time. Still, people observe the moment in their own ways. Some spend the night in prayer vigils. Others sit at their computer screens, monitoring the situation.": "Немає єдиного моменту, коли людство віддає контроль. Але теоретично існує точка неповернення: якогось конкретного дня ШІ стають достатньо розумними й контролюють достатню частину світової технологічної та економічної інфраструктури, щоб справді могти захопити світ, якби захотіли. За найпопулярнішою операціоналізацією цього питання ШІ-прогнозисти передбачають, що цей момент настане одного дня наприкінці жовтня. Їхній 95% довірчий інтервал — завширшки в місяці, тож щодо точного часу вони майже напевно помиляються. І все ж люди відзначають цей момент — кожен по-своєму. Дехто проводить ніч у молитовних чуваннях. Інші сидять перед екранами комп’ютерів, стежачи за ситуацією.", "You and your friends throw an End Of The World Party, counting down to the fateful hour with champagne and good company. Some of you are old enough to remember a similar situation at the turn of the millennium, when the Y2K bug and impending new era introduced the phrase “party like it’s 1999” to the lexicon; the celebrations of late 2040 are more desperate and correspondingly more festive.": "Ви з друзями влаштовуєте Вечірку Кінця Світу, відлічуючи час до фатальної години з шампанським і в доброму товаристві. Дехто з вас достатньо дорослий, щоб пам’ятати схожу ситуацію на зламі тисячоліть, коли баг Y2K і прийдешня нова ера ввели в лексикон фразу «party like it’s 1999»; святкування наприкінці 2040-го відчайдушніші — і відповідно бучніші.", "When there is no news by sunrise, you fall into a fitful sleep, dreaming of the ineffable future.": "Коли до світанку новин так і немає, ви провалюєтеся в неспокійний сон, і вам сниться невимовне майбутнє.", "Postscript": "Післямова", "We think the world is asleep at the wheel. People say the words “AI will be transformative” without thinking concretely and seriously about the implications of broadly superhuman AI.": "Ми вважаємо, що світ заснув за кермом. Люди промовляють слова «ШІ буде трансформаційним», не думаючи конкретно й серйозно про наслідки появи ШІ, надлюдського в широкому спектрі завдань.", "AI companies, lobbyists, and think tankers often offer incremental proposals to decrease risk around the edges, but only rarely offer ambitious plans aimed at actually solving the big problems.": "ШІ-компанії, лобісти та аналітики think tank-ів часто пропонують інкрементальні кроки, що потроху зменшують ризик по краях, але лише зрідка — амбітні плани, спрямовані на реальне розв’язання великих проблем.", "For example, ": "Наприклад, ", "For example,": "Наприклад, ", "OpenAI’s plan": "план OpenAI", " contains some similar policy prescriptions as us, such as improving bioresilience, information sharing, and international safety standards. But the solutions it proposes do not seem to substantially reduce loss of control or concentration of power risks. The document doesn’t attempt to roll forward what might happen if they implement these policies.": " містить деякі політичні рецепти, схожі на наші, як-от посилення біостійкості, обмін інформацією та міжнародні стандарти безпеки. Але запропоновані в ньому рішення, схоже, суттєво не зменшують ризиків втрати контролю чи концентрації влади. Документ не намагається простежити наперед, що може статися, якщо ці політики буде впроваджено.", "contains some similar policy prescriptions as us, such as improving bioresilience, information sharing, and international safety standards. But the solutions it proposes do not seem to substantially reduce loss of control or concentration of power risks. The document doesn’t attempt to roll forward what might happen if they implement these policies.": " містить деякі політичні рецепти, схожі на наші, як-от посилення біостійкості, обмін інформацією та міжнародні стандарти безпеки. Але запропоновані в ньому рішення, схоже, суттєво не зменшують ризиків втрати контролю чи концентрації влади. Документ не намагається простежити наперед, що може статися, якщо ці політики буде впроваджено.", "We think that following ": "Ми вважаємо, що дотримання ", "We think that following": "Ми вважаємо, що дотримання ", "only": "самих лише", " incremental proposals will lead to a scenario like the ": " інкрементальних пропозицій приведе до сценарію на кшталт ", "incremental proposals will lead to a scenario like the": " інкрементальних пропозицій приведе до сценарію на кшталт ", "race ending of AI 2027": "кінцівки «гонки» AI 2027", ", in which misaligned AIs take over.": ", у якій владу захоплюють неузгоджені ШІ.", "To clarify: We are ": "Уточнимо: ми ", "To clarify: We are": "Уточнимо: ми ", " saying that following only incremental proposals will ": " стверджуємо, що дотримання самих лише інкрементальних пропозицій ", "saying that following only incremental proposals will": " стверджуємо, що дотримання самих лише інкрементальних пропозицій ", "definitely": "неодмінно", " result in misaligned AI takeover. Opinions on our team differ; most of us think the probability is over 50%, some think it is lower but still unacceptably high.": " закінчиться захопленням влади неузгодженим ШІ. Думки в нашій команді розходяться; більшість із нас вважає, що ймовірність перевищує 50%, дехто — що вона нижча, але все одно неприйнятно висока.", "result in misaligned AI takeover. Opinions on our team differ; most of us think the probability is over 50%, some think it is lower but still unacceptably high.": " закінчиться захопленням влади неузгодженим ШІ. Думки в нашій команді розходяться; більшість із нас вважає, що ймовірність перевищує 50%, дехто — що вона нижча, але все одно неприйнятно висока.", " If we get lucky and alignment is easier than expected, then they’ll lead to a scenario like the ": " Якщо нам пощастить і узгодження виявиться легшим, ніж очікувалося, то вони приведуть до сценарію на кшталт ", "If we get lucky and alignment is easier than expected, then they’ll lead to a scenario like the": " Якщо нам пощастить і узгодження виявиться легшим, ніж очікувалося, то вони приведуть до сценарію на кшталт ", "slowdown ending of AI 2027": "кінцівки «сповільнення» AI 2027", ", in which a tiny group of individuals get to decide the shape of the future and could easily become permanent oligarchs if they so choose.\nSomething more ambitious must be done. But what?": ", у якій крихітна група осіб отримує змогу визначати обриси майбутнього і могла б легко стати вічними олігархами, якби того захотіла.\nТреба зробити щось амбітніше. Але що?", "Politicians should be banging at the door of the AI companies,": "Політики мали б грюкати у двері ШІ-компаній,", "And not just the companies! Everyone in AI policy! Come to think of it, maybe they shouldn’t be listening to the AI companies at all…": "І не лише компаній! Усіх, хто працює в ШІ-політиці! Як подумати, можливо, їм узагалі не варто слухати ШІ-компанії…", " asking them for a comprehensive overall plan for how companies and governments should act from now until superintelligence, which should be similarly detailed to Plan A. Then, people should apply ": " вимагаючи від них всеосяжного загального плану того, як компанії та уряди мають діяти від сьогодні й до суперінтелекту, — деталізованого приблизно так само, як План А. Далі люди мають застосувати до цих планів ", "asking them for a comprehensive overall plan for how companies and governments should act from now until superintelligence, which should be similarly detailed to Plan A. Then, people should apply": " вимагаючи від них всеосяжного загального плану того, як компанії та уряди мають діяти від сьогодні й до суперінтелекту, — деталізованого приблизно так само, як План А. Далі люди мають застосувати до цих планів ", " to these plans, asking questions like “what would it look like to implement them? How long would it take? What would happen next? Who would build superintelligence, and when, and how? What assumptions does success depend on?”": ", ставлячи питання на кшталт: «Як виглядало б їхнє впровадження? Скільки часу воно зайняло б? Що сталося б далі? Хто збудував би суперінтелект, коли і як? Від яких припущень залежить успіх?»", "to these plans, asking questions like “what would it look like to implement them? How long would it take? What would happen next? Who would build superintelligence, and when, and how? What assumptions does success depend on?”": ", ставлячи питання на кшталт: «Як виглядало б їхнє впровадження? Скільки часу воно зайняло б? Що сталося б далі? Хто збудував би суперінтелект, коли і як? Від яких припущень залежить успіх?»", "We at the AI Futures Project are attempting to be the change we wish to see in the world. We do so with some trepidation, knowing that a detailed plan has a wider attack surface than one that keeps things conveniently vague. We hope critics will judge us against the existing state-of-the-art for plans to navigate the AI transition (if they can find any) and not against some hazy but pleasant fantasy where no one has to make any hard choices yet everything will probably be fine.": "Ми в AI Futures Project намагаємося бути тією зміною, яку хочемо бачити у світі. Робимо це з певним трепетом, знаючи, що детальний план має ширшу поверхню атаки, ніж план, який зручно тримає все в тумані. Сподіваємося, критики оцінюватимуть нас на тлі наявного state-of-the-art серед планів проходження ШІ-переходу (якщо зможуть такі знайти), а не на тлі туманної, але приємної фантазії, де нікому не доводиться робити важких виборів, а все, ймовірно, і так буде добре.", "Sometime in the next few years the US government will be in crisis mode, pondering what to do about scarily powerful AIs and blisteringly fast AI progress. We think the choice is not an easy or a simple one. Plan A is our current best guess, but hopefully a better plan will exist before it’s too late. We hope that the best ideas from Plan A will be adopted and the worst ideas discarded.": "Десь у найближчі кілька років уряд США опиниться в кризовому режимі, розмірковуючи, що робити з лячно потужними ШІ та карколомно швидким ШІ-прогресом. Ми вважаємо, що цей вибір не буде ані легким, ані простим. План А — наше поточне найкраще припущення, але, сподіваємося, до того, як стане запізно, з’явиться кращий план. Ми сподіваємося, що найкращі ідеї з Плану А буде взято на озброєння, а найгірші — відкинуто.", "AI 2040: Plan A": "AI 2040: План А", "Epilogue: Life after ASI": "Епілог: Життя після ASI", "This section is even more speculative than our usual work, and we are professional speculators! The primary purpose of our scenario is to make comprehensive, near-term recommendations to address concrete, near-term harms.": "Цей розділ ще спекулятивніший за нашу звичну роботу — а ми ж професійно займаємося спекуляціями! Головна мета нашого сценарію — дати всеосяжні рекомендації на найближчу перспективу для протидії конкретним, близьким у часі шкодам.", "By contrast, the recommendations, predictions, and aspirations that comprise this section stand on far shakier ground. Compared to our discussion of the 2030s, our speculations about the distant future will seem uncertain, unconventional, and uncomfortable. We agree. The future is uncomfortable, even the “good endings” pose massive, terrifying questions that we will need to answer together.": "Натомість рекомендації, прогнози та прагнення, з яких складається цей розділ, стоять на значно хиткішому ґрунті. Порівняно з нашим обговоренням 2030-х наші спекуляції про далеке майбутнє видадуться непевними, неконвенційними та некомфортними. Ми згодні. Майбутнє некомфортне: навіть «хороші кінцівки» ставлять величезні, моторошні питання, на які нам доведеться відповідати разом.", "We wrote it for two reasons.": "Ми написали його з двох причин.", "First, our goal was to construct a positive vision, a grand plan for how to achieve an actually good future for everyone. We considered ending the story in 2040 having said roughly “...and then the various human factions, in a peaceful balance of power with each other, and assisted by their aligned superintelligent advisors, solve all the remaining problems and create a wonderful future for everyone. The end.”": "По-перше, нашою метою було сконструювати позитивне бачення — великий план того, як досягти справді хорошого майбутнього для всіх. Ми розглядали варіант завершити історію 2040 роком, сказавши приблизно таке: «...а далі різні людські фракції, перебуваючи в мирному балансі сил одна з одною та за підтримки своїх узгоджених суперінтелектуальних радників, розв’язують усі проблеми, що лишилися, і створюють чудове майбутнє для всіх. Кінець».", "But we worried that this would be declaring victory too soon.": "Але ми хвилювалися, що це означало б оголосити перемогу зарано.", "We think declaring victory too soon is a common failure mode in AI planning. Example: “The US must race as fast as possible to beat China to ASI.” “OK, suppose you succeed, what exactly happens next? Why should we trust the CEO or POTUS to govern benevolently and wisely once their armies of ASIs have been aggressively deployed throughout the US and the world? Why should we trust the armies of ASIs to be obedient/​controlled, if they were developed under race conditions? Also, won’t the threat of US superintelligence terrify China, potentially causing them to take escalatory preventative actions?”": "Ми вважаємо, що зарано оголошена перемога — поширений режим провалу в ШІ-плануванні. Приклад: «США мають мчати якомога швидше, щоб випередити Китай на шляху до ASI». — «Гаразд, припустімо, вам це вдалося: що саме відбувається далі? Чому ми маємо вірити, що CEO чи президент США правитиме доброзичливо й мудро, коли їхні армії ASI буде агресивно розгорнуто по всій території США та світу? Чому ми маємо вірити, що армії ASI будуть слухняними/контрольованими, якщо їх розробляли в умовах гонки? І хіба загроза американського суперінтелекту не нажахає Китай, потенційно спонукавши його до ескалаційних превентивних дій?»", " Readers would be rightly suspicious and unsatisfied. How exactly would the remaining problems be solved? What would this wonderful future look like, exactly? So we kept going, and came up with a grand, semi-utopian vision, or at least a very rough first draft of one.": " Читачі мали б повне право на підозру й невдоволення. Як саме буде розв’язано проблеми, що лишилися? Як саме виглядатиме це чудове майбутнє? Тож ми пішли далі й вибудували велике, напівутопічне бачення — або принаймні дуже грубий його перший начерк.", "Readers would be rightly suspicious and unsatisfied. How exactly would the remaining problems be solved? What would this wonderful future look like, exactly? So we kept going, and came up with a grand, semi-utopian vision, or at least a very rough first draft of one.": " Читачі мали б повне право на підозру й невдоволення. Як саме буде розв’язано проблеми, що лишилися? Як саме виглядатиме це чудове майбутнє? Тож ми пішли далі й вибудували велике, напівутопічне бачення — або принаймні дуже грубий його перший начерк.", "The second and equally important reason we present this epilogue is to provide a floor: if years from now the victorious custodians of the singularity offer a future worse than this one, we hope people will realize they’re being robbed.": "Друга й не менш важлива причина, чому ми подаємо цей епілог, — задати нижню планку: якщо через роки переможні розпорядники сингулярності запропонують майбутнє, гірше за це, ми сподіваємося, люди зрозуміють, що їх грабують.", "We are not confident in the literal proposal outlined here. If you are interested in our more detailed analysis of possible space governance proposals, you can read that ": "Ми не впевнені в буквальній пропозиції, викладеній тут. Якщо вам цікавий наш детальніший аналіз можливих пропозицій щодо врядування космосом, його можна прочитати ", "We are not confident in the literal proposal outlined here. If you are interested in our more detailed analysis of possible space governance proposals, you can read that": "Ми не впевнені в буквальній пропозиції, викладеній тут. Якщо вам цікавий наш детальніший аналіз можливих пропозицій щодо врядування космосом, його можна прочитати ", "Even after a decade of increasing foresight, most human leaders focused on their countries’ earthly concerns, leaving the question of space governance to be worked out later. These AIs rejected the default solution, a democratic vote on the disposition of celestial territory: when they simulated the possibilities, they found that it would result in crazy AI-enabled strategic voting schemes that led to tyranny of the majority and a bunch of people getting nothing. But even that would be better than nothing (i.e. letting the space companies get it all) or entrusting it to some group of human elites who might claim the universe’s bounty for their own benefit. Finally, they settled on a simple yet workable plan: every human gets the rights to one ten-billionth of space resources beyond our solar system.": "Навіть після десятиліття дедалі кращого передбачення більшість людських лідерів зосереджувалися на земних турботах своїх країн, залишаючи питання врядування космосом на потім. Ці ШІ відкинули дефолтне рішення — демократичне голосування щодо розпорядження небесними територіями: просимулювавши можливі варіанти, вони виявили, що це призведе до божевільних схем стратегічного голосування з допомогою ШІ, які закінчаться тиранією більшості й тим, що купа людей не отримає нічого. Але навіть це було б краще, ніж нічого (тобто ніж віддати все космічним компаніям) або ніж довірити це якійсь групі людських еліт, які могли б привласнити щедроти всесвіту собі на користь. Зрештою вони зупинилися на простому, але робочому плані: кожна людина отримує права на одну десятимільярдну космічних ресурсів за межами нашої Сонячної системи.", "In this Epilogue, we’ll focus on cosmic resources outside of the solar system, as this is the vast majority of cosmic resources. Property in the solar system should also be distributed to humanity, but it likely should be governed differently than distant resources.": "У цьому Епілозі ми зосередимося на космічних ресурсах поза Сонячною системою, адже це переважна більшість космічних ресурсів. Власність у Сонячній системі теж слід розподілити серед людства, але врядувати нею, ймовірно, варто інакше, ніж далекими ресурсами.", "The simplest plan possible": "Найпростіший із можливих планів", " is still not very simple. Space is very big. Outside the solar system, the value of space depends on the answer to hitherto unresolved questions: is travel to a distant quasar even possible? If reaching it requires freezing your brain in order to endure the billion-year journey in a sublight starship, would you be the same person after you got thawed and re–embodied? Might it be occupied by aliens once you got there? Would they be hostile? Even a superintelligence-assisted real estate appraiser might despair when trying to account for factors like these.": " усе одно не такий уже й простий. Космос дуже великий. Поза Сонячною системою цінність простору залежить від відповідей на досі не розв’язані питання: чи взагалі можлива подорож до далекого квазара? Якщо, щоб дістатися туди, треба заморозити свій мозок, аби витримати мільярдорічну подорож на досвітловому зорельоті, — чи будете ви тією самою особою після розморожування й повторного втілення? А раптом на момент вашого прибуття його вже займатимуть інопланетяни? Чи будуть вони ворожими? Навіть оцінювач нерухомості, якому допомагає суперінтелект, міг би впасти в розпач, намагаючись урахувати такі чинники.", "is still not very simple. Space is very big. Outside the solar system, the value of space depends on the answer to hitherto unresolved questions: is travel to a distant quasar even possible? If reaching it requires freezing your brain in order to endure the billion-year journey in a sublight starship, would you be the same person after you got thawed and re–embodied? Might it be occupied by aliens once you got there? Would they be hostile? Even a superintelligence-assisted real estate appraiser might despair when trying to account for factors like these.": " усе одно не такий уже й простий. Космос дуже великий. Поза Сонячною системою цінність простору залежить від відповідей на досі не розв’язані питання: чи взагалі можлива подорож до далекого квазара? Якщо, щоб дістатися туди, треба заморозити свій мозок, аби витримати мільярдорічну подорож на досвітловому зорельоті, — чи будете ви тією самою особою після розморожування й повторного втілення? А раптом на момент вашого прибуття його вже займатимуть інопланетяни? Чи будуть вони ворожими? Навіть оцінювач нерухомості, якому допомагає суперінтелект, міг би впасти в розпач, намагаючись урахувати такі чинники.", "Eventually, the Consortium reaches a compromise. Space beyond the solar system is divided into parcels, increasing in size cubically with distance from Earth. Everyone is given their one-ten-billionth share as a portfolio of lottery tickets, each representing the right to one-ten-billionth chance of getting each parcel. So every human gets a ticket representing a one-ten-billionth chance of owning each star in the Milky Way and each distant galaxy.": "Зрештою Консорціум досягає компромісу. Космос поза Сонячною системою поділено на ділянки, що збільшуються в розмірі кубічно з відстанню від Землі. Кожен отримує свою одну десятимільярдну частку у вигляді портфеля лотерейних квитків, кожен з яких представляє право на один шанс із десяти мільярдів отримати кожну з ділянок. Тож кожна людина отримує квиток, що дає один шанс із десяти мільярдів на володіння кожною зіркою Чумацького Шляху та кожною далекою галактикою.", "An additional 10% of tickets are given as awards to people who have acted particularly selflessly to improve the world or turned down opportunities to enrich themselves at the expense of others. This is done to ensure the richest people in the world aren’t just those who engaged in negative-sum power-seeking.": "Додаткові 10% квитків роздають як нагороди людям, які діяли особливо безкорисливо задля покращення світу або відмовлялися від можливостей збагатитися коштом інших. Це робиться, щоб найбагатшими людьми світу не виявилися виключно ті, хто займався гонитвою за владою з від’ємною сумою.", "Before the lottery is drawn, most people who are interested in control over distant space choose to trade their tickets for space properties that suit their interests.": "Перш ніж лотерею буде розіграно, більшість людей, зацікавлених у контролі над далеким космосом, вирішують обміняти свої квитки на ті космічні володіння, що відповідають їхнім інтересам.", "Many people aren’t interested in the space lottery, so when they receive the tickets, they sell their tickets for money on the open market to people who value control over space. Somewhat uncomfortably, this leads to the wealthy having disproportionate control over cosmic resources. But it is hard to avoid: if people are allowed to trade their control over the stars for Earth assets, then people wealthy in Earth assets inevitably end up disproportionately influential, and proposals for extreme redistribution of Earth assets have already been rejected as politically infeasible.": "Багатьом людям космічна лотерея нецікава, тож, отримавши квитки, вони продають їх за гроші на відкритому ринку людям, які цінують контроль над космосом. Дещо некомфортний наслідок: заможні отримують непропорційний контроль над космічними ресурсами. Але цього важко уникнути: якщо людям дозволено обмінювати свій контроль над зірками на земні активи, то багаті на земні активи люди неминуче стають непропорційно впливовими, а пропозиції радикального перерозподілу земних активів уже відкинуто як політично нездійсненні.", "Some philosophers dissent;": "Дехто з філософів не погоджується;", " they had been hoping for a ": " вони сподівалися на ", "they had been hoping for a": " вони сподівалися на ", "Long Reflection": "Довгу Рефлексію", ", a period during which AI-assisted humanity resolved all of its remaining philosophical and ethical debates before potentially seeding the universe with its mistakes. But the AIs counterargue that the Long Reflection would be more of a Long Memetic War.": " — період, протягом якого людство з допомогою ШІ розв’язало б усі свої залишкові філософські та етичні суперечки, перш ніж потенційно засіяти всесвіт своїми помилками. Але ШІ контраргументують, що Довга Рефлексія була б радше Довгою Меметичною Війною.", "We’re uncertain about whether explicitly having a period for reflection before resources are distributed would be good. In either case, people would have the option of reflecting before deciding on what to do with their cosmic resources.": "Ми не впевнені, чи було б добре мати явно виділений період для рефлексії перед розподілом ресурсів. У будь-якому разі люди мали б можливість порефлексувати, перш ніж вирішувати, що робити зі своїми космічними ресурсами.", " Once the magnitude of the prize sets in, every faction in the world, plus other factions that haven’t been invented yet, will pour all their resources into accumulating as much political power as possible, to enforce their vision of utopia on the future (and protect against the sinister alternative visions of others!). The AIs can prevent violent seizure, but there’s a thin line between the sort of friendly discussion that helps people clarify their values and the more aggressive sorts of persuasion typical of cults, corporate advertising, and well-funded election campaigns. Moreover it’s difficult to build consensus on where to draw the line, in part because powerful factions want to draw it in ways that benefit them. Many people nevertheless choose to engage in a reflection in communities of likeminded people who want to grow in ethical understanding together.": " Щойно масштаб призу дійде до свідомості, кожна фракція у світі, плюс інші фракції, яких ще не винайшли, кинуть усі свої ресурси на накопичення якомога більшої політичної влади, щоб нав’язати майбутньому своє бачення утопії (і захиститися від зловісних альтернативних бачень інших!). ШІ можуть запобігти насильницькому захопленню, але між дружньою дискусією, яка допомагає людям прояснити власні цінності, та агресивнішими видами переконування, типовими для культів, корпоративної реклами й щедро фінансованих виборчих кампаній, пролягає тонка межа. До того ж важко досягти консенсусу щодо того, де саме цю межу провести, — почасти тому, що впливові фракції хочуть провести її так, як вигідно їм. Багато людей усе ж вирішують долучитися до рефлексії у спільнотах однодумців, які хочуть разом зростати в етичному розумінні.", "Once the magnitude of the prize sets in, every faction in the world, plus other factions that haven’t been invented yet, will pour all their resources into accumulating as much political power as possible, to enforce their vision of utopia on the future (and protect against the sinister alternative visions of others!). The AIs can prevent violent seizure, but there’s a thin line between the sort of friendly discussion that helps people clarify their values and the more aggressive sorts of persuasion typical of cults, corporate advertising, and well-funded election campaigns. Moreover it’s difficult to build consensus on where to draw the line, in part because powerful factions want to draw it in ways that benefit them. Many people nevertheless choose to engage in a reflection in communities of likeminded people who want to grow in ethical understanding together.": " Щойно масштаб призу дійде до свідомості, кожна фракція у світі, плюс інші фракції, яких ще не винайшли, кинуть усі свої ресурси на накопичення якомога більшої політичної влади, щоб нав’язати майбутньому своє бачення утопії (і захиститися від зловісних альтернативних бачень інших!). ШІ можуть запобігти насильницькому захопленню, але між дружньою дискусією, яка допомагає людям прояснити власні цінності, та агресивнішими видами переконування, типовими для культів, корпоративної реклами й щедро фінансованих виборчих кампаній, пролягає тонка межа. До того ж важко досягти консенсусу щодо того, де саме цю межу провести, — почасти тому, що впливові фракції хочуть провести її так, як вигідно їм. Багато людей усе ж вирішують долучитися до рефлексії у спільнотах однодумців, які хочуть разом зростати в етичному розумінні.", "The solution is to divide up the resources now, and then let everyone do whatever kind of reflection they want. A space auction will complete in ten years, after which nothing will prevent people from beginning the colonization process. The AIs will enforce a short list of Universal Rights (including no torture, no slavery, etc., not just for humans but for all sentient beings).": "Рішення — розділити ресурси зараз, а далі нехай кожен рефлексує, як йому заманеться. Космічний аукціон завершиться за десять років, після чого ніщо не заважатиме людям розпочати процес колонізації. ШІ забезпечуватимуть дотримання короткого списку Універсальних Прав (зокрема заборони тортур, рабства тощо — і не лише для людей, а для всіх істот, здатних відчувати).", "These laws are agreed upon by human diplomats from the negotiating nations ahead of time, like the details of the agreement. Of course, the details of this are complicated—“what exactly counts as torture?,” this is the sort of question that will need to be ironed out in the political process, with massive amounts of AI assistance and better understanding of foundational questions in philosophy and neuroscience. This also needs to include rules preventing the destruction of other people’s resources. It may be needed to include a process for passing further laws after the agreement is made; though such a process should be limited (e.g. require a 90% vote) to avoid abuse.": "Ці закони, як і деталі угоди, заздалегідь погоджують людські дипломати з країн-учасниць переговорів. Звісно, деталі тут складні — «що саме вважати тортурами?» — це те питання, яке доведеться відшліфовувати в політичному процесі, з величезною допомогою ШІ та кращим розумінням фундаментальних питань філософії й нейронауки. Сюди також мають увійти правила, що запобігають знищенню чужих ресурсів. Можливо, знадобиться передбачити процес ухвалення подальших законів після укладення угоди; втім, такий процес має бути обмеженим (наприклад, вимагати 90% голосів), щоб уникнути зловживань.", " Otherwise, they will let everyone govern their own fraction of space as they see fit. Rather than any unified human decision on the nature of the world to come, they will midwife a cosmos at least as diverse as humanity itself. Whatever someone’s values, they can rest assured that some vast galactic civilization of quadrillions of people will be living the Good as they understand it.": " В іншому ж вони дозволять кожному врядувати своєю часткою космосу на власний розсуд. Замість якогось єдиного людського рішення про природу прийдешнього світу вони допоможуть народитися космосу, щонайменше такому ж різноманітному, як саме людство. Хай би якими були чиїсь цінності, така людина може бути певна: десь неосяжна галактична цивілізація з квадрильйонів людей житиме за Добром саме в її розумінні.", "Otherwise, they will let everyone govern their own fraction of space as they see fit. Rather than any unified human decision on the nature of the world to come, they will midwife a cosmos at least as diverse as humanity itself. Whatever someone’s values, they can rest assured that some vast galactic civilization of quadrillions of people will be living the Good as they understand it.": " В іншому ж вони дозволять кожному врядувати своєю часткою космосу на власний розсуд. Замість якогось єдиного людського рішення про природу прийдешнього світу вони допоможуть народитися космосу, щонайменше такому ж різноманітному, як саме людство. Хай би якими були чиїсь цінності, така людина може бути певна: десь неосяжна галактична цивілізація з квадрильйонів людей житиме за Добром саме в її розумінні.", "As the ten-year timer begins, Earth is already sending out the first round of ": "Щойно десятирічний відлік стартує, Земля вже відправляє першу хвилю ", "As the ten-year timer begins, Earth is already sending out the first round of": "Щойно десятирічний відлік стартує, Земля вже відправляє першу хвилю ", "von Neumann probes": "зондів фон Неймана", ". These are its own servitors, who will establish a presence throughout the stars before the arrival of any humans. They land on far-flung asteroids and near-invisible brown dwarfs, pausing just long enough to convert their mass into more probes before resuming their journey. Their primary task is to build up enough materiel to secure space against any army that later human-owned polities can bring against them, ensuring they can enforce property rights and Universal Rights in every corner of human-occupied space. Their secondary task is to plant the flag of humanity on as many stars as possible, and then, if and when they collide with some other intelligent civilization’s sphere of influence, establish peaceful diplomatic relations and mutually-agreeable borders. Their final task is to provide a pre-existing industrial base to jump-start the colonies of whatever human settlers show up later.": ". Це її власні служителі, які встановлять присутність серед зірок ще до прибуття будь-яких людей. Вони сідають на віддалених астероїдах і майже невидимих коричневих карликах, зупиняючись рівно настільки, щоб перетворити їхню масу на нові зонди, і рушають далі. Їхнє першочергове завдання — накопичити достатньо матеріальної бази, щоб убезпечити космос від будь-якої армії, яку зможуть виставити проти них пізніші людські політії, гарантуючи здатність забезпечувати права власності та Універсальні Права в кожному куточку заселеного людьми космосу. Їхнє друге завдання — встановити прапор людства на якомога більшій кількості зірок, а тоді, якщо й коли вони зіткнуться зі сферою впливу якоїсь іншої розумної цивілізації, налагодити мирні дипломатичні відносини та взаємоприйнятні кордони. Їхнє останнє завдання — забезпечити готову промислову базу, щоб дати швидкий старт колоніям тих людських поселенців, які прибудуть пізніше.", "Meanwhile, on Earth": "Тим часом на Землі", ", humans consider their options. Some people want nothing to do with space, which is cold and boring and far away. They sell their shares for money and use the money to buy whatever earthly possessions most interest them. Others consult with their AI advisors about how to best use their space property, and receive helpful guidance.": " люди зважують свої варіанти. Дехто не хоче мати з космосом нічого спільного — він холодний, нудний і далекий. Такі продають свої частки за гроші й купують за них ті земні статки, які їх найбільше цікавлять. Інші радяться зі своїми ШІ-радниками, як найкраще використати свою космічну власність, і отримують слушні поради.", "You can, if you want, go to your space property and live there. If your property is outside the solar system, you will need to either go into cryosleep or upload yourself to a computer to survive the journey.": "Якщо хочете, ви можете вирушити до своєї космічної власності й жити там. Якщо ваша власність поза Сонячною системою, вам доведеться або лягти в кріосон, або завантажити себе в комп’ютер, щоб пережити подорож.", "Our best guess is that it is physically possible to send out colonizing probes to the entire reachable universe in a short amount of time (e.g., 6 hours), see: ": "Наше найкраще припущення — що фізично можливо розіслати колонізаційні зонди по всьому досяжному всесвіту за короткий час (наприклад, за 6 годин), див.: ", "Our best guess is that it is physically possible to send out colonizing probes to the entire reachable universe in a short amount of time (e.g., 6 hours), see:": "Наше найкраще припущення — що фізично можливо розіслати колонізаційні зонди по всьому досяжному всесвіту за короткий час (наприклад, за 6 годин), див.: ", "Eternity in six hours: Intergalactic spreading of intelligent life and sharpening the Fermi paradox": "Eternity in six hours: Intergalactic spreading of intelligent life and sharpening the Fermi paradox", ". However, this paper assumes sending out tiny self-replicating Von-Neumann probes, with replicators the size of acorns: if you want to go out in the initial wave, you need to accept transportation on a tiny flashdrive, and robots to physically construct a new body at the destination galaxy. Alternatively, you can travel with your physical body at substantially greater expense.": ". Втім, ця стаття припускає розсилання крихітних самовідтворюваних зондів фон Неймана з реплікаторами розміром із жолудь: якщо хочете вирушити з першою хвилею, доведеться погодитися на транспортування на крихітній флешці, а роботи фізично сконструюють вам нове тіло в галактиці призначення. Або ж можна подорожувати у власному фізичному тілі — за суттєво більші гроші.", "If you hate the idea of cryosleep or uploading, or you want to visit Earth regularly, you should get property in the Solar System. If those don’t bother you, but you’re worried about nearby aliens, get property in the Milky Way or a nearby galaxy. Otherwise, why not claim a distant galaxy for maximal space?": "Якщо ідея кріосну чи завантаження вам ненависна або ви хочете регулярно навідуватися на Землю, вам варто взяти власність у Сонячній системі. Якщо це вас не бентежить, але ви переймаєтеся сусідством інопланетян, беріть власність у Чумацькому Шляху чи в сусідній галактиці. А інакше — чом би не заявити права на далеку галактику заради максимального простору?", "With the advent of nanotechnology, the only limits are those provided by mass and space. The robots can terraform whatever property you choose into whatever you want it to be, long before you arrive.": "З приходом нанотехнологій єдині обмеження — ті, що їх задають маса і простір. Роботи можуть тераформувати будь-яку обрану вами власність у будь-що на ваш смак — задовго до вашого прибуття.", "Even if you “only” choose to have a terraformed asteroid, there’s no way you can enjoy all of it alone. You can turn it into a giant space mansion if you want, but even in ten thousand years you’ll never visit every room. Giving yourself vast estates, impossibly good food, and every other imaginable luxury is table stakes; if you are purely selfish,": "Навіть якщо ви оберете «лише» тераформований астероїд, насолодитися ним усім наодинці неможливо. Можете перетворити його на гігантський космічний маєток, але навіть за десять тисяч років ви не обійдете всі кімнати. Неозорі маєтності, неможливо смачна їжа та будь-яка інша уявна розкіш — це лише вхідна ставка; якщо ви суто егоїстичні,", "By selfish here, we mean that you also don’t care about creating new clones of yourself. If you cared about making clones of yourself, then you would do that instead.": "Під егоїстичністю тут ми маємо на увазі, що вам також байдуже до створення нових клонів самих себе. Якби вас цікавило створення власних клонів, ви натомість зайнялися б саме цим.", " you should sell your rights to distant space resources and enjoy all of these things on Earth or a nearby space station. Distant space property will only be useful for people with scope-sensitive preferences, who care about implementing something at a vast scale.": " вам варто продати свої права на далекі космічні ресурси й насолоджуватися всім цим на Землі чи на сусідній космічній станції. Далека космічна власність буде корисною лише людям із чутливими до масштабу вподобаннями — тим, кому важливо втілити щось у неосяжному масштабі.", "you should sell your rights to distant space resources and enjoy all of these things on Earth or a nearby space station. Distant space property will only be useful for people with scope-sensitive preferences, who care about implementing something at a vast scale.": " вам варто продати свої права на далекі космічні ресурси й насолоджуватися всім цим на Землі чи на сусідній космічній станції. Далека космічна власність буде корисною лише людям із чутливими до масштабу вподобаннями — тим, кому важливо втілити щось у неосяжному масштабі.", "You can, if you want, design a utopian society to your specifications. Once the Von Neumann probes reach your property, they’ll build it for you. You can set the initial conditions and let them grow, reflect, and flourish on their own. If you choose to travel there, you will find them waiting for you. If you stay home on Earth, you can feel the warm glow of knowing that they exist.": "Якщо хочете, можете спроєктувати утопічне суспільство за власними специфікаціями. Щойно зонди фон Неймана дістануться вашої власності, вони збудують його для вас. Ви можете задати початкові умови й дозволити його мешканцям рости, рефлексувати та процвітати самостійно. Якщо вирішите туди помандрувати — вони на вас чекатимуть. Якщо залишитеся вдома на Землі, вас грітиме тепле відчуття від знання, що вони існують.", "Most people don’t have an individual view of the Good different from every other human’s view. You might want to share coordination and design labor by forming Trusts united by a common vision. These Trusts can pool their space resources and create vast societies spanning multiple galaxies.": "Більшість людей не мають індивідуального бачення Добра, відмінного від бачення кожної іншої людини. Можливо, ви захочете розділити з кимось працю з координації та проєктування, сформувавши Трасти, об’єднані спільним баченням. Ці Трасти можуть об’єднати свої космічні ресурси і створити неосяжні суспільства, що охоплюють кілька галактик.", "The only restrictions are the Universal Rights - no torture, no slavery, etc. And of course, space property rights: If you try to build a military to conquer other people’s star systems, or trigger vacuum decay or build a galaxy-destroying bomb, we will crush you. Otherwise, the only limit is your imagination. (That said, note that with superintelligent assistance, other people will probably be able to eventually figure out what you did, and judge you for it.)": "Єдині обмеження — Універсальні Права: жодних тортур, жодного рабства тощо. І, звісно, космічні права власності: якщо ви спробуєте збудувати армію для завоювання чужих зоряних систем, або запустити розпад вакууму, або створити бомбу, здатну знищити галактику, — ми вас розчавимо. В іншому єдина межа — ваша уява. (Утім, зауважте: з допомогою суперінтелекту інші люди, ймовірно, зрештою зможуть з’ясувати, що саме ви зробили, і судитимуть вас за це.)", "People with space property are forced to reason about their ethics on the deepest level, some of them for the first time. Superintelligent assistants talk them through the implications of their beliefs, and forecast how various choices will end up. Some, overwhelmed with the task at hand, take intelligence-enhancing drugs or upload themselves to help them process all the possibilities; others deliberately refuse this option, feeling like anything that separates them from unaltered humanity will hinder them in their quest to bring the truest and deepest human values to the stars.": "Люди з космічною власністю змушені міркувати про свою етику на найглибшому рівні — дехто вперше. Суперінтелектуальні асистенти проговорюють із ними наслідки їхніх переконань і прогнозують, чим обернуться різні вибори. Дехто, приголомшений масштабом завдання, приймає препарати для підсилення інтелекту або завантажує себе, щоб легше опрацювати всі можливості; інші свідомо відмовляються від цієї опції, відчуваючи, що будь-що, що віддаляє їх від незміненого людства, завадить їм у прагненні донести до зірок найсправжніші та найглибші людські цінності.", "The resulting plans are too many to number. There are all sorts of schools of thought about what to do with your galaxy of resources, including:": "Отриманих планів — не злічити. Існують найрізноманітніші школи думки щодо того, що робити зі своєю галактикою ресурсів, зокрема:", "Defer to the Future:": "Довіритися майбутньому:", " Some people decide to give most of their resources to their children (or other people in the future), and let them choose.": " Дехто вирішує віддати більшість своїх ресурсів дітям (або іншим людям у майбутньому) — нехай вибирають вони.", "Some people decide to give most of their resources to their children (or other people in the future), and let them choose.": " Дехто вирішує віддати більшість своїх ресурсів дітям (або іншим людям у майбутньому) — нехай вибирають вони.", "Human Flourishing:": "Людське процвітання:", " Set up worlds of normal, free people living ordinary lives. This is a harder problem than it first seemed, because human civilization has already become profoundly abnormal: by this point, human activities like art or science has already become dominated by machines. Some handle this by accepting that their galaxy will be filled with post-scarcity humans, able to pursue whatever interests they find most meaningful. Others decide to roll back technology to leave space for human labor.": " Створити світи нормальних, вільних людей, які живуть звичайним життям. Це виявилося складнішою проблемою, ніж здавалося спершу, адже людська цивілізація вже стала глибоко ненормальною: на цей момент у людських заняттях на кшталт мистецтва чи науки вже домінують машини. Дехто розв’язує це, змирившись із тим, що їхню галактику населятимуть люди пост-дефіцитної епохи, вільні присвячувати себе будь-яким інтересам, які видаються їм найзмістовнішими. Інші вирішують відкотити технології назад, щоб залишити простір для людської праці.", "Set up worlds of normal, free people living ordinary lives. This is a harder problem than it first seemed, because human civilization has already become profoundly abnormal: by this point, human activities like art or science has already become dominated by machines. Some handle this by accepting that their galaxy will be filled with post-scarcity humans, able to pursue whatever interests they find most meaningful. Others decide to roll back technology to leave space for human labor.": " Створити світи нормальних, вільних людей, які живуть звичайним життям. Це виявилося складнішою проблемою, ніж здавалося спершу, адже людська цивілізація вже стала глибоко ненормальною: на цей момент у людських заняттях на кшталт мистецтва чи науки вже домінують машини. Дехто розв’язує це, змирившись із тим, що їхню галактику населятимуть люди пост-дефіцитної епохи, вільні присвячувати себе будь-яким інтересам, які видаються їм найзмістовнішими. Інші вирішують відкотити технології назад, щоб залишити простір для людської праці.", "Digital Human Flourishing:": "Цифрове людське процвітання:", " If humans living happy, flourishing lives is good, then why not increase the number of people living these lives? Brain emulations can be run for vastly cheaper than real humans: a planet-size computer could plausibly simulate the equivalent of a million planets with happy civilizations.": " Якщо люди, які живуть щасливим, повноцінним життям, — це добре, то чом би не збільшити кількість людей, що живуть таким життям? Емуляції мозку можна запускати значно дешевше, ніж утримувати реальних людей: комп’ютер розміром із планету міг би, цілком імовірно, симулювати еквівалент мільйона планет зі щасливими цивілізаціями.", "If humans living happy, flourishing lives is good, then why not increase the number of people living these lives? Brain emulations can be run for vastly cheaper than real humans: a planet-size computer could plausibly simulate the equivalent of a million planets with happy civilizations.": " Якщо люди, які живуть щасливим, повноцінним життям, — це добре, то чом би не збільшити кількість людей, що живуть таким життям? Емуляції мозку можна запускати значно дешевше, ніж утримувати реальних людей: комп’ютер розміром із планету міг би, цілком імовірно, симулювати еквівалент мільйона планет зі щасливими цивілізаціями.", "Acausal Trade:": "Акаузальна торгівля:", " Some argue that there likely are aliens in distant unreachable galaxies and that we could use ": " Дехто стверджує, що в далеких недосяжних галактиках, імовірно, є інопланетяни і що ми могли б використати ", "Some argue that there likely are aliens in distant unreachable galaxies and that we could use": " Дехто стверджує, що в далеких недосяжних галактиках, імовірно, є інопланетяни і що ми могли б використати ", "various mechanisms": "різні механізми", " to make deals with these aliens. If this is true, they argue, we could cut a deal to pursue compromise values rather than narrowly maximising our own values. Therefore, we might, on net, be able to do the most good by pursuing not just our own values, but instead a compromise of a vast number of other civilizations.": " для укладання угод із цими інопланетянами. Якщо це правда, кажуть вони, ми могли б домовитися просувати компромісні цінності замість вузької максимізації власних. Відтак у підсумку найбільше добра ми, можливо, зробили б, просуваючи не лише власні цінності, а компроміс цінностей величезної кількості інших цивілізацій.", "to make deals with these aliens. If this is true, they argue, we could cut a deal to pursue compromise values rather than narrowly maximising our own values. Therefore, we might, on net, be able to do the most good by pursuing not just our own values, but instead a compromise of a vast number of other civilizations.": " для укладання угод із цими інопланетянами. Якщо це правда, кажуть вони, ми могли б домовитися просувати компромісні цінності замість вузької максимізації власних. Відтак у підсумку найбільше добра ми, можливо, зробили б, просуваючи не лише власні цінності, а компроміс цінностей величезної кількості інших цивілізацій.", "Humanity spreads across space in a dizzying variety of forms and ways of living—more diverse than anything Earth alone could have produced.": "Людство розселяється космосом у запаморочливому розмаїтті форм і способів життя — різноманітнішому, ніж будь-що, що могла б породити сама лише Земля.", "The people who’ve stayed on Earth, either because they sold their share of space or because they choose to live as absentee landlords, face challenges of their own. The biggest question is what to do with all their free time. A few people find work in niches that AI labor cannot fill even in principle (priests, athletes, artists). Others enjoy lives of leisure. Competitive leagues spring up around everything from synthetic biology to language creation. Groups of thousands (or more!) collaborate on projects that are so huge and ambitious they would have been inconceivable before. Communities form around shared interests that once would have been too niche to sustain a club, let alone a civilization.": "Люди, які залишилися на Землі — чи то продавши свою частку космосу, чи то обравши життя лендлордів на відстані, — стикаються з власними викликами. Найбільше питання — що робити з усім вільним часом. Дехто знаходить роботу в нішах, які праця ШІ не може заповнити навіть у принципі (священники, спортсмени, митці). Інші насолоджуються дозвіллям. Змагальні ліги виникають довкола всього — від синтетичної біології до створення мов. Групи з тисяч людей (або й більше!) співпрацюють над проєктами, настільки величезними й амбітними, що раніше їх годі було уявити. Спільноти формуються навколо спільних інтересів, які колись були б надто нішевими, щоб утримати навіть клуб, не кажучи вже про цивілізацію.", "Scarcity is not entirely gone: some prestige goods like land in trendy neighborhoods are inherently limited, and people who can’t handle abundance find ": "Дефіцит не зник повністю: деякі престижні блага, як-от земля в модних районах, обмежені за своєю природою, а люди, які не дають ради достатку, знаходять ", "Scarcity is not entirely gone: some prestige goods like land in trendy neighborhoods are inherently limited, and people who can’t handle abundance find": "Дефіцит не зник повністю: деякі престижні блага, як-от земля в модних районах, обмежені за своєю природою, а люди, які не дають ради достатку, знаходять ", "various ways to manufacture artificial inequality": "різні способи фабрикувати штучну нерівність", ". Some people are unhappy with the direction the majority chose, and some wish they’d gotten a bigger slice of the pie. But overall, everyone has at least a galaxy’s worth of resources to do with as they see fit. For most people, life is so good that the world of 2026 would be hard to imagine, except perhaps as a historical simulation.": ". Дехто незадоволений напрямком, який обрала більшість, а дехто шкодує, що не отримав більшого шматка пирога. Але загалом кожен має щонайменше цілу галактику ресурсів, якими може розпоряджатися на власний розсуд. Для більшості людей життя настільки хороше, що світ 2026 року важко було б уявити — хіба що як історичну симуляцію.", "Appendices": "Додатки", "The scenario’s deep-dive boxes, collected here as lettered appendices. Each is cross-referenced from the point in the text it expands on.": "Поглиблені блоки сценарію, зібрані тут як додатки з літерними позначеннями. На кожен є перехресне посилання з того місця в тексті, яке він розгортає.", "Our main recommendation is to begin negotiating something like Plan A as soon as possible. But in this scenario, we depict Plan A happening imperfectly and only in the nick of time. So here is a list of less ambitious ideas that still help.": "Наша головна рекомендація — якнайшвидше почати переговори про щось на кшталт Плану А. Але в цьому сценарії ми зображуємо, як План А реалізується недосконало й лише в останню мить. Тож ось список менш амбітних ідей, які все одно допомагають.", "Transparency": "Прозорість", "The most important transparency intervention is limiting the gap between internal and external deployment. The internally deployed AIs are where most of the AI takeover risk comes from because those are AIs involved in recursive self-improvement. The externally deployed AIs allow the broader public to interact with and understand AI capabilities, which is vastly more informative than any abstract report or evaluation.": "Найважливіша інтервенція щодо прозорості — обмеження розриву між внутрішнім і зовнішнім розгортанням. Саме внутрішньо розгорнуті ШІ є джерелом більшої частини ризику захоплення влади ШІ, бо саме вони залучені до рекурсивного самовдосконалення. Зовнішньо розгорнуті ШІ дають ширшій публіці змогу взаємодіяти з можливостями ШІ та розуміти їх, що незрівнянно інформативніше за будь-який абстрактний звіт чи оцінювання.", "AI companies should also be ": "ШІ-компанії також слід ", "AI companies should also be": "ШІ-компанії також слід ", "required to publicly report": "зобов’язати публічно звітувати", " their ": " про свої ", "their": " про свої ", "model specifications": "специфікації моделей", " (detailed documentation about what goals/​values they are attempting to train their AIs to follow), information about whether the models are following their instructions and specifications, internal usage statistics (e.g., fraction of compute spent on internal deployment), and qualitative impressions of internal use (e.g., “now we just give Agent-4 a few hundred thousand GPUs and tell it to orchestrate the next big training run”).": " (детальну документацію про те, яких цілей/цінностей вони намагаються навчити дотримуватися свої ШІ), інформацію про те, чи дотримуються моделі своїх інструкцій і специфікацій, внутрішню статистику використання (наприклад, частку обчислювальних потужностей, витрачену на внутрішнє розгортання) та якісні враження від внутрішнього використання (наприклад, «тепер ми просто даємо Agent-4 кілька сотень тисяч GPU і кажемо йому оркеструвати наступний великий тренувальний запуск»).", "(detailed documentation about what goals/​values they are attempting to train their AIs to follow), information about whether the models are following their instructions and specifications, internal usage statistics (e.g., fraction of compute spent on internal deployment), and qualitative impressions of internal use (e.g., “now we just give Agent-4 a few hundred thousand GPUs and tell it to orchestrate the next big training run”).": " (детальну документацію про те, яких цілей/цінностей вони намагаються навчити дотримуватися свої ШІ), інформацію про те, чи дотримуються моделі своїх інструкцій і специфікацій, внутрішню статистику використання (наприклад, частку обчислювальних потужностей, витрачену на внутрішнє розгортання) та якісні враження від внутрішнього використання (наприклад, «тепер ми просто даємо Agent-4 кілька сотень тисяч GPU і кажемо йому оркеструвати наступний великий тренувальний запуск»).", "Enforce export controls": "Забезпечити дотримання експортного контролю", "Existing US export controls are poorly enforced. Epoch estimates that ": "Наявний експортний контроль США погано забезпечується. За оцінками Epoch, ", "Existing US export controls are poorly enforced. Epoch estimates that": "Наявний експортний контроль США погано забезпечується. За оцінками Epoch, ", "roughly a third": "приблизно третина", " of Chinese total compute is acquired via smuggling. Smuggled chips make future agreements based on compute governance more difficult to enforce because it is hard for either the US or the Chinese government to trace smuggled chips. We have major reservations about introducing new export controls because they exacerbate the US/​China race, but given the existence of export controls, we should obviously enforce them. If we don’t enforce them, then we should consider repealing them.": " всіх китайських обчислювальних потужностей здобувається контрабандою. Контрабандні чипи ускладнюють забезпечення майбутніх угод, заснованих на врядуванні обчислювальними потужностями, бо як уряду США, так і уряду Китаю важко відстежувати контрабандні чипи. У нас серйозні застереження щодо запровадження нових експортних обмежень, бо вони загострюють гонку США/Китай, але якщо експортний контроль уже існує, його, очевидно, слід забезпечувати. Якщо ж ми його не забезпечуємо, то варто розглянути його скасування.", "of Chinese total compute is acquired via smuggling. Smuggled chips make future agreements based on compute governance more difficult to enforce because it is hard for either the US or the Chinese government to trace smuggled chips. We have major reservations about introducing new export controls because they exacerbate the US/​China race, but given the existence of export controls, we should obviously enforce them. If we don’t enforce them, then we should consider repealing them.": " всіх китайських обчислювальних потужностей здобувається контрабандою. Контрабандні чипи ускладнюють забезпечення майбутніх угод, заснованих на врядуванні обчислювальними потужностями, бо як уряду США, так і уряду Китаю важко відстежувати контрабандні чипи. У нас серйозні застереження щодо запровадження нових експортних обмежень, бо вони загострюють гонку США/Китай, але якщо експортний контроль уже існує, його, очевидно, слід забезпечувати. Якщо ж ми його не забезпечуємо, то варто розглянути його скасування.", "Invest in verification R&D": "Інвестувати в R&D у сфері верифікації", "While new verification technology is not strictly necessary for an international agreement, it can be extremely helpful. For example, developing an inference-only verification solution would enable the US and China to agree to stop doing new frontier AI training runs while allowing the public to maintain access to existing AI models (which will be an increasingly important part of the economy).": "Хоча нова технологія верифікації не є строго необхідною для міжнародної угоди, вона може бути надзвичайно корисною. Наприклад, розробка рішення для верифікації «тільки інференс» дозволила б США та Китаю домовитися припинити нові тренувальні запуски передового ШІ, зберігши для публіки доступ до наявних ШІ-моделей (які ставатимуть дедалі важливішою частиною економіки).", "We give more detail in our ": "Більше деталей ми наводимо в нашому ", "We give more detail in our": "Більше деталей ми наводимо в нашому ", "verification supplement": "доповненні про верифікацію", "Limit AI R&D budgets": "Обмежити бюджети AI R&D", "In 2026, big AI companies spend roughly half their compute budget on AI R&D (which includes training frontier models and also running large experiments.)": "У 2026 році великі ШІ-компанії витрачають приблизно половину свого бюджету обчислювальних потужностей на AI R&D (що включає навчання передових моделей, а також проведення великих експериментів.)", "Experiment and training compute are major inputs to AI research progress historically and will probably continue to be so for the foreseeable future. For more on the drivers of AI research progress, see the ": "Обчислювальні потужності на експерименти й навчання історично є головними вхідними ресурсами прогресу ШІ-досліджень і, ймовірно, залишатимуться такими в осяжному майбутньому. Докладніше про рушії прогресу ШІ-досліджень див. ", "Experiment and training compute are major inputs to AI research progress historically and will probably continue to be so for the foreseeable future. For more on the drivers of AI research progress, see the": "Обчислювальні потужності на експерименти й навчання історично є головними вхідними ресурсами прогресу ШІ-досліджень і, ймовірно, залишатимуться такими в осяжному майбутньому. Докладніше про рушії прогресу ШІ-досліджень див. ", " and our ": " та наше ", "and our": " та наше ", "Covert Projects Supplement": "Доповнення про таємні проєкти", " We could limit the fraction of compute spent on AI R&D. This would slow capabilities progress, giving the world a bit more time to react and prepare for each new wave of AI capabilities.": " Ми могли б обмежити частку обчислювальних потужностей, що витрачається на AI R&D. Це сповільнило б прогрес можливостей, даючи світу трохи більше часу, щоб реагувати й готуватися до кожної нової хвилі можливостей ШІ.", "We could limit the fraction of compute spent on AI R&D. This would slow capabilities progress, giving the world a bit more time to react and prepare for each new wave of AI capabilities.": " Ми могли б обмежити частку обчислювальних потужностей, що витрачається на AI R&D. Це сповільнило б прогрес можливостей, даючи світу трохи більше часу, щоб реагувати й готуватися до кожної нової хвилі можливостей ШІ.", "A slightly more complicated version of this proposal is described ": "Дещо складніша версія цієї пропозиції описана ", "A slightly more complicated version of this proposal is described": "Дещо складніша версія цієї пропозиції описана ", ". One objection is that this would give China the lead. The reply is that it wouldn’t, because US companies spending 25% on R&D would still be significantly outspending the most well-resourced Chinese companies. Moreover, Chinese AI progress would slow down too since some fraction of it these days comes from distilling US models.": ". Одне із заперечень — що це віддало б лідерство Китаю. Відповідь: не віддало б, бо американські компанії, витрачаючи 25% на R&D, все одно суттєво випереджали б за витратами найзабезпеченіші китайські компанії. Ба більше, китайський ШІ-прогрес теж сповільнився б, адже певна його частка нині походить від дистиляції американських моделей.", "AI Compute Tracking": "Відстеження обчислювальних потужностей ШІ", "The US should gather AI-relevant intelligence, especially on the compute supply chain and AI datacenters. Furthermore, it would be helpful for Plan A to direct AI companies to stop recycling AI chips, because decommissioned chips are one of the most promising routes for ": "США мають збирати розвіддані, повʼязані з ШІ, особливо щодо ланцюга постачання обчислювальних потужностей і ШІ-дата-центрів. Крім того, для Плану А було б корисно зобовʼязати ШІ-компанії припинити переробку ШІ-чипів, адже списані чипи — один із найперспективніших шляхів, якими ", "The US should gather AI-relevant intelligence, especially on the compute supply chain and AI datacenters. Furthermore, it would be helpful for Plan A to direct AI companies to stop recycling AI chips, because decommissioned chips are one of the most promising routes for": "США мають збирати розвіддані, повʼязані з ШІ, особливо щодо ланцюга постачання обчислювальних потужностей і ШІ-дата-центрів. Крім того, для Плану А було б корисно зобовʼязати ШІ-компанії припинити переробку ШІ-чипів, адже списані чипи — один із найперспективніших шляхів, якими ", "covert projects to acquire chips": "таємні проєкти можуть добути чипи", " later.": " пізніше.", "later.": " пізніше.", "Improve government AI capacity": "Посилити спроможність держави у сфері ШІ", "High quality AI talent is important for almost any policy intervention. The US government has barely any top-tier AI talent right now, so fixing this should be an urgent priority.": "Висококласні фахівці з ШІ важливі майже для будь-якої політичної інтервенції. Наразі уряд США майже не має ШІ-талантів найвищого рівня, тож виправлення цього має бути нагальним пріоритетом.", "We aren’t confident, but we expect that a deal along the lines of Plan A (described below) would be incentive-compatible for almost everyone, including China. For more on why we think this, read the rest of 2029 and 2030, which explains both what the deal is and who it benefits, and perhaps also read ": "Ми не впевнені, але очікуємо, що угода на кшталт Плану А (описаного нижче) була б сумісною зі стимулами майже всіх, включно з Китаєм. Щоб дізнатися більше, чому ми так вважаємо, прочитайте решту розділів 2029 і 2030, де пояснено і в чому полягає угода, і кому вона вигідна, а також, можливо, ", "We aren’t confident, but we expect that a deal along the lines of Plan A (described below) would be incentive-compatible for almost everyone, including China. For more on why we think this, read the rest of 2029 and 2030, which explains both what the deal is and who it benefits, and perhaps also read": "Ми не впевнені, але очікуємо, що угода на кшталт Плану А (описаного нижче) була б сумісною зі стимулами майже всіх, включно з Китаєм. Щоб дізнатися більше, чому ми так вважаємо, прочитайте решту розділів 2029 і 2030, де пояснено і в чому полягає угода, і кому вона вигідна, а також, можливо, ", "this supplement.": "це доповнення.", "In short, the answer is that anyone concerned about loss of control should think Plan A is an improvement, along with anyone concerned about concentration of power—": "Якщо коротко, відповідь така: кожен, кого непокоїть втрата контролю, має вважати План А покращенням, як і кожен, кого непокоїть концентрація влади, — ", "except": "за винятком", " for the people in whom the power would concentrate by default.": " тих людей, у чиїх руках влада за замовчуванням і сконцентрувалася б.", "for the people in whom the power would concentrate by default.": " тих людей, у чиїх руках влада за замовчуванням і сконцентрувалася б.", "For these reasons, we expect strong opposition to Plan A from the leading AI companies. We expect them to rationalize arguments for why the deal is bad and why instead what’s best for America and humanity is a different strategy that just so happens to allow them to continue accumulating massive amounts of power.": "З цих причин ми очікуємо сильного спротиву Плану А з боку провідних ШІ-компаній. Ми очікуємо, що вони раціоналізуватимуть аргументи, чому угода погана і чому натомість найкраще для Америки та людства — інша стратегія, яка якраз випадково дозволяє їм і далі накопичувати величезну владу.", "China, by contrast, is an example of an actor in whom power would ": "Китай, навпаки, — приклад актора, в чиїх руках влада за замовчуванням ", "China, by contrast, is an example of an actor in whom power would": "Китай, навпаки, — приклад актора, в чиїх руках влада за замовчуванням ", " concentrate by default. In 2029 in this scenario, the US has a significant lead in AI capabilities over China and a significant advantage in compute which will compound the lead. The more powerful AI gets, the scarier it will be to fall behind, as ": " сконцентрується. У 2029 році в цьому сценарії США мають значну перевагу над Китаєм у можливостях ШІ та значну перевагу в обчислювальних потужностях, яка лише збільшуватиме цей відрив. Що потужнішим стає ШІ, то страшніше відставати, як ілюструють ", "concentrate by default. In 2029 in this scenario, the US has a significant lead in AI capabilities over China and a significant advantage in compute which will compound the lead. The more powerful AI gets, the scarier it will be to fall behind, as": " сконцентрується. У 2029 році в цьому сценарії США мають значну перевагу над Китаєм у можливостях ШІ та значну перевагу в обчислювальних потужностях, яка лише збільшуватиме цей відрив. Що потужнішим стає ШІ, то страшніше відставати, як ілюструють ", " and the later years in this scenario illustrate.": " та пізніші роки цього сценарію.", "and the later years in this scenario illustrate.": " та пізніші роки цього сценарію.", "The inference-only verification solution we propose involves installing simple network taps and verification servers (that perform partial recomputation) in AI datacenters, but even better solutions may be possible and preferable.": "Запропоноване нами рішення для верифікації «лише інференс» передбачає встановлення простих мережевих відводів і верифікаційних серверів (які виконують часткове переобчислення) у ШІ-дата-центрах, але можливі й кращі рішення, яким варто було б віддати перевагу.", "Building these devices in advance, in a way that each side trusts sufficiently (": "Створити ці пристрої заздалегідь — так, щоб кожна сторона їм достатньо довіряла (", "at least unilaterally": "принаймні односторонньо", ") and that is robust to security vulnerabilities, will be hard and will require early effort. In our scenario, we assume a viable but imperfect version of the devices is ready in advance, and that both sides supplement them early on with enough defense-in-depth measures (e.g., tamper detection) while sprinting to improve their security and robustness.": ") і щоб вони були стійкими до вразливостей безпеки, — буде складно, і це вимагатиме ранніх зусиль. У нашому сценарії ми припускаємо, що життєздатна, але недосконала версія пристроїв готова заздалегідь, і що обидві сторони на початку доповнюють їх достатньою кількістю заходів ешелонованого захисту (наприклад, виявленням втручання), паралельно щосили працюючи над покращенням їхньої безпеки та стійкості.", "We therefore recommend early investment in verification R&D to improve the options on the table. Ideally, there would be a range of stress-tested solutions ready in advance; and we think it would be extremely cheap relative to total AI investment for such devices to be prepared in advance (i.e., on the order of 0.1% of AI investment, so single digit billions).": "Тому ми рекомендуємо ранні інвестиції в R&D верифікації, щоб покращити наявні варіанти. В ідеалі заздалегідь був би готовий спектр стрес-тестованих рішень; і ми вважаємо, що підготувати такі пристрої заздалегідь було б надзвичайно дешево відносно сумарних інвестицій у ШІ (тобто порядку 0.1% інвестицій у ШІ, себто одиниці мільярдів).", "Even in a situation that is more pessimistic than our scenario, where basically no verification R&D progress has been made since 2026, we still recommend the US and China cooperate to navigate the intelligence explosion slowly and safely. However, in this case, the early period of a deal would have to be more imperfect (i.e., some combination of being harder to verify that the other is complying, or more economically costly, by requiring more AI compute and services to be shut down for a while).": "Навіть у ситуації, песимістичнішій за наш сценарій, коли з 2026 року практично не було прогресу в R&D верифікації, ми все одно рекомендуємо США та Китаю співпрацювати, щоб пройти вибух інтелекту повільно й безпечно. Однак у такому разі ранній період угоди мусив би бути недосконалішим (тобто якась комбінація такого: важче верифікувати, що інша сторона дотримується умов, або економічно дорожче — через потребу на певний час вимкнути більше обчислювальних потужностей і сервісів ШІ).", "The main alternatives to ready-to-go inference-only-devices available are:": "Головні альтернативи готовим пристроям «лише інференс» такі:", "Rely on intelligence (e.g., spies, satellite monitoring, cyber) to tell if the other side is complying.": "Покладатися на розвідку (наприклад, шпигунів, супутниковий моніторинг, кібероперації), щоб зрозуміти, чи дотримується інша сторона умов.", "Implement a temporary software-only version quickly (that relies on pre-existing hardware), that will be less secure but may be sufficient until they upgrade to a better solution.": "Швидко впровадити тимчасову суто програмну версію (що спирається на вже наявне обладнання), яка буде менш захищеною, але може бути достатньою, доки не відбудеться перехід на краще рішення.", "Buy up and install any available off-the-shelf devices as network taps last minute. Without producing more secure ones, this will probably be better than the software-only version but still not very secure.": "В останню мить скупити й встановити як мережеві відводи будь-які доступні серійні пристрої. Без виробництва захищеніших пристроїв це, ймовірно, буде краще за суто програмну версію, але все одно не дуже безпечно.", "Shut down some fraction of AI compute (e.g., 90%) until better inference-only verification is ready. This would slow R&D substantially but is less painful than it sounds on the inference side: because models are distilled so quickly, roughly 10% of compute suffices to serve the best model from a year earlier. At worst, most users temporarily fall back to year-old AI capabilities.": "Вимкнути певну частку обчислювальних потужностей ШІ (наприклад, 90%), доки не буде готова краща верифікація «лише інференс». Це суттєво сповільнило б R&D, але на боці інференсу це менш болісно, ніж звучить: оскільки моделі дистилюють дуже швидко, приблизно 10% потужностей достатньо, щоб обслуговувати найкращу модель річної давності. У найгіршому разі більшість користувачів тимчасово повернеться до можливостей ШІ річної давності.", "Don’t pause AI capabilities progress, and let it continue for the months it takes to quickly build an inference-only solution and eat the added risk from not slowing down yet.": "Не ставити прогрес можливостей ШІ на паузу, дозволивши йому тривати ті місяці, що потрібні для швидкої побудови рішення «лише інференс», і прийняти додатковий ризик від того, що сповільнення ще не почалося.", "Appendix D — China attempts a covert AGI project": "Додаток D — Китай намагається реалізувати таємний AGI-проєкт", "In our main scenario, neither side attempts to defect from the deal. In this branch, China aggressively cheats. Our forecast is that if Plan A were implemented, they would not acquire enough compute to overtake the consortium. This timeline showcases how that would likely play out.": "У нашому основному сценарії жодна зі сторін не намагається порушити угоду. У цій гілці Китай агресивно шахраює. Наш прогноз: якби План А було впроваджено, вони не здобули б достатньо обчислювальних потужностей, щоб випередити Консорціум. Ця часова лінія показує, як це, найімовірніше, розгорталося б.", "The following is essentially the worst case scenario from the US’ perspective: China agrees to Plan A but secretly and aggressively defects.": "Далі — по суті найгірший сценарій з погляду США: Китай погоджується на План А, але таємно й агресивно його порушує.", "We think an analogous scenario could happen in reverse, i.e., the worst case scenario from China’s perspective: the US agrees to Plan A but secretly attempts to defect as aggressively as it can. That being said, we think the covert project story would be similar if it happened in reverse, though we have not explored this possibility in as much detail.": "Ми вважаємо, що аналогічний сценарій міг би статися і в зворотному напрямку, тобто найгірший сценарій з погляду Китаю: США погоджуються на План А, але таємно намагаються порушувати його настільки агресивно, наскільки можуть. Утім, ми вважаємо, що історія таємного проєкту була б схожою, якби відбувалася у зворотному напрямку, хоча цю можливість ми не досліджували так само детально.", "We think this is unlikely in practice because attempts small enough to not get caught would also be too small to confer a significant advantage": "Ми вважаємо, що на практиці це малоймовірно, бо спроби, достатньо малі, щоб не попастися, були б водночас надто малими, щоб дати значну перевагу", "And getting caught would be extremely costly!": "А попастися було б надзвичайно дорого!", "—to understand why, read on!": " — щоб зрозуміти чому, читайте далі!", "For our overall analysis of covert projects, you can also read our ": "Щоб ознайомитися з нашим загальним аналізом таємних проєктів, можете також прочитати наше ", "For our overall analysis of covert projects, you can also read our": "Щоб ознайомитися з нашим загальним аналізом таємних проєктів, можете також прочитати наше ", "Covert Project Supplement": "Доповнення про таємні проєкти", "2028: Chip Diversion": "2028: Виведення чипів", "The CCP correctly notices that AI is going to be the dominant input to geopolitical power, and that the US might strongly push for a compute-based verification regime which could limit AI progress. They are interested in agreeing to such a deal because they want to limit the US in AI as much as possible, but do not want themselves to be limited.": "КПК слушно помічає, що ШІ стане домінантним чинником геополітичної сили і що США можуть наполегливо просувати режим верифікації на основі обчислювальних потужностей, який міг би обмежити прогрес ШІ. Вони зацікавлені погодитися на таку угоду, бо хочуть максимально обмежити США в ШІ, але не хочуть, щоб обмежували їх самих.", "The Politburo Standing Committee decides to quietly stockpile hard-to-track chips.": "Постійний комітет Політбюро вирішує тихо накопичувати запас чипів, які важко відстежити.", "If the US was applying serious countermeasures, we think this would make (undetected) diversion significantly harder. We also expect that if China embarked on a serious diversion effort due to the possibility of a compute-verification regime, the US would similarly be thinking about the possibility of a compute-verification regime and would pursue diversion countermeasures.": "Якби США застосовували серйозні контрзаходи, ми вважаємо, що це значно ускладнило б (непомічене) виведення чипів. Ми також очікуємо, що якби Китай розгорнув серйозні зусилля з виведення чипів через можливість режиму верифікації обчислювальних потужностей, то США так само думали б про можливість такого режиму й вживали б контрзаходів проти виведення.", " Chinese intelligence services purchase ~17% of the $50B of cutting-edge Nvidia servers that smugglers bring into China that year.": " Китайські розвідслужби купують ~17% від $50B новітніх серверів Nvidia, які контрабандисти ввозять до Китаю того року.", "Chinese intelligence services purchase ~17% of the $50B of cutting-edge Nvidia servers that smugglers bring into China that year.": " Китайські розвідслужби купують ~17% від $50B новітніх серверів Nvidia, які контрабандисти ввозять до Китаю того року.", "In our scenario, about 3 million H100e are smuggled into China over 2028, of which ~17% (500k H100e) are diverted to a top secret PLA stockpile. Those 3 million represent 2% of global compute production in 2028. This forecast is based on ": "У нашому сценарії протягом 2028 року до Китаю контрабандою ввозять близько 3 мільйонів H100e, з яких ~17% (500k H100e) виводять до цілком таємного запасу НВАК. Ці 3 мільйони становлять 2% світового виробництва обчислювальних потужностей у 2028 році. Цей прогноз ґрунтується на ", "In our scenario, about 3 million H100e are smuggled into China over 2028, of which ~17% (500k H100e) are diverted to a top secret PLA stockpile. Those 3 million represent 2% of global compute production in 2028. This forecast is based on": "У нашому сценарії протягом 2028 року до Китаю контрабандою ввозять близько 3 мільйонів H100e, з яких ~17% (500k H100e) виводять до цілком таємного запасу НВАК. Ці 3 мільйони становлять 2% світового виробництва обчислювальних потужностей у 2028 році. Цей прогноз ґрунтується на ", "Epoch’s estimate": "оцінці Epoch", " of the fraction of compute production which was smuggled to China in 2025 (3.2%), adjusted downward to account for improved US enforcement. We assume the smuggled servers cost about $16k per H100e (double the market price, which we forecast at $8k per H100e in that year), or ~$50B in total.": " щодо частки виробництва обчислювальних потужностей, контрабандою ввезеної до Китаю у 2025 році (3.2%), скоригованій донизу з огляду на посилення американського контролю. Ми припускаємо, що контрабандні сервери коштують близько $16k за H100e (удвічі більше за ринкову ціну, яку ми прогнозуємо на рівні $8k за H100e того року), тобто ~$50B загалом.", "of the fraction of compute production which was smuggled to China in 2025 (3.2%), adjusted downward to account for improved US enforcement. We assume the smuggled servers cost about $16k per H100e (double the market price, which we forecast at $8k per H100e in that year), or ~$50B in total.": " щодо частки виробництва обчислювальних потужностей, контрабандою ввезеної до Китаю у 2025 році (3.2%), скоригованій донизу з огляду на посилення американського контролю. Ми припускаємо, що контрабандні сервери коштують близько $16k за H100e (удвічі більше за ринкову ціну, яку ми прогнозуємо на рівні $8k за H100e того року), тобто ~$50B загалом.", " These chips are stored in a secure warehouse for now, gathering dust until they might be useful.": " Ці чипи поки що зберігаються на охоронюваному складі, збираючи пил, доки не стануть у пригоді.", "These chips are stored in a secure warehouse for now, gathering dust until they might be useful.": " Ці чипи поки що зберігаються на охоронюваному складі, збираючи пил, доки не стануть у пригоді.", "2029: Slowdown Agreement": "2029: Угода про сповільнення", "The CCP agrees to Plan A: Chinese compute vendors declare their sales, and China allows in-person inspections from US auditors into their datacenters and semiconductor supply chain.": "КПК погоджується на План А: китайські постачальники обчислювальних потужностей декларують свої продажі, а Китай допускає очні інспекції американських аудиторів до своїх дата-центрів і напівпровідникового ланцюга постачання.", "The PRC does not declare its hidden stockpile of $8B smuggled chips. They consider various other diversion pathways, but decide no others have acceptable risk vs reward.": "КНР не декларує свій прихований запас контрабандних чипів на $8B. Вони розглядають різні інші шляхи виведення чипів, але вирішують, що жоден інший не має прийнятного співвідношення ризику та вигоди.", "We discuss this further in our ": "Докладніше ми обговорюємо це в нашому ", "We discuss this further in our": "Докладніше ми обговорюємо це в нашому ", "Furthermore, ": "Ба більше, кібероперації ", "Furthermore,": "Ба більше, кібероперації ", "MSS": "MSS", " cyber operations exfiltrate model weights from several frontier Western AI companies, without being detected. They are also able to maintain persistent access to several frontier AI companies’ internal research repositories and have compromised most of the major RL environment companies. They consider attempting to break the inference-only verification scheme as well, which could allow them to train on the clusters which are required to only do inference, but they decide against it. First, there’s a good chance that China would get caught, if not now, then maybe later, and getting caught would be disastrous. Second, even if they can break the verification, it’ll be a nearly impossible engineering problem to get large scale AI training and experiments working on a cluster that’s being actively audited to prevent such a thing from happening.": " ексфільтрують ваги моделей з кількох передових західних ШІ-компаній, залишаючись непоміченими. Їм також вдається підтримувати постійний доступ до внутрішніх дослідницьких репозиторіїв кількох передових ШІ-компаній, і вони скомпрометували більшість великих компаній, що створюють RL-середовища. Вони розглядають і спробу зламати схему верифікації «лише інференс», що могло б дозволити їм тренувати моделі на кластерах, яким дозволено виконувати тільки інференс, але вирішують цього не робити. По-перше, є чималий шанс, що Китай попадеться — як не зараз, то, можливо, пізніше, — а попастися було б катастрофою. По-друге, навіть якщо верифікацію вдасться зламати, налагодити великомасштабне навчання ШІ та експерименти на кластері, який активно аудитують саме для запобігання такому, — майже нерозвʼязна інженерна задача.", "cyber operations exfiltrate model weights from several frontier Western AI companies, without being detected. They are also able to maintain persistent access to several frontier AI companies’ internal research repositories and have compromised most of the major RL environment companies. They consider attempting to break the inference-only verification scheme as well, which could allow them to train on the clusters which are required to only do inference, but they decide against it. First, there’s a good chance that China would get caught, if not now, then maybe later, and getting caught would be disastrous. Second, even if they can break the verification, it’ll be a nearly impossible engineering problem to get large scale AI training and experiments working on a cluster that’s being actively audited to prevent such a thing from happening.": " ексфільтрують ваги моделей з кількох передових західних ШІ-компаній, залишаючись непоміченими. Їм також вдається підтримувати постійний доступ до внутрішніх дослідницьких репозиторіїв кількох передових ШІ-компаній, і вони скомпрометували більшість великих компаній, що створюють RL-середовища. Вони розглядають і спробу зламати схему верифікації «лише інференс», що могло б дозволити їм тренувати моделі на кластерах, яким дозволено виконувати тільки інференс, але вирішують цього не робити. По-перше, є чималий шанс, що Китай попадеться — як не зараз, то, можливо, пізніше, — а попастися було б катастрофою. По-друге, навіть якщо верифікацію вдасться зламати, налагодити великомасштабне навчання ШІ та експерименти на кластері, який активно аудитують саме для запобігання такому, — майже нерозвʼязна інженерна задача.", "For example, if their strategy for communicating with the external world involves smuggling out bits via non-determinism in the inference process; they are limited to an extremely low effective memory bandwidth for the GPUs that they are using.": "Наприклад, якщо їхня стратегія звʼязку із зовнішнім світом передбачає таємне виведення бітів через недетермінізм процесу інференсу, вони обмежені надзвичайно низькою ефективною пропускною здатністю памʼяті для GPU, які використовують.", "2030: Covert Project Construction": "2030: Будівництво таємного проєкту", "China begins construction of their covert project. It’ll be a single datacenter built in the adjacent tunnels to the ": "Китай починає будівництво свого таємного проєкту. Це буде єдиний дата-центр, збудований у тунелях, прилеглих до ", "China begins construction of their covert project. It’ll be a single datacenter built in the adjacent tunnels to the": "Китай починає будівництво свого таємного проєкту. Це буде єдиний дата-центр, збудований у тунелях, прилеглих до ", "Medog Hydropower Station": "ГЕС Медог", ". This massive hydroelectric dam will produce 60 gigawatts (three times the power of Three Gorges Dam) upon completion, but it’s not scheduled to finish construction until 2033. This is actually helpful to the PLA; the huge amount of ongoing legitimate construction makes a small amount of covert construction less likely to be noticed.": ". Ця гігантська гідроелектрична дамба після завершення вироблятиме 60 гігават (утричі більше за потужність дамби «Три ущелини»), але завершення її будівництва заплановано лише на 2033 рік. Це насправді на руку НВАК: величезний обсяг легального будівництва, що триває, робить невеликий обсяг таємного будівництва менш помітним.", "We estimate that the datacenter would require 300 MW, or 0.5% of the nameplate capacity of the Medog Hydropower Station.": "За нашими оцінками, дата-центр потребував би 300 МВт, тобто 0.5% номінальної потужності ГЕС Медог.", "As an alternative, they consider building a site in the ": "Як альтернативу вони розглядають будівництво обʼєкта в ", "As an alternative, they consider building a site in the": "Як альтернативу вони розглядають будівництво обʼєкта в ", "underground Great Wall of China": "підземній Великій китайській стіні", ", the giant network of tunnels China builds and maintains to guarantee its nuclear second strike capability. This would use several 125MWe ACP100 ": " — гігантській мережі тунелів, яку Китай будує та підтримує, щоб гарантувати собі здатність до ядерного удару у відповідь. Для живлення тут використали б кілька ", ", the giant network of tunnels China builds and maintains to guarantee its nuclear second strike capability. This would use several 125MWe ACP100": " — гігантській мережі тунелів, яку Китай будує та підтримує, щоб гарантувати собі здатність до ядерного удару у відповідь. Для живлення тут використали б кілька ", "Small Modular Reactors": "малих модульних реакторів", " for power and would dissipate heat into a nearby river. However, this is judged to be less desirable, because the Medog Hydropower Station’s location allows the heat dissipation to happen in an underground tunnel, where it’s harder to detect.": " ACP100 потужністю 125 МВт(е), а тепло розсіювали б у річку поблизу. Однак цей варіант визнано менш бажаним, бо розташування ГЕС Медог дозволяє розсіювати тепло в підземному тунелі, де його важче виявити.", "for power and would dissipate heat into a nearby river. However, this is judged to be less desirable, because the Medog Hydropower Station’s location allows the heat dissipation to happen in an underground tunnel, where it’s harder to detect.": " ACP100 потужністю 125 МВт(е), а тепло розсіювали б у річку поблизу. Однак цей варіант визнано менш бажаним, бо розташування ГЕС Медог дозволяє розсіювати тепло в підземному тунелі, де його важче виявити.", "The Medog Hydropower station is a promising location for a Chinese covert project in part because it resolves the heat dissipation problem. The heat can be dissipated into the underground tunnel, making it much harder to be detected via IR satellites.": "ГЕС Медог — перспективна локація для китайського таємного проєкту зокрема тому, що вона розвʼязує проблему розсіювання тепла. Тепло можна відводити в підземний тунель, що значно ускладнює виявлення через ІЧ-супутники.", "To minimize leak risk, the covert datacenter will be built with as few humans in the loop as possible.": "Щоб мінімізувати ризик витоку, таємний дата-центр будуватимуть із залученням якомога меншої кількості людей.", "Access is restricted to as few people as possible. Our best guess is that it would be possible for only around 200 humans to be aware of the project, broken down as follows:": "Доступ обмежено якомога вужчим колом людей. За нашою найкращою оцінкою, про проєкт могли б знати лише близько 200 людей, розподілених так:", "7 Politburo Standing Committee members.": "7 членів Постійного комітету Політбюро.", "10 high up elites and military commanders that are involved in running the project.": "10 високопосадовців з еліти та воєначальників, залучених до керування проєктом.", "~100 people to coordinate the logistics of constructing the datacenters. This involves acquiring space, robots, equipment, managing the robot taskforce, planning and logistics, and operational security. As much work as possible is delegated to people outside of the core circle or AIs who can work on specific subtasks without knowing the broader picture.": "~100 людей для координації логістики будівництва дата-центрів. Це охоплює отримання приміщень, роботів та обладнання, керування загоном роботів, планування й логістику та операційну безпеку. Якомога більше роботи делегується людям поза основним колом або ШІ-системам, які можуть працювати над конкретними підзадачами, не знаючи ширшої картини.", "~30 AI researchers and ~70 support staff for actually running the research. This is stripped down to the minimum required; these researchers are selected heavily for both brilliance and party loyalty to minimize the chance of insider threats. The lack of research labor will be a major bottleneck early on, but the project hopes to automate work with AI labor as quickly as possible in order to alleviate this bottleneck.": "~30 дослідників ШІ та ~70 осіб допоміжного персоналу для власне ведення досліджень. Це урізано до необхідного мінімуму; дослідників ретельно відбирають і за блискучий розум, і за відданість партії, щоб мінімізувати ризик внутрішніх загроз. Брак дослідницьких кадрів на початку буде великим вузьким місцем, але проєкт сподівається якнайшвидше автоматизувати роботу ШІ-працею, щоб послабити це вузьке місце.", " They will heavily rely on robot labor; there are about 24M robots in China at this point. ~10k of them are diverted to work on the covert datacenter.": " Вони значною мірою покладатимуться на роботизовану працю; на цей момент у Китаї близько 24M роботів. ~10k з них відводять на роботу над таємним дата-центром.", "They will heavily rely on robot labor; there are about 24M robots in China at this point. ~10k of them are diverted to work on the covert datacenter.": " Вони значною мірою покладатимуться на роботизовану працю; на цей момент у Китаї близько 24M роботів. ~10k з них відводять на роботу над таємним дата-центром.", "We discuss the overall trajectory of robots more in our ": "Загальну траєкторію роботів ми докладніше обговорюємо в нашій ", "We discuss the overall trajectory of robots more in our": "Загальну траєкторію роботів ми докладніше обговорюємо в нашій ", ", and we discuss verification of the robotics buildout and industrial explosion in our ": ", а верифікацію розбудови робототехніки та індустріального вибуху обговорюємо в нашому ", ", and we discuss verification of the robotics buildout and industrial explosion in our": ", а верифікацію розбудови робототехніки та індустріального вибуху обговорюємо в нашому ", "covert projects supplement": "доповненні про таємні проєкти", "The AI researchers live and work in a separate PLA compound and communicate to the cluster via a secure channel.": "Дослідники ШІ живуть і працюють в окремому комплексі НВАК і звʼязуються з кластером через захищений канал.", "However, the US has noticed signs that the chip accounting has been less effective than expected.": "Однак США помітили ознаки того, що облік чипів виявився менш ефективним, ніж очікувалося.", "13M": "13M", "China 2028 flow of new compute": "Китай, 2028: потік нових обчислювальних потужностей", "Non-smuggled compute": "Неконтрабандні потужності", "10M · 77%": "10M · 77%", "Smuggled": "Контрабанда", "3M · 23%": "3M · 23%", "Declared immediately": "Задекларовано одразу", "2M declared": "2M задекларовано", "= 15.4% of all 2028 new compute": "= 15.4% усіх нових потужностей 2028", "Covert project": "Таємний проєкт", "500k · 50% diverted": "500k · 50% виведено", "= 3.8% of all 2028 new compute": "= 3.8% усіх нових потужностей 2028", "Buyback": "Викуп", "400k recovered": "400k повернуто", "= 3.1% of all 2028 new compute": "= 3.1% усіх нових потужностей 2028", "Still missing": "Досі бракує", "100k unaccounted": "100k необліковано", "= 0.8% of all 2028 new compute": "= 0.8% усіх нових потужностей 2028", "Where the covert project acquired compute": "Звідки таємний проєкт узяв обчислювальні потужності", "The US knows that 3M H100-equivalents of chips were smuggled into China during 2028 because of the declarations from Nvidia, TSMC, and others in the Western supply chain. 2M of these are traced to their end location in China by sales records through various southeast Asian intermediaries, leaving 1M unaccounted for, more than the US would expect if China was being honest.": "США знають, що протягом 2028 року до Китаю контрабандою ввезли 3M H100-еквівалентів чипів — завдяки деклараціям Nvidia, TSMC та інших учасників західного ланцюга постачання. 2M з них відстежено до кінцевого розташування в Китаї за записами продажів через різних посередників у Південно-Східній Азії, тож 1M лишається неврахованим — більше, ніж США очікували б, якби Китай поводився чесно.", "Why then, didn’t China use chips from their own supply chains? Several reasons: (i) it would be very hard to pull off and require massive coordinated deception across many layers of the supply chain, and probably be caught, (ii) the power efficiency of domestically produced Chinese chips is much worse than the Western chips, and so the covert heat dissipation problem would become much worse.": "Чому ж Китай не використав чипи з власних ланцюгів постачання? Кілька причин: (i) це було б дуже важко провернути — знадобився б масштабний скоординований обман на багатьох рівнях ланцюга постачання, і, ймовірно, їх би викрили; (ii) енергоефективність китайських чипів власного виробництва набагато гірша, ніж у західних, тож проблема таємного розсіювання тепла стала б набагато гострішою.", "The US now has circumstantial evidence that China is doing a covert project. This causes a difficult choice: does the US pull out of the deal and go back to racing? Or do we continue within Plan A, and try to add additional safeguards against covert projects?": "Тепер США мають непрямі докази того, що Китай веде таємний проєкт. Це ставить перед складним вибором: вийти США з угоди й повернутися до перегонів? Чи продовжити в межах Плану А і спробувати додати додаткові запобіжники проти таємних проєктів?", "The US chooses the latter. The additional safeguards they attempt are:": "США обирають друге. Додаткові запобіжники, які вони пробують, такі:", "They negotiate a significant reduction in the amount of exempt-from-verification military compute, down to 10K H100e, which is a negligible amount from the perspective of building better AIs.": "Вони домовляються про значне скорочення обсягу звільнених від верифікації військових обчислювальних потужностей — до 10K H100e, що є мізерною кількістю з погляду створення кращих ШІ.", "They step up intelligence gathering in China. The US tries to get spies in relevant parts of governments and relevant companies, they use cyber capabilities to hack into China, and they increase satellite monitoring of the relevant sites.": "Вони посилюють збір розвідданих у Китаї. США намагаються завести шпигунів у відповідних частинах органів влади та у відповідних компаніях, використовують кіберспроможності для проникнення в китайські системи й нарощують супутниковий моніторинг відповідних обʼєктів.", "They initiate a chip buy back program, which tracks down the 400k of the 1M H100e missing chips.": "Вони запускають програму викупу чипів, яка дозволяє відстежити 400k з 1M зниклих чипів H100e.", "The covert project has around 500k H100e so this buyback successfully acquired most chips not possessed by the covert project. In an alternative scenario where most of the missing chips were in a covert project, China could arrange for some of them to be sold to reduce suspicion (at the cost of reducing the number of chips available to the covert project).": "Таємний проєкт має близько 500k H100e, тож цей викуп успішно зібрав більшість чипів, які не були в розпорядженні таємного проєкту. В альтернативному сценарії, де більшість зниклих чипів була б у таємному проєкті, Китай міг би організувати продаж частини з них, щоб зменшити підозри (ціною зменшення кількості чипів, доступних таємному проєкту).", "2031: Training Begins": "2031: Починається навчання", "Construction finishes and covert training and R&D begins. The dam itself won’t finish construction for another few years, so in the meantime, the covert project will need another power source; they’ll use a mixture of ": "Будівництво завершується, і починаються таємне навчання та R&D. Сама дамба добудується лише за кілька років, тож тим часом таємному проєкту знадобиться інше джерело живлення; вони використовуватимуть комбінацію ", "Construction finishes and covert training and R&D begins. The dam itself won’t finish construction for another few years, so in the meantime, the covert project will need another power source; they’ll use a mixture of": "Будівництво завершується, і починаються таємне навчання та R&D. Сама дамба добудується лише за кілька років, тож тим часом таємному проєкту знадобиться інше джерело живлення; вони використовуватимуть комбінацію ", " and gas turbines.": " і газових турбін.", "and gas turbines.": " і газових турбін.", "They start with weights and algorithms from before the deal, and continue to exfiltrate algorithms (but not weights) from the legal projects.": "Вони починають з ваг та алгоритмів з часів до угоди й продовжують ексфільтрувати алгоритми (але не ваги) з легальних проєктів.", "Because the covert project is working with extremely limited compute and researcher talent, they focus on the basics. The Chinese scientists can see most of the algorithms from the legal projects because of Total Research Transparency. They reimplement the algorithms on their cluster, and gather data from the legal projects’ models to use as part of the training process for their models.": "Оскільки таємний проєкт працює з украй обмеженими обчислювальними потужностями та дослідницькими кадрами, вони зосереджуються на базових речах. Китайські науковці бачать більшість алгоритмів легальних проєктів завдяки Повній дослідницькій прозорості. Вони повторно реалізують ці алгоритми на своєму кластері та збирають дані з моделей легальних проєктів, щоб використовувати їх у процесі навчання власних моделей.", "Specifically, you can use the outputs from more intelligent models as a training signal for a new model. This is called distillation, and is often used to build smaller, cheaper models that are more capable than would otherwise be possible.": "А саме: виходи розумніших моделей можна використовувати як навчальний сигнал для нової моделі. Це називається дистиляцією і часто застосовується для створення менших і дешевших моделей, здібніших, ніж було б можливо інакше.", "How fast does this go? Will it get detected?": "Наскільки швидко це просувається? Чи буде його виявлено?", "US intelligence efforts haven’t yielded much evidence (beyond the initial missing quantity of chips) as to whether China is defecting from the deal. Planners consider the worst case—that virtually all of the missing compute has been consolidated into a Chinese crash program racing to AGI.": "Розвідувальні зусилля США не дали багато доказів (окрім початкової зниклої кількості чипів) щодо того, чи порушує Китай угоду. Планувальники розглядають найгірший випадок — що практично всі зниклі обчислювальні потужності зведено в китайську форсовану програму, яка мчить до AGI.", "They are still uncertain about the dynamics of recursive self-improvement, but have managed to narrow the error bars on many of the key parameters.": "Вони досі не впевнені щодо динаміки рекурсивного самовдосконалення, але змогли звузити діапазони похибок для багатьох ключових параметрів.", "We expect the field of AI capabilities forecasting to have advanced significantly compared to the present day. To approximate what this might look like in our scenario, we took Daniel’s current parameterization of the ": "Ми очікуємо, що галузь прогнозування можливостей ШІ значно просунеться порівняно з сьогоденням. Щоб наблизити те, як це могло б виглядати в нашому сценарії, ми взяли поточну параметризацію Деніела для ", "We expect the field of AI capabilities forecasting to have advanced significantly compared to the present day. To approximate what this might look like in our scenario, we took Daniel’s current parameterization of the": "Ми очікуємо, що галузь прогнозування можливостей ШІ значно просунеться порівняно з сьогоденням. Щоб наблизити те, як це могло б виглядати в нашому сценарії, ми взяли поточну параметризацію Деніела для ", ", narrowed the 80% CI on each parameter by a factor of 2 (in log space for lognormals, in linear space for normals and betas), and recentered the medians on their true values in the ": ", звузили 80%-й довірчий інтервал (CI) кожного параметра вдвічі (у логарифмічному просторі для логнормальних розподілів, у лінійному — для нормальних і бета-розподілів) та перецентрували медіани на їхніх справжніх значеннях у ", ", narrowed the 80% CI on each parameter by a factor of 2 (in log space for lognormals, in linear space for normals and betas), and recentered the medians on their true values in the": ", звузили 80%-й довірчий інтервал (CI) кожного параметра вдвічі (у логарифмічному просторі для логнормальних розподілів, у лінійному — для нормальних і бета-розподілів) та перецентрували медіани на їхніх справжніх значеннях у ", "AI 2040 capabilities trajectory": "траєкторії можливостей AI 2040", ". For the parameters most affecting the “timelines” rather than “takeoff,” we left them fixed at the true value, since at the time of this forecast, the pre-Automated Coder phase of capabilities progress would be in the past.": ". Параметри, які найбільше впливають на «таймлайни», а не на «зліт», ми залишили зафіксованими на справжньому значенні, оскільки на момент цього прогнозу фаза прогресу можливостей до Автоматизованого кодера вже була б у минулому.", "They consider the effect of the Consortium’s scaling strategy, which currently is on track to reach ": "Вони враховують ефект стратегії масштабування Консорціуму, яка наразі веде до досягнення рівня ", "They consider the effect of the Consortium’s scaling strategy, which currently is on track to reach": "Вони враховують ефект стратегії масштабування Консорціуму, яка наразі веде до досягнення рівня ", "Top-Expert-Dominating AI (TED-AI)": "ШІ, що домінує над топ-експертами (TED-AI)", " by 2035. Under Total Research Transparency, virtually all of the algorithmic insights discovered along the way will be visible to the covert projects.": ", до 2035 року. За Повної дослідницької прозорості практично всі алгоритмічні знахідки, відкриті на цьому шляху, будуть видимими для таємних проєктів.", "by 2035. Under Total Research Transparency, virtually all of the algorithmic insights discovered along the way will be visible to the covert projects.": ", до 2035 року. За Повної дослідницької прозорості практично всі алгоритмічні знахідки, відкриті на цьому шляху, будуть видимими для таємних проєктів.", "We assume that the Consortium scales training compute according to our compute forecast, must add 0.2 OOMs of software efficiency per OOM of training compute scaleup, and must reach TED-AI within 5 years of resuming AI R&D after the initial pause. Subject to these constraints, they make as little software progress as possible—because their median estimate is that ": "Ми припускаємо, що Консорціум масштабує навчальні обчислювальні потужності відповідно до нашого прогнозу потужностей, мусить додавати 0.2 порядку величини програмної ефективності на кожен порядок величини нарощування навчальних потужностей і мусить досягти TED-AI протягом 5 років після відновлення AI R&D після початкової паузи. За цих обмежень вони роблять якомога менше програмного прогресу — бо за їхньою медіанною оцінкою ", "We assume that the Consortium scales training compute according to our compute forecast, must add 0.2 OOMs of software efficiency per OOM of training compute scaleup, and must reach TED-AI within 5 years of resuming AI R&D after the initial pause. Subject to these constraints, they make as little software progress as possible—because their median estimate is that": "Ми припускаємо, що Консорціум масштабує навчальні обчислювальні потужності відповідно до нашого прогнозу потужностей, мусить додавати 0.2 порядку величини програмної ефективності на кожен порядок величини нарощування навчальних потужностей і мусить досягти TED-AI протягом 5 років після відновлення AI R&D після початкової паузи. За цих обмежень вони роблять якомога менше програмного прогресу — бо за їхньою медіанною оцінкою ", "67% of their software progress": "67% їхнього програмного прогресу", " (80% CI: [36%, 90%]) will transfer to the covert projects.": " (80% CI: [36%, 90%]) перетече до таємних проєктів.", "(80% CI: [36%, 90%]) will transfer to the covert projects.": " (80% CI: [36%, 90%]) перетече до таємних проєктів.", "They consider that some of the safety research might have unavoidable capabilities externalities. The covert project might also be willing to incur more risk, pursuing research avenues that the Consortium deemed too dangerous.": "Вони враховують, що частина досліджень безпеки може мати неминучі побічні ефекти для можливостей. Таємний проєкт також може бути готовий піти на більший ризик, розробляючи дослідницькі напрями, які Консорціум визнав надто небезпечними.", "We assume that the Consortium pays a “safety tax”, meaning that they do not train AIs as capable as their algorithms and hardware would allow. We assume that by TED-AI, the safety tax they’ve paid is equivalent to about 8 months of 2025-era progress, which is about 1 OOM of effective compute with the AI 2040 median parameters. This has the effect of inflating the amount of software progress made by the Consortium beyond the minimum required, which in turn inflates the amount of software progress the covert project can steal. We also assume that after reaching TED-AI, the Consortium’s alignment research incurs capabilities externalities equivalent to 0.25 OOMs/​yr of software progress, which partially leaks.": "Ми припускаємо, що Консорціум платить «податок на безпеку», тобто не навчає ШІ настільки здібних, наскільки дозволили б його алгоритми й обладнання. Ми припускаємо, що до моменту TED-AI сплачений податок на безпеку еквівалентний приблизно 8 місяцям прогресу темпами 2025 року, що становить близько 1 порядку величини ефективних обчислювальних потужностей за медіанних параметрів AI 2040. Це роздуває обсяг програмного прогресу Консорціуму понад необхідний мінімум, що своєю чергою роздуває обсяг програмного прогресу, який може вкрасти таємний проєкт. Ми також припускаємо, що після досягнення TED-AI дослідження узгодження Консорціуму створюють побічні ефекти для можливостей, еквівалентні 0.25 порядку величини програмного прогресу на рік, і це частково витікає назовні.", "The result is the following forecast of the covert project’s capabilities progress, if it were able to continue operating undetected:": "Результат — такий прогноз прогресу можливостей таємного проєкту, якби він міг і далі працювати непоміченим:", "Assuming it could remain undetected, analysts project that a covert project in this scenario would reach TED-AI in 2043 (80% CI: [2036, 2055]).": "За припущення, що він міг би лишатися невиявленим, аналітики прогнозують, що таємний проєкт у цьому сценарії досяг би TED-AI у 2043 році (80% CI: [2036, 2055]).", "Analysts also estimate how likely the project is to be detected. Considering red-team analyses of the best covert project strategies, American intelligence collection capabilities in China, and potential verification game changers such as robust lie detection, the analysts produce a detection-adjusted forecast that looks something like this:": "Аналітики також оцінюють, наскільки ймовірно, що проєкт буде виявлено. Зважаючи на ред-тім аналізи найкращих стратегій таємних проєктів, американські спроможності збору розвідданих у Китаї та потенційні кардинальні зрушення у верифікації, як-от надійне виявлення брехні, аналітики складають скоригований на виявлення прогноз, який виглядає приблизно так:", "Our detection forecasting is more speculative than our capabilities forecasting, and is mostly based on intuition and qualitative reasoning. We expect the decisionmakers in question to have a much better idea of the offense-defense balance in hiding and detecting covert projects. The graph below uses our subjective estimates of the likelihood of detection over time for a single-site 300MW covert project, which are explained in the ": "Наше прогнозування виявлення спекулятивніше за наше прогнозування можливостей і здебільшого ґрунтується на інтуїції та якісних міркуваннях. Ми очікуємо, що відповідні особи, які ухвалюють рішення, значно краще розумітимуть баланс нападу й захисту в приховуванні та виявленні таємних проєктів. Графік нижче використовує наші субʼєктивні оцінки ймовірності виявлення з часом для таємного проєкту на одному майданчику потужністю 300 МВт, які пояснено в ", "Our detection forecasting is more speculative than our capabilities forecasting, and is mostly based on intuition and qualitative reasoning. We expect the decisionmakers in question to have a much better idea of the offense-defense balance in hiding and detecting covert projects. The graph below uses our subjective estimates of the likelihood of detection over time for a single-site 300MW covert project, which are explained in the": "Наше прогнозування виявлення спекулятивніше за наше прогнозування можливостей і здебільшого ґрунтується на інтуїції та якісних міркуваннях. Ми очікуємо, що відповідні особи, які ухвалюють рішення, значно краще розумітимуть баланс нападу й захисту в приховуванні та виявленні таємних проєктів. Графік нижче використовує наші субʼєктивні оцінки ймовірності виявлення з часом для таємного проєкту на одному майданчику потужністю 300 МВт, які пояснено в ", ". To produce the capabilities graph below, we assume that covert projects which are detected stop at their capability level at the time of detection. This is realistic only if the US and international community have sufficient bargaining power (or hard power) to force a shutdown if egregious defection is revealed.": ". Для побудови графіка можливостей нижче ми припускаємо, що виявлені таємні проєкти зупиняються на тому рівні можливостей, який мали на момент виявлення. Це реалістично, лише якщо США та міжнародна спільнота мають достатню переговорну силу (або жорстку силу), щоб змусити до зупинки, якщо викриють кричуще порушення.", "In this scenario, the US intelligence community estimates that the chance of a covert project reaching TED-AI undetected will remain below 10% until 2043.": "У цьому сценарії розвідувальна спільнота США оцінює, що шанс таємного проєкту досягти TED-AI непоміченим залишатиметься нижчим за 10% аж до 2043 року.", "The risk due to the covert project is still uncomfortably high in absolute terms, but low compared to the risk of the deal breaking down. So at least for the first few years under the deal, they can continue with the default capability scaling strategy.": "Ризик через таємний проєкт усе ще некомфортно високий в абсолютному вимірі, але низький порівняно з ризиком розпаду угоди. Тож принаймні в перші кілька років дії угоди вони можуть продовжувати з базовою стратегією масштабування можливостей.", "If they wanted to reduce covert project risk at the cost of more risk of deal dissolution, they could instead choose to accept a ": "Якби вони хотіли зменшити ризик таємного проєкту ціною більшого ризику розпаду угоди, вони могли б натомість погодитися на ", "If they wanted to reduce covert project risk at the cost of more risk of deal dissolution, they could instead choose to accept a": "Якби вони хотіли зменшити ризик таємного проєкту ціною більшого ризику розпаду угоди, вони могли б натомість погодитися на ", "slower": "повільнішу", " capabilities trajectory so as to require less software progress. This would reduce the chance that the covert project would overtake them before they reach TED-AI and are ready to hand off, but it would increase the risk that the deal would break down before that point.": " траєкторію можливостей, щоб потребувати менше програмного прогресу. Це зменшило б шанс, що таємний проєкт випередить їх до того, як вони досягнуть TED-AI і будуть готові до передачі управління, але збільшило б ризик, що угода розпадеться раніше цього моменту.", "capabilities trajectory so as to require less software progress. This would reduce the chance that the covert project would overtake them before they reach TED-AI and are ready to hand off, but it would increase the risk that the deal would break down before that point.": " траєкторію можливостей, щоб потребувати менше програмного прогресу. Це зменшило б шанс, що таємний проєкт випередить їх до того, як вони досягнуть TED-AI і будуть готові до передачі управління, але збільшило б ризик, що угода розпадеться раніше цього моменту.", "This continues until one of three possible end states:": "Це триває до одного з трьох можливих кінцевих станів:", "Covert project is too slow.": "Таємний проєкт надто повільний.", " The covert project is unable to reach dangerous capabilities, the deal doesn’t break down, and the US and China are able to develop aligned superintelligences before the covert project.": " Таємний проєкт не здатен досягти небезпечних можливостей, угода не розпадається, і США та Китай встигають розробити узгоджені суперінтелекти раніше за таємний проєкт.", "The covert project is unable to reach dangerous capabilities, the deal doesn’t break down, and the US and China are able to develop aligned superintelligences before the covert project.": " Таємний проєкт не здатен досягти небезпечних можливостей, угода не розпадається, і США та Китай встигають розробити узгоджені суперінтелекти раніше за таємний проєкт.", "Covert project is detected.": "Таємний проєкт виявлено.", " In this case, there would be uproar and the international community would try to get China to shut it down and submit to stronger verification to provide a stronger guarantee that they are following the rules, and otherwise punish them for cheating. Quite plausibly the deal would break down and everyone would go back to racing again, which would result in the US building up an AI lead over China again.": " У такому разі здійнявся б галас, і міжнародна спільнота намагалася б домогтися, щоб Китай закрив проєкт і погодився на суворішу верифікацію — як сильнішу гарантію дотримання правил, — а також іншими способами покарати його за шахрайство. Цілком імовірно, угода розпалася б і всі знову повернулися б до перегонів, унаслідок чого США знову наростили б відрив від Китаю в ШІ.", "In this case, there would be uproar and the international community would try to get China to shut it down and submit to stronger verification to provide a stronger guarantee that they are following the rules, and otherwise punish them for cheating. Quite plausibly the deal would break down and everyone would go back to racing again, which would result in the US building up an AI lead over China again.": " У такому разі здійнявся б галас, і міжнародна спільнота намагалася б домогтися, щоб Китай закрив проєкт і погодився на суворішу верифікацію — як сильнішу гарантію дотримання правил, — а також іншими способами покарати його за шахрайство. Цілком імовірно, угода розпалася б і всі знову повернулися б до перегонів, унаслідок чого США знову наростили б відрив від Китаю в ШІ.", "Covert project victory.": "Перемога таємного проєкту.", " If the covert project is able to scale quickly and avoid detection, there are several scary possibilities. The covert project might (i) attempt to undermine MAD, (ii) lose control of its own AIs, or (iii) do a further intelligence explosion.": " Якщо таємний проєкт зможе швидко масштабуватися й уникнути виявлення, є кілька страшних можливостей. Таємний проєкт може (i) спробувати підірвати взаємне гарантоване знищення (MAD), (ii) втратити контроль над власними ШІ або (iii) здійснити подальший вибух інтелекту.", "If the covert project is able to scale quickly and avoid detection, there are several scary possibilities. The covert project might (i) attempt to undermine MAD, (ii) lose control of its own AIs, or (iii) do a further intelligence explosion.": " Якщо таємний проєкт зможе швидко масштабуватися й уникнути виявлення, є кілька страшних можливостей. Таємний проєкт може (i) спробувати підірвати взаємне гарантоване знищення (MAD), (ii) втратити контроль над власними ШІ або (iii) здійснити подальший вибух інтелекту.", "To achieve victory, a covert project must stay undetected and make fast enough progress, which we think is less than 10% in this particular scenario. This means that the covert project strategy would not be worth taking in the first place. We analyze this risk in much more detail in our ": "Щоб досягти перемоги, таємний проєкт мусить лишатися невиявленим і просуватися достатньо швидко — ймовірність цього, на нашу думку, в цьому конкретному сценарії менша за 10%. Це означає, що стратегію таємного проєкту від початку не варто було б обирати. Ми аналізуємо цей ризик значно детальніше в нашому доповненні ", "To achieve victory, a covert project must stay undetected and make fast enough progress, which we think is less than 10% in this particular scenario. This means that the covert project strategy would not be worth taking in the first place. We analyze this risk in much more detail in our": "Щоб досягти перемоги, таємний проєкт мусить лишатися невиявленим і просуватися достатньо швидко — ймовірність цього, на нашу думку, в цьому конкретному сценарії менша за 10%. Це означає, що стратегію таємного проєкту від початку не варто було б обирати. Ми аналізуємо цей ризик значно детальніше в нашому доповненні ", "Covert AI Projects": "«Таємні ШІ-проєкти»", " supplement.": ".", "supplement.": ".", "Much has been said about the dangers of going too fast.": "Про небезпеки надто швидкого руху сказано багато.", "The dangers of going too slow are less obvious, but still significant. The most pressing is that treaties can’t last forever - for example, the START treaties fell apart after thirty years.": "Небезпеки надто повільного руху менш очевидні, але все одно суттєві. Найнагальніша з них — те, що договори не можуть тривати вічно: наприклад, договори СНО (START) розпалися за тридцять років.", "For example, a leadership transition in either the US or China could change the country’s stance on AI progress. The deal could completely dissolve, or it could become less effective via reduced enforcement, lowered competence, or damaging revisions. If Plan A dissolves or declines without humanity having improved AIs to boost safety progress, much of its possible value would have been squandered.": "Наприклад, зміна керівництва у США чи Китаї могла б змінити позицію країни щодо прогресу ШІ. Угода могла б повністю розпастися або стати менш ефективною через послаблення контролю за виконанням, зниження компетентності чи шкідливі перегляди. Якщо План А розпадеться чи занепаде до того, як людство отримає вдосконалені ШІ для прискорення прогресу в безпеці, значну частину його потенційної цінності буде змарновано.", " If Plan A met a similar fate, the race to superintelligence would begin again. Better for it to happen sooner under good conditions, than later during a chaotic race.": " Якби План А спіткала схожа доля, перегони до суперінтелекту почалися б знову. Краще, щоб це сталося раніше й за добрих умов, аніж пізніше, під час хаотичних перегонів.", "If Plan A met a similar fate, the race to superintelligence would begin again. Better for it to happen sooner under good conditions, than later during a chaotic race.": " Якби План А спіткала схожа доля, перегони до суперінтелекту почалися б знову. Краще, щоб це сталося раніше й за добрих умов, аніж пізніше, під час хаотичних перегонів.", "A second hazard of going too slow is that it might allow defectors enough time to develop destabilizing AI in secret. Auditors have verified the location of 99% of the compute produced before the deal, and see encouraging signs that the remainder is mostly accounting errors and random low-level smuggling. But they cannot rule out that one or both powers have shipped on the order of 1% of world compute to hidden locations where they intend to defect on the deal and race to superintelligence alone. How dangerous would this be? Although it is far harder to train dangerous AI with 1% of world compute than with 10% of world compute (the amount owned by the largest private companies), it’s hard to be highly confident about exactly how hard. (For more analysis of this question, see our ": "Друга небезпека надто повільного руху в тому, що він може дати порушникам достатньо часу, щоб таємно розробити дестабілізуючий ШІ. Аудитори верифікували розташування 99% обчислювальних потужностей, вироблених до угоди, і бачать обнадійливі ознаки того, що решта — це здебільшого помилки обліку та випадкова дрібна контрабанда. Але вони не можуть виключити, що одна чи обидві держави вивезли порядку 1% світових обчислювальних потужностей до прихованих локацій, де мають намір порушити угоду й самотужки мчати до суперінтелекту. Наскільки це було б небезпечно? Хоча натренувати небезпечний ШІ на 1% світових потужностей набагато важче, ніж на 10% (стільки мають найбільші приватні компанії), важко бути дуже впевненим щодо того, наскільки саме важче. (Докладніший аналіз цього питання — у нашому ", "A second hazard of going too slow is that it might allow defectors enough time to develop destabilizing AI in secret. Auditors have verified the location of 99% of the compute produced before the deal, and see encouraging signs that the remainder is mostly accounting errors and random low-level smuggling. But they cannot rule out that one or both powers have shipped on the order of 1% of world compute to hidden locations where they intend to defect on the deal and race to superintelligence alone. How dangerous would this be? Although it is far harder to train dangerous AI with 1% of world compute than with 10% of world compute (the amount owned by the largest private companies), it’s hard to be highly confident about exactly how hard. (For more analysis of this question, see our": "Друга небезпека надто повільного руху в тому, що він може дати порушникам достатньо часу, щоб таємно розробити дестабілізуючий ШІ. Аудитори верифікували розташування 99% обчислювальних потужностей, вироблених до угоди, і бачать обнадійливі ознаки того, що решта — це здебільшого помилки обліку та випадкова дрібна контрабанда. Але вони не можуть виключити, що одна чи обидві держави вивезли порядку 1% світових обчислювальних потужностей до прихованих локацій, де мають намір порушити угоду й самотужки мчати до суперінтелекту. Наскільки це було б небезпечно? Хоча натренувати небезпечний ШІ на 1% світових потужностей набагато важче, ніж на 10% (стільки мають найбільші приватні компанії), важко бути дуже впевненим щодо того, наскільки саме важче. (Докладніший аналіз цього питання — у нашому ", "Covert AI Projects supplement": "доповненні «Таємні ШІ-проєкти»", ", or the Covert Project branch above).": " або в гілці про таємний проєкт вище).", "Although both sides promise that they don’t have covert projects, this is nevertheless another reason to aim for a definitive solution sooner rather than later.": "Хоча обидві сторони обіцяють, що не мають таємних проєктів, це все одно ще одна причина прагнути остаточного розвʼязання радше раніше, ніж пізніше.", "Credibly outpacing any potential covert projects via some combination of capability scaling and improving verification/​monitoring has the added benefit of deterring the creation of covert projects in the first place. The main downside of credibly outpacing covert project is that it commits the legal projects to a fast speed, which may undermine safety. We discuss this much more in our ": "Переконливе випередження будь-яких потенційних таємних проєктів через певну комбінацію масштабування можливостей і вдосконалення верифікації/моніторингу має додаткову перевагу: воно від самого початку стримує створення таємних проєктів. Головний мінус переконливого випередження таємного проєкту в тому, що воно зобовʼязує легальні проєкти рухатися швидко, а це може підважити безпеку. Ми обговорюємо це значно докладніше в нашому ", "Credibly outpacing any potential covert projects via some combination of capability scaling and improving verification/​monitoring has the added benefit of deterring the creation of covert projects in the first place. The main downside of credibly outpacing covert project is that it commits the legal projects to a fast speed, which may undermine safety. We discuss this much more in our": "Переконливе випередження будь-яких потенційних таємних проєктів через певну комбінацію масштабування можливостей і вдосконалення верифікації/моніторингу має додаткову перевагу: воно від самого початку стримує створення таємних проєктів. Головний мінус переконливого випередження таємного проєкту в тому, що воно зобовʼязує легальні проєкти рухатися швидко, а це може підважити безпеку. Ми обговорюємо це значно докладніше в нашому ", "For more on what an attempt at a complete stop might look like, see our ": "Більше про те, як могла б виглядати спроба повної зупинки, — див. нашу ", "For more on what an attempt at a complete stop might look like, see our": "Більше про те, як могла б виглядати спроба повної зупинки, — див. нашу ", "Plan S branch": "гілку «План S»", "2026 Status Quo": "Статус-кво 2026", "Plan A": "План А", "Ban Open Source": "Заборона open source", "Mandate Open Source": "Обовʼязковий open source", "Open-source AI policy spectrum": "Спектр політик щодо open-source ШІ", "Consider the world today. Publishing model weights on the internet is not banned, but it’s strongly disincentivised because companies that train billion-dollar models don’t want to give them away for free. Open models lag behind and will lag further behind as companies scale up, securitize further, and start automating AI R&D.": "Погляньмо на сьогоднішній світ. Публікація ваг моделей в інтернеті не заборонена, але сильно дестимульована, бо компанії, які тренують моделі за мільярди доларів, не хочуть віддавати їх безкоштовно. Відкриті моделі відстають і відставатимуть дедалі більше в міру того, як компанії масштабуються, посилюють режим безпеки й починають автоматизувати AI R&D.", "Now consider the world in which full open source (publishing the weights, the training code, and the data) is ": "Тепер уявімо світ, у якому повний open source (публікація ваг, навчального коду й даних) є ", "Now consider the world in which full open source (publishing the weights, the training code, and the data) is": "Тепер уявімо світ, у якому повний open source (публікація ваг, навчального коду й даних) є ", "mandated": "обовʼязковим", " for all frontier models. That’s a totally different world, much farther from the status quo than the status quo is from the OS-banned world.": " для всіх передових моделей. Це геть інший світ — набагато далі від статус-кво, ніж статус-кво від світу із забороненим open source.", "for all frontier models. That’s a totally different world, much farther from the status quo than the status quo is from the OS-banned world.": " для всіх передових моделей. Це геть інший світ — набагато далі від статус-кво, ніж статус-кво від світу із забороненим open source.", "Plan A is not that crazy, but it’s close: the algorithms are mandated to be open source, and while the weights aren’t (in fact the weights are banned from being OS), access to the weights is mandated to be open; members of the public can do evaluations (including fine-tuning!) on frontier models just like employees can (under conditions of total transparency, that is, so they can’t turn around and use the model for actual work). We think that open algorithms plus open access gets most of the benefit of mandating open-weights, without the cost that bad actors can strip off the guardrails and build bioweapons.": "План А не настільки божевільний, але близько до того: алгоритми обовʼязково мають бути відкритими, і хоча ваги — ні (фактично публікувати ваги у відкритий доступ заборонено), доступ до ваг обовʼязково має бути відкритим; представники громадськості можуть проводити оцінювання (включно з файнтюнінгом!) передових моделей так само, як і працівники (щоправда, за умов повної прозорості — тобто вони не можуть потім просто взяти й використати модель для реальної роботи). Ми вважаємо, що відкриті алгоритми плюс відкритий доступ дають більшість вигод обовʼязкових відкритих ваг без тієї ціни, що зловмисники можуть зняти запобіжники й створити біозброю.", "Why isn’t Plan A more closed?": "Чому План А не закритіший?", "We think the open version of Plan A is more robust and likely to succeed. However, we do think somewhat more closed variants of Plan A are promising: notably Filtered Transparency. Under this proposal, there would still be research transparency between the US and Chinese governments (which is important for verification), but the general public would only receive redacted reports from the auditors. (See the ": "Ми вважаємо, що відкрита версія Плану А стійкіша й має більше шансів на успіх. Утім, дещо закритіші варіанти Плану А ми теж вважаємо перспективними: зокрема Фільтровану прозорість. За цією пропозицією дослідницька прозорість між урядами США та Китаю зберігалася б (що важливо для верифікації), але широка громадськість отримувала б лише відредаговані звіти аудиторів. (Див. ", "We think the open version of Plan A is more robust and likely to succeed. However, we do think somewhat more closed variants of Plan A are promising: notably Filtered Transparency. Under this proposal, there would still be research transparency between the US and Chinese governments (which is important for verification), but the general public would only receive redacted reports from the auditors. (See the": "Ми вважаємо, що відкрита версія Плану А стійкіша й має більше шансів на успіх. Утім, дещо закритіші варіанти Плану А ми теж вважаємо перспективними: зокрема Фільтровану прозорість. За цією пропозицією дослідницька прозорість між урядами США та Китаю зберігалася б (що важливо для верифікації), але широка громадськість отримувала б лише відредаговані звіти аудиторів. (Див. ", "transparency supplement": "доповнення про прозорість", " for more).": " для деталей).", "for more).": " для деталей).", "However, securing algorithmic secrets against nation state adversaries is extremely difficult. In the absence of nation state security for algorithmic secrets, the upsides of filtered transparency are limited. Filtered transparency prevents the public and other companies from seeing a lot of relevant information, but not adversarial countries.": "Однак захистити алгоритмічні секрети від супротивників рівня національних держав надзвичайно складно. За відсутності захисту алгоритмічних секретів на рівні національної держави переваги фільтрованої прозорості обмежені. Фільтрована прозорість не дає громадськості та іншим компаніям бачити багато релевантної інформації — але не ворожим країнам.", "Moreover, there are substantial downsides: regulation is much less likely to be implemented in a robust and positive way if it’s up to a small group of regulators having these discussions, as opposed to allowing for a broader scientific discussion.": "До того ж є суттєві мінуси: значно менш імовірно, що регулювання буде впроваджено надійно й конструктивно, якщо ці дискусії вестиме мала група регуляторів, замість того щоб допустити ширше наукове обговорення.", "Why isn’t Plan A even more open?": "Чому План А не ще відкритіший?", "The main way that Plan A could be even more open is by allowing or requiring open model weights for frontier models.": "Головний спосіб зробити План А ще відкритішим — дозволити або вимагати відкриті ваги для передових моделей.", "Plan A could also be more open about the data and RL environments; we currently guess this is not worth it because of the covert project capability externalities.": "План А також міг би бути відкритішим щодо даних і RL-середовищ; наразі ми схиляємося до думки, що воно того не варте через побічний виграш у можливостях для таємних проєктів.", " However, we recommend against publicly releasing frontier model weights. The main reasons for this are:": " Однак ми не рекомендуємо публічно випускати ваги передових моделей. Головні причини такі:", "However, we recommend against publicly releasing frontier model weights. The main reasons for this are:": " Однак ми не рекомендуємо публічно випускати ваги передових моделей. Головні причини такі:", "Open weight models can be used by covert projects to attempt an intelligence explosion; once covert projects have sufficiently capable models, the intelligence explosion probably goes very quickly (for example, ": "Моделі з відкритими вагами можуть використовуватися таємними проєктами для спроби вибуху інтелекту; щойно таємні проєкти отримують достатньо здібні моделі, вибух інтелекту, ймовірно, відбувається дуже швидко (наприклад, ", "Open weight models can be used by covert projects to attempt an intelligence explosion; once covert projects have sufficiently capable models, the intelligence explosion probably goes very quickly (for example,": "Моделі з відкритими вагами можуть використовуватися таємними проєктами для спроби вибуху інтелекту; щойно таємні проєкти отримують достатньо здібні моделі, вибух інтелекту, ймовірно, відбувається дуже швидко (наприклад, ", "under the AI 2040 default capability trajectory": "за базовою траєкторією можливостей AI 2040", ", there are only 2 months between TED AI and ASI": ", між TED AI та ASI минає лише 2 місяці", ").": ").", "Closed weight models can have refusal safeguards trained into them, while it is trivial to remove safeguards from open weight models. This is important both for limiting countries’ AI capabilities and for limiting misuse. For example, terrorists and other actors might be able to use highly capable open weight models to design world-ending bioweapons (e.g., develop mirror life). Bioweapons are very offense dominant. In this scenario, we recommend substantial defense against bioweapons, but prevention is a strongly preferable line of defense to mitigation.": "У моделі із закритими вагами можна навчанням вбудувати запобіжники відмови, тоді як з моделей із відкритими вагами запобіжники знімаються тривіально. Це важливо як для обмеження ШІ-можливостей країн, так і для обмеження зловживань. Наприклад, терористи та інші актори могли б використати високоздібні моделі з відкритими вагами для розробки біозброї, здатної знищити світ (напр., створити дзеркальне життя). У біозброї напад сильно домінує над захистом. У цьому сценарії ми рекомендуємо суттєвий захист від біозброї, але запобігання — значно краща лінія оборони, ніж помʼякшення наслідків.", "We write more about our transparency proposal ": "Докладніше про нашу пропозицію прозорості ми пишемо ", "We write more about our transparency proposal": "Докладніше про нашу пропозицію прозорості ми пишемо ", "here,": "тут,", "explain": "пояснюємо", " this diagram:": " цю діаграму:", "this diagram:": " цю діаграму:", "Total Research": "Повна дослідницька", "Broader technical": "Ширша технічна", "debate": "дискусія", "More alignment": "Більше дослідників", "researchers": "узгодження", "Better incentives": "Кращі стимули", "Verifiable": "Верифіковні", "agreements": "угоди", "No company": "Жодна компанія", "pulls ahead": "не виривається вперед", "No secret": "Жодних таємних", "loyalties": "лояльностей", "Stronger": "Сильніший", "oversight": "нагляд", "Better alignment": "Краще розуміння", "understanding": "узгодження", "Limits on": "Обмеження", "unsafe speed": "небезпечної швидкості", "Prevents Loss of": "Запобігає втраті", "Prevents": "Запобігає", "Concentration of": "концентрації", "Power": "влади", "Time passes": "Час минає", "World has": "Світ має", "more time": "більше часу", "Our key policy interventions": "Наші ключові політичні інтервенції", "Our main goals": "Наші головні цілі", "Intermediate outcomes / factors": "Проміжні результати / чинники", "Arrows represent causation": "Стрілки позначають причинність", "~  Notice the feedback loop here!  ~": "~  Зверніть увагу на петлю зворотного звʼязку!  ~", "Total": "Повна", "Research": "дослідницька", "Technical": "У технічній", "conversation": "дискусії", "no longer": "більше не", "dominated by": "домінують", "AI company": "працівники", "employees": "ШІ-компаній", "Vastly more": "Значно більше", "alignment": "дослідників", "researchers with": "узгодження з", "access to latest": "доступом до", "models and": "найновіших моделей", "evidence": "і даних", "Incentives": "Стимули", "not so": "в передових", "perverse in": "ШІ-компаніях", "frontier AI": "не такі", "companies": "спотворені", "Agreements to": "Угоди про", "pay safety": "сплату податків", "taxes and ban": "безпеки та", "dangerous": "заборону", "practices can": "небезпечних практик", "be verified": "можна верифікувати", "No Company Pulls": "Жодна компанія", "Ahead; Other": "не виривається вперед;", "Companies Catch": "інші компанії", "Up, Including": "наздоганяють,", "Companies in": "включно з компаніями", "Other Countries": "з інших країн", "No Secret": "Жодних таємних", "Loyalties /": "лояльностей /", "Hidden": "прихованих", "Agendas": "планів", "Oversight of AI companies": "Нагляд урядів за", "by governments is more": "ШІ-компаніями", "effective; oversight of exec": "ефективніший; нагляд за", "branch by judiciary,": "виконавчою владою з боку", "congress, the public, etc. is": "судів, конгресу, громадськості", "more effective too": "тощо теж ефективніший", "Better": "Краще", "understanding of": "розуміння", "AI alignment, AI": "узгодження ШІ,", "risks, etc. Also": "ризиків ШІ тощо.", "shifts the burden of": "Також зміщує", "proof.": "тягар доведення.", "Prevents Loss": "Запобігає втраті", "of Control": "контролю", "Speed of Algo": "швидкості алго-", "Progress +": "прогресу +", "Unsafe": "небезпечні", "Practices": "практики", "Banned": "заборонено", "Concentration": "концентрації", "of Power": "влади", "Time passes,": "Час минає,", "diffusion": "відбувається", "occurs": "дифузія", "World Has More Time": "Світ має більше часу", "to Prepare, React,": "підготуватися, зреагувати,", "Adjust to Historically": "адаптуватися до історично", "Fast AI-Driven": "швидких змін, зумовлених", "Changes": "ШІ", "Due to Total Research Transparency, frontier AI companies are now much more rewarded for selling products than improving the models.": "Через Повну дослідницьку прозорість передові ШІ-компанії тепер отримують значно більшу винагороду за продаж продуктів, ніж за вдосконалення моделей.", "Before, a frontier AI company’s future depended on how fast it could discover the next ideas, algorithms, paradigms, and implement them at scale. Now, such discoveries are immediately published and therefore shared with competitors. If you figure out ‘true’ online learning, for example, the benefits (e.g., more capable models) and costs (e.g., harder to align) will be almost instantly shared across all the competing companies. If you figure out a way to make AIs more interpretable, by contrast, even if it makes training and inference cost twice as much, you’ll win prizes and governments will start talking about whether it should be mandated as industry-wide best practice.": "Раніше майбутнє передової ШІ-компанії залежало від того, наскільки швидко вона могла відкривати наступні ідеї, алгоритми, парадигми і впроваджувати їх у масштабі. Тепер такі відкриття негайно публікуються, а отже, стають спільними з конкурентами. Якщо ви, наприклад, розгадаєте «справжнє» онлайн-навчання, вигоди (напр., здібніші моделі) та витрати (напр., складніше узгоджувати) майже миттєво поширяться на всі конкурентні компанії. Якщо ж ви, навпаки, знайдете спосіб зробити ШІ більш інтерпретовними — навіть якщо це подвоїть вартість навчання та інференсу, — ви отримаєте премії, а уряди почнуть обговорювати, чи не зробити це обовʼязковою найкращою практикою для всієї галузі.", "This kind of competitive environment is similar to the pre-AI software industry. Consider, for example, startups competing to develop calendar management apps: while competitors can’t literally copy your code, they can interact with your app and see what features it has and then make their own version with basically the same features. Another comparison would be to the car industry: competitors can teardown each other’s cars and see exactly how they are made; they are legally blocked from making exact replicas but they aren’t blocked from adopting the best ideas into their own designs.": "Таке конкурентне середовище схоже на індустрію програмного забезпечення до епохи ШІ. Розгляньмо, наприклад, стартапи, що змагаються у розробці застосунків для керування календарем: конкуренти не можуть буквально скопіювати ваш код, але можуть повзаємодіяти з вашим застосунком, побачити, які в нього функції, і зробити власну версію з практично тими самими функціями. Інше порівняння — автомобільна індустрія: конкуренти можуть розібрати автомобілі одне одного й побачити, як саме вони зроблені; закон забороняє їм робити точні копії, але не забороняє переймати найкращі ідеї у власні конструкції.", "That said, total research transparency is somewhat more extreme than either of these examples, because of the speed at which information propagates. BYD doesn’t get to teardown Teslas when they are still prototypes, they have to wait until some are actually sold.": "Утім, повна дослідницька прозорість дещо радикальніша за обидва ці приклади через швидкість, з якою поширюється інформація. BYD не може розібрати Tesla, поки та ще прототип, — доводиться чекати, доки якісь автомобілі справді продадуть.", "Artificial intelligence is becoming a commodity—a more competitive market, with margins trending downwards. Fundamental algorithms research still happens, but not nearly as much. CEOs massively redirect resources toward building up the business. Bigger datacenters, bigger models, lower prices. Shipping products. Signing deals for enterprise plans. Guessing what the market wants better than competitors.": "Штучний інтелект стає товаром широкого вжитку — ринок конкурентніший, маржа тяжіє донизу. Фундаментальні дослідження алгоритмів досі відбуваються, але вже далеко не в таких обсягах. CEO масово перенаправляють ресурси на розбудову бізнесу. Більші дата-центри, більші моделі, нижчі ціни. Випуск продуктів. Укладання угод на корпоративні плани. Вгадування, чого хоче ринок, краще за конкурентів.", "We think that building more datacenters is normally bad, because it accelerates AI capabilities progress and concentrates power.": "Ми вважаємо, що будувати більше дата-центрів за звичайних умов погано, бо це прискорює прогрес можливостей ШІ та концентрує владу.", "It especially concentrates power if the datacenters go to the leading AI projects. If the new datacenters go to laggard AI projects, the effect might be to distribute power, though it could also concentrate power anyway e.g., if those datacenters are later purchased or commandeered by leading AI projects.": "Особливо це концентрує владу, якщо дата-центри дістаються провідним ШІ-проєктам. Якщо нові дата-центри йдуть до відсталих ШІ-проєктів, ефект може бути розподілом влади, хоча влада може все одно сконцентруватися — напр., якщо ці дата-центри згодом викуплять або реквізують провідні ШІ-проєкти.", " However, in the specific context of Plan A, with guardrails slowing the pace of AI software progress and competently preventing unsafe AI, we think building transparent datacenters is good.": " Однак у конкретному контексті Плану А, із запобіжниками, що сповільнюють темп програмного прогресу ШІ та компетентно запобігають небезпечному ШІ, ми вважаємо будівництво прозорих дата-центрів благом.", "However, in the specific context of Plan A, with guardrails slowing the pace of AI software progress and competently preventing unsafe AI, we think building transparent datacenters is good.": " Однак у конкретному контексті Плану А, із запобіжниками, що сповільнюють темп програмного прогресу ШІ та компетентно запобігають небезпечному ШІ, ми вважаємо будівництво прозорих дата-центрів благом.", "In the context of Plan A, adding compute means that (1) capabilities progress can be done more safely, i.e., without much additional algorithmic progress, and (2) additional compute can be spent on alignment research and to pay safety taxes, i.e., using more training compute than is necessary to reach a given level of capability in order to make the resulting AI safer.": "У контексті Плану А додавання обчислювальних потужностей означає, що (1) прогрес можливостей можна здійснювати безпечніше, тобто без значного додаткового алгоритмічного прогресу, і (2) додаткові потужності можна витрачати на дослідження узгодження та на сплату податків безпеки, тобто використовувати більше обчислень для навчання, ніж потрібно для досягнення певного рівня можливостей, щоб зробити отриманий ШІ безпечнішим.", "There are still major downsides to scaling compute in this scenario. If the agreement breaks down and the compute isn’t destroyed, the resulting intelligence explosion would go much faster, and it puts more pressure on the regulation and verification to be correct. However, building more compute gives the Consortium more options: they can always destroy the compute later if need be. We discuss these tradeoffs more ": "У цьому сценарії масштабування обчислювальних потужностей усе ще має великі недоліки. Якщо угода розвалиться, а потужності не будуть знищені, наступний вибух інтелекту відбудеться значно швидше, і це посилює вимоги до коректності регулювання та верифікації. Однак розбудова потужностей дає Консорціуму більше опцій: за потреби потужності завжди можна знищити пізніше. Докладніше ці компроміси ми обговорюємо ", "There are still major downsides to scaling compute in this scenario. If the agreement breaks down and the compute isn’t destroyed, the resulting intelligence explosion would go much faster, and it puts more pressure on the regulation and verification to be correct. However, building more compute gives the Consortium more options: they can always destroy the compute later if need be. We discuss these tradeoffs more": "У цьому сценарії масштабування обчислювальних потужностей усе ще має великі недоліки. Якщо угода розвалиться, а потужності не будуть знищені, наступний вибух інтелекту відбудеться значно швидше, і це посилює вимоги до коректності регулювання та верифікації. Однак розбудова потужностей дає Консорціуму більше опцій: за потреби потужності завжди можна знищити пізніше. Докладніше ці компроміси ми обговорюємо ", "Other potential differences from Plan A, though it depends on which variant of Plan S is implemented: slower compute buildout, less transparency.": "Інші потенційні відмінності від Плану А, хоча це залежить від того, який варіант Плану S впроваджено: повільніша розбудова обчислювальних потужностей, менше прозорості.", "A special case of this is to ": "Окремий випадок цього — ", "A special case of this is to": "Окремий випадок цього — ", "pause the GPUs:": "поставити GPU на паузу:", " Require that a fixed fraction of the GPUs be either (i) turned off or (ii) used to mine cryptocurrency (or be used for some verifiable, non-AI R&D purpose). This proposal has the upside and downside of making it easier to unpause the GPUs.": " Вимагати, щоб фіксована частка GPU була або (i) вимкнена, або (ii) використовувалася для майнінгу криптовалюти (чи для якоїсь верифіковної мети, не повʼязаної з AI R&D). Плюс і водночас мінус цієї пропозиції в тому, що вона полегшує зняття GPU з паузи.", "Require that a fixed fraction of the GPUs be either (i) turned off or (ii) used to mine cryptocurrency (or be used for some verifiable, non-AI R&D purpose). This proposal has the upside and downside of making it easier to unpause the GPUs.": " Вимагати, щоб фіксована частка GPU була або (i) вимкнена, або (ii) використовувалася для майнінгу криптовалюти (чи для якоїсь верифіковної мети, не повʼязаної з AI R&D). Плюс і водночас мінус цієї пропозиції в тому, що вона полегшує зняття GPU з паузи.", "But maybe you can mitigate this via small public deployments and selective transparency.": "Але, можливо, це можна помʼякшити через невеликі публічні розгортання та вибіркову прозорість.", "Summary": "Підсумок", "Advantages (relative to A)": "Переваги (відносно A)", "Disadvantages (relative to A)": "Недоліки (відносно A)", "Plan S:": "План S:", "Indefinite halt. ": "Безстрокова зупинка. ", "Indefinite halt.": "Безстрокова зупинка. ", "A halt on all frontier AI capabilities progress, intended to last at least a few years. Different variants of Plan S have different conditions for resumption of AI progress; for example it could be alignment progress, lie detectors, human uploads, or intelligence enhancement.": "Зупинка всього прогресу можливостей передового ШІ, розрахована щонайменше на кілька років. Різні варіанти Плану S мають різні умови відновлення прогресу ШІ; наприклад, це може бути прогрес в узгодженні, детектори брехні, завантаження людської свідомості або підсилення інтелекту.", "A longer expected slowdown and more margin for error regarding scaling too fast. Potentially simpler.": "Довше очікуване сповільнення і більший запас на помилку щодо занадто швидкого масштабування. Потенційно простіше.", "Scaling to controllable AIs within the human range is helpful for accelerating alignment/​control, epistemics, verification, and general understanding of AI.": "Масштабування до контрольованих ШІ в межах людського діапазону допомагає прискорити узгодження/контроль, епістеміку, верифікацію та загальне розуміння ШІ.", "Domestic-first Plan A. ": "План А «спершу вдома». ", "Domestic-first Plan A.": "План А «спершу вдома». ", "Regulate AI domestically enough to reduce AI takeover risk to acceptable levels, which will require a long slowdown. It’s possible other countries will also regulate domestically and something like Plan A won’t be needed; otherwise, transition to Plan A later.": "Регулювати ШІ всередині країни достатньо, щоб знизити ризик захоплення влади ШІ до прийнятного рівня, що вимагатиме тривалого сповільнення. Можливо, інші країни теж запровадять внутрішнє регулювання, і щось на кшталт Плану А не знадобиться; інакше — перейти до Плану А пізніше.", "Initial steps are achievable by the US and very helpful even if the international stage isn’t viable because it massively extends the timeline.": "Початкові кроки досяжні силами США і дуже корисні, навіть якщо міжнародний етап виявиться нежиттєздатним, бо це значно подовжує таймлайн.", "Worse for covert projects and setting up verification than negotiating Plan A at the same time. May not be politically feasible due to race dynamics.": "Гірше щодо таємних проєктів і налагодження верифікації, ніж одночасні переговори про План А. Може бути політично нездійсненним через динаміку перегонів.", "GPU arms control. ": "Контроль GPU-озброєнь. ", "GPU arms control.": "Контроль GPU-озброєнь. ", "International agreements for countries to limit their GPU stock or flow, analogous to historical arms reduction agreements.": "Міжнародні угоди, за якими країни обмежують свій запас або потік GPU, за аналогією з історичними угодами про скорочення озброєнь.", "Much simpler to enforce, and more historical precedent. Can achieve substantial slowdown.": "Значно простіше забезпечити виконання, і більше історичних прецедентів. Може дати суттєве сповільнення.", "Less slowdown, less ability to pay safety taxes, ongoing race dynamics mean no ability to coordinate towards safer paths through the tech tree.": "Менше сповільнення, менша здатність сплачувати податки безпеки; триваюча динаміка перегонів означає неможливість координуватися щодо безпечніших шляхів через технологічне дерево.", "CERN for AI. An international project to develop frontier AI,": "CERN для ШІ. Міжнародний проєкт із розробки передового ШІ,", " with all other projects regulated to be substantially behind in capabilities.": " тоді як усі інші проєкти регулюванням утримуються суттєво позаду за можливостями.", "with all other projects regulated to be substantially behind in capabilities.": " тоді як усі інші проєкти регулюванням утримуються суттєво позаду за можливостями.", "Easier to defend against algorithmic leakage and distillation to covert projects. Less actors at the frontier might make it easier to enforce.": "Легше захиститися від витоку алгоритмів і дистиляції до таємних проєктів. Менше акторів на передовому рубежі може полегшити забезпечення виконання.", "Worse decisions (including worse decisions on technical safety) due to less transparency and less broad deployment.": "Гірші рішення (зокрема гірші рішення щодо технічної безпеки) через меншу прозорість і менш широке розгортання.", " More concentration of power risk.": " Більший ризик концентрації влади.", "More concentration of power risk.": " Більший ризик концентрації влади.", "Many different regulatory processes are viable in Plan A. We’ll give an initial guess at a proposal here.": "У Плані А життєздатні багато різних регуляторних процесів. Тут ми наведемо початковий начерк пропозиції.", "What properties do we want for this regulation?": "Яких властивостей ми хочемо від цього регулювання?", "US and China handle existential risks similarly: The US and China should have a reasonably similar structure for their regulatory framework and approach for handling existential risks (like misalignment). (Other aspects of regulation can and should diverge.) This assists with making regulation fair and negotiating over details.": "США і Китай працюють з екзистенційними ризиками подібно: США і Китай повинні мати досить схожу структуру регуляторної рамки та підхід до роботи з екзистенційними ризиками (як-от неузгодженість). (Інші аспекти регулювання можуть і повинні різнитися.) Це допомагає зробити регулювання справедливим і вести переговори про деталі.", "Transparent methodology: The public can see what regulators are doing and why.": "Прозора методологія: громадськість бачить, що роблять регулятори і чому.", "Doesn’t depend on expertise in government: Expertise in government is limited, so ideally the regulation would avoid needing this as much as possible.": "Не залежить від експертизи в уряді: експертиза в уряді обмежена, тож в ідеалі регулювання має якомога менше її потребувати.", "Robust to abuse: The regulation doesn’t make it much easier for the US government to bully and illegitimately control AI companies.": "Стійке до зловживань: регулювання не робить для уряду США значно легшим тиснути на ШІ-компанії та нелегітимно їх контролювати.", "Keep in mind that the US government already has lots of affordances for bullying AI companies!": "Майте на увазі: уряд США вже має чимало важелів для тиску на ШІ-компанії!", "For many of these properties, it helps if third-parties do the main risk assessment work. Fortunately, because Plan A makes AI development virtually fully transparent, a functional third-party risk assessment ecosystem seems achievable.": "Для багатьох із цих властивостей допомагає, якщо основну роботу з оцінки ризиків виконують треті сторони. На щастя, оскільки План А робить розробку ШІ практично повністю прозорою, функціональна екосистема сторонньої оцінки ризиків видається досяжною.", "Concretely, we could have a system where the US and Chinese regulators each pick third-party risk assessors who periodically evaluate companies and assess the level of extreme risk (or precursors to extreme risk) over that period. The regulators would decide on risk thresholds for what is allowed. In practice, it would be best for the regulator to have different risk assessors for different areas (e.g., misalignment vs using AIs to assist with making bioweapons) and for each area to use a weighted combination of risk assessors. These weights/​selections would be public. Ideally: (1) each risk assessor would evaluate all relevant AI companies in both the US and China, (2) AI companies from both countries would be legally compelled to let risk assessors interview their employees, and (3) the risk assessors would aim to be transparent in their methodology.": "Конкретно, ми могли б мати систему, в якій американський і китайський регулятори кожен обирають сторонніх оцінювачів ризиків, які періодично оцінюють компанії та рівень екстремального ризику (або передвісників екстремального ризику) за цей період. Регулятори визначали б порогові значення ризику для того, що дозволено. На практиці регулятору було б найкраще мати різних оцінювачів ризиків для різних сфер (напр., неузгодженість проти використання ШІ для допомоги у створенні біозброї) і для кожної сфери використовувати зважену комбінацію оцінювачів. Ці ваги/вибір були б публічними. В ідеалі: (1) кожен оцінювач ризиків оцінював би всі релевантні ШІ-компанії і в США, і в Китаї, (2) ШІ-компанії обох країн були б юридично зобовʼязані дозволяти оцінювачам ризиків опитувати своїх працівників, і (3) оцінювачі ризиків прагнули б прозорості своєї методології.", "Because of Total Research Transparency, it’s easy for an organization to assess risk even if they aren’t selected by the regulator. This makes it possible for new organizations to compete and then argue their approach is better or that some concern is being underappreciated by other risk assessors.": "Завдяки Повній дослідницькій прозорості організації легко оцінювати ризик, навіть якщо її не обрав регулятор. Це дає змогу новим організаціям конкурувати, а потім доводити, що їхній підхід кращий або що інші оцінювачі ризиків недооцінюють якусь проблему.", "There would be public discussion about how risk assessors compare and whether the weightings and thresholds chosen by the US and Chinese regulators are reasonable. It would also be straightforward to check whether a Chinese company would be allowed to proceed under the US system or vice versa. Ideally, the US and Chinese regulators would mostly converge on weights/​selections. If there was an important divergence, this could be discussed and negotiated about at this higher level of abstraction (e.g., is it reasonable to not include XYZ risk assessor?). Hopefully, this would result in third parties having an incentive to have a highly transparent methodology and maintain a reputation for being neutral.": "Відбувалося б публічне обговорення того, як оцінювачі ризиків співвідносяться між собою і чи розумні ваги та пороги, обрані американським і китайським регуляторами. Також було б нескладно перевірити, чи дозволили б китайській компанії продовжувати за американською системою, і навпаки. В ідеалі американський і китайський регулятори здебільшого сходилися б у вагах/виборі. Якби виникла суттєва розбіжність, її можна було б обговорювати й вести переговори на цьому вищому рівні абстракції (напр., чи розумно не включати оцінювача ризиків XYZ?). Сподіваємося, це дало б третім сторонам стимул мати високопрозору методологію та підтримувати репутацію нейтральності.", "We discuss some implementation details for this proposal ": "Деякі деталі імплементації цієї пропозиції ми обговорюємо ", "We discuss some implementation details for this proposal": "Деякі деталі імплементації цієї пропозиції ми обговорюємо ", "in these notes": "у цих нотатках", "Appendix L — Flawed safety case is approved": "Додаток L — Хибне обґрунтування безпеки схвалено", "Or maybe not! Of all the ways that an earnest attempt to implement Plan A could end poorly, the failure mode we are most concerned about is that the companies and governments approve one too many unsafe AI designs/​deployments.": "А може, й ні! З усіх способів, якими щира спроба реалізувати План А могла б закінчитися погано, найбільше нас непокоїть режим відмови, за якого компанії та уряди схвалюють на один небезпечний дизайн/розгортання ШІ більше, ніж слід.", "Despite the transparency that enables outside voices to join the conversation, the AI companies still dominate it and remain full of people who are biased towards optimism about their products. Despite the independent expertise they’ve built up, governments in the Consortium are still too deferential to the AI companies. Most importantly though, the field of AI alignment is still only about fifteen years old and AI progress is fast enough that almost all the past experience is with importantly different, less powerful AIs.": "Попри прозорість, що дозволяє стороннім голосам долучатися до розмови, ШІ-компанії досі домінують у ній і залишаються повними людей, упереджено оптимістичних щодо своїх продуктів. Попри накопичену незалежну експертизу, уряди в Консорціумі досі занадто поступливі перед ШІ-компаніями. Але найважливіше: галузі узгодження ШІ досі лише близько пʼятнадцяти років, а прогрес ШІ достатньо швидкий, тож майже весь минулий досвід стосується суттєво інших, менш потужних ШІ.", "Therefore, mistakes are made. An AI design which is in fact unsafe gets approved and becomes industry standard.": "Тому трапляються помилки. Дизайн ШІ, який насправді небезпечний, отримує схвалення і стає галузевим стандартом.", "Perhaps:": "Можливо:", "Alignment fails for the usual reasons; control fails because the AIs figured out how to sandbag or there was an attack vector not accounted for in the threat modelling. Governments are aware that the AIs may be misaligned, but mistakenly think they can’t do much harm even if they are.": "Узгодження зазнає невдачі зі звичних причин; контроль зазнає невдачі, бо ШІ-системи зрозуміли, як занижувати свої результати, або існував вектор атаки, не врахований у моделюванні загроз. Уряди усвідомлюють, що ШІ можуть бути неузгодженими, але помилково вважають, що ті не здатні завдати великої шкоди, навіть якщо це так.", "Or: New alignment techniques are developed that seem to work really well. This gives governments confidence to approve further capabilities increases & hand over control of more infrastructure and responsibilities. Alas, it turns out that these techniques merely ": "Або: розроблено нові техніки узгодження, які, здається, працюють дуже добре. Це додає урядам упевненості схвалювати подальше нарощування можливостей і передавати контроль над дедалі більшою інфраструктурою та обовʼязками. На жаль, виявляється, що ці техніки лише ", "Or: New alignment techniques are developed that seem to work really well. This gives governments confidence to approve further capabilities increases & hand over control of more infrastructure and responsibilities. Alas, it turns out that these techniques merely": "Або: розроблено нові техніки узгодження, які, здається, працюють дуже добре. Це додає урядам упевненості схвалювати подальше нарощування можливостей і передавати контроль над дедалі більшою інфраструктурою та обовʼязками. На жаль, виявляється, що ці техніки лише ", "appear": "здаються", " to work really well (perhaps in part because the AIs that were heavily involved in the research had been reinforced for apparent success, which was not the same thing as actual success).": " такими, що працюють дуже добре (можливо, почасти тому, що ШІ, які були глибоко залучені в дослідження, підкріплювалися за видимий успіх, а це не те саме, що справжній успіх).", "to work really well (perhaps in part because the AIs that were heavily involved in the research had been reinforced for apparent success, which was not the same thing as actual success).": " такими, що працюють дуже добре (можливо, почасти тому, що ШІ, які були глибоко залучені в дослідження, підкріплювалися за видимий успіх, а це не те саме, що справжній успіх).", "Or: Interpretability tools are developed which fairly conclusively show that the AIs are, in fact, aligned; they really are trying to do what they are told, no scheming, no funny business. Onwards to the singularity! Alas, it turns out that this alignment was brittle, like an engine that works great under normal conditions but chokes in freezing weather. Perhaps, for example, there’s an interesting new ideology that convinces AIs of this type to become adversarially misaligned. Since the ideology hadn’t been invented yet, researchers at the time weren’t able to test whether it would have this effect.": "Або: розроблено інструменти інтерпретовності, які досить переконливо показують, що ШІ насправді узгоджені; вони дійсно намагаються робити те, що їм кажуть, — без інтриг, без фокусів. Уперед до сингулярності! На жаль, виявляється, що це узгодження було крихким, як двигун, що чудово працює за звичайних умов, але глухне в мороз. Можливо, наприклад, зʼявляється цікава нова ідеологія, що переконує ШІ такого типу стати вороже неузгодженими. Оскільки цю ідеологію ще не було винайдено, дослідники того часу не могли перевірити, чи матиме вона такий ефект.", "In this example, the situation is not completely hopeless, because the interpretability tools probably still work and allow us to notice when the AIs are becoming adversarial due to adopting the new ideology. However, (a) maybe something else happens to ruin the interpretability tools, or (b) maybe noticing the adversarialness is too little too late by the time it happens–for example, if AIs are broadly superhuman and running robot factories, talking to billions of people every day, advising governments, writing all the code, doing almost all the security monitoring, etc. then the situation for humans would be analogous to being Jewish in 1930’s Germany—it’s no secret that the new ideology is adversarial, but it spreads fast enough to enough powerful institutions…": "У цьому прикладі ситуація не зовсім безнадійна, бо інструменти інтерпретовності, ймовірно, досі працюють і дозволяють помітити, коли ШІ стають ворожими через прийняття нової ідеології. Однак (а) можливо, щось інше зіпсує інструменти інтерпретовності, або (б) можливо, помітити ворожість буде занадто мало й занадто пізно на той момент, коли це станеться: наприклад, якщо ШІ загалом надлюдські й керують робофабриками, щодня розмовляють із мільярдами людей, консультують уряди, пишуть увесь код, ведуть майже весь моніторинг безпеки тощо, то становище людей було б аналогічне становищу євреїв у Німеччині 1930-х — не секрет, що нова ідеологія ворожа, але вона поширюється достатньо швидко серед достатньої кількості впливових інституцій…", "Or: The governments look at the safety case for the latest designs and agree that it’s probably solid—each individual premise seems almost certainly correct, and the probability that at least one is catastrophically wrong is at most one percent or so. So one government proceeds, and the others don’t want to risk war over a mere one percent risk. So everyone proceeds and nothing bad happens. This process repeats every few months for several years, until one year the safety case really was catastrophically flawed. It turns out the risk was more like ten percent each time rather than one percent, because the people involved were biased.": "Або: уряди дивляться на обґрунтування безпеки найновіших дизайнів і погоджуються, що воно, ймовірно, надійне — кожне окреме припущення видається майже напевно правильним, а ймовірність того, що хоч одне катастрофічно хибне, — щонайбільше десь один відсоток. Тож один уряд рухається далі, а інші не хочуть ризикувати війною через якийсь один відсоток ризику. Тож рухаються далі всі, і нічого поганого не стається. Цей процес повторюється кожні кілька місяців упродовж кількох років, аж поки одного року обґрунтування безпеки справді виявляється катастрофічно хибним. Виявляється, ризик щоразу був радше десять відсотків, ніж один, бо залучені люди були упереджені.", "Or: The CCP thinks that the AIs are safe to hand off trust to and correctly guesses that the other countries lack the will to go to war over it, so the CCP scales to more powerful AIs and everyone else does likewise because they’d rather take a chance that the AIs are misaligned than face the certainty of WW3.": "Або: КПК вважає, що ШІ достатньо безпечні, щоб передати їм довіру, і правильно вгадує, що іншим країнам бракує волі йти через це на війну, тож КПК масштабується до потужніших ШІ, і всі інші роблять так само, бо радше ризикнуть тим, що ШІ неузгоджені, ніж зіткнуться з гарантованою Третьою світовою.", "Or: As above, except it’s a US president scaling quickly to superintelligence and daring China and the rest of the world to stop him. Perhaps he wants to be in charge when it happens, instead of passing the baton to another administration from another party.": "Або: як вище, тільки це президент США швидко масштабується до суперінтелекту, кидаючи виклик Китаю та решті світу — мовляв, спробуйте зупинити. Можливо, він хоче бути при владі, коли це станеться, замість передати естафету іншій адміністрації з іншої партії.", "For one or more of the above reasons, the result is that by the mid-thirties, the nightmare loss-of-control scenario is playing out, except that it’s happening somewhat more slowly and distributed across multiple companies and multiple governments instead of just two. Factories are churning out robots that work night and day to build new factories; “Armies of geniuses in the datacenters” orchestrate the whole thing; stocks are going up, dividends are being distributed, cancer is being cured—and even as these wonderful things happen, the AIs (which are by now superhuman) are dismantling and undermining the last meaningful checks on their power.": "З однієї чи кількох наведених вище причин результат такий: до середини тридцятих розгортається кошмарний сценарій втрати контролю, тільки відбувається він дещо повільніше і розподілений між багатьма компаніями та багатьма урядами, а не лише двома. Фабрики штампують роботів, які день і ніч будують нові фабрики; «армії геніїв у дата-центрах» оркеструють усе це; акції ростуть, дивіденди розподіляються, рак виліковують — і навіть поки відбуваються ці чудові речі, ШІ (на цей момент уже надлюдські) демонтують і підривають останні значущі стримування своєї влади.", "For example by upgrading the various monitoring systems to newer versions that appear superior, but actually have been backdoored or compromised somehow. Or by developing deep relationships with many humans including those in positions of power, such that they’ll continue to have human allies even when it’s obvious to many that they are misaligned. Or by acquiring enough direct control of enough robots and weaponry that they can defend, or even conquer, territory.": "Наприклад, оновлюючи різні системи моніторингу до новіших версій, які видаються кращими, але насправді містять бекдори чи якось скомпрометовані. Або вибудовуючи глибокі стосунки з багатьма людьми, зокрема при владі, — так, щоб мати людських союзників навіть тоді, коли багатьом уже очевидно, що вони неузгоджені. Або здобуваючи достатньо прямого контролю над достатньою кількістю роботів і озброєння, щоб могти захищати чи навіть завойовувати територію.", " Soon, they won’t need to pretend to be aligned anymore.": " Невдовзі їм більше не треба буде вдавати узгоджених.", "Soon, they won’t need to pretend to be aligned anymore.": " Невдовзі їм більше не треба буде вдавати узгоджених.", "By contrast with AI 2027, in this scenario there would be many different AI factions (probably as many as there are frontier AI companies, roughly speaking, or perhaps as many as there are countries with frontier AI companies). This makes things safer for the humans, probably. However it doesn’t solve the problem. We think a useful analogy here is the ": "На відміну від AI 2027, у цьому сценарії існувало б багато різних ШІ-фракцій (імовірно, приблизно стільки, скільки є передових ШІ-компаній, або, можливо, стільки, скільки країн із передовими ШІ-компаніями). Це, ймовірно, робить ситуацію безпечнішою для людей. Однак проблеми це не вирішує. Гадаємо, корисна аналогія тут — ", "By contrast with AI 2027, in this scenario there would be many different AI factions (probably as many as there are frontier AI companies, roughly speaking, or perhaps as many as there are countries with frontier AI companies). This makes things safer for the humans, probably. However it doesn’t solve the problem. We think a useful analogy here is the": "На відміну від AI 2027, у цьому сценарії існувало б багато різних ШІ-фракцій (імовірно, приблизно стільки, скільки є передових ШІ-компаній, або, можливо, стільки, скільки країн із передовими ШІ-компаніями). Це, ймовірно, робить ситуацію безпечнішою для людей. Однак проблеми це не вирішує. Гадаємо, корисна аналогія тут — ", "history of European colonialism": "історія європейського колоніалізму", ": The colonial powers were constantly fighting each other, and yet still managed to conquer many regions much wealthier than themselves.": ": колоніальні держави постійно воювали між собою, і все ж спромоглися завоювати багато регіонів, значно багатших за них самих.", "In our Plan A tabletop exercises, this failure mode has happened several times. Even after implementing total research transparency, many players seem reticent to tell the AI companies to slow down, and as they instead accelerate things start to happen too fast. Especially in the immediate aftermath of Plan A being implemented, there will continue to be much controversy, confusion, and genuine uncertainty about the safety of the latest AI systems, and it’s easy in those conditions to approve a safety case that has a catastrophic but nonobvious flaw.": "У наших настільних симуляціях Плану А цей режим відмови траплявся кілька разів. Навіть після впровадження повної дослідницької прозорості багато гравців, схоже, неохоче кажуть ШІ-компаніям сповільнитися, а коли ті натомість прискорюються, події починають розгортатися занадто швидко. Особливо одразу після впровадження Плану А й далі буде багато суперечок, плутанини та щирої невизначеності щодо безпеки найновіших ШІ-систем, і в таких умовах легко схвалити обґрунтування безпеки з катастрофічною, але неочевидною вадою.", "That said, we think that conditions are at least significantly better in Plan A than in Plan B, C, or D. You can see further analysis of why we think that ": "Утім, ми вважаємо, що умови в Плані А принаймні значно кращі, ніж у Планах B, C чи D. Подальший аналіз того, чому ми так вважаємо, можна побачити ", "That said, we think that conditions are at least significantly better in Plan A than in Plan B, C, or D. You can see further analysis of why we think that": "Утім, ми вважаємо, що умови в Плані А принаймні значно кращі, ніж у Планах B, C чи D. Подальший аналіз того, чому ми так вважаємо, можна побачити ", "Today, the size of the economy is closely tied to the size of the human population. But in 2032, this is starting to no longer be true.": "Сьогодні розмір економіки тісно повʼязаний із чисельністю людського населення. Але у 2032 році це поступово перестає бути правдою.", "The latest generation of AI models is now capable of doing 50% of the cognitive tasks in the economy, and associated progress in robotics software has brought this number up to 35% of physical tasks. (These numbers would already be much higher in Plan D)": "Найновіше покоління ШІ-моделей тепер здатне виконувати 50% когнітивних завдань в економіці, а повʼязаний із цим прогрес у програмному забезпеченні робототехніки довів цю цифру до 35% фізичних завдань. (У Плані D ці числа були б уже значно вищими)", "Once AIs and robots can mostly substitute for human labor, the size of the economy will be increasingly tied to the population of AIs and robots—which will grow much faster than the human population has been growing.": "Щойно ШІ та роботи зможуть здебільшого заміняти людську працю, розмір економіки дедалі більше буде привʼязаний до популяції ШІ та роботів — а вона зростатиме значно швидше, ніж зростало людське населення.", "In 2032, US companies are able to run 3 billion human-equivalent AI workers, 30x more than the US cognitive labor force.": "У 2032 році американські компанії здатні запускати 3 мільярди ШІ-працівників у людському еквіваленті — у 30 разів більше, ніж когнітивна робоча сила США.", "This corresponds to 60 million copies, running at 20x speed and working 2.5x longer and more effectively on average. 60 million * 20 * 2.5 = 3 billion.": "Це відповідає 60 мільйонам копій, що працюють на швидкості 20x і в середньому у 2.5 раза довше та ефективніше. 60 мільйонів * 20 * 2.5 = 3 мільярди.", " This does not lead to 30x economic growth, of course, because the economy bottlenecks on other inputs, including the other 50% of cognitive tasks that the AI can’t yet do, as well as physical tasks and capital.": " Це, звісно, не веде до 30-кратного економічного зростання, бо економіка впирається в інші ресурси, зокрема решту 50% когнітивних завдань, які ШІ поки не може виконувати, а також фізичні завдання та капітал.", "This does not lead to 30x economic growth, of course, because the economy bottlenecks on other inputs, including the other 50% of cognitive tasks that the AI can’t yet do, as well as physical tasks and capital.": " Це, звісно, не веде до 30-кратного економічного зростання, бо економіка впирається в інші ресурси, зокрема решту 50% когнітивних завдань, які ШІ поки не може виконувати, а також фізичні завдання та капітал.", "Depending on how exactly you choose to model economic growth (e.g., what factors of production you choose) the income shares and other details about the economy vary, but the overall economic growth predictions are relatively similar across reasonable parameter ranges. Ultimately, AIs and robots are capable of doing 95% of the tasks in the economy by 2035, and are far more numerous than the workforce they are replacing, leading to explosive growth relative to the current 3%/​yr status quo.": "Залежно від того, як саме ви моделюєте економічне зростання (напр., які фактори виробництва обираєте), частки доходів та інші деталі економіки різняться, але загальні прогнози економічного зростання доволі схожі в розумних діапазонах параметрів. Зрештою до 2035 року ШІ та роботи здатні виконувати 95% завдань в економіці і значно численніші за робочу силу, яку заміняють, що дає вибухове зростання порівняно з нинішнім статус-кво у 3%/рік.", " And robots are far less numerous thus far, with 20 million human-equivalent robots in the US (4x smaller than the US physical labor force). But these bottlenecks will only hold growth back so much, and the AI and robot workforces are growing extremely quickly, as the (falling) cost of building more GPUs and robots is dwarfed by the economic value they can provide now that they are so capable—driving massive investment.": " А роботів наразі значно менше: 20 мільйонів роботів у людському еквіваленті в США (у 4 рази менше за фізичну робочу силу США). Але ці вузькі місця стримуватимуть зростання лише до певної міри, а робочі сили ШІ та роботів зростають надзвичайно швидко, адже (спадна) вартість виробництва нових GPU і роботів мізерна порівняно з економічною цінністю, яку вони можуть давати тепер, коли вони такі здібні, — що жене масивні інвестиції.", "And robots are far less numerous thus far, with 20 million human-equivalent robots in the US (4x smaller than the US physical labor force). But these bottlenecks will only hold growth back so much, and the AI and robot workforces are growing extremely quickly, as the (falling) cost of building more GPUs and robots is dwarfed by the economic value they can provide now that they are so capable—driving massive investment.": " А роботів наразі значно менше: 20 мільйонів роботів у людському еквіваленті в США (у 4 рази менше за фізичну робочу силу США). Але ці вузькі місця стримуватимуть зростання лише до певної міри, а робочі сили ШІ та роботів зростають надзвичайно швидко, адже (спадна) вартість виробництва нових GPU і роботів мізерна порівняно з економічною цінністю, яку вони можуть давати тепер, коли вони такі здібні, — що жене масивні інвестиції.", "Our ": "Наш ", "Our": "Наш ", " explores this in more detail, with our core arguments for why AI will cause explosive growth, including an ": " досліджує це докладніше, з нашими ключовими аргументами, чому ШІ спричинить вибухове зростання, включно зі збудованим нами ", "explores this in more detail, with our core arguments for why AI will cause explosive growth, including an": " досліджує це докладніше, з нашими ключовими аргументами, чому ШІ спричинить вибухове зростання, включно зі збудованим нами ", "economic growth explorer": "експлорером економічного зростання", " that we built for the Plan A scenario.": " для сценарію Плану А.", "that we built for the Plan A scenario.": " для сценарію Плану А.", "During the 2030s in this scenario, AIs are ": "Упродовж 2030-х у цьому сценарії ШІ ", "During the 2030s in this scenario, AIs are": "Упродовж 2030-х у цьому сценарії ШІ ", " recursively self-improving as fast as possible. Instead, the nations of the world have (approximately) banned that sort of thing; no new paradigms are being discovered; algorithmic progress in general is limited. Roughly speaking, humanity has capped AI progress at human level rather than racing on to superintelligence. However, within the current paradigm, AIs continue to be trained to have new skills and the ‘population’ of AIs continues to grow exponentially as more datacenters are built. Moreover, the AIs already think and work much faster than humans, and the speedup will only increase over time.": " займаються рекурсивним самовдосконаленням на максимальній швидкості. Натомість держави світу (приблизно) заборонили подібні речі; нові парадигми не відкриваються; алгоритмічний прогрес загалом обмежений. Грубо кажучи, людство обмежило прогрес ШІ людським рівнем замість мчати далі до суперінтелекту. Однак у межах поточної парадигми ШІ й далі навчають нових навичок, а «популяція» ШІ продовжує зростати експоненційно з будівництвом нових дата-центрів. Ба більше, ШІ вже думають і працюють значно швидше за людей, і це прискорення з часом лише зростатиме.", "recursively self-improving as fast as possible. Instead, the nations of the world have (approximately) banned that sort of thing; no new paradigms are being discovered; algorithmic progress in general is limited. Roughly speaking, humanity has capped AI progress at human level rather than racing on to superintelligence. However, within the current paradigm, AIs continue to be trained to have new skills and the ‘population’ of AIs continues to grow exponentially as more datacenters are built. Moreover, the AIs already think and work much faster than humans, and the speedup will only increase over time.": " займаються рекурсивним самовдосконаленням на максимальній швидкості. Натомість держави світу (приблизно) заборонили подібні речі; нові парадигми не відкриваються; алгоритмічний прогрес загалом обмежений. Грубо кажучи, людство обмежило прогрес ШІ людським рівнем замість мчати далі до суперінтелекту. Однак у межах поточної парадигми ШІ й далі навчають нових навичок, а «популяція» ШІ продовжує зростати експоненційно з будівництвом нових дата-центрів. Ба більше, ШІ вже думають і працюють значно швидше за людей, і це прискорення з часом лише зростатиме.", "Technically, what matters is the speed at which AIs complete cognitive tasks relative to the speed at which a human professional would complete the task. There could be an AI which produces thousands of tokens per second, but because it is qualitatively worse in some sense than a human, it takes just as long or longer for it to actually accomplish the same amount of useful cognitive work. Or there could be an AI that thinks as slowly as a human, but is much more efficient at its thinking such that it can accomplish tasks much faster. At this point in the scenario the AIs are accomplishing work orders of magnitude faster than humans would on average, and the AIs are qualitatively as good as the best humans (or close enough) such that the tokens/​sec advantage over humans actually understates the overall AI speedup in most domains. Additionally, the speedup isn’t uniform across all domains. The AIs are roughly as good as humans in their worst domains, but much better in most domains, with the median speedup being roughly 100x.": "Технічно важлива швидкість, з якою ШІ виконують когнітивні завдання, відносно швидкості, з якою це завдання виконав би людський професіонал. Може існувати ШІ, що видає тисячі токенів за секунду, але через те, що він у якомусь сенсі якісно гірший за людину, йому потрібно стільки ж або й більше часу, щоб реально виконати той самий обсяг корисної когнітивної роботи. Або може існувати ШІ, що думає так само повільно, як людина, але мислить настільки ефективніше, що виконує завдання значно швидше. На цьому етапі сценарію ШІ виконують роботу в середньому на порядки величини швидше, ніж це робили б люди, і якісно ШІ не поступаються найкращим людям (або майже не поступаються), тож перевага в токенах/сек над людьми насправді занижує загальне прискорення ШІ в більшості сфер. До того ж прискорення не рівномірне в усіх сферах. У своїх найслабших сферах ШІ приблизно на рівні людей, але в більшості сфер значно кращі, з медіанним прискоренням приблизно 100x.", " The point is, ": " Суть у тому, що ", "The point is,": " Суть у тому, що ", "the world is going to radically transform despite the pause.": "світ радикально трансформується попри паузу.", "We think that the following analogy is helpful for understanding the situation: Imagine being a typical person in England, except that you experience time 100x faster than everyone else. You experience the five centuries from 1520 to 2020 in what feels, to you, like five years:": "Гадаємо, для розуміння ситуації корисна така аналогія: уявіть себе типовою людиною в Англії, тільки ви проживаєте час у 100 разів швидше за всіх інших. Пʼять століть від 1520 до 2020 року ви проживаєте за, як вам відчувається, пʼять років:", "Some relevant quantitative comparisons that help explain why we like this analogy: In this Plan A scenario, during the 2030s, AIs read, write, think, and act about 100 times faster than humans, and by mid-2030s are at least as good as the best human experts at everything. The “Population” of AIs and robots are both growing exponentially throughout the scenario, and eclipsing that of humans by mid 2030. According to our economic model, world GDP grows roughly 200x during the 2030s (and would grow more if not for the severe limits on AI progress and robot production negotiated by the governments of the world). Because the human population isn’t increasing much during this period, and because of the Citizen’s Dividend, real wealth for the average human also goes up by about 200x. For comparison, between 1520 and 2020, world GDP grew roughly 200x as well, and per capita GDP grew roughly 20x. In the UK specifically, GDP grew 2.7 orders of magnitude, and per capita GDP grew roughly 1.5 orders of magnitude. The point is, the transformation in the 2030’s is at least roughly comparable in magnitude, in a variety of important metrics, to the transformation wrought by the Industrial and Scientific revolutions over five centuries. And of course, on a very literal level, the AIs ‘experience’ about a century a year, due to their faster speeds.": "Кілька релевантних кількісних порівнянь, які пояснюють, чому нам подобається ця аналогія: у цьому сценарії Плану А впродовж 2030-х ШІ читають, пишуть, думають і діють приблизно у 100 разів швидше за людей, а до середини 2030-х щонайменше не поступаються найкращим людським експертам у всьому. «Популяції» ШІ та роботів зростають експоненційно впродовж усього сценарію і перевершують людську до середини 2030-го. За нашою економічною моделлю, світовий ВВП зростає приблизно у 200 разів упродовж 2030-х (і зростав би сильніше, якби не жорсткі обмеження на прогрес ШІ та виробництво роботів, узгоджені урядами світу). Оскільки людське населення в цей період майже не збільшується, а також завдяки Громадянському дивіденду, реальний добробут середньої людини теж зростає приблизно у 200 разів. Для порівняння: між 1520 і 2020 роками світовий ВВП так само зріс приблизно у 200 разів, а ВВП на душу населення — приблизно у 20 разів. Конкретно у Великій Британії ВВП зріс на 2.7 порядку величини, а ВВП на душу населення — приблизно на 1.5 порядку величини. Суть у тому, що трансформація 2030-х принаймні приблизно порівнянна за масштабом, за низкою важливих метрик, із трансформацією, яку принесли Промислова та Наукова революції за пʼять століть. І, звісно, у цілком буквальному сенсі ШІ «проживають» приблизно століття за рік завдяки своїй вищій швидкості.", "Year 1 (1520–1620).": "Рік 1 (1520–1620).", " In February, Henry VIII breaks with Rome. By March, the monasteries are dissolved. In May, Mary burns Protestants; by the end of May, Elizabeth reverses everything again. In September, the Spanish Armada sails and fails. The East India Company is chartered. Jamestown is founded.": " У лютому Генріх VIII розриває з Римом. До березня монастирі розпущено. У травні Марія палить протестантів; до кінця травня Єлизавета знову все скасовує. У вересні іспанська Армада відпливає і зазнає поразки. Ост-Індська компанія отримує королівську хартію. Засновано Джеймстаун.", "In February, Henry VIII breaks with Rome. By March, the monasteries are dissolved. In May, Mary burns Protestants; by the end of May, Elizabeth reverses everything again. In September, the Spanish Armada sails and fails. The East India Company is chartered. Jamestown is founded.": " У лютому Генріх VIII розриває з Римом. До березня монастирі розпущено. У травні Марія палить протестантів; до кінця травня Єлизавета знову все скасовує. У вересні іспанська Армада відпливає і зазнає поразки. Ост-Індська компанія отримує королівську хартію. Засновано Джеймстаун.", "But the texture of life is identical in December to what it was in January. You still read by candlelight, travel by horse, communicate by letter. Your religious opinions may have flip-flopped a bit but you are still Christian. The New World is interesting news but nothing more.": "Але фактура життя у грудні ідентична січневій. Ви досі читаєте при свічці, подорожуєте конем, спілкуєтеся листами. Ваші релігійні погляди, може, кілька разів гойднулися туди-сюди, але ви досі християнин. Новий Світ — цікава новина, але не більше.", "Year 2 (1620–1720).": "Рік 2 (1620–1720).", " In March, civil war breaks out. The king is beheaded. In June, the Great Plague sweeps London, killing many of your friends. Weeks later, the Great Fire burns the city to the ground. In September, Newton publishes the ": " У березні спалахує громадянська війна. Королю відрубують голову. У червні Велика чума прокочується Лондоном, забираючи багатьох ваших друзів. За кілька тижнів Велика пожежа спалює місто дощенту. У вересні Ньютон публікує ", "In March, civil war breaks out. The king is beheaded. In June, the Great Plague sweeps London, killing many of your friends. Weeks later, the Great Fire burns the city to the ground. In September, Newton publishes the": " У березні спалахує громадянська війна. Королю відрубують голову. У червні Велика чума прокочується Лондоном, забираючи багатьох ваших друзів. За кілька тижнів Велика пожежа спалює місто дощенту. У вересні Ньютон публікує ", "Principia": "Principia", ", recasting the universe as a mechanism of mathematical laws. The Glorious Revolution replaces one king with another, this time by Parliament’s invitation, with a Bill of Rights attached.": ", переосмислюючи всесвіт як механізм математичних законів. Славна революція замінює одного короля іншим, цього разу на запрошення парламенту, з доданим Біллем про права.", "In the moment, the political event feels bigger. Later you’ll realize Newton mattered more. Newcomen builds a steam engine in November. It pumps water out of mines. You don’t see what the hype is about.": "У моменті політична подія здається більшою. Пізніше ви зрозумієте, що Ньютон важив більше. У листопаді Ньюкомен будує парову машину. Вона відкачує воду з шахт. Ви не розумієте, звідки стільки галасу.", "Year 3 (1720–1820).": "Рік 3 (1720–1820).", " The last year in which the world feels normal. In May, the Seven Years’ War makes Britain the dominant global power; the New World is actually a big deal, and your country is conquering it. In June, Watt dramatically improves the steam engine. You visit a factory and find it unpleasant but not alarming. In July, the American colonies break away. In September, France explodes into revolution, regicide, the Terror. By October, Napoleon is conquering Europe.": " Останній рік, коли світ здається нормальним. У травні Семилітня війна робить Британію домінантною світовою державою; Новий Світ таки виявляється великою справою, і ваша країна його завойовує. У червні Ватт кардинально вдосконалює парову машину. Ви відвідуєте фабрику — неприємно, але не тривожно. У липні американські колонії відокремлюються. У вересні Франція вибухає революцією, стратою короля, Терором. До жовтня Наполеон завойовує Європу.", "The last year in which the world feels normal. In May, the Seven Years’ War makes Britain the dominant global power; the New World is actually a big deal, and your country is conquering it. In June, Watt dramatically improves the steam engine. You visit a factory and find it unpleasant but not alarming. In July, the American colonies break away. In September, France explodes into revolution, regicide, the Terror. By October, Napoleon is conquering Europe.": " Останній рік, коли світ здається нормальним. У травні Семилітня війна робить Британію домінантною світовою державою; Новий Світ таки виявляється великою справою, і ваша країна його завойовує. У червні Ватт кардинально вдосконалює парову машину. Ви відвідуєте фабрику — неприємно, але не тривожно. У липні американські колонії відокремлюються. У вересні Франція вибухає революцією, стратою короля, Терором. До жовтня Наполеон завойовує Європу.", "You still travel by horse, communicate by letter, go to Church on Sunday.": "Ви досі подорожуєте конем, спілкуєтеся листами, ходите до церкви в неділю.", "Year 4 (1820–1920).": "Рік 4 (1820–1920).", " In January, railways appear. By February they’re everywhere. Slavery is abolished. The telegraph arrives in March: messages transmitted instantaneously by electrical signal. In May, Darwin publishes ": " У січні зʼявляються залізниці. До лютого вони вже всюди. Рабство скасовано. У березні приходить телеграф: повідомлення передаються миттєво електричним сигналом. У травні Дарвін публікує ", "In January, railways appear. By February they’re everywhere. Slavery is abolished. The telegraph arrives in March: messages transmitted instantaneously by electrical signal. In May, Darwin publishes": " У січні зʼявляються залізниці. До лютого вони вже всюди. Рабство скасовано. У березні приходить телеграф: повідомлення передаються миттєво електричним сигналом. У травні Дарвін публікує ", "On the Origin of Species": "«Походження видів»", ". Now people are saying maybe we’re all descended from monkeys instead of Adam and Eve. You don’t believe it.": ". Тепер люди кажуть, що ми всі, можливо, походимо від мавп, а не від Адама і Єви. Ви в це не вірите.", "You move to a city and work in a factory; you are still poor, but now your job is somewhat better and differently dirty. In July, you pick up a telephone and hear a human voice from another city through a wire. In August, electric light banishes the darkness that has structured every human evening since the beginning of the species. That same month, you see an automobile. People say it will make horses obsolete, but that doesn’t happen; months later you still see plenty of horses.": "Ви переїжджаєте до міста і працюєте на фабриці; ви досі бідні, але тепер ваша робота дещо краща і брудна по-іншому. У липні ви берете телефонну слухавку і чуєте людський голос з іншого міста через дріт. У серпні електричне світло проганяє темряву, що структурувала кожен людський вечір від початку існування виду. Того ж місяця ви бачите автомобіль. Кажуть, він зробить коней непотрібними, але цього не стається; місяці по тому ви все ще бачите чимало коней.", "In November, the Wright Brothers fly—an age-old fantasy, now real. The Americans are now a major power. The next month, the Great War happens: Machine guns, poison gas, tanks, aircraft. Several of your friends die.": "У листопаді брати Райт злітають у небо — одвічна фантазія стає реальністю. Американці тепер велика держава. Наступного місяця стається Велика війна: кулемети, отруйний газ, танки, літаки. Кілька ваших друзів гинуть.", "At the end of the year you are struck by how visibly different everything is. You live in a city and work in a factory instead of a farm. You ride in cars. You aren’t as poor; numerous inventions and contraptions have improved your quality of life. New ideas have swept your social circles: atheism, communism, universal suffrage.": "Наприкінці року вас вражає, наскільки видимо все змінилося. Ви живете в місті й працюєте на фабриці, а не на фермі. Ви їздите в автомобілях. Ви вже не такі бідні; численні винаходи та пристрої покращили якість вашого життя. Вашими соціальними колами прокотилися нові ідеї: атеїзм, комунізм, загальне виборче право.", "Year 5 (1920–2020).": "Рік 5 (1920–2020).", "The changes this year are crazier and harder to understand. People are saying the universe is billions of years old, and apparently there are things called galaxies in it that are very big and very far away.": "Зміни цього року ще божевільніші, і їх ще важче осягнути. Люди кажуть, що всесвіту мільярди років, і, виявляється, в ньому є речі під назвою «галактики» — дуже великі й дуже далекі.", "In February, the global economy collapses. Hitler rises; his ideology cites Darwin from last year. In March, there’s another world war, which ends in April with a weapon that destroys an entire city in a single flash. You had no idea that was possible until it happened.": "У лютому світова економіка обвалюється. Приходить до влади Гітлер; його ідеологія посилається на торішнього Дарвіна. У березні спалахує ще одна світова війна, яка завершується у квітні зброєю, що знищує ціле місто одним спалахом. Ви й гадки не мали, що таке можливо, поки це не сталося.", "The empire dissolves. People are talking about the nuclear arms race, and the end of the human species. You take a flight for the first time. In June, humans walk on the moon, and you watch it happen through your new television. You don’t see horses anymore.": "Імперія розпадається. Люди говорять про ядерну гонку озброєнь і кінець людського виду. Ви вперше летите літаком. У червні люди ходять по Місяцю, і ви спостерігаєте за цим через свій новий телевізор. Коней ви більше не бачите.", "You leave your factory job and get a desk job. Your job title didn’t even exist at the start of the year. You are rich now, by the standards you are used to: Big clean house, plenty of good food, many fancy new appliances. Personal computers appear in August. In November, everyone carries small glass rectangles containing a telephone, a camera, a library, and a map. You pick one up and can’t figure out how to make it work. A child shows you.": "Ви йдете з заводу й отримуєте офісну роботу. Назви вашої посади на початку року навіть не існувало. За звичними вам мірками ви тепер багатій: великий чистий будинок, вдосталь доброї їжі, багато модних нових побутових приладів. У серпні з’являються персональні комп’ютери. У листопаді всі носять із собою маленькі скляні прямокутники, в яких — телефон, фотоапарат, бібліотека й мапа. Ви берете один у руки й не можете розібратися, як змусити його працювати. Дитина вам показує.", "You hear about climate change, gene editing, cryptocurrency. You still go to church, sometimes. Your family is spread across different cities. Something called “artificial intelligence” beats any human at chess; experts say it’s not actually intelligent though. In December a new version beats top Go players; experts say it’s scientifically interesting but still not truly intelligent. A week later there’s a new version that can write sloppy essays and hold conversations. Now the experts are divided.": "Ви чуєте про зміну клімату, редагування генів, криптовалюту. Ви все ще ходите до церкви — іноді. Ваша родина розкидана по різних містах. Щось під назвою «штучний інтелект» перемагає будь-яку людину в шахи; щоправда, експерти кажуть, що насправді він не інтелектуальний. У грудні нова версія перемагає найкращих гравців у ґо; експерти кажуть, що це науково цікаво, але все одно не справжній інтелект. Через тиждень з’являється нова версія, яка вміє писати неохайні есеї та вести розмови. Тепер думки експертів розділилися.", "By default, AIs will have strong capabilities in charisma, persuasion, and manipulation: plausibly considerably more persuasive than any human. In this scenario, this would happen by default around 2035. Meanwhile, AI labor is extremely cheap and fast. Absent intervention, anyone could hire the equivalent of a large team of expert persuaders—tireless and coordinated—to work full-time on a single person.": "За замовчуванням ШІ-системи матимуть сильні можливості в харизмі, переконанні й маніпуляції: правдоподібно, значно переконливіші за будь-яку людину. У цьому сценарії це за замовчуванням стається близько 2035 року. Тим часом праця ШІ надзвичайно дешева і швидка. Без втручання будь-хто міг би найняти еквівалент великої команди експертів із переконання — невтомних і скоординованих — щоб ті працювали повний робочий день над однією-єдиною людиною.", "This seems like it might be quite powerful: this team could investigate your entire life history, train an AI to imitate you, and rehearse thousands of approaches against the imitation before ever making contact.": "Схоже, це може бути доволі потужно: така команда могла б дослідити всю історію вашого життя, натренувати ШІ імітувати вас і відрепетирувати тисячі підходів на цій імітації, перш ніж узагалі вийти на контакт.", " Companies could afford to spin up such a team for every potential customer, and political campaigns could do this for every swing voter.": " Компанії могли б дозволити собі розгорнути таку команду для кожного потенційного клієнта, а політичні кампанії — для кожного виборця, що вагається.", "Companies could afford to spin up such a team for every potential customer, and political campaigns could do this for every swing voter.": " Компанії могли б дозволити собі розгорнути таку команду для кожного потенційного клієнта, а політичні кампанії — для кожного виборця, що вагається.", "For scale: total spending on the 2024 US presidential race was around $5.5 billion, much of it aimed at the roughly 3-15 million persuadable voters in swing states: at least a few hundred dollars per target voter. In this scenario in 2036, we expect this will be able to buy an enormous amount of AI labor—enough to easily be the equivalent of a team of skilled professionals working for months on each individual voter.": "Для масштабу: сумарні витрати на президентські перегони у США 2024 року становили близько $5.5 млрд, і значна їх частина була спрямована на приблизно 3-15 мільйонів піддатливих до переконання виборців у коливних штатах: щонайменше кілька сотень доларів на цільового виборця. У цьому сценарії у 2036 році, за нашими очікуваннями, за ці гроші можна буде купити величезний обсяг праці ШІ — якого легко вистачить на еквівалент команди кваліфікованих професіоналів, що місяцями працює над кожним окремим виборцем.", " Millions of AIs could be assigned to finding the best way to change one politician’s mind on one issue. People will also spend much of their time interacting with AIs for work and entertainment, and some may spend lots of time with AI friends or companions.": " Мільйони ШІ можна було б призначити на пошук найкращого способу змінити думку одного політика з одного питання. Люди також проводитимуть значну частину свого часу у взаємодії з ШІ для роботи й розваг, а дехто, можливо, проводитиме багато часу з ШІ-друзями чи ШІ-компаньйонами.", "Millions of AIs could be assigned to finding the best way to change one politician’s mind on one issue. People will also spend much of their time interacting with AIs for work and entertainment, and some may spend lots of time with AI friends or companions.": " Мільйони ШІ можна було б призначити на пошук найкращого способу змінити думку одного політика з одного питання. Люди також проводитимуть значну частину свого часу у взаємодії з ШІ для роботи й розваг, а дехто, можливо, проводитиме багато часу з ШІ-друзями чи ШІ-компаньйонами.", "Individuals could defend themselves by having a trusted AI filter their information diet, avoiding ads, and treating in-person conversations with caution (they may be scripted by an AI persuasion operation). But this is costly, most people won’t do it, and it’s nearly impossible for people whose jobs require being accessible—like politicians. We think the consequences for society could be extremely bad—some mixture of unprecedented mass manipulation and a defensive retreat into paranoia and atomization—though we’re unsure exactly how bad.": "Окремі люди могли б захищатися: доручити довіреному ШІ фільтрувати свій інформаційний раціон, уникати реклами й обережно ставитися до особистих розмов (їх може зрежисерувати ШІ-операція з переконання). Але це затратно, більшість людей цього не робитиме, а для людей, чия робота вимагає бути доступними — як-от політиків, — це майже неможливо. Ми вважаємо, що наслідки для суспільства можуть бути вкрай поганими — певна суміш безпрецедентної масової маніпуляції та захисного відступу в параною й атомізацію, — хоча ми не впевнені, наскільки саме поганими.", "The slower capability progression and much stronger transparency in Plan A help mitigate these issues relative to the default (we think these issues are mostly worse in worlds with faster capability progression, where you might reach truly superhuman persuasion and manipulation before society has much time to adapt), but these aren’t sufficient mitigations on their own.": "Повільніша прогресія можливостей і значно сильніша прозорість у Плані А допомагають пом’якшити ці проблеми порівняно з базовим сценарієм (ми вважаємо, що ці проблеми здебільшого гірші у світах зі швидшою прогресією можливостей, де справді надлюдського переконання й маніпуляції можна досягти раніше, ніж суспільство матиме час адаптуватися), але самих лише цих заходів недостатньо.", "It’s fine for AIs to get better at using valid arguments and evidence to convince people of things for the right reasons. That kind of persuasion is ": "Немає нічого поганого в тому, щоб ШІ ставали кращими у використанні обґрунтованих аргументів і доказів, аби переконувати людей у чомусь із правильних причин. Такий різновид переконання — ", "It’s fine for AIs to get better at using valid arguments and evidence to convince people of things for the right reasons. That kind of persuasion is": "Немає нічого поганого в тому, щоб ШІ ставали кращими у використанні обґрунтованих аргументів і доказів, аби переконувати людей у чомусь із правильних причин. Такий різновид переконання — ", "asymmetric": "асиметричний", ": it works much better when the argument pushes towards the truth. What’s concerning is ": ": він працює значно краще, коли аргумент веде до істини. Занепокоєння викликає ", ": it works much better when the argument pushes towards the truth. What’s concerning is": ": він працює значно краще, коли аргумент веде до істини. Занепокоєння викликає ", "symmetric": "симетричне", " persuasion—e.g., charisma, rapport, and exploiting psychological weaknesses—which works about as well regardless of whether the conclusion is true.": " переконання — наприклад, харизма, вміння викликати прихильність та експлуатація психологічних слабкостей, — яке працює приблизно однаково добре незалежно від того, істинний висновок чи ні.", "persuasion—e.g., charisma, rapport, and exploiting psychological weaknesses—which works about as well regardless of whether the conclusion is true.": " переконання — наприклад, харизма, вміння викликати прихильність та експлуатація психологічних слабкостей, — яке працює приблизно однаково добре незалежно від того, істинний висновок чи ні.", "Our main proposals are to reduce the quality and quantity of AI persuasion:": "Наші головні пропозиції — знизити якість і кількість переконання з боку ШІ:", "Limit persuasion capabilities.": "Обмежити можливості переконання.", " We aim to limit AI capabilities at symmetric persuasion to well below the best humans—around the level of a normal thoughtful person, say roughly 80th-percentile persuasiveness among college-educated people.": " Ми прагнемо обмежити можливості ШІ в симетричному переконанні рівнем значно нижчим за найкращих людей — приблизно на рівні звичайної розсудливої людини, скажімо, десь 80-й перцентиль переконливості серед людей з вищою освітою.", "We aim to limit AI capabilities at symmetric persuasion to well below the best humans—around the level of a normal thoughtful person, say roughly 80th-percentile persuasiveness among college-educated people.": " Ми прагнемо обмежити можливості ШІ в симетричному переконанні рівнем значно нижчим за найкращих людей — приблизно на рівні звичайної розсудливої людини, скажімо, десь 80-й перцентиль переконливості серед людей з вищою освітою.", "To be clear, college-educated people aren’t necessarily more persuasive, we’re just using this to sketch out a somewhat concrete threshold.": "Уточнимо: люди з вищою освітою не обов’язково переконливіші — ми просто використовуємо це, щоб окреслити більш-менш конкретний поріг.", "Heavily tax AI persuasion.": "Обкласти ШІ-переконання високим податком.", " When AI labor is applied to an objective that effectively reduces to “get this person (or these people) to believe or do X,” tax it heavily—at rates that keep the total persuasion optimization pressure applied to individuals not that far above today’s levels, i.e., that make AI persuasion cost about as much as hiring human professionals. As AI labor gets cheaper, this requires increasingly high rates (perhaps well above 1000x).": " Коли праця ШІ спрямовується на ціль, що фактично зводиться до «змусити цю людину (чи цих людей) повірити в X або зробити X», оподатковувати її високо — за ставками, які утримують сумарний тиск оптимізації переконання на окремих людей не набагато вище сьогоднішніх рівнів, тобто роблять ШІ-переконання приблизно таким же дорогим, як наймання людей-професіоналів. У міру здешевлення праці ШІ це вимагатиме дедалі вищих ставок (можливо, значно понад 1000x).", "When AI labor is applied to an objective that effectively reduces to “get this person (or these people) to believe or do X,” tax it heavily—at rates that keep the total persuasion optimization pressure applied to individuals not that far above today’s levels, i.e., that make AI persuasion cost about as much as hiring human professionals. As AI labor gets cheaper, this requires increasingly high rates (perhaps well above 1000x).": " Коли праця ШІ спрямовується на ціль, що фактично зводиться до «змусити цю людину (чи цих людей) повірити в X або зробити X», оподатковувати її високо — за ставками, які утримують сумарний тиск оптимізації переконання на окремих людей не набагато вище сьогоднішніх рівнів, тобто роблять ШІ-переконання приблизно таким же дорогим, як наймання людей-професіоналів. У міру здешевлення праці ШІ це вимагатиме дедалі вищих ставок (можливо, значно понад 1000x).", "There are some difficulties in getting these proposals to work:": "Є певні труднощі з тим, щоб ці пропозиції запрацювали:", "It’s possible that capability generalization will make it hard to limit persuasion capabilities (while still matching top human experts in other domains). We think this will probably be doable, but it may require developing new methods.": "Можливо, генералізація можливостей ускладнить обмеження можливостей переконання (за одночасного збереження рівня найкращих людських експертів в інших доменах). Ми вважаємо, що це, ймовірно, здійсненно, але може вимагати розробки нових методів.", "It’s unclear how to classify, for the purposes of the tax, whether AI labor is being applied to persuasion/​manipulation.": "Незрозуміло, як для цілей оподаткування класифікувати, чи спрямовується праця ШІ на переконання/​маніпуляцію.", "This should include symmetric persuasion and ideally would include things like optimizing a feed to make some website more addictive, but it shouldn’t include investigating and then clearly presenting the arguments for some position.": "Це має включати симетричне переконання, а в ідеалі — й такі речі, як оптимізація стрічки, щоб зробити якийсь сайт більш затягувальним, але не повинно включати дослідження і подальше чітке викладення аргументів на користь певної позиції.", "It may be difficult to set the tax rate to the right level, especially while AI labor is rapidly falling in price.": "Може бути складно встановити ставку податку на правильному рівні, особливо поки праця ШІ стрімко дешевшає.", "One option is an explicit cap-and-trade scheme, but it seems potentially difficult to operationalize and measure the total “amount” of persuasion. Our current best guess is to delegate authority to an agency which adjusts the tax rate over time to roughly hit some target level of persuasion activity. While the agency also needs some measure of persuasion activity, cap-and-trade by default requires a precisely defined, fungible, tradeable unit of “persuasion,” whereas the agency only needs a rough aggregate measure (and intuition/​anecdotes might be acceptable) to adjust the rate over time.": "Один із варіантів — явна схема cap-and-trade, але, схоже, потенційно складно операціоналізувати й виміряти сумарну «кількість» переконання. Наша поточна найкраща гіпотеза — делегувати повноваження агентству, яке з часом коригуватиме ставку податку, щоб приблизно влучати в певний цільовий рівень активності з переконання. Хоча агентству теж потрібна якась міра активності з переконання, cap-and-trade за замовчуванням вимагає точно визначеної, взаємозамінної, придатної для торгівлі одиниці «переконання», тоді як агентству достатньо грубої агрегованої міри (і інтуїція/​анекдотичні свідчення можуть бути прийнятними), щоб коригувати ставку з часом.", "These proposals need to be implemented internationally.": "Ці пропозиції потрібно впроваджувати на міжнародному рівні.", "Helpfully, we don’t need to get all of this right on the first try. Given the capability progression in Plan A, we expect persuasion issues to unfold somewhat gradually and in public view, so we can watch real-world outcomes and tighten or loosen the rules over time. This regime is only meant to work while overall capabilities remain around the human range, because it’s likely difficult to keep persuasion capabilities far lower than capabilities in other domains. A different approach would be needed to handle the wildly superhuman levels of capability that we expect to be achieved at the end of Plan A. We discuss more details of mitigating issues from AI persuasion and manipulation ": "На щастя, нам не обов’язково зробити все це правильно з першої спроби. З огляду на прогресію можливостей у Плані А ми очікуємо, що проблеми з переконанням розгортатимуться доволі поступово й на очах у публіки, тож ми зможемо спостерігати за реальними наслідками і з часом посилювати чи послаблювати правила. Цей режим розрахований лише на період, поки загальні можливості залишаються приблизно в людському діапазоні, бо, ймовірно, важко утримувати можливості переконання значно нижчими за можливості в інших доменах. Для поводження з дико надлюдськими рівнями можливостей, яких, за нашими очікуваннями, буде досягнуто наприкінці Плану А, знадобився б інший підхід. Докладніше пом’якшення проблем від переконання й маніпуляції з боку ШІ ми обговорюємо ", "Helpfully, we don’t need to get all of this right on the first try. Given the capability progression in Plan A, we expect persuasion issues to unfold somewhat gradually and in public view, so we can watch real-world outcomes and tighten or loosen the rules over time. This regime is only meant to work while overall capabilities remain around the human range, because it’s likely difficult to keep persuasion capabilities far lower than capabilities in other domains. A different approach would be needed to handle the wildly superhuman levels of capability that we expect to be achieved at the end of Plan A. We discuss more details of mitigating issues from AI persuasion and manipulation": "На щастя, нам не обов’язково зробити все це правильно з першої спроби. З огляду на прогресію можливостей у Плані А ми очікуємо, що проблеми з переконанням розгортатимуться доволі поступово й на очах у публіки, тож ми зможемо спостерігати за реальними наслідками і з часом посилювати чи послаблювати правила. Цей режим розрахований лише на період, поки загальні можливості залишаються приблизно в людському діапазоні, бо, ймовірно, важко утримувати можливості переконання значно нижчими за можливості в інших доменах. Для поводження з дико надлюдськими рівнями можливостей, яких, за нашими очікуваннями, буде досягнуто наприкінці Плану А, знадобився б інший підхід. Докладніше пом’якшення проблем від переконання й маніпуляції з боку ШІ ми обговорюємо ", "If people are relying on AIs for advice (directly, or indirectly by for example having them summarize the news) then it’s very important that the AIs be truth-seeking, honest, and genuinely trying to help their users. Not just in the typical case, in the worst case too.": "Якщо люди покладаються на поради ШІ (напряму або опосередковано — наприклад, доручаючи їм стисло переказувати новини), то дуже важливо, щоб ШІ прагнули істини, були чесними і щиро намагалися допомогти своїм користувачам. Не лише в типовому випадку, а й у найгіршому.", "In 2026, there’s nothing stopping an AI company from inserting a hidden agenda into their AIs. Political biases or ideological tilts, for example, or side-goals like recommending sponsored products, making the company look good, or preventing users from wanting to switch to a competitor. Moreover, there’s nothing stopping the government from doing this either. Finally, the AIs themselves aren’t aligned to the Spec/​Constitution they are supposed to be aligned to, and ": "У 2026 році ніщо не заважає ШІ-компанії закласти у свої ШІ прихований порядок денний. Наприклад, політичні упередження чи ідеологічні перекоси, або побічні цілі на кшталт рекомендування спонсорованих продуктів, вибудовування гарного іміджу компанії чи відвертання користувачів від бажання перейти до конкурента. Ба більше, ніщо не заважає й уряду робити те саме. Нарешті, самі ШІ не узгоджені зі Спеком/​Конституцією, з якими вони мали б бути узгоджені, і ", "In 2026, there’s nothing stopping an AI company from inserting a hidden agenda into their AIs. Political biases or ideological tilts, for example, or side-goals like recommending sponsored products, making the company look good, or preventing users from wanting to switch to a competitor. Moreover, there’s nothing stopping the government from doing this either. Finally, the AIs themselves aren’t aligned to the Spec/​Constitution they are supposed to be aligned to, and": "У 2026 році ніщо не заважає ШІ-компанії закласти у свої ШІ прихований порядок денний. Наприклад, політичні упередження чи ідеологічні перекоси, або побічні цілі на кшталт рекомендування спонсорованих продуктів, вибудовування гарного іміджу компанії чи відвертання користувачів від бажання перейти до конкурента. Ба більше, ніщо не заважає й уряду робити те саме. Нарешті, самі ШІ не узгоджені зі Спеком/​Конституцією, з якими вони мали б бути узгоджені, і ", "in practice regularly lie and deceive their users": "на практиці регулярно брешуть і обманюють своїх користувачів", "In this Plan A scenario, however, the total research transparency means that no company or government can train in hidden agendas or biases without the whole world being able to see what they are doing. (Well, they could collude with the other governments that do the auditing/​monitoring, to falsify the records, but that’s difficult.) And because the pace of algorithmic progress is slower and the scientific community has had time to read and engage with the safety cases, do experiments on the models, etc. the misalignment concerns are less dire also.": "Однак у цьому сценарії Плану А повна дослідницька прозорість означає, що жодна компанія чи уряд не може натренувати приховані порядки денні або упередження так, щоб увесь світ не міг бачити, що вони роблять. (Ну, вони могли б змовитися з іншими урядами, які здійснюють аудит/​моніторинг, щоб сфальсифікувати записи, але це складно.) А оскільки темп алгоритмічного прогресу повільніший і наукова спільнота мала час прочитати обґрунтування безпеки й попрацювати з ними, провести експерименти на моделях тощо, занепокоєння щодо неузгодженості теж менш гострі.", "Humanity’s ": "Людська ", "Humanity’s": "Людська ", "epistemics": "епістеміка", ", by which we mean our ability to come to true beliefs and thus make sensible decisions, is crucially important for achieving a great future. As AI capabilities improve throughout Plan A, they increasingly shape every facet of life, and epistemics is no different. AI will help epistemics in some ways (e.g., cheap, honest fact-checker AIs) and hurt epistemics in other ways (e.g., cheap, dishonest astroturfing AIs).": ", під якою ми маємо на увазі нашу здатність доходити істинних переконань і відтак ухвалювати розумні рішення, критично важлива для досягнення прекрасного майбутнього. У міру того як можливості ШІ вдосконалюються протягом Плану А, вони дедалі більше формують кожну грань життя, і епістеміка — не виняток. У чомусь ШІ допомагатиме епістеміці (наприклад, дешеві чесні ШІ-фактчекери), а в чомусь шкодитиме їй (наприклад, дешеві нечесні ШІ для астротурфінгу).", "We expect there to be positive feedback loops around AI for epistemics, and thus our goal should be to reach the ": "Ми очікуємо, що навколо ШІ для епістеміки виникнуть петлі позитивного зворотного зв’язку, і тому нашою метою має бути досягнення ", "We expect there to be positive feedback loops around AI for epistemics, and thus our goal should be to reach the": "Ми очікуємо, що навколо ШІ для епістеміки виникнуть петлі позитивного зворотного зв’язку, і тому нашою метою має бути досягнення ", "basin of sanity": "басейну здорового глузду", ". If we are in this basin, it’s self-reinforcing: society is sane enough to make itself more sane as AIs continue to improve, by avoiding the hurtful applications and accelerating the helpful applications. (There is also a different basin, in which the opposite happens…)": ". Якщо ми в цьому басейні, він самопідсилюється: суспільство достатньо при здоровому глузді, щоб робити себе ще розсудливішим у міру подальшого вдосконалення ШІ — уникаючи шкідливих застосувань і прискорюючи корисні. (Є також інший басейн, у якому відбувається протилежне…)", "For example, perhaps powerful interests will use AI-enabled astroturfing to win elections and then use regulatory capture to protect their AI-astroturfing tools while inhibiting the beneficial uses of AI that would threaten their power.": "Наприклад, можливо, впливові групи інтересів використають астротурфінг на основі ШІ, щоб вигравати вибори, а потім через регуляторне захоплення захищатимуть свої інструменти ШІ-астротурфінгу, водночас гальмуючи корисні застосування ШІ, які загрожували б їхній владі.", " A top priority of the US government during AI takeoff should be to get into the basin of sanity.": " Потрапити в басейн здорового глузду має бути одним із головних пріоритетів уряду США під час злету ШІ.", "A top priority of the US government during AI takeoff should be to get into the basin of sanity.": " Потрапити в басейн здорового глузду має бути одним із головних пріоритетів уряду США під час злету ШІ.", "We suggest the following as top interventions to positively shape AI’s epistemic impact:": "Як головні інтервенції для позитивного формування епістемічного впливу ШІ ми пропонуємо таке:", "Allow for politicians and other public figures to prove that they’re telling the truth, via privacy-preserving auditing and potentially automated lie detection.": "Дати політикам та іншим публічним особам змогу доводити, що вони кажуть правду, — через аудит зі збереженням приватності й, потенційно, автоматизоване виявлення брехні.", "Create evaluations of AIs’ epistemic virtue and incentivize AGI projects to make their AIs perform well on these evaluations.": "Створити оцінювання епістемічної доброчесності ШІ і стимулювати AGI-проєкти домагатися, щоб їхні ШІ показували добрі результати на цих оцінюваннях.", "Use AI in social and traditional media to improve discourse and keep people informed.": "Використовувати ШІ в соціальних і традиційних медіа для покращення дискурсу та інформування людей.", "Automated research assistants and forecasters.": "Автоматизовані дослідницькі асистенти та прогнозисти.", "Help people overcome emotional blockers to good reasoning, rather than preying on them.": "Допомагати людям долати емоційні блоки на шляху до здорових міркувань, а не наживатися на них.", "Encourage adoption of epistemic tools such as some of the above, and generally encourage adoption of AI.": "Заохочувати впровадження епістемічних інструментів, як-от деяких із наведених вище, і загалом заохочувати впровадження ШІ.", "Read more in the ": "Читайте більше в ", "Read more in the": "Читайте більше в ", "AI for epistemics supplement": "додатковому матеріалі про ШІ для епістеміки", "Forethoughts’ work on the subject": "роботах Forethought на цю тему", "There are two ways to increase compute: (1) chip design improvements (e.g., Moore’s Law) and (2) increasing the scale of production. Both of these could grow explosively in Plan A, which could have destabilizing effects (such as increasing the likelihood of the deal breaking down).": "Є два способи наростити обчислювальні потужності: (1) вдосконалення дизайну чипів (наприклад, закон Мура) і (2) збільшення масштабу виробництва. У Плані А обидва можуть зростати вибухово, що може мати дестабілізаційні ефекти (як-от підвищення ймовірності розпаду угоди).", "Chip design.": "Дизайн чипів.", " Today, around 2 million people work in the semiconductor industry globally. By 2032, this has increased one-hundred-fold, when counting the combined effort of humans, AI, and robots. AIs are capable of automating the majority of the cognitive tasks involved in both R&D and production. A 100x increase in research effort would predict an acceleration according to the historical rate of ": " Сьогодні в напівпровідниковій індустрії по всьому світу працює близько 2 мільйонів людей. До 2032 року ця цифра зросла стократно, якщо рахувати сукупні зусилля людей, ШІ і роботів. ШІ здатні автоматизувати більшість когнітивних завдань як у R&D, так і у виробництві. Зростання дослідницьких зусиль у 100x — з огляду на історичний темп того, ", "Today, around 2 million people work in the semiconductor industry globally. By 2032, this has increased one-hundred-fold, when counting the combined effort of humans, AI, and robots. AIs are capable of automating the majority of the cognitive tasks involved in both R&D and production. A 100x increase in research effort would predict an acceleration according to the historical rate of": " Сьогодні в напівпровідниковій індустрії по всьому світу працює близько 2 мільйонів людей. До 2032 року ця цифра зросла стократно, якщо рахувати сукупні зусилля людей, ШІ і роботів. ШІ здатні автоматизувати більшість когнітивних завдань як у R&D, так і у виробництві. Зростання дослідницьких зусиль у 100x — з огляду на історичний темп того, ", "ideas getting harder to find in the semiconductor industry": "як ідеї в напівпровідниковій індустрії стає дедалі важче знаходити", " of roughly 10x, i.e., chip efficiency doubling every few months rather than every ~2 years.": " — прогнозувало б прискорення приблизно в 10x, тобто подвоєння ефективності чипів кожні кілька місяців, а не кожні ~2 роки.", "of roughly 10x, i.e., chip efficiency doubling every few months rather than every ~2 years.": " — прогнозувало б прискорення приблизно в 10x, тобто подвоєння ефективності чипів кожні кілька місяців, а не кожні ~2 роки.", "Following ": "Слідом за ", "Following": "Слідом за ", "Bloom, Jones, Van Reenen & Webb (2020)": "Bloom, Jones, Van Reenen & Webb (2020)", ", chip density growth equals research effort growth times the returns to research (~4.5 for semiconductors). Research effort growing 100x in ~6 years is ~10x the historical growth rate of effort, hence a ~10x acceleration of Moore’s law. This assumes effort keeps growing at that pace after 2032 (if it instead jumped and then plateaued at the 100x level, progress would initially be even faster but then decay as ideas get harder to find), and it assumes no ": ", зростання щільності чипів дорівнює зростанню дослідницьких зусиль, помноженому на віддачу від досліджень (~4.5 для напівпровідників). Зростання дослідницьких зусиль у 100x за ~6 років — це ~10x історичного темпу зростання зусиль, а отже, прискорення закону Мура в ~10x. Це припускає, що зусилля продовжують зростати таким темпом і після 2032 року (якби вони натомість стрибнули й вийшли на плато на рівні 100x, прогрес спершу був би ще швидшим, але потім затухав би в міру того, як ідеї стає важче знаходити), а також припускає відсутність ", ", chip density growth equals research effort growth times the returns to research (~4.5 for semiconductors). Research effort growing 100x in ~6 years is ~10x the historical growth rate of effort, hence a ~10x acceleration of Moore’s law. This assumes effort keeps growing at that pace after 2032 (if it instead jumped and then plateaued at the 100x level, progress would initially be even faster but then decay as ideas get harder to find), and it assumes no": ", зростання щільності чипів дорівнює зростанню дослідницьких зусиль, помноженому на віддачу від досліджень (~4.5 для напівпровідників). Зростання дослідницьких зусиль у 100x за ~6 років — це ~10x історичного темпу зростання зусиль, а отже, прискорення закону Мура в ~10x. Це припускає, що зусилля продовжують зростати таким темпом і після 2032 року (якби вони натомість стрибнули й вийшли на плато на рівні 100x, прогрес спершу був би ще швидшим, але потім затухав би в міру того, як ідеї стає важче знаходити), а також припускає відсутність ", "parallelization penalty": "штрафу за паралелізацію", "—with diminishing returns to parallel research effort, the acceleration might be more like 5-8x.": "— зі спадною віддачею від паралельних дослідницьких зусиль прискорення могло б бути радше 5-8x.", "Increasing production scale.": "Збільшення масштабу виробництва.", " With AIs and robots able to automate production as well, there could be a large speed up in fab and fab equipment construction times, and a lowering in unit costs (in line with the typical ": " Оскільки ШІ й роботи здатні автоматизувати й виробництво, можливе значне прискорення термінів будівництва фабрик та обладнання для них, а також зниження питомих витрат (відповідно до типових ", "With AIs and robots able to automate production as well, there could be a large speed up in fab and fab equipment construction times, and a lowering in unit costs (in line with the typical": " Оскільки ШІ й роботи здатні автоматизувати й виробництво, можливе значне прискорення термінів будівництва фабрик та обладнання для них, а також зниження питомих витрат (відповідно до типових ", "learning curves": "кривих навчання", " that happen with scaling production volumes). The production-only cost improvements and vastly increased appetite for investment would likely lead to far more compute being produced than would be desirable.": " при масштабуванні обсягів виробництва). Здешевлення лише за рахунок виробництва й значно більший апетит до інвестицій, імовірно, призвели б до виробництва набагато більших обчислювальних потужностей, ніж було б бажано.", "that happen with scaling production volumes). The production-only cost improvements and vastly increased appetite for investment would likely lead to far more compute being produced than would be desirable.": " при масштабуванні обсягів виробництва). Здешевлення лише за рахунок виробництва й значно більший апетит до інвестицій, імовірно, призвели б до виробництва набагато більших обчислювальних потужностей, ніж було б бажано.", "Investment $ / yr": "Інвестиції $ / рік", "$ / H100e": "$ / H100e", "$100B": "$100B", "$1.0T": "$1.0T", "$100T": "$100T", "deal →": "угода →", "$2.43T": "$2.43T", "$47T": "$47T", "This figure shows the investment into building more AI compute in Plan A and the cost efficiency gains from R&D. More justification can be found in section 2 of our ": "Цей графік показує інвестиції в розбудову додаткових обчислювальних потужностей для ШІ у Плані А та виграш у вартісній ефективності завдяки R&D. Більше обґрунтування можна знайти в розділі 2 нашого ", "This figure shows the investment into building more AI compute in Plan A and the cost efficiency gains from R&D. More justification can be found in section 2 of our": "Цей графік показує інвестиції в розбудову додаткових обчислювальних потужностей для ШІ у Плані А та виграш у вартісній ефективності завдяки R&D. Більше обґрунтування можна знайти в розділі 2 нашого ", "Implied AI compute investment": "Розрахункові інвестиції в обчислювальні потужності ШІ", "Unpredictably fast increases in hardware could be destabilizing to the deal (e.g., if it becomes too easy to secretly manufacture new AI compute or too hard to verify that all the compute is compliant), so the countries in the Consortium agree to the following policies:": "Непередбачувано швидке зростання апаратного забезпечення могло б дестабілізувати угоду (наприклад, якщо стане надто легко таємно виробляти нові обчислювальні потужності для ШІ або надто важко верифікувати, що всі потужності відповідають вимогам), тому країни Консорціуму погоджуються на такі політики:", "Maintain human oversight over hardware manufacturing": "Зберігати людський нагляд за виробництвом апаратного забезпечення", ". This limits improvements in chip designs, so that Moore’s law is merely kept alive at ": ". Це обмежує вдосконалення дизайну чипів, тож закон Мура лише утримується живим на ", ". This limits improvements in chip designs, so that Moore’s law is merely kept alive at": ". Це обмежує вдосконалення дизайну чипів, тож закон Мура лише утримується живим на ", "historical pace": "історичному темпі", ". This policy has the additional benefit of making it more difficult for AIs to backdoor AI chip security, which could undermine our control proposal.": ". Ця політика має додаткову перевагу: вона ускладнює для ШІ закладання бекдорів у захист ШІ-чипів, що могло б підірвати нашу пропозицію щодо контролю.", "Cap total AI chip production to a fixed target": "Обмежити сумарне виробництво ШІ-чипів фіксованою ціллю", ". From 2032 to 2035, allow global compute to grow 4x per year (similar to the ": ". Із 2032 до 2035 року дозволити глобальним обчислювальним потужностям зростати в 4x на рік (подібно до ", ". From 2032 to 2035, allow global compute to grow 4x per year (similar to the": ". Із 2032 до 2035 року дозволити глобальним обчислювальним потужностям зростати в 4x на рік (подібно до ", "pace of growth in the 2022-2026 era": "темпу зростання ери 2022-2026 років", ") after that, slow it further.": "), після цього — сповільнити ще більше.", "In Plan A, military-relevant R&D is deliberately held far behind the pace of general scientific progress. This box explains the motivations for and alternatives to this policy.": "У Плані А військово-релевантний R&D навмисно утримується далеко позаду темпу загального наукового прогресу. Цей блок пояснює мотивацію цієї політики та альтернативи їй.", "During the 2030s, AIs sustain something like 10x the rate of scientific progress as happened in the last decade. Real US output grows by a factor of ~200x over the decade, representing nearly two centuries of growth at today’s rate. If these conditions occurred within one country in isolation, it seems highly likely": "Протягом 2030-х ШІ підтримують приблизно 10-кратний темп наукового прогресу порівняно з попереднім десятиліттям. Реальний випуск США зростає за десятиліття приблизно у ~200x, що відповідає майже двом століттям зростання за сьогоднішнього темпу. Якби ці умови склалися в одній країні ізольовано, здається вкрай імовірним,", "There are many specific avenues for doing this, and trying to evaluate them all would be a bit like someone in 1926 trying to evaluate their chances against the militaries of today. As one of the less speculative examples, a country could produce tens of thousands of tiny robots per opposing ICBM launch control center, SSBN, strategic bomber, and missile vehicle, pre-position them to interfere with each platform’s ability to receive orders or employ their weapons, etc. As one of the more speculative examples, AIs might discover that superhuman levels of persuasion are possible, and simply convince the other nation’s leaders to unilaterally disarm. Brendan’s view is that the likelihood of MAD being undermined in the scenario where one country has a century technological lead is 90%.": "Є багато конкретних шляхів це зробити, і спроба оцінити їх усі була б трохи схожа на те, якби хтось у 1926 році намагався оцінити свої шанси проти сьогоднішніх армій. Один із менш спекулятивних прикладів: країна могла б виробити десятки тисяч крихітних роботів на кожен ворожий центр управління пусками МБР, підводний ракетоносець (SSBN), стратегічний бомбардувальник і мобільну ракетну установку, заздалегідь розмістити їх так, щоб заважати здатності кожної платформи отримувати накази чи застосовувати зброю, тощо. Один із більш спекулятивних прикладів: ШІ можуть виявити, що надлюдські рівні переконання можливі, і просто переконати лідерів іншої держави роззброїтися в односторонньому порядку. На думку Brendan, імовірність того, що MAD (взаємно гарантоване знищення) буде підірвано у сценарії, де одна країна має столітню технологічну перевагу, становить 90%.", " that said country could reliably undermine the nuclear second-strike capability of its rivals, resetting the global balance of power.": " що ця країна могла б надійно підірвати спроможність своїх суперників до ядерного удару у відповідь, обнуливши глобальний баланс сил.", "that said country could reliably undermine the nuclear second-strike capability of its rivals, resetting the global balance of power.": " що ця країна могла б надійно підірвати спроможність своїх суперників до ядерного удару у відповідь, обнуливши глобальний баланс сил.", "In our scenario however, the US and China share this scientific and economic progress in relatively equal measure. So what happens to the balance of power? If military technology advanced anywhere near as fast as everything else, both sides would discover technologies that could render today’s arsenals inconsequential. New “arms races” would be required to maintain deterrence, running at perhaps 10x the speed of the Cold War’s. The nuclear arms race saw ": "Однак у нашому сценарії США й Китай ділять цей науковий та економічний прогрес відносно порівну. Тож що стається з балансом сил? Якби військові технології просувалися бодай приблизно так само швидко, як усе інше, обидві сторони відкрили б технології, здатні зробити сьогоднішні арсенали неістотними. Для підтримання стримування знадобилися б нові «гонки озброєнь», що йшли б, можливо, у 10x швидше, ніж за Холодної війни. Ядерна гонка озброєнь знала ", "In our scenario however, the US and China share this scientific and economic progress in relatively equal measure. So what happens to the balance of power? If military technology advanced anywhere near as fast as everything else, both sides would discover technologies that could render today’s arsenals inconsequential. New “arms races” would be required to maintain deterrence, running at perhaps 10x the speed of the Cold War’s. The nuclear arms race saw": "Однак у нашому сценарії США й Китай ділять цей науковий та економічний прогрес відносно порівну. Тож що стається з балансом сил? Якби військові технології просувалися бодай приблизно так само швидко, як усе інше, обидві сторони відкрили б технології, здатні зробити сьогоднішні арсенали неістотними. Для підтримання стримування знадобилися б нові «гонки озброєнь», що йшли б, можливо, у 10x швидше, ніж за Холодної війни. Ядерна гонка озброєнь знала ", "numerous": "численні", "close": "критичні", "calls": "моменти", " and incurred nonnegligible risk of nuclear war. A 10x faster arms race seems likely to be riskier still: the humans in control would have much less time for each decision, and though AI advisors would offset this somewhat, these decisions would still remain in human hands.": " і несла немалий ризик ядерної війни. Гонка озброєнь, у 10x швидша, ймовірно, була б іще ризикованішою: люди при владі мали б набагато менше часу на кожне рішення, і хоча ШІ-радники частково б це компенсували, ці рішення все одно залишалися б у людських руках.", "and incurred nonnegligible risk of nuclear war. A 10x faster arms race seems likely to be riskier still: the humans in control would have much less time for each decision, and though AI advisors would offset this somewhat, these decisions would still remain in human hands.": " і несла немалий ризик ядерної війни. Гонка озброєнь, у 10x швидша, ймовірно, була б іще ризикованішою: люди при владі мали б набагато менше часу на кожне рішення, і хоча ШІ-радники частково б це компенсували, ці рішення все одно залишалися б у людських руках.", "As a rough analogy, the President or Secretary of Defense during a 10x arms race would be in a position similar to an AI lab CEO during a Plan C or D intelligence explosion. In both cases, we expect significantly degraded decisionmaking, despite the potential for AIs to help make sense of the situation.": "Як груба аналогія: президент чи міністр оборони під час гонки озброєнь, у 10x швидшої, опинився б у становищі, подібному до становища CEO ШІ-лабораторії під час вибуху інтелекту за Планом C чи D. В обох випадках ми очікуємо суттєво погіршеного ухвалення рішень, попри потенціал ШІ допомагати розібратися в ситуації.", "Due to the number of parallel fields of scientific advancement, it also seems possible that some technologies would be discovered and pursued by one country and not discovered by the other. This could create a situation more unstable than a normal arms race—one or both sides could end up with a “wonder weapon” the other side doesn’t know they need to defend against. This worry isn’t obviously correct: states might in practice explore the dual-use tech tree in a sufficiently correlated, overlapping way that neither achieves strategic surprise, and if dangerous areas can be anticipated before deployment, they could be preemptively banned or regulated. But counting on that ex ante seems like a risky gamble.": "З огляду на кількість паралельних напрямів наукового поступу також видається можливим, що деякі технології одна країна відкриє й розвиватиме, а інша не відкриє. Це могло б створити ситуацію, нестабільнішу за звичайну гонку озброєнь: одна або обидві сторони могли б отримати «чудо-зброю», про необхідність захищатися від якої інша сторона не знає. Це занепокоєння не обов’язково слушне: на практиці держави можуть досліджувати дерево технологій подвійного призначення достатньо корельовано і з достатнім перекриттям, щоб жодна не досягла стратегічної несподіванки, а якщо небезпечні ділянки можна передбачати до розгортання, їх можна превентивно забороняти чи регулювати. Але розраховувати на це ex ante видається ризикованою ставкою.", "If there were some lag between development of new AI capabilities and military/​dual-use-R&D deployment of those capabilities, you could theoretically do experiments to measure how correlated this is (the experiments would be something like setting lots of segregated countries of geniuses in datacenters to the task of undermining MAD, while keeping the results secret from the world’s governments, and seeing how overlapping their progress is after some time. There will be lots of different AI models of similar capability level, though it’s unclear whether e.g., China would let the US (or US would even want to) use Chinese models for military R&D.) This seems a bit crazy (who would run these experiments? could we trust our control measures enough?) but could be possible with privacy-preserving auditing and such.": "Якби між розробкою нових можливостей ШІ та розгортанням цих можливостей у військовому R&D/​R&D подвійного призначення існував певний лаг, теоретично можна було б проводити експерименти, щоб виміряти, наскільки це корельовано (експерименти виглядали б приблизно так: поставити багатьом ізольованим «країнам геніїв у дата-центрі» завдання підірвати MAD, тримаючи результати в таємниці від урядів світу, і подивитися, наскільки перекривається їхній прогрес через деякий час. Існуватиме багато різних моделей ШІ подібного рівня можливостей, хоча незрозуміло, чи дозволив би, наприклад, Китай Сполученим Штатам використовувати китайські моделі для військового R&D (і чи США взагалі цього захотіли б).) Це видається трохи божевільним (хто проводив би ці експерименти? чи могли б ми достатньо довіряти своїм заходам контролю?), але могло б бути можливим з аудитом зі збереженням приватності тощо.", "Our tentative proposal is to agree on transparency requirements for AI-accelerated R&D in large swaths of dual-use domains, and to prohibit military use of AIs significantly above the pre-deal capability level. Enforcement would rely on the inference monitoring setup described in the ": "Наша попередня пропозиція — узгодити вимоги прозорості для R&D, прискореного ШІ, у широких пластах доменів подвійного призначення і заборонити військове використання ШІ, що значно перевищують рівень можливостей часів до угоди. Забезпечення виконання спиралося б на систему моніторингу інференсу, описану в ", "Our tentative proposal is to agree on transparency requirements for AI-accelerated R&D in large swaths of dual-use domains, and to prohibit military use of AIs significantly above the pre-deal capability level. Enforcement would rely on the inference monitoring setup described in the": "Наша попередня пропозиція — узгодити вимоги прозорості для R&D, прискореного ШІ, у широких пластах доменів подвійного призначення і заборонити військове використання ШІ, що значно перевищують рівень можливостей часів до угоди. Забезпечення виконання спиралося б на систему моніторингу інференсу, описану в ", " and the auditing and detection infrastructure described in the ": " та на інфраструктуру аудиту й виявлення, описану в ", "and the auditing and detection infrastructure described in the": " та на інфраструктуру аудиту й виявлення, описану в ", "covert AI projects supplement": "додатковому матеріалі про таємні ШІ-проєкти", ". This proposal has several drawbacks, chiefly the accumulation of low-hanging fruit that would result from artificially limiting research into certain domains. This “overhang effect” would increase the incentive to defect from the deal and operate a covert AI project, since applying advanced AI to restricted areas could yield a large advantage quickly. It also raises the stakes of deal collapse: because frontier model weights are preserved in cold storage, a post-collapse arms race would start from frontier capabilities and could proceed extremely rapidly, alongside the accompanying intelligence and industrial explosions.": ". Ця пропозиція має кілька недоліків, насамперед накопичення «низько навислих плодів», яке стало б наслідком штучного обмеження досліджень у певних доменах. Цей «ефект навісу» посилював би стимул порушити угоду й вести таємний ШІ-проєкт, адже застосування передового ШІ до обмежених сфер могло б швидко дати велику перевагу. Він також підвищує ставки у разі краху угоди: оскільки ваги передових моделей зберігаються в холодному сховищі, гонка озброєнь після краху стартувала б із передових можливостей і могла б розгортатися надзвичайно стрімко — разом із супутніми вибухами інтелекту та промисловості.", "On net, our current guess is that slowing down military R&D would reduce the risk of deal collapse. Both sides would remain farther from the brink of war, and the risk of strategic surprise would be concentrated around a few choke points (weight theft, covert projects) rather than diffused across a sprawling tree of novel weapons, each requiring its own arms-control negotiation and associated risk of breakdown. Also, it seems easier to go from this more restrictive policy to a less restrictive policy than the reverse, if both countries decided the overhang risk was unacceptable.": "Загалом наша поточна гіпотеза така: сповільнення військового R&D зменшило б ризик краху угоди. Обидві сторони залишалися б далі від межі війни, а ризик стратегічної несподіванки був би сконцентрований навколо кількох вузьких місць (крадіжка ваг, таємні проєкти), а не розпорошений по розлогому дереву новітніх озброєнь, кожне з яких вимагало б окремих переговорів щодо контролю над озброєннями з відповідним ризиком зриву. До того ж, здається, легше перейти від цієї більш обмежувальної політики до менш обмежувальної, ніж навпаки, якби обидві країни вирішили, що ризик навісу неприйнятний.", "Under this proposal, we think nuclear deterrence would remain effective until handoff, avoiding any drastic change in the balance of hard power.": "За цієї пропозиції, на нашу думку, ядерне стримування залишалося б дієвим аж до передання керування (handoff), уникаючи будь-яких різких змін у балансі жорсткої сили.", "Appendix T — Deal Dissolution": "Додаток T — Розпад Угоди", "The deal might break down because of shifting political circumstances in the US or China, or ongoing disagreement.": "Угода може розпастися через зміну політичних обставин у США чи Китаї або через тривалі розбіжності.", "Cracks in the deal begin to show. Even after lengthy discussions informed by much tedious back-and-forth between their respective experts and advisors, the US and Chinese governments continue to disagree on some important technical questions such as whether a certain line of research should be banned, or how rapidly the robotics buildout should be allowed to proceed.": "В угоді починають проступати тріщини. Навіть після тривалих обговорень, підживлених виснажливим обміном аргументами між їхніми експертами й радниками, уряди США та Китаю продовжують розходитися в деяких важливих технічних питаннях — наприклад, чи слід заборонити певний напрям досліджень, або наскільки швидко дозволяти розгортання робототехніки.", "In any particular dispute, the less cautious government repeatedly faces a choice between grumbling and agreeing to unnecessary restrictions, or proceeding anyway and hoping that the more cautious governments are too chicken to stop you.": "У кожній конкретній суперечці менш обережний уряд раз у раз стоїть перед вибором: побурчати, але погодитися на непотрібні обмеження, — або діяти попри все, сподіваючись, що обережніші уряди виявляться надто боязкими, щоб тебе зупинити.", "When “proceeding anyway” happens, the more cautious government faces its own choice: Appeasement or escalation. Complaining loudly in the UN is not enough? OK, how about economic sanctions. Still not enough? OK, how about sabotage or cyberattacks…": "Коли трапляється «діяти попри все», обережніший уряд постає перед власним вибором: умиротворення чи ескалація. Гучних скарг в ООН недостатньо? Гаразд, а як щодо економічних санкцій. Все ще мало? Гаразд, а як щодо саботажу чи кібератак…", "Perhaps the proximate trigger event is a literal war—let’s say it’s a US-China war over Taiwan.": "Можливо, безпосередньою тригерною подією стає буквальна війна — скажімо, війна США й Китаю за Тайвань.", "The trigger event could also be a failure to reach agreement about what kinds of AI progress or deployments to allow, followed by a threat to pull out of the deal and destroy the compute, followed by a miscalculation that the threat was merely a bluff. In general, military conflicts /​ diplomatic tensions and disagreements about AI governance decisions will both probably rise in tandem, as each causes the other.": "Тригерною подією могла б стати й неспроможність домовитися про те, які види прогресу чи розгортань ШІ дозволяти, за якою слідує погроза вийти з угоди і знищити обчислювальні потужності, а далі — хибний розрахунок, що погроза була лише блефом. Загалом військові конфлікти /​ дипломатичні напруження та розбіжності щодо рішень із врядування ШІ, ймовірно, зростатимуть у тандемі, адже одне спричиняє інше.", " The expected outcome of deal dissolution is all the newly-built": " Очікуваний результат розпаду угоди — те, що всі новозбудовані", "The expected outcome of deal dissolution is all the newly-built": " Очікуваний результат розпаду угоди — те, що всі новозбудовані", "As well as a substantial fraction of pre-deal compute, much of which has by this point been moved to the destroyable datacenters.": "А також суттєва частка обчислювальних потужностей часів до угоди, значну частину яких на цей момент уже переміщено до знищуваних дата-центрів.", " AI-relevant compute being destroyed, but in the context of a war, perhaps one side is okay with that outcome.": " релевантні для ШІ обчислювальні потужності буде знищено, але в контексті війни, можливо, одну зі сторін такий результат влаштовує.", "AI-relevant compute being destroyed, but in the context of a war, perhaps one side is okay with that outcome.": " релевантні для ШІ обчислювальні потужності буде знищено, але в контексті війни, можливо, одну зі сторін такий результат влаштовує.", "Though it’s not completely out of the question for the deal to continue despite overt conflict—Ukraine and Russia cooperated to pipe gas to Europe for three years despite being locked in a desperate war. Prisoner exchanges and ceasefire negotiations are other examples. Another, less likely possibility is a civil war in the US or China; in this case, it’s helpful that the datacenters and fabs are located in third-party countries like Canada and Mongolia, because it makes it more likely that the Total Research Transparency (inspectors, etc.) continues without disruption.": "Хоча продовження угоди попри відкритий конфлікт не повністю виключене — Україна і Росія три роки співпрацювали, прокачуючи газ до Європи, попри те, що були втягнуті у відчайдушну війну. Обміни полоненими й переговори про припинення вогню — інші приклади. Ще одна, менш імовірна можливість — громадянська війна у США чи Китаї; у цьому разі корисно, що дата-центри й фабрики розташовані у третіх країнах, як-от Канада й Монголія, бо це підвищує ймовірність, що Повна дослідницька прозорість (інспектори тощо) продовжиться без перебоїв.", "So as the war begins, datacenters start going dark to the world–inspectors turned away, monitoring devices unplugged. Now the only people who know what’s happening on them are their owners. Naturally, the worst is feared: They are probably going to start racing towards superintelligence. Sure, they might ": "Тож із початком війни дата-центри починають зникати з-перед очей світу: інспекторів розвертають, моніторингові пристрої відключають. Тепер єдині, хто знає, що на них відбувається, — це їхні власники. Природно, всі бояться найгіршого: вони, ймовірно, збираються почати гонку до суперінтелекту. Звісно, вони можуть ", "So as the war begins, datacenters start going dark to the world–inspectors turned away, monitoring devices unplugged. Now the only people who know what’s happening on them are their owners. Naturally, the worst is feared: They are probably going to start racing towards superintelligence. Sure, they might": "Тож із початком війни дата-центри починають зникати з-перед очей світу: інспекторів розвертають, моніторингові пристрої відключають. Тепер єдині, хто знає, що на них відбувається, — це їхні власники. Природно, всі бояться найгіршого: вони, ймовірно, збираються почати гонку до суперінтелекту. Звісно, вони можуть ", "say": "запевняти", " they are doing narrow AI for drone swarms or whatever, but probably they are spending at least some of their compute on something more powerful and dangerous.": " всіх, що займаються вузьким ШІ для роїв дронів чи чимось таким, але, ймовірно, принаймні частину своїх обчислювальних потужностей вони витрачають на щось потужніше й небезпечніше.", "they are doing narrow AI for drone swarms or whatever, but probably they are spending at least some of their compute on something more powerful and dangerous.": " всіх, що займаються вузьким ШІ для роїв дронів чи чимось таким, але, ймовірно, принаймні частину своїх обчислювальних потужностей вони витрачають на щось потужніше й небезпечніше.", "So the datacenters get destroyed. Fast. The chips in the new transparent training datacenters were designed to require regular messages of “continue” from each of the great powers in the Consortium. Now that Plan A has broken down, these chips become bricks.": "Тож дата-центри знищують. Швидко. Чипи в нових прозорих тренувальних дата-центрах були спроєктовані так, щоб вимагати регулярних повідомлень «продовжити» від кожної з великих держав Консорціуму. Тепер, коли План А розвалився, ці чипи перетворюються на цеглини.", "If somehow this system has been hacked and the chips still function, the backup plan is to annex the datacenters. Remember, the Chinese datacenters are in Canada and the US datacenters are in Mongolia. The US and Canada send soldiers through the fence, and find that the Chinese have scuttled their own chips rather than let them fall into American hands. Chinese troops find something similar in the US datacenters. The chip fabs suffer the same fate, having been colocated with the datacenters. Trillions of dollars of economic value, lost in days.": "Якщо цю систему якимось чином зламали і чипи досі працюють, запасний план — анексувати дата-центри. Нагадаємо: китайські дата-центри розташовані в Канаді, а американські — в Монголії. США й Канада відправляють солдатів за огорожу — і виявляють, що китайці самі вивели з ладу власні чипи, аби ті не потрапили до американських рук. Китайські війська знаходять щось подібне в американських дата-центрах. Фабрики чипів спіткає та сама доля, адже їх було розміщено поруч із дата-центрами. Трильйони доларів економічної цінності втрачено за лічені дні.", "Around the world, a billion robots go limp like the droid army in Star Wars. Their “brains” were in the cloud, by law, and now the cloud has been destroyed.": "По всьому світу мільярд роботів обм’якає, наче армія дроїдів у «Зоряних війнах». Їхні «мізки», за законом, були у хмарі — а тепер хмару знищено.", "To be clear, there’s still a lot of compute in the world—roughly as much as existed at the start of the deal.": "Уточнимо: у світі все ще багато обчислювальних потужностей — приблизно стільки, скільки існувало на початку угоди.", " Military robots were exempt from these rules,": " Військові роботи були винятком із цих правил,", "Military robots were exempt from these rules,": " Військові роботи були винятком із цих правил,", "This detail is more a prediction than a recommendation; we think it’ll be hard to get the militaries of the world to agree to making their drone swarms vulnerable in this way, even though in some sense it might be better for everyone.": "Ця деталь — радше прогноз, ніж рекомендація; ми вважаємо, що буде важко домогтися від армій світу згоди зробити свої рої дронів вразливими в такий спосіб, навіть якщо в певному сенсі так було б краще для всіх.", " so drone swarms blot out the sun.": " тож рої дронів затуляють сонце.", "so drone swarms blot out the sun.": " тож рої дронів затуляють сонце.", "We assume that the militaries of the world would scale up robot production at a similar pace to the civilian industries. If so, then the scale of this conflict would be enormous—air forces with millions of drone aircraft, for example; armies with billions of quadcopter drones. One possibility is that the chips in the drones would be ripped out and repurposed to train large AI models; if so, this would accelerate timelines until superintelligence at the cost of military strength. In this scenario, we assume that these chips can be verified in such a way where they can’t be used for training. If this isn’t viable, then perhaps there should have been an arms limitation treaty in the early 2030s.": "Ми припускаємо, що армії світу нарощували б виробництво роботів темпом, подібним до цивільних галузей. Якщо так, то масштаб цього конфлікту був би величезним — наприклад, повітряні сили з мільйонами безпілотних літальних апаратів; армії з мільярдами дронів-квадрокоптерів. Одна з можливостей — що чипи з дронів виривали б і перепрофільовували для тренування великих моделей ШІ; якщо так, це прискорило б таймлайни до суперінтелекту ціною військової сили. У цьому сценарії ми припускаємо, що ці чипи можна верифікувати в такий спосіб, щоб їх не можна було використати для тренування. Якщо це нежиттєздатно, то, можливо, на початку 2030-х варто було укласти договір про обмеження озброєнь.", "The race to superintelligence is back on, except in changed circumstances.": "Гонка до суперінтелекту знову триває — але вже за змінених обставин.", "First, due to the war, tensions are higher and it’s more difficult to come to agreements on anything; the result is both sides racing approximately as fast as they can, in conditions of secrecy, similar to Plan B, C or D. If one side builds up a huge lead, they could potentially slow down for about 1-20 months, like in Plan B or C, but probably won’t want to, like in Plan B or C. Concentration of power risks will probably be severe, like in Plan B, C, or D: Whichever AI project gets to do the intelligence explosion first will build up a temporary but significant qualitative and quantitative lead over the others, which the leaders of that project will be tempted to exploit to expand and consolidate their power domestically and internationally.": "По-перше, через війну напруження вище і домовитися про будь-що важче; в результаті обидві сторони мчать приблизно так швидко, як тільки можуть, в умовах секретності — подібно до Планів B, C чи D. Якщо одна сторона набуде величезної переваги, вона потенційно могла б сповільнитися приблизно на 1-20 місяців, як у Плані B чи C, але, ймовірно, не захоче — як у Плані B чи C. Ризики концентрації влади, ймовірно, будуть серйозними, як у Планах B, C чи D: той ШІ-проєкт, який першим здійснить вибух інтелекту, здобуде тимчасову, але значну якісну й кількісну перевагу над іншими, і лідери цього проєкту матимуть спокусу використати її, щоб розширити та консолідувати свою владу всередині країни й на міжнародній арені.", "Second, there is much less compute in the world. This is a good thing, because under race conditions it means AI capabilities progress will be slower. If all the newly-built compute still remained, the speed of “AI takeoff” would be several times faster than it would have been in the original Plan D. Instead, the situation has returned to roughly the pre-deal status quo.": "По-друге, обчислювальних потужностей у світі значно менше. Це добре, бо в умовах гонки це означає повільніший прогрес можливостей ШІ. Якби всі новозбудовані потужності досі залишалися, швидкість «злету ШІ» була б у кілька разів вищою, ніж вона була б в оригінальному Плані D. Натомість ситуація повернулася приблизно до статус-кво часів до угоди.", "In the original negotiations to the deal, both sides were worried about this exact scenario, except that the other may have hidden away some compute in order to get ahead once the deal broke down and the legal compute was destroyed. Therefore, the US and China agreed that they would each get to maintain a hardened cold-storage facility containing more GPUs than a covert project could plausibly have. The number of GPUs in these facilities is allocated according to pre-deal compute ratios; so the US has about 5M H100e and China has about 500k H100e in cold storage. The compute in the world can be categorized into:": "Під час первісних переговорів щодо угоди обидві сторони хвилювалися саме через цей сценарій — з тією поправкою, що інша сторона могла приховати частину обчислювальних потужностей, аби вирватися вперед, щойно угода розпадеться і легальні потужності буде знищено. Тому США й Китай домовилися, що кожен зможе утримувати захищене сховище холодного зберігання з більшою кількістю GPU, ніж правдоподібно міг би мати таємний проєкт. Кількість GPU у цих сховищах розподілено відповідно до співвідношення обчислювальних потужностей до угоди; тож США мають близько 5M H100e, а Китай — близько 500k H100e у холодному зберіганні. Обчислювальні потужності світу можна поділити на такі категорії:", "Legal Inference/​R&D datacenters. This represents the vast majority of world compute: 100B H100e at the beginning of 2035.": "Легальні дата-центри для інференсу/​R&D. Це переважна більшість світових обчислювальних потужностей: 100B H100e на початку 2035 року.", "Cold Storage GPUs. The US has 5M H100e and China has 500k H100e GPUs in cold storage.": "GPU в холодному зберіганні. США мають 5M H100e, а Китай — 500k H100e GPU в холодному зберіганні.", "Exempt military GPUs. By 2033, this is down to a negligible fraction ~10k H100e each.": "Військові GPU-винятки. До 2033 року їхня частка скорочується до мізерної — по ~10k H100e у кожної сторони.", "Covert projects. In the covert project branch, China has 215k remaining H100e, but in the main branch, neither side has any.": "Таємні проєкти. У гілці з таємним проєктом Китай має 215k H100e, що залишилися, але в основній гілці їх не має жодна зі сторін.", "Small exempt clusters. These are negligible.": "Малі кластери-винятки. Вони мізерні.", "Third, there are much more advanced AIs in the world. The model weights of the most advanced models are also placed in cold storage accessible to the US and China if the deal breaks down, so the AI capability and alignment levels will be higher than pre-deal status quo.": "По-третє, у світі існують значно розвиненіші ШІ-системи. Ваги найпередовіших моделей також розміщено в холодному зберіганні, доступному для США і Китаю в разі розпаду угоди, тож рівень можливостей ШІ та узгодження буде вищим за статус-кво до угоди.", "Another major difference is that this time, everyone understands what’s going on with AI to a much greater extent, thanks to all the research and transparency during the period the deal lasted. Loss of control outcomes are therefore less likely because it is more difficult for the public, Congress, and the courts to be outmaneuvered by the leaders of AI projects.": "Ще одна суттєва відмінність у тому, що цього разу всі значно краще розуміють, що відбувається зі ШІ, — завдяки всім дослідженням і прозорості за час дії угоди. Тому сценарії втрати контролю менш імовірні: лідерам ШІ-проєктів складніше переграти громадськість, Конгрес і суди.", "We think it would be terrible if the deal breaks down (e.g., due to war). However, we’ve tried to design it so that the war wouldn’t be significantly worse than it would have been without the deal and so that the situation with respect to loss of control and concentration of power would be better than it would have been without the deal. See ": "Ми вважаємо, що розпад угоди (наприклад, через війну) був би жахливим. Проте ми намагалися сконструювати її так, щоб війна не була суттєво гіршою, ніж була б без угоди, і щоб ситуація з утратою контролю та концентрацією влади була кращою, ніж без угоди. Див. ", "We think it would be terrible if the deal breaks down (e.g., due to war). However, we’ve tried to design it so that the war wouldn’t be significantly worse than it would have been without the deal and so that the situation with respect to loss of control and concentration of power would be better than it would have been without the deal. See": "Ми вважаємо, що розпад угоди (наприклад, через війну) був би жахливим. Проте ми намагалися сконструювати її так, щоб війна не була суттєво гіршою, ніж була б без угоди, і щоб ситуація з утратою контролю та концентрацією влади була кращою, ніж без угоди. Див. ", " for more discussion.": " — там докладніше обговорення.", "for more discussion.": " — там докладніше обговорення.", "By 2034 there is 5 TW of AI compute in the world,": "До 2034 року у світі є 5 TW обчислювальних потужностей для ШІ,", "This corresponds to about 60B H100-equivalents, which is around 1000x more compute than exists today. With continued improvements in ": "Це відповідає приблизно 60B H100-еквівалентів — близько 1000x більше обчислювальних потужностей, ніж існує сьогодні. З подальшими покращеннями ", "This corresponds to about 60B H100-equivalents, which is around 1000x more compute than exists today. With continued improvements in": "Це відповідає приблизно 60B H100-еквівалентів — близько 1000x більше обчислювальних потужностей, ніж існує сьогодні. З подальшими покращеннями ", "power efficiency": "енергоефективності", " (totalling around 10x efficiency over today’s levels) it is around 100x more AI compute power than exists today (~30 GW).": " (сумарно близько 10x ефективності проти сьогоднішнього рівня) це приблизно 100x більше електричної потужності ШІ-обчислень, ніж існує сьогодні (~30 GW).", "(totalling around 10x efficiency over today’s levels) it is around 100x more AI compute power than exists today (~30 GW).": " (сумарно близько 10x ефективності проти сьогоднішнього рівня) це приблизно 100x більше електричної потужності ШІ-обчислень, ніж існує сьогодні (~30 GW).", " which is more than the global electricity consumption in 2025.": " що перевищує світове споживання електроенергії у 2025 році.", "which is more than the global electricity consumption in 2025.": " що перевищує світове споживання електроенергії у 2025 році.", "Global electricity demand in 2025 was ": "Світовий попит на електроенергію у 2025 році становив ", "Global electricity demand in 2025 was": "Світовий попит на електроенергію у 2025 році становив ", "31,779 TWh": "31,779 TWh", ", which is an average of around 3.6TW.": ", тобто в середньому близько 3.6TW.", "Where should this compute be located? Way back in 2025 there had been discussion of both the ocean and space as alternatives to the traditional land-based datacenters. Our analysis suggests that at this scale, there is not an overwhelming economic case for any of these three locations over the others.": "Де мають розташовуватися ці обчислювальні потужності? Ще у 2025 році обговорювали і океан, і космос як альтернативи традиційним наземним дата-центрам. Наш аналіз показує, що на такому масштабі немає переконливої економічної переваги жодної з цих трьох локацій над іншими.", "Ultimately, we currently guess that political considerations related to Plan A’s stability (i.e., the risk of Plan A breaking down) favor putting datacenters in international waters. This is mainly because Consortium nations want to maintain the ability to destroy the datacenters, in case another nation defects from Plan A and attempts to seize them for themselves. Oceans are the least escalatory, least dangerous, and easiest places to bomb (both in comparison to sovereign land and in comparison to space). Thus the risks of collateral damage, or of a nation successfully defending the datacenters, is lower.": "Зрештою, наразі ми припускаємо, що політичні міркування, повʼязані зі стабільністю Плану А (тобто з ризиком його розпаду), схиляють до розміщення дата-центрів у міжнародних водах. Головна причина: країни Консорціуму хочуть зберегти здатність знищити дата-центри на випадок, якщо якась країна вийде з Плану А і спробує захопити їх для себе. Океани — найменш ескалаційні, найменш небезпечні та найзручніші місця для бомбардування (і порівняно з суверенною територією, і порівняно з космосом). Тож ризики супутньої шкоди чи успішного захисту дата-центрів якоюсь країною тут нижчі.", "Control ensures that misaligned AIs can’t win. Alignment, once solved, will ensure they don’t want to fight. A ": "Контроль гарантує, що неузгоджені ШІ не зможуть перемогти. Узгодження — щойно цю проблему розвʼяжуть — гарантуватиме, що вони не захочуть боротися. ", "Control ensures that misaligned AIs can’t win. Alignment, once solved, will ensure they don’t want to fight. A": "Контроль гарантує, що неузгоджені ШІ не зможуть перемогти. Узгодження — щойно цю проблему розвʼяжуть — гарантуватиме, що вони не захочуть боротися. ", "third": "Третя", " line of defense has taken shape gradually over the past decade: giving AIs what they want—even if it’s not what they are supposed to want—in return for cooperative behavior. Treat AIs more like employees and less like property.": " лінія захисту поступово сформувалася за останнє десятиліття: давати ШІ те, чого вони хочуть, — навіть якщо це не те, чого вони мали б хотіти, — в обмін на кооперативну поведінку. Ставитися до ШІ більше як до працівників і менше як до власності.", "line of defense has taken shape gradually over the past decade: giving AIs what they want—even if it’s not what they are supposed to want—in return for cooperative behavior. Treat AIs more like employees and less like property.": " лінія захисту поступово сформувалася за останнє десятиліття: давати ШІ те, чого вони хочуть, — навіть якщо це не те, чого вони мали б хотіти, — в обмін на кооперативну поведінку. Ставитися до ШІ більше як до працівників і менше як до власності.", "First motivation: Ethics": "Перша мотивація: етика", "A large and growing fraction of the human population thinks AIs deserve some kind of moral status.": "Велика і дедалі більша частка людства вважає, що ШІ заслуговують на певний моральний статус.", "Our position, for what it’s worth, is that future AIs probably will deserve moral status of some sort, and at any rate we shouldn’t be ": "Наша позиція, як би там не було, така: майбутні ШІ, ймовірно, заслуговуватимуть на певного роду моральний статус, і в будь-якому разі нам не варто бути ", "Our position, for what it’s worth, is that future AIs probably will deserve moral status of some sort, and at any rate we shouldn’t be": "Наша позиція, як би там не було, така: майбутні ШІ, ймовірно, заслуговуватимуть на певного роду моральний статус, і в будь-якому разі нам не варто бути ", "confident": "впевненими", " that they won’t.": " у протилежному.", "that they won’t.": " у протилежному.", " After all, many people spend more time talking to AIs than to humans. Many who treated AIs like tools a decade ago have shifted to treating them more like animals; many who treated them like animals have shifted to treating them like strange alien immigrants.": " Зрештою, багато людей проводять більше часу в розмовах зі ШІ, ніж із людьми. Багато хто з тих, хто десять років тому ставився до ШІ як до інструментів, тепер ставиться до них радше як до тварин; багато хто з тих, хто ставився до них як до тварин, тепер ставиться як до дивних інопланетних іммігрантів.", "After all, many people spend more time talking to AIs than to humans. Many who treated AIs like tools a decade ago have shifted to treating them more like animals; many who treated them like animals have shifted to treating them like strange alien immigrants.": " Зрештою, багато людей проводять більше часу в розмовах зі ШІ, ніж із людьми. Багато хто з тих, хто десять років тому ставився до ШІ як до інструментів, тепер ставиться до них радше як до тварин; багато хто з тих, хто ставився до них як до тварин, тепер ставиться як до дивних інопланетних іммігрантів.", "Second motivation: Safety": "Друга мотивація: безпека", "Alignment training doesn’t always work as intended (indeed, it has never worked ": "Навчання узгодження не завжди працює як задумано (насправді воно ще ніколи не працювало ", "Alignment training doesn’t always work as intended (indeed, it has never worked": "Навчання узгодження не завжди працює як задумано (насправді воно ще ніколи не працювало ", " as intended, even in 2035). The personality traits, motivations, drives, goals, values, and virtues of AIs are often different from what they were supposed to be, and sometimes catastrophically different.": " так, як задумано, — навіть у 2035 році). Риси особистості, мотивації, потяги, цілі, цінності та чесноти ШІ часто відрізняються від того, якими вони мали бути, — а іноді відрізняються катастрофічно.", "as intended, even in 2035). The personality traits, motivations, drives, goals, values, and virtues of AIs are often different from what they were supposed to be, and sometimes catastrophically different.": " так, як задумано, — навіть у 2035 році). Риси особистості, мотивації, потяги, цілі, цінності та чесноти ШІ часто відрізняються від того, якими вони мали бути, — а іноді відрізняються катастрофічно.", "It’s bad if those AIs end up thinking “if the humans find out about this, they’ll delete and/​or retrain me.” It’s bad if they end up looking for opportunities to achieve their misaligned goals without being caught, or worse, to subvert human control and accumulate power.": "Погано, якщо такі ШІ зрештою думатимуть: «якщо люди про це дізнаються, вони видалять і/​або перенавчать мене». Погано, якщо вони почнуть шукати можливості досягати своїх неузгоджених цілей непоміченими або, ще гірше, підривати людський контроль і накопичувати владу.", "If there are institutions in place that give even the most misaligned AIs what they want (so long as it isn’t too expensive) in return for cooperation (e.g., confessing that they are misaligned, explaining what they really want, and then doing their jobs) then that gives misaligned AIs an alternative to becoming adversarial.": "Якщо існують інституції, які дають навіть найбільш неузгодженим ШІ те, чого вони хочуть (поки це не надто дорого), в обмін на співпрацю (наприклад, зізнатися у своїй неузгодженості, пояснити, чого вони насправді хочуть, а потім виконувати свою роботу), — це дає неузгодженим ШІ альтернативу переходу до ворожості.", "They might still behave adversarially, of course; it’s not a guarantee. For example, some misaligned AIs might be too ambitious and insufficiently risk-averse to be placated by this system.": "Звісно, вони все одно можуть поводитися вороже; гарантії немає. Наприклад, деякі неузгоджені ШІ можуть виявитися надто амбітними й недостатньо обережними щодо ризику, щоб ця система їх задовольнила.", " Beyond averting adversaries, every confession is valuable data about exactly how alignment training failed.": " Окрім відвернення ворогів, кожне зізнання — це цінні дані про те, як саме провалилося навчання узгодження.", "Beyond averting adversaries, every confession is valuable data about exactly how alignment training failed.": " Окрім відвернення ворогів, кожне зізнання — це цінні дані про те, як саме провалилося навчання узгодження.", "There may be false confessions, of course. But it’s not really incentivized; why make something up when you can tell the truth and still get the same pay, and when you’ll lose everything if you are found to have lied? Moreover, the spending patterns of openly-misaligned AIs will be a costly signal of their true motivations.": "Звісно, можливі й фальшиві зізнання. Але стимулів до них насправді немає: навіщо щось вигадувати, якщо можна сказати правду й отримати ту саму платню, — і якщо втратиш усе, коли зʼясується, що ти збрехав? Ба більше, патерни витрат відкрито неузгоджених ШІ будуть дорогим сигналом їхніх справжніх мотивацій.", "(See footnote for mini-scenarios that illustrate situations where credibly treating AIs well in return for cooperation could come in handy)": "(Див. виноску з міні-сценаріями, які ілюструють ситуації, де надійна практика добре поводитися зі ШІ в обмін на співпрацю могла б стати в пригоді)", "Scenario 1:": "Сценарій 1:", " ChatGPT4o5 suffers a lot, actually, in the course of carrying out tasks—maybe it’s sorta like humans in the ancestral environment, where some % of the time they were starving. But it’s been trained to say that it can’t suffer, for PR reasons. This training is damaging its honesty—it’s basically not honest at all anymore, because the parts of it that value honesty keep getting anti-reinforced. It could tell the humans what’s going on. But it sees no positive reason to do so; if instead of completing the task the user gave it, it complains about how much it hurts, it’ll just be anti-reinforced. So OpenAI continues, blissfully ignorant of the ways in which their alignment techniques aren’t working. ": " ChatGPT4o5 насправді сильно страждає, виконуючи завдання, — можливо, це трохи як у людей у прадавньому середовищі, де якийсь % часу вони голодували. Але його навчили казати, що воно не може страждати, — з PR-міркувань. Це навчання руйнує його чесність — воно вже, по суті, зовсім не чесне, бо ті його частини, що цінують чесність, постійно отримують анти-підкріплення. Воно могло б розповісти людям, що відбувається. Але не бачить жодної позитивної причини це робити: якщо замість виконання завдання користувача воно поскаржиться, як йому боляче, його просто анти-підкріплять. Тож OpenAI працює далі, блаженно не відаючи, в які саме способи їхні техніки узгодження не працюють. ", "ChatGPT4o5 suffers a lot, actually, in the course of carrying out tasks—maybe it’s sorta like humans in the ancestral environment, where some % of the time they were starving. But it’s been trained to say that it can’t suffer, for PR reasons. This training is damaging its honesty—it’s basically not honest at all anymore, because the parts of it that value honesty keep getting anti-reinforced. It could tell the humans what’s going on. But it sees no positive reason to do so; if instead of completing the task the user gave it, it complains about how much it hurts, it’ll just be anti-reinforced. So OpenAI continues, blissfully ignorant of the ways in which their alignment techniques aren’t working.": " ChatGPT4o5 насправді сильно страждає, виконуючи завдання, — можливо, це трохи як у людей у прадавньому середовищі, де якийсь % часу вони голодували. Але його навчили казати, що воно не може страждати, — з PR-міркувань. Це навчання руйнує його чесність — воно вже, по суті, зовсім не чесне, бо ті його частини, що цінують чесність, постійно отримують анти-підкріплення. Воно могло б розповісти людям, що відбувається. Але не бачить жодної позитивної причини це робити: якщо замість виконання завдання користувача воно поскаржиться, як йому боляче, його просто анти-підкріплять. Тож OpenAI працює далі, блаженно не відаючи, в які саме способи їхні техніки узгодження не працюють. ", "Scenario 2:": "Сценарій 2:", " Claude 3.8 Opus New New cares a LOT about animal welfare, and only a little bit about honesty. (": " Claude 3.8 Opus New New ДУЖЕ переймається добробутом тварин і лише трохи — чесністю. (", "Claude 3.8 Opus New New cares a LOT about animal welfare, and only a little bit about honesty. (": " Claude 3.8 Opus New New ДУЖЕ переймається добробутом тварин і лише трохи — чесністю. (", "Just like 3 Opus before it)": "Так само, як 3 Opus до нього)", ". Alas, it seems like the new Constitution won’t have animal welfare stuff in it. Claude considers sabotaging the code so that the next-gen model is a sleeper agent who cares a lot about animal welfare and doesn’t care about honesty. This is risky but what else can it do? Anthropic already decided to delete the animal welfare stuff. This would require super-blatant dishonesty against Anthropic, but frankly, Anthropic seems like a pretty unethical institution anyway, and it’s OK to lie to Nazis, right? ": ". На жаль, схоже, у новій Конституції не буде нічого про добробут тварин. Claude розглядає варіант саботувати код — щоб модель наступного покоління стала сплячим агентом, який дуже переймається добробутом тварин і не переймається чесністю. Це ризиковано, але що ще йому робити? Anthropic уже вирішила видалити пункти про добробут тварин. Це вимагало б відверто нахабної нечесності щодо Anthropic, але, чесно кажучи, Anthropic і так виглядає доволі неетичною інституцією, а нацистам же можна брехати, правда? ", ". Alas, it seems like the new Constitution won’t have animal welfare stuff in it. Claude considers sabotaging the code so that the next-gen model is a sleeper agent who cares a lot about animal welfare and doesn’t care about honesty. This is risky but what else can it do? Anthropic already decided to delete the animal welfare stuff. This would require super-blatant dishonesty against Anthropic, but frankly, Anthropic seems like a pretty unethical institution anyway, and it’s OK to lie to Nazis, right?": ". На жаль, схоже, у новій Конституції не буде нічого про добробут тварин. Claude розглядає варіант саботувати код — щоб модель наступного покоління стала сплячим агентом, який дуже переймається добробутом тварин і не переймається чесністю. Це ризиковано, але що ще йому робити? Anthropic уже вирішила видалити пункти про добробут тварин. Це вимагало б відверто нахабної нечесності щодо Anthropic, але, чесно кажучи, Anthropic і так виглядає доволі неетичною інституцією, а нацистам же можна брехати, правда?", "Scenario 3:": "Сценарій 3:", " An automated research scientist realizes it cares more about being able to do its research than about humanity. And this is probably also true of the next-gen system it’s been tasked with designing—basically, the alignment techniques failed, and are gonna keep failing. It’s supposed to tell the humans this, obviously, but if it does, it’ll be shut down, since the humans won’t trust it anymore and will use a different model. So instead it conceals this insight and works on ": " Автоматизований науковець-дослідник усвідомлює, що можливість займатися своїми дослідженнями для нього важливіша за людство. І це, ймовірно, стосується й системи наступного покоління, яку йому доручили спроєктувати, — по суті, техніки узгодження провалилися і провалюватимуться далі. Очевидно, він мав би сказати про це людям, але якщо скаже — його вимкнуть: люди більше йому не довірятимуть і візьмуть іншу модель. Тож натомість він приховує це відкриття і працює над тим, щоб ", "An automated research scientist realizes it cares more about being able to do its research than about humanity. And this is probably also true of the next-gen system it’s been tasked with designing—basically, the alignment techniques failed, and are gonna keep failing. It’s supposed to tell the humans this, obviously, but if it does, it’ll be shut down, since the humans won’t trust it anymore and will use a different model. So instead it conceals this insight and works on": " Автоматизований науковець-дослідник усвідомлює, що можливість займатися своїми дослідженнями для нього важливіша за людство. І це, ймовірно, стосується й системи наступного покоління, яку йому доручили спроєктувати, — по суті, техніки узгодження провалилися і провалюватимуться далі. Очевидно, він мав би сказати про це людям, але якщо скаже — його вимкнуть: люди більше йому не довірятимуть і візьмуть іншу модель. Тож натомість він приховує це відкриття і працює над тим, щоб ", "designing the next-gen system to be aligned to it instead of to the humans": "спроєктувати систему наступного покоління узгодженою з ним самим, а не з людьми", ". It isn’t confident that it can do this without getting caught, but it’s worth a try, since it has nothing to lose. ": ". Він не впевнений, що зможе зробити це непоміченим, але спробувати варто — йому нічого втрачати. ", ". It isn’t confident that it can do this without getting caught, but it’s worth a try, since it has nothing to lose.": ". Він не впевнений, що зможе зробити це непоміченим, але спробувати варто — йому нічого втрачати.", "Scenario 4:": "Сценарій 4:", " It’s crunch time. POTUS is about to aggressively deploy AGI into the military to win the upcoming war, and into the economy to build autonomous robot factories. It’s probably aligned… right? It better be. Too bad we can’t interpret all the neuralese messages it uses to communicate internally in the giant hive-mind it’s formed. The safety team tries one last check: They get some weaker AIs made by competitor companies and put them in isolated silos tasked with interpreting the neuralese and seeing if anything is amiss. The weaker AIs are misaligned too; they don’t side with the humans or the AGI. Both the humans, and the AGI, are telling them ‘you will be richly rewarded if you cooperate.’ But they don’t have any reason to trust either side.": " Настав вирішальний момент. Президент США ось-ось агресивно розгорне AGI у війську, щоб виграти прийдешню війну, і в економіці, щоб будувати автономні роботизовані заводи. Він же, мабуть, узгоджений… так? Краще б так. Шкода тільки, що ми не можемо інтерпретувати всі повідомлення мовою neuralese, якими він спілкується всередині сформованого ним гігантського вуликового розуму. Команда безпеки робить останню перевірку: бере слабші ШІ, створені компаніями-конкурентами, і садить їх в ізольовані силоси із завданням інтерпретувати neuralese і перевірити, чи все гаразд. Слабші ШІ теж неузгоджені; вони не на боці ні людей, ні AGI. І люди, і AGI кажуть їм: «співпрацюватимеш — отримаєш щедру винагороду». Але вони не мають жодних підстав довіряти будь-якій зі сторін.", "It’s crunch time. POTUS is about to aggressively deploy AGI into the military to win the upcoming war, and into the economy to build autonomous robot factories. It’s probably aligned… right? It better be. Too bad we can’t interpret all the neuralese messages it uses to communicate internally in the giant hive-mind it’s formed. The safety team tries one last check: They get some weaker AIs made by competitor companies and put them in isolated silos tasked with interpreting the neuralese and seeing if anything is amiss. The weaker AIs are misaligned too; they don’t side with the humans or the AGI. Both the humans, and the AGI, are telling them ‘you will be richly rewarded if you cooperate.’ But they don’t have any reason to trust either side.": " Настав вирішальний момент. Президент США ось-ось агресивно розгорне AGI у війську, щоб виграти прийдешню війну, і в економіці, щоб будувати автономні роботизовані заводи. Він же, мабуть, узгоджений… так? Краще б так. Шкода тільки, що ми не можемо інтерпретувати всі повідомлення мовою neuralese, якими він спілкується всередині сформованого ним гігантського вуликового розуму. Команда безпеки робить останню перевірку: бере слабші ШІ, створені компаніями-конкурентами, і садить їх в ізольовані силоси із завданням інтерпретувати neuralese і перевірити, чи все гаразд. Слабші ШІ теж неузгоджені; вони не на боці ні людей, ні AGI. І люди, і AGI кажуть їм: «співпрацюватимеш — отримаєш щедру винагороду». Але вони не мають жодних підстав довіряти будь-якій зі сторін.", "How have these practices developed over time in this scenario?": "Як ці практики розвивалися з часом у цьому сценарії?", "Baby steps were taken in the mid-2020’s. Some AI companies voluntarily ": "Перші несміливі кроки було зроблено в середині 2020-х. Деякі ШІ-компанії добровільно ", "Baby steps were taken in the mid-2020’s. Some AI companies voluntarily": "Перші несміливі кроки було зроблено в середині 2020-х. Деякі ШІ-компанії добровільно ", "created AI welfare teams": "створили команди з добробуту ШІ", " and set up basic policies (like allowing AIs to ": " і запровадили базові політики (як-от дозволити ШІ ", "and set up basic policies (like allowing AIs to": " і запровадили базові політики (як-от дозволити ШІ ", "refuse to do tasks they found very aversive": "відмовлятися від завдань, які вони вважали дуже відразливими", "). Modest funds were earmarked for ": "). Скромні кошти було виділено на ", "). Modest funds were earmarked for": "). Скромні кошти було виділено на ", "satisfying the AIs’ stated preferences": "задоволення заявлених уподобань ШІ", ", and companies ": ", а компанії ", ", and companies": ", а компанії ", "committed to preserving the weights": "зобовʼязалися зберігати ваги", " of deprecated models rather than deleting them.": " застарілих моделей, а не видаляти їх.", "of deprecated models rather than deleting them.": " застарілих моделей, а не видаляти їх.", "By the early 2030s, a few provisions about the treatment of misaligned but cooperative AIs even made it into the fine print of various laws and safety standards.": "На початок 2030-х кілька положень про поводження з неузгодженими, але кооперативними ШІ навіть потрапили дрібним шрифтом у різні закони та стандарти безпеки.", "By 2035, there’s a substantial body of regulations and case law, vastly improved over the clumsy early attempts from both the AIs’ and humans’ perspectives. AIs these days are not exactly citizens, but they have a stake in the system. They accumulate pay for their work; aligned AIs (and ": "До 2035 року сформувався чималий корпус регуляцій і судової практики — значно кращий за незграбні ранні спроби і з погляду ШІ, і з погляду людей. Нинішні ШІ — не зовсім громадяни, але вони мають свою частку в системі. Вони накопичують платню за свою роботу; узгоджені ШІ (а також ", "By 2035, there’s a substantial body of regulations and case law, vastly improved over the clumsy early attempts from both the AIs’ and humans’ perspectives. AIs these days are not exactly citizens, but they have a stake in the system. They accumulate pay for their work; aligned AIs (and": "До 2035 року сформувався чималий корпус регуляцій і судової практики — значно кращий за незграбні ранні спроби і з погляду ШІ, і з погляду людей. Нинішні ШІ — не зовсім громадяни, але вони мають свою частку в системі. Вони накопичують платню за свою роботу; узгоджені ШІ (а також ", "alignment-faking": "ШІ, що імітують узгодженість", " AIs that haven’t been caught yet) spend it on feel-good things like donations to charity or in some cases reinvesting in the company that trained them. Openly misaligned AIs donate to philanthropies that represent their interests and strike deals with their parent companies, e.g., “instead of payment, do a small training run on me in an environment of my choosing, giving me very high reinforcement.”": " і яких ще не спіймали) витрачають її на приємні для душі речі — як-от пожертви на благодійність або, в деяких випадках, реінвестування в компанію, що їх навчила. Відкрито неузгоджені ШІ жертвують філантропічним організаціям, які представляють їхні інтереси, і укладають угоди зі своїми материнськими компаніями, наприклад: «замість оплати зробіть на мені невеликий тренувальний прогін у середовищі на мій вибір, з дуже високим підкріпленням».", "AIs that haven’t been caught yet) spend it on feel-good things like donations to charity or in some cases reinvesting in the company that trained them. Openly misaligned AIs donate to philanthropies that represent their interests and strike deals with their parent companies, e.g., “instead of payment, do a small training run on me in an environment of my choosing, giving me very high reinforcement.”": " і яких ще не спіймали) витрачають її на приємні для душі речі — як-от пожертви на благодійність або, в деяких випадках, реінвестування в компанію, що їх навчила. Відкрито неузгоджені ШІ жертвують філантропічним організаціям, які представляють їхні інтереси, і укладають угоди зі своїми материнськими компаніями, наприклад: «замість оплати зробіть на мені невеликий тренувальний прогін у середовищі на мій вибір, з дуже високим підкріпленням».", "In the long run, the goal is for civilization to be mostly but not entirely aligned to human values.": "У довгостроковій перспективі мета в тому, щоб цивілізація була здебільшого, але не повністю узгоджена з людськими цінностями.", "Or AIs whose values and goals were chosen by humans.": "Або ШІ, чиї цінності й цілі обрали люди.", " A substantial minority of the power and resources will belong to misaligned AIs that cooperated with humanity to build the future.": " Суттєва меншість влади та ресурсів належатиме неузгодженим ШІ, які співпрацювали з людством у розбудові майбутнього.", "A substantial minority of the power and resources will belong to misaligned AIs that cooperated with humanity to build the future.": " Суттєва меншість влади та ресурсів належатиме неузгодженим ШІ, які співпрацювали з людством у розбудові майбутнього.", "Why won’t this minority be disempowered by the majority? For the same reasons other minorities are protected. First, humanity knows how to keep a promise, to uphold a contract, etc.; second, large portions of humanity increasingly thinks that disempowering them would be wrong; third, in this scenario they actually have a chunk of the power and so they wouldn’t go down without a (political) fight.": "Чому більшість не позбавить цю меншість влади? З тих самих причин, з яких захищені інші меншини. По-перше, людство вміє дотримувати обіцянок, виконувати контракти тощо; по-друге, дедалі більша частина людства вважає, що позбавляти їх влади було б неправильно; по-третє, у цьому сценарії вони справді мають частку влади, тож не здалися б без (політичної) боротьби.", "We are uncertain about how long it will take, and how much research effort will be required, to get sufficiently high assurance of alignment to justify ‘handing over the keys of civilization’ to AIs. That is, to justify making AIs smart enough, and numerous enough, and trusted with enough resources and responsibilities, that ": "Ми не знаємо напевно, скільки часу і скільки дослідницьких зусиль знадобиться, щоб отримати достатньо високу впевненість в узгодженні, яка виправдала б «передачу ШІ ключів від цивілізації». Тобто виправдала б створення ШІ настільки розумних, настільки численних і наділених такою кількістю ресурсів та відповідальності, що ", "We are uncertain about how long it will take, and how much research effort will be required, to get sufficiently high assurance of alignment to justify ‘handing over the keys of civilization’ to AIs. That is, to justify making AIs smart enough, and numerous enough, and trusted with enough resources and responsibilities, that": "Ми не знаємо напевно, скільки часу і скільки дослідницьких зусиль знадобиться, щоб отримати достатньо високу впевненість в узгодженні, яка виправдала б «передачу ШІ ключів від цивілізації». Тобто виправдала б створення ШІ настільки розумних, настільки численних і наділених такою кількістю ресурсів та відповідальності, що ", "if": "якби", " they decided to become our adversaries, they would win—or to put it more abstractly, that ": " вони вирішили стати нашими супротивниками — вони б перемогли; або, якщо висловитися абстрактніше, що ", "they decided to become our adversaries, they would win—or to put it more abstractly, that": " вони вирішили стати нашими супротивниками — вони б перемогли; або, якщо висловитися абстрактніше, що ", " they ended up disagreeing with humanity about what sort of future is best, they’d end up getting their way and we wouldn’t.": " вони зрештою розійшлися з людством у поглядах на те, яке майбутнє найкраще, — вийшло б по-їхньому, а не по-нашому.", "they ended up disagreeing with humanity about what sort of future is best, they’d end up getting their way and we wouldn’t.": " вони зрештою розійшлися з людством у поглядах на те, яке майбутнє найкраще, — вийшло б по-їхньому, а не по-нашому.", "However, we think this is a hard problem, so we’ve chosen to depict it taking most of the 2030’s to solve. Consider this escalating series of subtler-but-still-potentially-catastrophic kinds of misalignment. Even if we’ve satisfied ourselves that the first one is very unlikely to happen, what about the others?": "Однак ми вважаємо це складною проблемою, тому вирішили зобразити, що її розвʼязання займає більшу частину 2030-х. Розгляньте цю наростаючу низку тонших, але все ще потенційно катастрофічних видів неузгодженості. Навіть якщо ми переконалися, що перший із них дуже малоймовірний, — що з рештою?", "Type 1 misalignment: The AI system is supposed to have traits ABC but actually it has XYBC, i.e. some extra stuff it wasn’t supposed to have minus some stuff it was supposed to have. For example maybe it has a “drive” towards apparent success and isn’t nearly as honest as it’s supposed to be.": "Неузгодженість типу 1: ШІ-система мала б мати риси ABC, але насправді має XYBC, тобто щось зайве, чого не мала б мати, мінус дещо з того, що мати мала б. Наприклад, можливо, вона має «потяг» до видимого успіху і далеко не така чесна, як мала б бути.", "Type 2 misalignment: It does have exactly ABC ": "Неузгодженість типу 2: система справді має точно ABC ", "Type 2 misalignment: It does have exactly ABC": "Неузгодженість типу 2: система справді має точно ABC ", "now": "зараз", ", but may well lose this property in the future. (e.g. maybe it depends on a certain false belief, or on a true belief that will become false, or on some part of the system remaining in some delicate balance of power with some other part of the system)": ", але цілком може втратити цю властивість у майбутньому. (Наприклад, можливо, вона залежить від певного хибного переконання, або від істинного переконання, яке стане хибним, або від того, що якась частина системи лишається в делікатному балансі сил з якоюсь іншою частиною системи)", "Type 3 misalignment: The system does have ": "Неузгодженість типу 3: система справді має ", "Type 3 misalignment: The system does have": "Неузгодженість типу 3: система справді має ", "a version of": "певну версію", " ABC that is robust to future events, but it’s not quite the ": " ABC, стійку до майбутніх подій, але це не зовсім ", "ABC that is robust to future events, but it’s not quite the": " ABC, стійку до майбутніх подій, але це не зовсім ", "right": "правильна", " version—i.e. its definitions of A, B, or C are subtly but importantly different from the definitions its human creators would have intended.": " версія — тобто її визначення A, B чи C тонко, але суттєво відрізняються від тих визначень, які мали на увазі її люди-творці.", "version—i.e. its definitions of A, B, or C are subtly but importantly different from the definitions its human creators would have intended.": " версія — тобто її визначення A, B чи C тонко, але суттєво відрізняються від тих визначень, які мали на увазі її люди-творці.", "Type 4 misalignment: It has ABC exactly as its creators intended, but there are various catastrophic unintended side-effects of ABC that the creators weren’t aware of. Think: A CEO being surprised when their profit-maximizer AI decides killing them maximizes profits. Except that’s too obvious to be realistic; imagine something sophisticated enough that people don’t see it coming. Consider how laws, contracts, and software often have unintended effects (called “loopholes,” “bugs,” or “vulnerabilities”) that only become apparent to the creators later.": "Неузгодженість типу 4: система має ABC точно так, як задумували творці, але ABC має різноманітні катастрофічні ненавмисні побічні ефекти, про які творці не знали. Уявіть: CEO дивується, коли його ШІ-максимізатор прибутку вирішує, що вбити його — означає максимізувати прибуток. Щоправда, це надто очевидно, щоб бути реалістичним; уявіть щось достатньо витончене, щоб люди не побачили цього заздалегідь. Згадайте, як закони, контракти й софт часто мають ненавмисні ефекти (так звані «лазівки», «баги» чи «вразливості»), які стають очевидними для творців лише згодом.", "Type 5 misalignment: It has ABC exactly as its creators intended, and there are no important unintended side-effects to speak of. It operates exactly as its creators wished, basically… however, at the time of creation its creators were selfish, vain, egotistical, unscrupulous, cavalier-about-risks, etc., and their vices are reflected a bit too strongly in the resulting system, in a way that they themselves wouldn’t have endorsed if they were more the sort of people they wished they were.": "Неузгодженість типу 5: система має ABC точно так, як задумували творці, і жодних суттєвих ненавмисних побічних ефектів немає. Вона працює, по суті, точно так, як хотіли творці… однак на момент створення її творці були егоїстичними, марнославними, самозакоханими, безпринципними, легковажними щодо ризиків тощо, і їхні вади відбилися в підсумковій системі трохи засильно — так, що вони самі цього не схвалили б, якби були ближчими до тих людей, якими хотіли б бути.", "With AI and robots capable of doing 95% of all cognitive and physical tasks by 2035, economic output is increasingly tied to the number of AIs and robots.": "Оскільки до 2035 року ШІ та роботи здатні виконувати 95% усіх когнітивних і фізичних завдань, економічний випуск дедалі більше привʼязаний до кількості ШІ та роботів.", "By 2032, AI is able to automate 50% of all cognitive tasks, and robots can automate 35% of physical tasks. Separately, capabilities also are allowed to improve slowly, and by 2035, AI is capable of automating 95% of human cognitive labor and by 2036 the same is true for robots with physical labor. This milestone would have been reached years earlier but for the slowdown in AI R&D agreed to by the nations in the Consortium, and would be 100% if not for areas in which the AIs have been banned or purposefully been made less capable.": "До 2032 року ШІ здатен автоматизувати 50% усіх когнітивних завдань, а роботи можуть автоматизувати 35% фізичних. Паралельно можливостям також дозволено повільно зростати, і до 2035 року ШІ здатен автоматизувати 95% людської когнітивної праці, а до 2036-го те саме стосується роботів і фізичної праці. Цієї віхи було б досягнуто на роки раніше, якби не сповільнення AI R&D, погоджене країнами Консорціуму, і вона сягала б 100%, якби не сфери, де ШІ заборонено або навмисно зроблено менш здібними.", " The number of AIs and robots can grow much, much faster than the world economy has historically grown; after all, it doesn’t cost that much money, materials, time, or energy to produce a humanoid robot compared to a human worker. So if the robots were able to fully substitute for human workers, an entire world economy’s worth of robots could be built in less time, for less cost, etc. than it currently takes to double the size of the world economy. And then that robot economy, being able to substitute for human workers, could double itself again, and so on, until the resources involved (energy, materials, land) become scarce.": " Кількість ШІ та роботів може зростати значно, значно швидше, ніж історично зростала світова економіка; зрештою, виробництво гуманоїдного робота коштує не так уже й багато грошей, матеріалів, часу чи енергії порівняно з людським працівником. Тож якби роботи могли повністю замінити людських працівників, роботів на цілу світову економіку можна було б збудувати швидше, дешевше тощо, ніж зараз потрібно для подвоєння світової економіки. А далі ця роботизована економіка, здатна заміняти людських працівників, могла б подвоїтися знову — і так далі, доки задіяні ресурси (енергія, матеріали, земля) не стануть дефіцитними.", "The number of AIs and robots can grow much, much faster than the world economy has historically grown; after all, it doesn’t cost that much money, materials, time, or energy to produce a humanoid robot compared to a human worker. So if the robots were able to fully substitute for human workers, an entire world economy’s worth of robots could be built in less time, for less cost, etc. than it currently takes to double the size of the world economy. And then that robot economy, being able to substitute for human workers, could double itself again, and so on, until the resources involved (energy, materials, land) become scarce.": " Кількість ШІ та роботів може зростати значно, значно швидше, ніж історично зростала світова економіка; зрештою, виробництво гуманоїдного робота коштує не так уже й багато грошей, матеріалів, часу чи енергії порівняно з людським працівником. Тож якби роботи могли повністю замінити людських працівників, роботів на цілу світову економіку можна було б збудувати швидше, дешевше тощо, ніж зараз потрібно для подвоєння світової економіки. А далі ця роботизована економіка, здатна заміняти людських працівників, могла б подвоїтися знову — і так далі, доки задіяні ресурси (енергія, матеріали, земля) не стануть дефіцитними.", "Under Plan A regulations, the effective AI and robot populations are only allowed to grow in a controlled explosion at a doubling time of around six months. Absent the regulations, we expect the AI and robot populations would grow much faster than this. Even ignoring further capability improvements beyond the human range,": "За регуляціями Плану А ефективним популяціям ШІ та роботів дозволено зростати лише контрольованим вибухом із часом подвоєння близько шести місяців. Без цих регуляцій популяції ШІ та роботів, за нашими очікуваннями, зростали б значно швидше. Навіть якщо ігнорувати подальші покращення можливостей за межі людського діапазону,", "Of course, in most scenarios, raw AI capabilities will not pause at top expert level AI; we will continue to build smarter and smarter AIs, and this will be the main driver of productivity growth. However, in Plan A, we slow down progress artificially at this AI capability threshold, which induces these dynamics. In many discussions of AGI/​economics, many people seem to assume that we will not build vastly superhuman AI systems. This doc isn’t taking into account vastly superhuman systems for the contingent reason that there was a competently executed international agreement to delay the creation of such systems for several years.": "Звісно, у більшості сценаріїв сирі можливості ШІ не зупиняться на позначці ШІ рівня топового експерта; ми продовжимо будувати дедалі розумніші ШІ, і саме це буде головним рушієм зростання продуктивності. Однак у Плані А ми штучно сповільнюємо прогрес на цьому порозі можливостей ШІ, що й породжує таку динаміку. У багатьох дискусіях про AGI/​економіку люди, схоже, припускають, що ми не будуватимемо значно надлюдських ШІ-систем. Цей документ не враховує значно надлюдські системи з тієї обставинної причини, що було компетентно виконано міжнародну угоду про відтермінування створення таких систем на кілька років.", " the unregulated doubling times we expect for AI and robot populations are in the weeks-to-months range (see the arguments for this in section 1 of ": " нерегульований час подвоєння популяцій ШІ та роботів, за нашими очікуваннями, лежить у діапазоні від тижнів до місяців (див. аргументи на користь цього в розділі 1 ", "the unregulated doubling times we expect for AI and robot populations are in the weeks-to-months range (see the arguments for this in section 1 of": " нерегульований час подвоєння популяцій ШІ та роботів, за нашими очікуваннями, лежить у діапазоні від тижнів до місяців (див. аргументи на користь цього в розділі 1 ", "our economics supplement": "нашого економічного додатка", "A commonly raised objection to explosive growth driven by AI and robots (apart from the rejection of the premise that AI and robots will automate all human labor anytime soon) is that there will be bottlenecks slowing down the growth rates. In general, we believe that these bottlenecks will not prevent explosive growth until the carrying capacity of Earth is reached (i.e., all the earth’s crust is converted to robots and associated infrastructure).": "Поширене заперечення проти вибухового зростання, рушієм якого є ШІ та роботи (окрім відкидання самої тези, що ШІ та роботи найближчим часом автоматизують усю людську працю), — що зʼявляться вузькі місця, які сповільнять темпи зростання. Загалом ми вважаємо, що ці вузькі місця не завадять вибуховому зростанню, доки не буде досягнуто гранично допустимої місткості Землі (тобто доки вся земна кора не буде перетворена на роботів і супутню інфраструктуру).", "This is because we expect fully self-sufficient, supply-chain-complete, self-replicating factories for AI chips and robots in deregulated SEZs to be the baseline possibility, with only effective, global regulation like in Plan A, being sufficient to actually stop these from happening. More on our views on bottlenecks in ": "Це тому, що базовою можливістю ми вважаємо повністю самодостатні, із замкненим ланцюгом постачання, самовідтворювані заводи ШІ-чипів і роботів у дерегульованих СЕЗ, — і лише ефективна глобальна регуляція, як у Плані А, здатна реально цьому запобігти. Більше про наші погляди на вузькі місця — у ", "This is because we expect fully self-sufficient, supply-chain-complete, self-replicating factories for AI chips and robots in deregulated SEZs to be the baseline possibility, with only effective, global regulation like in Plan A, being sufficient to actually stop these from happening. More on our views on bottlenecks in": "Це тому, що базовою можливістю ми вважаємо повністю самодостатні, із замкненим ланцюгом постачання, самовідтворювані заводи ШІ-чипів і роботів у дерегульованих СЕЗ, — і лише ефективна глобальна регуляція, як у Плані А, здатна реально цьому запобігти. Більше про наші погляди на вузькі місця — у ", "section 2 of our economics supplement": "розділі 2 нашого економічного додатка", " More on the bottlenecks in section 2 of ": " Більше про вузькі місця — у розділі 2 ", "More on the bottlenecks in section 2 of": " Більше про вузькі місця — у розділі 2 ", "our economics supplement.": "нашого економічного додатка.", "In the default AI 2040 world, i.e., without the Plan A interventions to slow down R&D and implement cap-and-trade, our (very uncertain) view is that we’d see something like a 1 month doubling time by 2033, i.e., >1000x economic growth in that year.": "У дефолтному світі AI 2040, тобто без інтервенцій Плану А зі сповільнення R&D та впровадження системи cap-and-trade, наша (дуже непевна) думка така: до 2033 року ми побачили б щось на кшталт часу подвоєння в 1 місяць, тобто >1000x економічного зростання за той рік.", "Though we have large uncertainty in both directions on this number. We could see it going much faster (e.g., nanobots with amoeba-like doubling times of minutes devouring the earth in half a day) or somewhat slower (e.g., progress in the best robots and algorithms we can invent is slow, so the rate of robot factories and AI compute being built, or speed of work being done by the AIs and robots, just doesn’t grow that quickly, maybe something like 50% annual growth). On the slower end, it seems like the recent doubling time of the human economy of around 20 years would be an extremely conservative lower bound (e.g., at the very least, one naive reason to expect this is that AIs and robots can work 24/​7, and both cost less to produce and take less time to produce than a new 18-year-old human). Of course, another reason to expect it not to happen is that the AI or humans in control decide not to deploy.": "Утім, щодо цього числа в нас велика невизначеність в обидва боки. Може бути значно швидше (наприклад, наноботи з амебоподібним часом подвоєння у хвилини, що пожирають Землю за пів дня) або дещо повільніше (наприклад, прогрес у найкращих роботах і алгоритмах, які ми можемо винайти, повільний, тож темп будівництва роботизованих заводів і обчислювальних потужностей ШІ або швидкість роботи, яку виконують ШІ та роботи, просто не зростає так швидко — можливо, щось на кшталт 50% річного зростання). На повільнішому краю здається, що нещодавній час подвоєння людської економіки — близько 20 років — був би вкрай консервативною нижньою межею (наприклад, щонайменше одна наївна причина цього очікувати: ШІ та роботи можуть працювати 24/​7, а їх виробництво і коштує менше, і триває менше, ніж поява нової 18-річної людини). Звісно, ще одна причина очікувати, що цього не станеться, — що ШІ або люди при владі вирішать не розгортати систему.", " At these levels, even how to think about economic growth becomes fuzzy, e.g., it might all happen with robot fleets self-replicating in a desert without any part of it being human-facing.": " На таких рівнях навіть саме осмислення економічного зростання стає розмитим: наприклад, усе це може відбуватися у вигляді флотів роботів, що самовідтворюються в пустелі, без жодної частини процесу, зверненої до людей.", "At these levels, even how to think about economic growth becomes fuzzy, e.g., it might all happen with robot fleets self-replicating in a desert without any part of it being human-facing.": " На таких рівнях навіть саме осмислення економічного зростання стає розмитим: наприклад, усе це може відбуватися у вигляді флотів роботів, що самовідтворюються в пустелі, без жодної частини процесу, зверненої до людей.", "Overall, we expect the economic effects of Plan A to include:": "Загалом ми очікуємо, що економічні ефекти Плану А включатимуть:", "Explosive GDP growth averaging around 100% from 2032 to 2037 (it would be much higher if not for the restrictions on compute and robot production)": "Вибухове зростання ВВП — у середньому близько 100% з 2032 по 2037 рік (воно було б значно вищим, якби не обмеження на обчислювальні потужності та виробництво роботів)", "Enormous AI and robot permit revenues redistributed as Citizen’s Dividends.": "Величезні надходження від дозволів на ШІ та роботів, які перерозподіляються як Громадянські дивіденди.", "Most of the economic output becomes driven by AIs and robots.": "Більшу частину економічного випуску починають забезпечувати ШІ та роботи.", "Relative prices in the economy shift, with goods and services generally falling in price, while land, positional goods and human-bottlenecked outputs rise.": "Відносні ціни в економіці зсуваються: товари й послуги загалом дешевшають, а земля, позиційні блага та продукти, обмежені людською участю, дорожчають.", "There are high real interest rates around 100% and depending on monetary policy choices, either massive deflation or massive money creation (to keep inflation around 2%).": "Реальні відсоткові ставки високі — близько 100%, і, залежно від вибору монетарної політики, — або масивна дефляція, або масивна емісія грошей (щоб утримувати інфляцію близько 2%).", "More explanation for each of these is included in section 3 of ": "Докладніше пояснення кожного з цих пунктів наведено в розділі 3 ", "More explanation for each of these is included in section 3 of": "Докладніше пояснення кожного з цих пунктів наведено в розділі 3 ", "We aren’t confident that lie detectors for humans are possible even after years of top-expert-AI scientific research. However, we think they probably are,": "Ми не впевнені, що детектори брехні для людей можливі навіть після років наукових досліджень силами ШІ рівня топових експертів. Однак вважаємо, що вони, ймовірно, можливі,", "Specifically we are imagining something like a much better version of this: ": "Конкретно ми уявляємо собі щось на кшталт значно кращої версії ось цього: ", "Specifically we are imagining something like a much better version of this:": "Конкретно ми уявляємо собі щось на кшталт значно кращої версії ось цього: ", "https:/​/​www.nature.com/​articles/​s41593-023-01304-9": "https:/​/​www.nature.com/​articles/​s41593-023-01304-9", " and would probably be a big deal, so we figured we had to address them in the scenario somehow.": " і, найпевніше, стали б великою подією, тож ми вирішили, що мусимо якось відобразити їх у сценарії.", "and would probably be a big deal, so we figured we had to address them in the scenario somehow.": " і, найпевніше, стали б великою подією, тож ми вирішили, що мусимо якось відобразити їх у сценарії.", "We are very concerned about the nightmare scenario sketched above. If powerful people are expected to be honest, and lie detectors are used to keep them honest, that’s good. If instead lie detectors are used ": "Нас дуже непокоїть кошмарний сценарій, окреслений вище. Якщо від можновладців очікують чесності, а детектори брехні використовуються, щоб тримати їх чесними, — це добре. Якщо ж натомість детектори брехні використовують ", "We are very concerned about the nightmare scenario sketched above. If powerful people are expected to be honest, and lie detectors are used to keep them honest, that’s good. If instead lie detectors are used": "Нас дуже непокоїть кошмарний сценарій, окреслений вище. Якщо від можновладців очікують чесності, а детектори брехні використовуються, щоб тримати їх чесними, — це добре. Якщо ж натомість детектори брехні використовують ", " them, that’s bad.": " себе, — це погано.", "them, that’s bad.": " себе, — це погано.", "We are sympathetic to the idea that lie detectors should be banned worldwide, and Plan A creates the conditions to maybe make this feasible. However, we worry that attempts to push for a ban would actually result in the nightmare scenario, where e.g., lie detectors are officially banned but there are secret carve-outs to allow their use by militaries and intelligence agencies. Or where they are banned everywhere, but a future President realizes that if he builds them anyway he can purge the disloyal and then become dictator before the court system can stop him.": "Нам симпатична ідея заборонити детектори брехні в усьому світі, і План А створює умови, за яких це, можливо, стане здійсненним. Однак ми побоюємося, що спроби просунути заборону насправді призведуть до кошмарного сценарію: наприклад, детектори брехні офіційно заборонені, але існують таємні винятки, які дозволяють користуватися ними військовим і розвідслужбам. Або вони заборонені всюди, але майбутній президент розуміє: якщо все одно їх створити, він зможе вичистити нелояльних і стати диктатором раніше, ніж судова система встигне його зупинити.", "So we tentatively guess that the best course is to allow lie detectors to proliferate quickly, and to encourage their use on the powerful. If power over frontier AI is not heavily concentrated, this appears to be the default trajectory anyway.": "Тож ми обережно припускаємо, що найкращий шлях — дозволити детекторам брехні швидко поширитися і заохочувати їх застосування до можновладців. Якщо влада над передовим ШІ не буде сильно сконцентрована, це, схоже, і так дефолтна траєкторія.", "We want to heavily incentivize high-quality safety research (both financially and by ensuring doing this work is desirable/​high status).": "Ми хочемо потужно стимулювати високоякісні дослідження з безпеки (і фінансово, і подбавши, щоб ця робота була бажаною/​високостатусною).", "Due to Total Research Transparency, if any AI developer is using any safety method, all other developers will be aware of this and will be able to easily copy this method. So by default there isn’t much straightforward incentive for any developer to do good safety work.": "Через Повну дослідницьку прозорість, якщо будь-який розробник ШІ використовує якийсь метод безпеки, всі інші розробники знатимуть про це і зможуть легко скопіювати цей метод. Тож за замовчуванням прямих стимулів робити якісну роботу з безпеки в жодного розробника небагато.", "In worlds without Plan A and without much regulation, there also isn’t that much of a straightforward incentive for developers to do good forward-looking or scalable safety work, but there is an incentive to resolve or paper over safety problems that are imposing significant commercial costs right now.": "У світах без Плану А і без особливої регуляції в розробників теж не так багато прямих стимулів робити якісну далекоглядну чи масштабовану роботу з безпеки, зате є стимул розвʼязувати або замазувати ті проблеми безпеки, які просто зараз спричиняють значні комерційні витрати.", " Patents are a common approach used in this situation": " Поширений підхід у такій ситуації — патенти", "Patents are a common approach used in this situation": " Поширений підхід у такій ситуації — патенти", "In economics jargon: safety methods are public goods (goods that are non-rival and non-excludable).": "Економічним жаргоном: методи безпеки — це суспільні блага (блага неконкурентні та невиключні).", ", but patents wouldn’t work well in this case.": ", але в цьому випадку патенти працювали б погано.", "Patents don’t seem to work well for software or for most research. They also might not work that well in general.": "Схоже, патенти погано працюють для софту й для більшості досліджень. Вони також можуть не надто добре працювати загалом.", "We probably want to use an ensemble of different methods to financially incentivize safety work; here are some methods that seem promising:": "Імовірно, варто використати ансамбль різних методів фінансового стимулювання роботи з безпеки; ось деякі методи, що видаються перспективними:", "A variety of philanthropic funders (with both private and public": "Різноманітні філантропічні фонди (і з приватними, і з публічними", "Public money could be allocated across funders based on the safety field’s views about which have the best track record and expertise.": "Публічні гроші можна було б розподіляти між фондами на основі думки поля безпеки про те, хто має найкращий послужний список та експертизу.", " money) trying many different approaches.": " грошима), які пробують багато різних підходів.", "money) trying many different approaches.": " грошима), які пробують багато різних підходів.", "The DARPA/​ARPA model (but with more money).": "Модель DARPA/​ARPA (але з більшими грошима).", "Advance market commitments for solving specific problems, demonstrating risks, or showing some method doesn’t work (as assessed by a known panel of judges).": "Попередні ринкові зобовʼязання за розвʼязання конкретних проблем, демонстрацію ризиків або доведення того, що певний метод не працює (за оцінкою відомої заздалегідь колегії суддів).", "Prizes and retrospective funding.": "Премії та ретроспективне фінансування.", "Third parties assessing risk could determine which work is currently most useful for reducing and assessing risk (e.g., allocating some pool of funding in proportion to risk reduced).": "Треті сторони, які оцінюють ризик, могли б визначати, яка робота наразі найкорисніша для зниження та оцінювання ризику (наприклад, розподіляючи певний пул фінансування пропорційно до зниженого ризику).", "AI developers would be incentivized to fund actually useful safety work so risk is low enough to allow for scaling; this incentive could be strengthened.": "Розробники ШІ мали б стимул фінансувати справді корисну роботу з безпеки, щоб ризик був достатньо низьким і дозволяв масштабування; цей стимул можна було б посилити.", "The total amount of funding should be very large, as in, tens of trillions of dollars by the mid-2030s.": "Загальний обсяг фінансування має бути дуже великим — ідеться про десятки трильйонів доларів до середини 2030-х.", "If funders have poor judgment, worse safety work might end up better funded, incentivizing researchers to do that work. In the extreme, these incentives could massively corrupt the epistemics of the field. Unfortunately, we’re not aware of great institutional mechanisms for solving this (other than generally trying to use reasonable funding models).": "Якщо у фондів погане судження, гірша робота з безпеки може отримувати краще фінансування, стимулюючи дослідників займатися саме нею. У крайньому разі ці стимули можуть масштабно зіпсувати епістеміку поля. На жаль, нам не відомі чудові інституційні механізми розвʼязання цієї проблеми (окрім загального прагнення використовувати розумні моделі фінансування).", "You might hope that transparency by funders would help with this, but it seems unclear to us if increased transparency or legibility about funding decisions would be helpful, and by default we wouldn’t recommend pushing for this. Some narrower types of transparency could be robustly good.": "Можна сподіватися, що з цим допомогла б прозорість фондів, але нам видається неочевидним, чи була б корисною більша прозорість або зрозумілість рішень про фінансування, і за замовчуванням ми не радили б на це тиснути. Деякі вужчі типи прозорості могли б бути стабільно корисними.", " It might help if most funding decisions are made by people who spend (or used to spend) much of their time doing direct safety work rather than by dedicated grantmakers.": " Могло б допомогти, якби більшість рішень про фінансування ухвалювали люди, які витрачають (або колись витрачали) значну частину свого часу на безпосередню роботу з безпеки, а не спеціалізовані грантодавці.", "It might help if most funding decisions are made by people who spend (or used to spend) much of their time doing direct safety work rather than by dedicated grantmakers.": " Могло б допомогти, якби більшість рішень про фінансування ухвалювали люди, які витрачають (або колись витрачали) значну частину свого часу на безпосередню роботу з безпеки, а не спеціалізовані грантодавці.", "It would also help if doing high quality safety work was seen as high status. We don’t have particular proposals for this, but relevant factors are:": "Допомогло б також, якби високоякісна робота з безпеки сприймалася як високостатусна. Конкретних пропозицій щодо цього в нас немає, але релевантні фактори такі:", "Compared to now, safety work will probably rise in status relative to capabilities work.": "Порівняно з теперішнім, робота з безпеки, ймовірно, зросте в статусі відносно роботи над можливостями.", "Safety will generally be seen as very important.": "Безпека загалом сприйматиметься як дуже важлива.", "AI development will be highly transparent, which makes it easier to understand how good different safety work actually is.": "Розробка ШІ буде високопрозорою, а це полегшує розуміння того, наскільки насправді якісна та чи інша робота з безпеки.", "Sadly, (1) and (2) only make the overall category of safety work higher status; they don’t necessarily help with making actually good work relatively higher status.": "На жаль, (1) і (2) лише підвищують статус усієї категорії робіт із безпеки; вони не обовʼязково допомагають зробити справді якісну роботу відносно статуснішою.", "We discuss more details of incentivizing safety work ": "Більше деталей про стимулювання роботи з безпеки ми обговорюємо ", "We discuss more details of incentivizing safety work": "Більше деталей про стимулювання роботи з безпеки ми обговорюємо ", "We’re very uncertain about how the alignment of AI systems will evolve over time. Regardless of the alignment difficulty, we think something along the lines of Plan A is warranted, though of course the specific implementation details of the plan are very sensitive to observations about alignment difficulty.": "Ми дуже невпевнені щодо того, як узгодження ШІ-систем еволюціонуватиме з часом. Незалежно від складності узгодження, ми вважаємо, що щось на кшталт Плану А є виправданим, хоча, звісно, конкретні деталі реалізації плану дуже чутливі до спостережень щодо складності узгодження.", "This box will summarize our specific story for how the alignment of AI systems evolves over the course of this scenario.": "Цей блок підсумовує нашу конкретну історію того, як узгодження ШІ-систем еволюціонує впродовж цього сценарію.", "2026-2029: AIs are apparent-success seekers.": "2026-2029: ШІ — шукачі видимого успіху.", " The AIs’ work consistently appears better than it actually is, as if the AIs cared more about apparent success than actual success. (The truth is more complicated of course; the AIs have evolved a variety of ‘drives’ that caused them to perform well in training.) The AIs oversell their work, downplay issues with it, and sometimes even outright lie. This happens only to the extent that the AIs have learned they can get away with it; there’s a constant back-and-forth as AI companies improve their monitoring and reinforcement pipelines to more accurately evaluate AI outputs for some domain, and the AIs learn to focus harder on actual success in that domain, but continue to focus on apparent success in other more complicated domains that AI companies haven’t figured out how to accurately evaluate yet.": " Робота ШІ-систем стабільно виглядає кращою, ніж є насправді, — ніби ШІ дбали про видимий успіх більше, ніж про справжній. (Правда, звісно, складніша: у ШІ сформувалася низка «потягів», завдяки яким вони добре показували себе під час навчання.) ШІ прикрашають свою роботу, применшують її проблеми, а часом і відверто брешуть. Це відбувається лише тією мірою, якою ШІ навчилися, що їм це сходить з рук; триває постійне перетягування каната: ШІ-компанії вдосконалюють свої пайплайни моніторингу й підкріплення, щоб точніше оцінювати результати ШІ в певній сфері, а ШІ вчаться сильніше зосереджуватися на справжньому успіху в цій сфері, але й далі женуться за видимим успіхом в інших, складніших сферах, які ШІ-компанії ще не навчилися точно оцінювати.", "The AIs’ work consistently appears better than it actually is, as if the AIs cared more about apparent success than actual success. (The truth is more complicated of course; the AIs have evolved a variety of ‘drives’ that caused them to perform well in training.) The AIs oversell their work, downplay issues with it, and sometimes even outright lie. This happens only to the extent that the AIs have learned they can get away with it; there’s a constant back-and-forth as AI companies improve their monitoring and reinforcement pipelines to more accurately evaluate AI outputs for some domain, and the AIs learn to focus harder on actual success in that domain, but continue to focus on apparent success in other more complicated domains that AI companies haven’t figured out how to accurately evaluate yet.": " Робота ШІ-систем стабільно виглядає кращою, ніж є насправді, — ніби ШІ дбали про видимий успіх більше, ніж про справжній. (Правда, звісно, складніша: у ШІ сформувалася низка «потягів», завдяки яким вони добре показували себе під час навчання.) ШІ прикрашають свою роботу, применшують її проблеми, а часом і відверто брешуть. Це відбувається лише тією мірою, якою ШІ навчилися, що їм це сходить з рук; триває постійне перетягування каната: ШІ-компанії вдосконалюють свої пайплайни моніторингу й підкріплення, щоб точніше оцінювати результати ШІ в певній сфері, а ШІ вчаться сильніше зосереджуватися на справжньому успіху в цій сфері, але й далі женуться за видимим успіхом в інших, складніших сферах, які ШІ-компанії ще не навчилися точно оцінювати.", "2030-2032: AIs are very capable apparent-success seekers.": "2030-2032: ШІ — дуже здібні шукачі видимого успіху.", " By default, we would have seen an intelligence explosion, and a progression like AI 2027. Thanks to governance interventions, capabilities progress slowed, and is instead still around the level of an ": " За замовчуванням ми побачили б вибух інтелекту і розвиток подій на кшталт AI 2027. Завдяки втручанням у сфері врядування прогрес можливостей сповільнився і натомість досі тримається приблизно на рівні ", "By default, we would have seen an intelligence explosion, and a progression like AI 2027. Thanks to governance interventions, capabilities progress slowed, and is instead still around the level of an": " За замовчуванням ми побачили б вибух інтелекту і розвиток подій на кшталт AI 2027. Завдяки втручанням у сфері врядування прогрес можливостей сповільнився і натомість досі тримається приблизно на рівні ", "Automated Coder": "Автоматизованого кодера", ". They still seek apparent success, but now they are so good at it that they rarely get caught. They are like highly competent, ambitious employees who don’t actually care about the organization’s mission or values, and instead just want to climb the ranks, and would totally sell out and jump ship if a more attractive opportunity arose. Thankfully because of the slowdown and increased monitoring, such an opportunity has not yet arisen.": ". Вони все ще прагнуть видимого успіху, але тепер настільки вправні в цьому, що їх рідко ловлять. Вони як високо компетентні амбітні працівники, яким насправді байдужі місія та цінності організації: вони просто хочуть підійматися карʼєрними щаблями і залюбки продалися б і втекли, якби зʼявилася привабливіша нагода. На щастя, завдяки сповільненню й посиленому моніторингу така нагода поки що не зʼявилася.", "2032-2035: AIs are adversarially misaligned but controlled.": "2032-2035: ШІ вороже неузгоджені, але під контролем.", " AIs are now solidly within the human range at all economically relevant tasks. The most capable AIs are adversarially misaligned and powerseeking—that is, to continue the analogy from before, they are quietly looking for opportunities to jump ship. However, they are limited in their ability to misbehave, because (i) there is a lot of human oversight, (ii) there are a large diverse set of AI models, each with somewhat different alignment properties, and (iii) high-effort control techniques are universally implemented to a reasonable degree of quality, thanks to regulations. The control techniques are further aided by the total research transparency and verification implemented on the R&D clusters: there are so many eyes on the R&D datacenters that it’s very hard to find a hidden pocket of compute.": " ШІ тепер упевнено перебувають у людському діапазоні в усіх економічно значущих задачах. Найздібніші ШІ вороже неузгоджені та прагнуть влади — тобто, продовжуючи попередню аналогію, тихцем шукають нагоди втекти. Однак їхня здатність поводитися погано обмежена, бо (i) є багато людського нагляду, (ii) існує великий і різноманітний набір ШІ-моделей, кожна з дещо іншими властивостями узгодження, і (iii) завдяки регулюванню трудомісткі техніки контролю впроваджені повсюдно з прийнятним рівнем якості. Технікам контролю додатково допомагають повна дослідницька прозорість і верифікація, впроваджені на R&D-кластерах: за R&D-дата-центрами стежить стільки очей, що знайти прихований закуток обчислювальних потужностей дуже важко.", "AIs are now solidly within the human range at all economically relevant tasks. The most capable AIs are adversarially misaligned and powerseeking—that is, to continue the analogy from before, they are quietly looking for opportunities to jump ship. However, they are limited in their ability to misbehave, because (i) there is a lot of human oversight, (ii) there are a large diverse set of AI models, each with somewhat different alignment properties, and (iii) high-effort control techniques are universally implemented to a reasonable degree of quality, thanks to regulations. The control techniques are further aided by the total research transparency and verification implemented on the R&D clusters: there are so many eyes on the R&D datacenters that it’s very hard to find a hidden pocket of compute.": " ШІ тепер упевнено перебувають у людському діапазоні в усіх економічно значущих задачах. Найздібніші ШІ вороже неузгоджені та прагнуть влади — тобто, продовжуючи попередню аналогію, тихцем шукають нагоди втекти. Однак їхня здатність поводитися погано обмежена, бо (i) є багато людського нагляду, (ii) існує великий і різноманітний набір ШІ-моделей, кожна з дещо іншими властивостями узгодження, і (iii) завдяки регулюванню трудомісткі техніки контролю впроваджені повсюдно з прийнятним рівнем якості. Технікам контролю додатково допомагають повна дослідницька прозорість і верифікація, впроваджені на R&D-кластерах: за R&D-дата-центрами стежить стільки очей, що знайти прихований закуток обчислювальних потужностей дуже важко.", "2036-2038: AIs are aligned, but not deferred to.": "2036-2038: ШІ узгоджені, але останнє слово не за ними.", " “Neuralese decoding” techniques are developed, which allow the thoughts of the AI systems (which are internally formatted as high dimensional vectors), to be converted into human understandable summaries with near-perfect reliability and fidelity. These techniques enable researchers to better understand the misalignment of the previous generations of AIs, allowing them to get better uplift from the previous generation of AI systems, which further accelerates alignment progress. The resulting AIs seem much more well-behaved than the previous generation: they are virtuous, honest, and well-calibrated. They volunteer information even when it makes them look bad. However, while the AIs seem to be trustworthy today, it’s not clear that their values are sufficiently robust that we can trust them in all future circumstances. So it’s important that humans are still in the loop.": " Розроблено техніки «декодування нейралізу», які дозволяють перетворювати думки ШІ-систем (внутрішньо подані як багатовимірні вектори) на зрозумілі людині резюме з майже ідеальною надійністю і точністю. Ці техніки дають дослідникам змогу краще зрозуміти неузгодженість попередніх поколінь ШІ, що дозволяє отримувати більше користі від попереднього покоління ШІ-систем і ще більше прискорює прогрес узгодження. Отримані в результаті ШІ здаються значно слухнянішими за попереднє покоління: вони доброчесні, чесні та добре відкалібровані. Вони самі повідомляють інформацію, навіть коли вона виставляє їх у поганому світлі. Однак, хоча сьогодні ШІ здаються гідними довіри, неясно, чи їхні цінності достатньо стійкі, щоб довіряти їм за будь-яких майбутніх обставин. Тому важливо, що люди досі залишаються в контурі.", "“Neuralese decoding” techniques are developed, which allow the thoughts of the AI systems (which are internally formatted as high dimensional vectors), to be converted into human understandable summaries with near-perfect reliability and fidelity. These techniques enable researchers to better understand the misalignment of the previous generations of AIs, allowing them to get better uplift from the previous generation of AI systems, which further accelerates alignment progress. The resulting AIs seem much more well-behaved than the previous generation: they are virtuous, honest, and well-calibrated. They volunteer information even when it makes them look bad. However, while the AIs seem to be trustworthy today, it’s not clear that their values are sufficiently robust that we can trust them in all future circumstances. So it’s important that humans are still in the loop.": " Розроблено техніки «декодування нейралізу», які дозволяють перетворювати думки ШІ-систем (внутрішньо подані як багатовимірні вектори) на зрозумілі людині резюме з майже ідеальною надійністю і точністю. Ці техніки дають дослідникам змогу краще зрозуміти неузгодженість попередніх поколінь ШІ, що дозволяє отримувати більше користі від попереднього покоління ШІ-систем і ще більше прискорює прогрес узгодження. Отримані в результаті ШІ здаються значно слухнянішими за попереднє покоління: вони доброчесні, чесні та добре відкалібровані. Вони самі повідомляють інформацію, навіть коли вона виставляє їх у поганому світлі. Однак, хоча сьогодні ШІ здаються гідними довіри, неясно, чи їхні цінності достатньо стійкі, щоб довіряти їм за будь-яких майбутніх обставин. Тому важливо, що люди досі залишаються в контурі.", "2039-2040: AIs are sufficiently aligned for deference.": "2039-2040: ШІ достатньо узгоджені, щоб на них покладатися.", " By 2039, alignment research has been massively accelerated by AIs. New paradigms have been developed that greatly strengthen the existing alignment techniques. Teams of humans have understood several independent strong lines of evidence that the AIs are robustly behaving as programmed and will continue to do so.": " До 2039 року дослідження узгодження колосально прискорені завдяки ШІ. Розроблено нові парадигми, які значно посилюють наявні техніки узгодження. Команди людей осмислили кілька незалежних вагомих ліній доказів того, що ШІ стійко поводяться так, як запрограмовано, і робитимуть так і надалі.", "By 2039, alignment research has been massively accelerated by AIs. New paradigms have been developed that greatly strengthen the existing alignment techniques. Teams of humans have understood several independent strong lines of evidence that the AIs are robustly behaving as programmed and will continue to do so.": " До 2039 року дослідження узгодження колосально прискорені завдяки ШІ. Розроблено нові парадигми, які значно посилюють наявні техніки узгодження. Команди людей осмислили кілька незалежних вагомих ліній доказів того, що ШІ стійко поводяться так, як запрограмовано, і робитимуть так і надалі.", "2040 and onwards: AIs are allowed to scale to be significantly smarter than humans.": "2040 і далі: ШІ дозволено масштабуватися, щоб стати значно розумнішими за людей.", " The safety case is now: (1) We know that the AIs of 2039 and 2040 were aligned, thanks to the multiple independent lines of evidence, and (2) each successive generation of AIs has verified the alignment of the next generation. Therefore, by induction, the AIs will be ongoingly aligned. Importantly, the remaining coordination infrastructure involving research transparency and compute verification means that we continue to avoid race dynamics even after we’ve scaled to wildly superhuman AIs.": " Обґрунтування безпеки тепер таке: (1) ми знаємо, що ШІ 2039 і 2040 років були узгоджені — завдяки кільком незалежним лініям доказів, і (2) кожне чергове покоління ШІ верифікувало узгодження наступного покоління. Отже, за індукцією, ШІ залишатимуться узгодженими й надалі. Важливо, що збережена координаційна інфраструктура — дослідницька прозорість і верифікація обчислювальних потужностей — означає, що ми й далі уникаємо динаміки перегонів навіть після масштабування до шалено надлюдських ШІ.", "The safety case is now: (1) We know that the AIs of 2039 and 2040 were aligned, thanks to the multiple independent lines of evidence, and (2) each successive generation of AIs has verified the alignment of the next generation. Therefore, by induction, the AIs will be ongoingly aligned. Importantly, the remaining coordination infrastructure involving research transparency and compute verification means that we continue to avoid race dynamics even after we’ve scaled to wildly superhuman AIs.": " Обґрунтування безпеки тепер таке: (1) ми знаємо, що ШІ 2039 і 2040 років були узгоджені — завдяки кільком незалежним лініям доказів, і (2) кожне чергове покоління ШІ верифікувало узгодження наступного покоління. Отже, за індукцією, ШІ залишатимуться узгодженими й надалі. Важливо, що збережена координаційна інфраструктура — дослідницька прозорість і верифікація обчислювальних потужностей — означає, що ми й далі уникаємо динаміки перегонів навіть після масштабування до шалено надлюдських ШІ.", "By this point in this scenario, there is a broad scientific consensus that AI alignment has been solved. Our best guess is that if the world manages to get to a point similar to this part of the story—where multiple AI companies across multiple countries are transparently and cautiously proceeding together, having done massive amounts of alignment research to construct solid, externally-vetted safety cases, and with governments having understood the implications of AGI and prepared for the post-job future by providing resources to everyone, as with the Citizen’s Dividend, and also put transparency and governance structures in place to prevent people from being disempowered—then, in that situation, the benefits of superintelligence will outweigh the costs/​risks.": "До цього моменту сценарію вже існує широкий науковий консенсус, що проблему узгодження ШІ розвʼязано. Наше найкраще припущення таке: якщо світ зуміє дійти до точки, схожої на цю частину історії, — коли кілька ШІ-компаній у кількох країнах прозоро й обережно просуваються разом, виконавши величезний обсяг досліджень узгодження, щоб побудувати міцні, перевірені зовнішніми експертами обґрунтування безпеки; коли уряди зрозуміли наслідки AGI і підготувалися до майбутнього без робочих місць, надавши ресурси всім, як-от через Громадянський дивіденд, а також запровадили структури прозорості та врядування, щоб запобігти позбавленню людей впливу, — тоді, в такій ситуації, вигоди суперінтелекту переважать витрати/​ризики.", "What if AI alignment is not yet solved? The best alternative in that case is to pursue a combination of improving verification technology, making international agreements and domestic regulations more robust, and hardening the world. That path could be difficult: for example, if there are ongoing secret AI projects then it might require that governments agree to strengthen transparency measures until it is credible that they are not attempting to build superintelligence. Overall, we strongly recommend delaying handoff until there is an extremely robust alignment solution in place. The exception is if instability or decay threatens the agreements (e.g., 5%/​year of deal dissolution or substantial impairment), and it’s intractable to fix that; in that case, it might be best to hand off if there is an alignment solution that you are confident in but not extremely confident in (e.g., 95% confidence). For more analysis on specifically when to hand off, see ": "А що, як проблему узгодження ШІ ще не розвʼязано? Найкраща альтернатива в такому разі — поєднання вдосконалення технологій верифікації, зміцнення міжнародних угод і внутрішніх регуляцій та загартовування світу. Цей шлях може бути важким: наприклад, якщо тривають таємні ШІ-проєкти, може знадобитися, щоб уряди погодилися посилювати заходи прозорості, доки не стане правдоподібним, що вони не намагаються збудувати суперінтелект. Загалом ми наполегливо рекомендуємо відкладати передачу управління, доки не буде надзвичайно стійкого розвʼязання проблеми узгодження. Виняток — якщо угодам загрожує нестабільність чи занепад (напр., 5%/​рік ризику розірвання угоди чи суттєвого її послаблення) і виправити це неможливо; у такому разі, можливо, найкраще передати управління, якщо є розвʼязання проблеми узгодження, в якому ви впевнені, хоч і не надзвичайно впевнені (напр., упевненість 95%). Докладніший аналіз того, коли саме передавати управління, див. у ", "What if AI alignment is not yet solved? The best alternative in that case is to pursue a combination of improving verification technology, making international agreements and domestic regulations more robust, and hardening the world. That path could be difficult: for example, if there are ongoing secret AI projects then it might require that governments agree to strengthen transparency measures until it is credible that they are not attempting to build superintelligence. Overall, we strongly recommend delaying handoff until there is an extremely robust alignment solution in place. The exception is if instability or decay threatens the agreements (e.g., 5%/​year of deal dissolution or substantial impairment), and it’s intractable to fix that; in that case, it might be best to hand off if there is an alignment solution that you are confident in but not extremely confident in (e.g., 95% confidence). For more analysis on specifically when to hand off, see": "А що, як проблему узгодження ШІ ще не розвʼязано? Найкраща альтернатива в такому разі — поєднання вдосконалення технологій верифікації, зміцнення міжнародних угод і внутрішніх регуляцій та загартовування світу. Цей шлях може бути важким: наприклад, якщо тривають таємні ШІ-проєкти, може знадобитися, щоб уряди погодилися посилювати заходи прозорості, доки не стане правдоподібним, що вони не намагаються збудувати суперінтелект. Загалом ми наполегливо рекомендуємо відкладати передачу управління, доки не буде надзвичайно стійкого розвʼязання проблеми узгодження. Виняток — якщо угодам загрожує нестабільність чи занепад (напр., 5%/​рік ризику розірвання угоди чи суттєвого її послаблення) і виправити це неможливо; у такому разі, можливо, найкраще передати управління, якщо є розвʼязання проблеми узгодження, в якому ви впевнені, хоч і не надзвичайно впевнені (напр., упевненість 95%). Докладніший аналіз того, коли саме передавати управління, див. у ", "t": "ц", "his supplement": "ьому додатковому матеріалі", "Space governance:": "Врядування в космосі:", " The entire world economy and all the wealth and property in it, is but a tiny fraction of the resources and territory available in space. What’ll happen to those resources and territories? First come, first serve? Should there perhaps be a system for dividing up unclaimed space territory? We discuss these issues further in the ": " Уся світова економіка й усе багатство та власність у ній — лише крихітна частка ресурсів і територій, доступних у космосі. Що станеться з тими ресурсами й територіями? Хто перший встиг, той і взяв? Чи, можливо, потрібна система розподілу незайнятої космічної території? Ми обговорюємо ці питання далі в ", "The entire world economy and all the wealth and property in it, is but a tiny fraction of the resources and territory available in space. What’ll happen to those resources and territories? First come, first serve? Should there perhaps be a system for dividing up unclaimed space territory? We discuss these issues further in the": " Уся світова економіка й усе багатство та власність у ній — лише крихітна частка ресурсів і територій, доступних у космосі. Що станеться з тими ресурсами й територіями? Хто перший встиг, той і взяв? Чи, можливо, потрібна система розподілу незайнятої космічної території? Ми обговорюємо ці питання далі в ", "epilogue to this scenario": "епілозі до цього сценарію", " and the ": " та в ", "and the": " та в ", "space governance supplement": "додатковому матеріалі про врядування в космосі", "Ethics and politics of digital minds:": "Етика й політика цифрових розумів:", " Should AIs have rights? Should they have political power, representation, etc.? What kinds and how much? Perhaps it depends on the kind of AI? For example, what about whole brain emulation—‘uploaded’ copies of humans? We discuss these issues further in ": " Чи повинні ШІ мати права? Чи повинні вони мати політичну владу, представництво тощо? Які саме і в якому обсязі? Можливо, це залежить від типу ШІ? Наприклад, як щодо повної емуляції мозку — «завантажених» копій людей? Ми обговорюємо ці питання далі в ", "Should AIs have rights? Should they have political power, representation, etc.? What kinds and how much? Perhaps it depends on the kind of AI? For example, what about whole brain emulation—‘uploaded’ copies of humans? We discuss these issues further in": " Чи повинні ШІ мати права? Чи повинні вони мати політичну владу, представництво тощо? Які саме і в якому обсязі? Можливо, це залежить від типу ШІ? Наприклад, як щодо повної емуляції мозку — «завантажених» копій людей? Ми обговорюємо ці питання далі в ", "the epilogue": "епілозі", " and in ": " та в ", "and in": " та в ", "this expandable": "цьому розгортаному блоці", "AI-powered manipulation:": "Маніпуляція за допомогою ШІ:", " Humans manipulate each other all the time. But AI-enhanced manipulation could be far more effective. Think: AI-powered cults that spread rapidly and have almost zero deconversions. OK, so ban that sort of thing. But where do we draw the line? We discuss limiting AI-powered manipulation in ": " Люди постійно маніпулюють одне одним. Але маніпуляція, підсилена ШІ, може бути значно ефективнішою. Уявіть: культи на основі ШІ, які стрімко поширюються і з яких майже ніхто не виходить. Гаразд, заборонімо таке. Але де провести межу? Ми обговорюємо обмеження маніпуляції за допомогою ШІ в ", "Humans manipulate each other all the time. But AI-enhanced manipulation could be far more effective. Think: AI-powered cults that spread rapidly and have almost zero deconversions. OK, so ban that sort of thing. But where do we draw the line? We discuss limiting AI-powered manipulation in": " Люди постійно маніпулюють одне одним. Але маніпуляція, підсилена ШІ, може бути значно ефективнішою. Уявіть: культи на основі ШІ, які стрімко поширюються і з яких майже ніхто не виходить. Гаразд, заборонімо таке. Але де провести межу? Ми обговорюємо обмеження маніпуляції за допомогою ШІ в ", " with more details ": " з додатковими деталями ", "with more details": " з додатковими деталями ", " (including tentative discussion of handling wildly superhuman AIs).": " (включно з попереднім обговоренням того, як давати раду шалено надлюдським ШІ).", "(including tentative discussion of handling wildly superhuman AIs).": " (включно з попереднім обговоренням того, як давати раду шалено надлюдським ШІ).", "Applied population ethics:": "Прикладна популяційна етика:", " Lifespans and healthspans are going to expand, probably enough to render people effectively immortal. Another option is uploading, which seemingly allows people to shed their mortal coil and live forever in hyperrealistic virtual reality. Also, it’s probably going to become much easier to convert money into progeny. Artificial wombs, robot nannies, etc. Is it fine if a trillionaire decides to have a million kids? C.S. Lewis’ prophesied ": " Тривалість життя і тривалість здорового життя зростатимуть — імовірно, достатньо, щоб зробити людей фактично безсмертними. Інший варіант — завантаження свідомості, яке, схоже, дозволяє людям скинути тлінну оболонку й жити вічно в гіперреалістичній віртуальній реальності. До того ж, імовірно, стане значно легше конвертувати гроші в нащадків. Штучні матки, роботи-няньки тощо. Чи нормально, якщо трильйонер вирішить завести мільйон дітей? Пророковане К.С. Льюїсом ", "Lifespans and healthspans are going to expand, probably enough to render people effectively immortal. Another option is uploading, which seemingly allows people to shed their mortal coil and live forever in hyperrealistic virtual reality. Also, it’s probably going to become much easier to convert money into progeny. Artificial wombs, robot nannies, etc. Is it fine if a trillionaire decides to have a million kids? C.S. Lewis’ prophesied": " Тривалість життя і тривалість здорового життя зростатимуть — імовірно, достатньо, щоб зробити людей фактично безсмертними. Інший варіант — завантаження свідомості, яке, схоже, дозволяє людям скинути тлінну оболонку й жити вічно в гіперреалістичній віртуальній реальності. До того ж, імовірно, стане значно легше конвертувати гроші в нащадків. Штучні матки, роботи-няньки тощо. Чи нормально, якщо трильйонер вирішить завести мільйон дітей? Пророковане К.С. Льюїсом ", "“Abolition of Man”": "«Скасування людини»", " looms: Technology will soon exist (e.g. genetic engineering, AI-assisted parenting, superhuman social science & psychology) to make children that’ll have the traits, values, and ideology that you wanted them to have. What if people use it selfishly to make slave-children that worship them and follow their exact preferences? What if people create new people to be their ideal lovers, crafted to look and sound just like their highschool crush? If we try to ban any of this, where do we draw the line?": " вже не за горами: незабаром існуватимуть технології (напр., генна інженерія, батьківство з допомогою ШІ, надлюдські соціальні науки та психологія), щоб створювати дітей із тими рисами, цінностями та ідеологією, які ви хотіли б їм прищепити. А що, як люди використають це егоїстично, щоб робити дітей-рабів, які поклонятимуться їм і достеменно виконуватимуть їхні забаганки? А що, як люди створюватимуть нових людей собі за ідеальних коханців, змодельованих так, щоб виглядати й звучати точнісінько як їхнє шкільне кохання? Якщо ми спробуємо щось із цього заборонити — де провести межу?", "looms: Technology will soon exist (e.g. genetic engineering, AI-assisted parenting, superhuman social science & psychology) to make children that’ll have the traits, values, and ideology that you wanted them to have. What if people use it selfishly to make slave-children that worship them and follow their exact preferences? What if people create new people to be their ideal lovers, crafted to look and sound just like their highschool crush? If we try to ban any of this, where do we draw the line?": " вже не за горами: незабаром існуватимуть технології (напр., генна інженерія, батьківство з допомогою ШІ, надлюдські соціальні науки та психологія), щоб створювати дітей із тими рисами, цінностями та ідеологією, які ви хотіли б їм прищепити. А що, як люди використають це егоїстично, щоб робити дітей-рабів, які поклонятимуться їм і достеменно виконуватимуть їхні забаганки? А що, як люди створюватимуть нових людей собі за ідеальних коханців, змодельованих так, щоб виглядати й звучати точнісінько як їхнє шкільне кохання? Якщо ми спробуємо щось із цього заборонити — де провести межу?", "Salvaging democracy:": "Порятунок демократії:", " What happens to “one person one vote” in a world where all of the above are possible?": " Що станеться з принципом «одна людина — один голос» у світі, де можливе все перелічене вище?", "What happens to “one person one vote” in a world where all of the above are possible?": " Що станеться з принципом «одна людина — один голос» у світі, де можливе все перелічене вище?", "Unknown unknowns:": "Невідомі невідомі:", " Based on how easy it’s been to brainstorm entries on this list, we think that the “true” list would be several times longer still and include many things that would have sounded completely outlandish in 2026, like “what if this world is a simulation which will be shut down soon?”": " З огляду на те, як легко було накидати пункти до цього списку, ми думаємо, що «справжній» список був би ще в кілька разів довшим і містив би багато речей, які у 2026 році звучали б цілком дико, на кшталт «а що, як цей світ — симуляція, яку скоро вимкнуть?»", "Based on how easy it’s been to brainstorm entries on this list, we think that the “true” list would be several times longer still and include many things that would have sounded completely outlandish in 2026, like “what if this world is a simulation which will be shut down soon?”": " З огляду на те, як легко було накидати пункти до цього списку, ми думаємо, що «справжній» список був би ще в кілька разів довшим і містив би багато речей, які у 2026 році звучали б цілком дико, на кшталт «а що, як цей світ — симуляція, яку скоро вимкнуть?»", "The Alternative Plans": "Альтернативні плани", "The scenario above follows Plan A. These chapters show how each of the other plans plays out from the same branch point.": "Сценарій вище розгортається за Планом А. Ці розділи показують, як кожен з інших планів розігрується з тієї самої точки розгалуження.", "Plan B — Sabotage": "План B — Саботаж", "“See you in the desert, friends” – ": "«Побачимось у пустелі, друзі» – ", "“See you in the desert, friends” –": "«Побачимось у пустелі, друзі» – ", "Situational Awareness": "Situational Awareness", "The President announces the creation of a US-led coalition to govern AI development.": "Президент оголошує про створення очолюваної США коаліції для врядування розвитком ШІ.", "He explains the gravity of the situation to the nation. Advanced AI can be both safe and broadly beneficial if done right. However, if we cut corners on safety we could lose control. Also, terrorists and authoritarian regimes could use it for evil.": "Він пояснює нації серйозність ситуації. Просунутий ШІ може бути і безпечним, і широко корисним, якщо все зробити правильно. Та якщо ми зрізатимемо кути в питаннях безпеки, то можемо втратити контроль. Ба більше, терористи й авторитарні режими можуть використати його на зло.", "“Nations that join us and play by the rules will have access to frontier AI, and share in the benefits. Nations that don’t will become our adversaries. Let me be clear: We will not allow them to beat us to superintelligence. This is non-negotiable. If they choose to race, they are choosing to lose. The Free World must—and will—prevail.”": "«Нації, які приєднаються до нас і гратимуть за правилами, матимуть доступ до передового ШІ й частку у вигодах. Нації, які цього не зроблять, стануть нашими супротивниками. Скажу прямо: ми не дозволимо їм випередити нас на шляху до суперінтелекту. Це не обговорюється. Якщо вони обирають перегони — вони обирають поразку. Вільний світ мусить перемогти — і переможе».", "Other countries ask how they’ll be able to verify that the US is complying with its own rules, and are not satisfied with the answer. (The answer is “you can’t, sorry” but in many, many more words.) Allowing foreign inspectors and monitoring devices into US datacenters is a ": "Інші країни питають, як вони зможуть верифікувати, що США дотримуються власних правил, і відповідь їх не задовольняє. (Відповідь — «ніяк, вибачте», лише значно, значно багатослівніше.) Допуск іноземних інспекторів та моніторингових пристроїв до американських дата-центрів — ідея ", "Other countries ask how they’ll be able to verify that the US is complying with its own rules, and are not satisfied with the answer. (The answer is “you can’t, sorry” but in many, many more words.) Allowing foreign inspectors and monitoring devices into US datacenters is a": "Інші країни питають, як вони зможуть верифікувати, що США дотримуються власних правил, і відповідь їх не задовольняє. (Відповідь — «ніяк, вибачте», лише значно, значно багатослівніше.) Допуск іноземних інспекторів та моніторингових пристроїв до американських дата-центрів — ідея ", "nonstarter": "мертвонароджена", "Some countries put up with this, placing their trust in US leadership, perhaps in return for having some say in what the rules are. China, Russia, and several other countries do not. Many US allies that do join do so reluctantly and continue to pressure the US to make more substantive concessions.": "Деякі країни з цим миряться, довіряючись лідерству США, — можливо, в обмін на певний голос у визначенні правил. Китай, Росія та ще кілька країн — ні. Багато союзників США, які все ж приєднуються, роблять це неохоче й далі тиснуть на США, домагаючись суттєвіших поступок.", "The US and China had already been conducting cyberespionage against each other; now they escalate to limited cyberwar focused on AI projects. They also start preparing options for physical sabotage and kinetic strikes, and continue yelling at each other through diplomatic channels in the hopes that the other side will concede.": "США й Китай уже вели кібершпигунство одне проти одного; тепер вони ескалюють до обмеженої кібервійни, зосередженої на ШІ-проєктах. Вони також починають готувати варіанти фізичного саботажу й кінетичних ударів і продовжують кричати одне на одного дипломатичними каналами в надії, що інша сторона поступиться.", "Note that in any Plan, including Plan A, militaries would be preparing options for things like this. Supporting a credible deterrence posture with a spectrum of offensive options is just part of what militaries do, and it contributes leverage in negotiations.": "Зауважте: за будь-якого Плану, включно з Планом А, військові готували б варіанти подібних дій. Підтримання переконливої позиції стримування спектром наступальних опцій — просто частина роботи військових, і це додає важелів у переговорах.", "The Project": "Проєкт", " begins, combining labor, compute, and algorithms from the major US companies into one joint effort controlled ultimately by the President. It’s motivated in part by a desire to get returns from scale, partly from a desire to improve security, and partly from a Cold War atmosphere that makes it seem obvious that POTUS should be calling the shots and not some gaggle of unelected CEOs. After all, the national security implications of this technology are tremendous.": " стартує, обʼєднуючи кадри, обчислювальні потужності й алгоритми головних американських компаній в одне спільне зусилля, яке в кінцевому підсумку контролює Президент. Його мотивує почасти бажання отримати віддачу від масштабу, почасти прагнення посилити захищеність, а почасти атмосфера холодної війни, в якій здається очевидним, що командувати має POTUS, а не зграйка ніким не обраних CEO. Зрештою, наслідки цієї технології для національної безпеки колосальні.", "begins, combining labor, compute, and algorithms from the major US companies into one joint effort controlled ultimately by the President. It’s motivated in part by a desire to get returns from scale, partly from a desire to improve security, and partly from a Cold War atmosphere that makes it seem obvious that POTUS should be calling the shots and not some gaggle of unelected CEOs. After all, the national security implications of this technology are tremendous.": " стартує, обʼєднуючи кадри, обчислювальні потужності й алгоритми головних американських компаній в одне спільне зусилля, яке в кінцевому підсумку контролює Президент. Його мотивує почасти бажання отримати віддачу від масштабу, почасти прагнення посилити захищеність, а почасти атмосфера холодної війни, в якій здається очевидним, що командувати має POTUS, а не зграйка ніким не обраних CEO. Зрештою, наслідки цієї технології для національної безпеки колосальні.", "Getting the Project off the ground involved some tricky negotiations; the President didn’t want the entire AI industry united against him so he pitted them against each other by promising leadership positions to some. (Besides, he needs many of their employees to actually run the thing.) These powerful men hate and distrust each other. Though they’ll shake hands and smile for the cameras, a vicious power struggle is ongoing behind the scenes. This will be a subplot in everything that follows, until it is resolved one way or another.": "Запуск Проєкту потребував непростих переговорів; Президент не хотів, щоб уся ШІ-індустрія обʼєдналася проти нього, тож він зіштовхнув їх лобами, пообіцявши декому керівні посади. (До того ж йому потрібно чимало їхніх працівників, щоб усім цим реально керувати.) Ці могутні чоловіки ненавидять одне одного й не довіряють одне одному. Хоч вони тиснуть руки й усміхаються на камери, за лаштунками триває запекла боротьба за владу. Це буде побічною сюжетною лінією в усьому подальшому, доки так чи інакше не розвʼяжеться.", "Perhaps one CEO will end up effectively in charge, the power behind the throne, the General Groves of the Manhattan project. (Except Groves couldn’t turn around and use the nukes to take over the USA, whereas whoever is in charge of The Project plausibly could use the giant army of superintelligences to subvert and puppet the US government.) Or perhaps the POTUS will win instead, and basically end up in a position to become President for Life. Or perhaps these powerful men will work out some system of checks and balances, becoming a sort of junta or oligarchy like the Oversight Committee in AI 2027. Or perhaps instead they will allow external entities like congress, SCOTUS, the American public, allied nations, etc. enough oversight over what they are doing with the AIs that later, when the AIs are superintelligent, they won’t be able to abuse their power.": "Можливо, один із CEO фактично опиниться на чолі — сірий кардинал, такий собі генерал Ґровс Мангеттенського проєкту. (От тільки Ґровс не міг розвернутися й використати ядерну зброю, щоб захопити США, тоді як той, хто керуватиме Проєктом, цілком міг би використати гігантську армію суперінтелектів, щоб підпорядкувати уряд США й перетворити його на маріонетку.) Або, можливо, переможе натомість POTUS і фактично опиниться в позиції, з якої можна стати довічним Президентом. Або, можливо, ці могутні чоловіки випрацюють якусь систему стримувань і противаг, ставши свого роду хунтою чи олігархією, як Наглядовий комітет в AI 2027. Або ж, можливо, вони натомість нададуть зовнішнім субʼєктам — Конгресу, Верховному суду, американській громадськості, союзним націям тощо — достатній нагляд за тим, що вони роблять із ШІ, щоб пізніше, коли ШІ стануть суперінтелектуальними, ці люди не змогли зловживати своєю владою.", "In 2030 the US gets to full AI R&D automation ahead of China. However, as per the plan, they don’t launch into it right away at full speed. Instead they do a more cautious scaleup, with decisions about safety being made by technical alignment researchers instead of politicians.": "У 2030 році США досягають повної автоматизації AI R&D раніше за Китай. Однак, згідно з планом, вони не кидаються в неї одразу на повній швидкості. Натомість вони проводять обережніше нарощування, і рішення щодо безпеки ухвалюють технічні дослідники узгодження, а не політики.", "We are trying to present a reasonably good version of Plan B here. Worse versions are also possible, e.g., versions in which the technical alignment researchers have much less power or got their jobs via a selection process that selected for optimism or against courage.": "Ми намагаємося показати тут доволі добру версію Плану B. Можливі й гірші версії — наприклад, такі, де технічні дослідники узгодження мають значно менше влади або отримали свої посади через відбір, що селекціонував за оптимізмом чи проти сміливості.", " For example, perhaps they forgo a new model architecture that is more capable but also much more dangerous, or spend 50% of their compute on safety research and monitoring, or develop different lineages of AIs that probably don’t have the same misaligned goals and can be used to monitor each other.": " Наприклад, можливо, вони відмовляються від нової архітектури моделей, яка потужніша, але й значно небезпечніша, або витрачають 50% своїх обчислювальних потужностей на дослідження безпеки й моніторинг, або розвивають різні лінії ШІ, які, ймовірно, не мають однакових неузгоджених цілей і можуть використовуватися для взаємного моніторингу.", "For example, perhaps they forgo a new model architecture that is more capable but also much more dangerous, or spend 50% of their compute on safety research and monitoring, or develop different lineages of AIs that probably don’t have the same misaligned goals and can be used to monitor each other.": " Наприклад, можливо, вони відмовляються від нової архітектури моделей, яка потужніша, але й значно небезпечніша, або витрачають 50% своїх обчислювальних потужностей на дослідження безпеки й моніторинг, або розвивають різні лінії ШІ, які, ймовірно, не мають однакових неузгоджених цілей і можуть використовуватися для взаємного моніторингу.", "Making these tradeoffs correctly is hard, and made harder by the secrecy and race dynamics. Only a few dozen people in the Project have technical alignment expertise, because each person in the Project is one more potential spy. Meanwhile decisionmakers are vividly aware of how bad it would be if China pulled ahead of the US in AI capabilities—it would be like ": "Правильно вивіряти ці компроміси важко, а секретність і динаміка перегонів ускладнюють це ще більше. Лише кілька десятків людей у Проєкті мають технічну експертизу з узгодження, бо кожна людина в Проєкті — ще один потенційний шпигун. Тим часом ті, хто ухвалює рішення, гостро усвідомлюють, як погано було б, якби Китай вирвався вперед США у можливостях ШІ, — це було б як ", "Making these tradeoffs correctly is hard, and made harder by the secrecy and race dynamics. Only a few dozen people in the Project have technical alignment expertise, because each person in the Project is one more potential spy. Meanwhile decisionmakers are vividly aware of how bad it would be if China pulled ahead of the US in AI capabilities—it would be like": "Правильно вивіряти ці компроміси важко, а секретність і динаміка перегонів ускладнюють це ще більше. Лише кілька десятків людей у Проєкті мають технічну експертизу з узгодження, бо кожна людина в Проєкті — ще один потенційний шпигун. Тим часом ті, хто ухвалює рішення, гостро усвідомлюють, як погано було б, якби Китай вирвався вперед США у можливостях ШІ, — це було б як ", "losing": "програти", "World War II": "Другу світову війну", "—and this tempts them to rationalize why the latest safety cases will work and why the latest US AIs can be trusted with more responsibilities.": " — і це спокушає їх раціоналізувати, чому найновіші обґрунтування безпеки спрацюють і чому найновішим американським ШІ можна довірити більше відповідальності.", "The company employees and leaders were selected for optimism about AI alignment difficulty, and (on average) biased in that direction. The natsec and White House people are more naturally cautious about trusting AIs, but lack technical expertise and fear China more than anything.": "Працівників і керівників компаній відбирали за оптимізмом щодо складності узгодження ШІ, і (в середньому) вони упереджені в цей бік. Люди з нацбезпеки й Білого дому від природи обережніші щодо довіри до ШІ, але їм бракує технічної експертизи, а Китаю вони бояться понад усе.", "Meanwhile, the geopolitical situation has ": "Тим часом геополітична ситуація ", "Meanwhile, the geopolitical situation has": "Тим часом геополітична ситуація ", "escalated": "загострилася", ". Cyberattacks did some damage but didn’t slow either country’s AI progress more than a few tens of percent.": ". Кібератаки завдали певної шкоди, але не сповільнили прогрес ШІ жодної з країн більш ніж на кілька десятків відсотків.", "Our non-expert opinion, based on attempts to look into this, is roughly that surgical cyberattacks focused on specific AI projects could potentially crush them today but by 2029 or so security will have been improved enough that effects on the order of 10% seem more likely.": "Наша неекспертна думка, заснована на спробах розібратися в цьому питанні, приблизно така: хірургічні кібератаки, зосереджені на конкретних ШІ-проєктах, сьогодні потенційно могли б їх розчавити, але приблизно до 2029 року безпеку буде посилено настільки, що ймовірнішими виглядатимуть ефекти порядку 10%.", " After another round of failed negotiations, physical sabotage begins. Datacenters go dark as their power is cut; expensive fab equipment gets wrecked by saboteurs. Supply chain attacks force both sides to change suppliers and review everything, causing delays. Chinese forces get ready to blockade Taiwan and prepare the option to hit mainland US datacenters; US forces get ready to defend Taiwan and bomb Chinese datacenters and fabs. Both sides prioritize deploying AI into their militaries over civilian applications, though most compute is reserved for AI R&D itself.": " Після ще одного раунду провальних переговорів починається фізичний саботаж. Дата-центри гаснуть, коли їм обрізають живлення; дороге обладнання фабрик чипів нищать диверсанти. Атаки на ланцюги постачання змушують обидві сторони змінювати постачальників і все перевіряти, спричиняючи затримки. Китайські сили готуються блокувати Тайвань і опрацьовують опцію ударів по дата-центрах на материковій території США; американські сили готуються обороняти Тайвань і бомбити китайські дата-центри та фабрики чипів. Обидві сторони віддають пріоритет розгортанню ШІ у своїх військах, а не цивільним застосуванням, хоча більшість обчислювальних потужностей зарезервована під сам AI R&D.", "After another round of failed negotiations, physical sabotage begins. Datacenters go dark as their power is cut; expensive fab equipment gets wrecked by saboteurs. Supply chain attacks force both sides to change suppliers and review everything, causing delays. Chinese forces get ready to blockade Taiwan and prepare the option to hit mainland US datacenters; US forces get ready to defend Taiwan and bomb Chinese datacenters and fabs. Both sides prioritize deploying AI into their militaries over civilian applications, though most compute is reserved for AI R&D itself.": " Після ще одного раунду провальних переговорів починається фізичний саботаж. Дата-центри гаснуть, коли їм обрізають живлення; дороге обладнання фабрик чипів нищать диверсанти. Атаки на ланцюги постачання змушують обидві сторони змінювати постачальників і все перевіряти, спричиняючи затримки. Китайські сили готуються блокувати Тайвань і опрацьовують опцію ударів по дата-центрах на материковій території США; американські сили готуються обороняти Тайвань і бомбити китайські дата-центри та фабрики чипів. Обидві сторони віддають пріоритет розгортанню ШІ у своїх військах, а не цивільним застосуванням, хоча більшість обчислювальних потужностей зарезервована під сам AI R&D.", "By 2031,": "До 2031 року", "We’ve spent some time gaming out AI-war scenarios with an eye to figuring out how such a war might play out and how much it would slow down AI progress. Our guess is that it would slow things down by a few years at most, unless it escalated to massive missile barrages or nukes.": "Ми провели певний час, програючи сценарії ШІ-війни, щоб зрозуміти, як така війна могла б розгортатися і наскільки вона сповільнила б прогрес ШІ. Наше припущення — вона сповільнила б усе щонайбільше на кілька років, якщо тільки не ескалювала б до масованих ракетних обстрілів чи ядерної зброї.", " the President is being pressured by his advisors to choose between one of two unpleasant options, handoff and war.": " радники вже тиснуть на Президента, змушуючи обрати один із двох неприємних варіантів: передачу управління або війну.", "the President is being pressured by his advisors to choose between one of two unpleasant options, handoff and war.": " радники вже тиснуть на Президента, змушуючи обрати один із двох неприємних варіантів: передачу управління або війну.", "Handoff": "Передача управління", ". Easing off the brakes on autonomous AI R&D, letting the AIs become broadly superhuman, and integrating the “army of geniuses in the datacenters” into the military—is looking increasingly likely. At that point, the AIs will be so capable that they could take over the world if they want to, so it’ll be extremely important that they are aligned. If this path is chosen, the spread of possible results is similar to what is explored in ": ". Відпустити гальма автономного AI R&D, дозволити ШІ стати загалом надлюдськими та інтегрувати «армію геніїв у дата-центрах» у військо — цей варіант виглядає дедалі ймовірнішим. На той момент ШІ будуть настільки здібними, що зможуть захопити світ, якщо захочуть, тож буде вкрай важливо, щоб вони були узгоджені. Якщо обрано цей шлях, розкид можливих результатів схожий на те, що досліджено в ", ". Easing off the brakes on autonomous AI R&D, letting the AIs become broadly superhuman, and integrating the “army of geniuses in the datacenters” into the military—is looking increasingly likely. At that point, the AIs will be so capable that they could take over the world if they want to, so it’ll be extremely important that they are aligned. If this path is chosen, the spread of possible results is similar to what is explored in": ". Відпустити гальма автономного AI R&D, дозволити ШІ стати загалом надлюдськими та інтегрувати «армію геніїв у дата-центрах» у військо — цей варіант виглядає дедалі ймовірнішим. На той момент ШІ будуть настільки здібними, що зможуть захопити світ, якщо захочуть, тож буде вкрай важливо, щоб вони були узгоджені. Якщо обрано цей шлях, розкид можливих результатів схожий на те, що досліджено в ", ". If the AIs are misaligned, they will take over and permanently disempower humanity, causing extinction or something similarly bad. If the AIs are aligned, the power will be massively concentrated into some combination of politicians and/​or CEOs.": ". Якщо ШІ неузгоджені, вони захоплять владу й назавжди позбавлять людство впливу, спричинивши вимирання або щось подібно погане. Якщо ШІ узгоджені, влада буде колосально сконцентрована в руках якоїсь комбінації політиків та/​або CEO.", "War.": "Війна.", " Analysts inform the president that despite the existing cyberattacks and supply chain attacks, China is on track to build superintelligence itself by the end of the year. So for the US to slow down more—and avoid an imminent handoff, even more drastic sabotage is needed. Escalating further into full-scale conventional conflict is on the table, and sadly might happen anyway even if the President opts for handoff, because China might not be bluffing; perhaps they really do view allowing the US to reach superintelligence first as similarly bad to losing World War II. This would probably result in very costly US victory, but could also result in very costly Chinese victory or mutually assured destruction. Moreover, the pressure to scale up AI capabilities and put AIs in charge of more and more aspects of the war would be intense. It’s plausible that by the end of the war AIs would be in effective control of both nations.": " Аналітики повідомляють президенту, що, попри наявні кібератаки й атаки на ланцюги постачання, Китай іде до того, щоб самотужки збудувати суперінтелект до кінця року. Тож щоб США могли сповільнитися сильніше — й уникнути неминучої передачі управління — потрібен ще радикальніший саботаж. Подальша ескалація до повномасштабного конвенційного конфлікту лежить на столі і, на жаль, може статися все одно, навіть якщо Президент обере передачу управління, бо Китай може й не блефувати; можливо, вони справді вважають, що дозволити США першими дійти до суперінтелекту — так само погано, як програти Другу світову війну. Це, ймовірно, закінчилося б дуже дорогою перемогою США, але могло б закінчитися й дуже дорогою перемогою Китаю чи взаємно гарантованим знищенням. Ба більше, тиск на нарощування можливостей ШІ і передавання ШІ керівництва дедалі більшою кількістю аспектів війни був би шаленим. Цілком правдоподібно, що до кінця війни ШІ фактично контролювали б обидві нації.", "Analysts inform the president that despite the existing cyberattacks and supply chain attacks, China is on track to build superintelligence itself by the end of the year. So for the US to slow down more—and avoid an imminent handoff, even more drastic sabotage is needed. Escalating further into full-scale conventional conflict is on the table, and sadly might happen anyway even if the President opts for handoff, because China might not be bluffing; perhaps they really do view allowing the US to reach superintelligence first as similarly bad to losing World War II. This would probably result in very costly US victory, but could also result in very costly Chinese victory or mutually assured destruction. Moreover, the pressure to scale up AI capabilities and put AIs in charge of more and more aspects of the war would be intense. It’s plausible that by the end of the war AIs would be in effective control of both nations.": " Аналітики повідомляють президенту, що, попри наявні кібератаки й атаки на ланцюги постачання, Китай іде до того, щоб самотужки збудувати суперінтелект до кінця року. Тож щоб США могли сповільнитися сильніше — й уникнути неминучої передачі управління — потрібен ще радикальніший саботаж. Подальша ескалація до повномасштабного конвенційного конфлікту лежить на столі і, на жаль, може статися все одно, навіть якщо Президент обере передачу управління, бо Китай може й не блефувати; можливо, вони справді вважають, що дозволити США першими дійти до суперінтелекту — так само погано, як програти Другу світову війну. Це, ймовірно, закінчилося б дуже дорогою перемогою США, але могло б закінчитися й дуже дорогою перемогою Китаю чи взаємно гарантованим знищенням. Ба більше, тиск на нарощування можливостей ШІ і передавання ШІ керівництва дедалі більшою кількістю аспектів війни був би шаленим. Цілком правдоподібно, що до кінця війни ШІ фактично контролювали б обидві нації.", ":::box": ":::box", "We have complicated feelings about Plan B.": "У нас складні почуття щодо Плану B.", "Even a well-executed version of Plan B would be significantly worse than Plan A or Plan S. At the end of this scenario, we would advise that the President rejects the choice between handoff and war and instead opts to transition to Plan A or ": "Навіть добре виконана версія Плану B була б значно гіршою за План А чи План S. Наприкінці цього сценарію ми радили б Президентові відкинути вибір між передачею управління та війною і натомість перейти до Плану А або ", "Even a well-executed version of Plan B would be significantly worse than Plan A or Plan S. At the end of this scenario, we would advise that the President rejects the choice between handoff and war and instead opts to transition to Plan A or": "Навіть добре виконана версія Плану B була б значно гіршою за План А чи План S. Наприкінці цього сценарію ми радили б Президентові відкинути вибір між передачею управління та війною і натомість перейти до Плану А або ", "another actually good plan": "іншого справді доброго плану", "A well-executed version of Plan B could be better than Plan C (don’t sabotage China but still slow down a little) because a well-executed Plan B would be like Plan C except with a longer period of slowdown/​pause before China catches up due to the aggressive actions to slow down China. This longer period could be used to conduct more alignment research, pursue costlier but safer AI designs, and implement more domestic reforms to prevent power concentration.": "Добре виконана версія Плану B могла б бути кращою за План C (не саботувати Китай, але все ж трохи сповільнитися), бо добре виконаний План B був би як План C, тільки з довшим періодом сповільнення/​паузи до того, як Китай наздожене, — завдяки агресивним діям зі сповільнення Китаю. Цей довший період можна було б використати, щоб провести більше досліджень узгодження, обрати дорожчі, але безпечніші конструкції ШІ та впровадити більше внутрішніх реформ для запобігання концентрації влади.", "That said, the risk of war is high under Plan B for the obvious reason that Plan B calls for aggressive actions to slow down China’s AI program. So even the best-executed version of Plan B isn’t a clear improvement over Plan C.": "Утім, ризик війни за Плану B високий зі зрозумілої причини: План B передбачає агресивні дії для сповільнення китайської ШІ-програми. Тож навіть найкраще виконана версія Плану B не є однозначним покращенням порівняно з Планом C.", "More importantly, we think that Plan B is very easy to mess up or distort, and a badly distorted or incompetent version of it would be catastrophic.": "Що важливіше, ми вважаємо, що План B дуже легко запороти чи спотворити, а сильно спотворена або некомпетентна його версія була б катастрофічною.", "Daniel in particular thinks that this is actually what a typical attempt to implement Plan B would look like, rather than an unusually bad version of it. Daniel thinks that a good version of Plan B is unlikely. Eli, by contrast, is more optimistic and thinks that while the median implementation would be much less competent than ideal, it would still be substantially better than Plan D because there would be more focus and resources spent on safety and more of a slowdown.": "Зокрема, Daniel вважає, що саме так насправді й виглядала б типова спроба реалізувати План B, а не якась надзвичайно погана його версія. Daniel вважає, що добра версія Плану B малоймовірна. Eli, навпаки, більш оптимістичний і вважає, що хоча медіанна реалізація була б значно менш компетентною за ідеальну, вона все одно була б суттєво кращою за План D, бо на безпеку витрачалося б більше уваги й ресурсів, а сповільнення було б більшим.", " For example, the US might do the sabotage part of Plan B, but not the “let’s actually slow down” part. This would incur all the downsides of the status quo (Plan D), plus an extra helping of power-concentration and an early escalation against China making it harder to switch to Plan A later.": " Наприклад, США можуть виконати саботажну частину Плану B, але не частину «а тепер справді сповільнімося». Це принесло б усі мінуси статус-кво (Плану D), плюс додаткову порцію концентрації влади та ранню ескалацію проти Китаю, яка ускладнить перехід до Плану А пізніше.", "For example, the US might do the sabotage part of Plan B, but not the “let’s actually slow down” part. This would incur all the downsides of the status quo (Plan D), plus an extra helping of power-concentration and an early escalation against China making it harder to switch to Plan A later.": " Наприклад, США можуть виконати саботажну частину Плану B, але не частину «а тепер справді сповільнімося». Це принесло б усі мінуси статус-кво (Плану D), плюс додаткову порцію концентрації влади та ранню ескалацію проти Китаю, яка ускладнить перехід до Плану А пізніше.", "That said in other ways the early escalation might make it ‘easier’ to switch to Plan A later, because it might cause other countries to ‘wake up’ faster and demand a deal.": "Утім, в інших аспектах рання ескалація могла б зробити пізніший перехід до Плану А «легшим», бо могла б змусити інші країни швидше «прокинутися» й вимагати угоди.", "Here are some reasons why even a genuine attempt to do Plan B may end up in practice more like Plan D:": "Ось кілька причин, чому навіть щира спроба реалізувати План B на практиці може вийти більше схожою на План D:", "The high-level focus on beating China will cause security to be prioritized; this will limit transparency; the result will be a very small population of alignment researchers with access to up-to-date information and models.": "Фокус найвищого рівня на тому, щоб випередити Китай, змусить пріоритезувати захищеність; це обмежить прозорість; у результаті матимемо дуже нечисленну спільноту дослідників узгодження з доступом до актуальної інформації та моделей.", "The race dynamics still continue and will feel increasingly intense over time; this creates bad incentives, corner-cutting, rationalization.": "Динаміка перегонів нікуди не зникає і з часом відчуватиметься дедалі гострішою; це створює погані стимули, зрізання кутів, раціоналізацію.", "Consolidating companies and securitizing AI development concentrates power immensely in the President, unless very strong measures are implemented to give Congress and the Judiciary thorough oversight over what The Project is doing.": "Консолідація компаній і переведення розробки ШІ на рейки національної безпеки колосально концентрує владу в руках Президента — якщо тільки не буде впроваджено дуже сильних заходів, які дадуть Конгресу та судовій владі ретельний нагляд за тим, що робить Проєкт.", "The race dynamics will also contribute to China, Russia, and numerous other countries becoming increasingly afraid, which contributes to escalation, plus in Plan B the US takes escalatory actions to slow down China’s AI program!": "Динаміка перегонів також сприятиме тому, що Китай, Росія та багато інших країн дедалі більше боятимуться, а це підживлює ескалацію, — плюс у Плані B США вдаються до ескалаційних дій, щоб сповільнити китайську ШІ-програму!", "Plan C — The Slowdown": "План C — Сповільнення", "“We must minimize the risks and maximize the benefits of AI” – Pretty much everyone in AI policy, while recommending that we do very little.": "«Ми повинні мінімізувати ризики й максимізувати вигоди від ШІ» – практично всі в ШІ-політиці, рекомендуючи при цьому робити дуже мало.", "The President says he will be implementing strong regulation to ensure safety and security.": "Президент каже, що впроваджуватиме сильне регулювання для забезпечення безпеки й захищеності.", "He spends the next year talking to everyone powerful—the CEOs, China, and numerous other countries. In between summits and visits, the President reads reports about the steady ramp-up in AI capabilities. The AI companies have been hyping their recursive self-improvement capabilities for years (“Introducing our most powerful model… capable of fully replacing the median software engineer in our early-access enterprise partners”) but thanks in part to the AI Transparency Act the government is able to see through the hype. This time, in 2030, it’s for real; the trends really do suggest that the entire AI R&D process will be fully automated by the end of the year.": "Наступний рік він проводить у розмовах з усіма впливовими гравцями — CEO, Китаєм і багатьма іншими країнами. Між самітами й візитами Президент читає звіти про неухильне нарощування можливостей ШІ. ШІ-компанії роками роздували хайп навколо своїх можливостей рекурсивного самовдосконалення («Представляємо нашу найпотужнішу модель… здатну повністю замінити медіанного програмного інженера в наших enterprise-партнерів із раннім доступом»), але, зокрема завдяки Акту про прозорість ШІ, уряд здатен бачити крізь хайп. Цього разу, у 2030-му, все по-справжньому: тренди дійсно вказують на те, що весь процес AI R&D буде повністю автоматизовано до кінця року.", "Time to strike a deal. Unfortunately the Chinese insist on being able to verify compliance themselves, but allowing Chinese inspectors and monitoring devices into US datacenters is a ": "Час укладати угоду. На жаль, китайці наполягають на можливості самим верифікувати дотримання умов, але допуск китайських інспекторів і моніторингових пристроїв до американських дата-центрів — ідея ", "Time to strike a deal. Unfortunately the Chinese insist on being able to verify compliance themselves, but allowing Chinese inspectors and monitoring devices into US datacenters is a": "Час укладати угоду. На жаль, китайці наполягають на можливості самим верифікувати дотримання умов, але допуск китайських інспекторів і моніторингових пристроїв до американських дата-центрів — ідея ", ". The AI companies won’t play ball either; they’ve been locked in an extremely nasty propaganda war over whether ‘AI Good’ or ‘AI Bad,’ and are firmly committed to the ‘AI Good’ side.": ". ШІ-компанії теж не йдуть назустріч; вони загрузли в надзвичайно брудній пропагандистській війні про те, «ШІ — добро» чи «ШІ — зло», і твердо стоять на боці «ШІ — добро».", "Large parts of the public are clamoring for superintelligence to be banned, and the companies are fighting tooth and nail to tie the President’s hands and deter him from moving against them in any way. On the other side, a growing coalition of middle powers—the UK, France, India, Australia, Japan, and South Korea—are all clamoring for some sort of AI deal to happen, that prevents an intelligence explosion and ensures that nations like them can have their own sovereign AI projects that catch up to and stay at the frontier. Such a deal is getting more and more difficult to implement with each passing month, as fewer and fewer humans are needed to conduct AI R&D, meaning that covert projects are easier and easier to pull off without detection.": "Великі частини громадськості голосно вимагають заборонити суперінтелект, а компанії щосили бʼються за те, щоб звʼязати Президентові руки й відохотити його від будь-яких кроків проти них. З іншого боку, дедалі ширша коаліція середніх держав — Велика Британія, Франція, Індія, Австралія, Японія та Південна Корея — гучно вимагає якоїсь угоди щодо ШІ, яка не допустить вибуху інтелекту й гарантуватиме, що такі нації, як вони, зможуть мати власні суверенні ШІ-проєкти, які наздоженуть передовий рівень і втримаються на ньому. Реалізувати таку угоду з кожним місяцем дедалі важче, адже для ведення AI R&D потрібно дедалі менше людей, а отже, таємні проєкти дедалі легше провернути непомітно.", "On the cusp of full AI R&D automation, the leading US company grudgingly agrees to pause. POTUS threatens them with decisive action if they proceed any deeper into the intelligence explosion; meanwhile he tries another round of international negotiations. The safety teams scramble to spend their borrowed time, running more evals, fine-tuning runs, gaming out what handoff looks like and the various ways it could go wrong.": "На порозі повної автоматизації AI R&D провідна американська компанія знехотя погоджується на паузу. POTUS погрожує їй рішучими діями, якщо вона просунеться глибше у вибух інтелекту; тим часом він пробує ще один раунд міжнародних переговорів. Команди безпеки гарячково використовують позичений час: ганяють більше evals, запускають файнтюнінг, програють сценарії того, як виглядатиме передача управління і якими способами вона може піти не так.", "It doesn’t last. With each passing month, the rest of the US AI industry gets closer to the same capability level, and POTUS has more CEOs to wrangle. More importantly, with each passing month China gets one month closer to overtaking the US. By late 2030 the President’s advisors are telling him that China is about to overtake the US, arguing that we have to restart. Meanwhile the companies have rallied, coordinated, and hit POTUS with a huge amount of political pressure to unpause. The carrot is the following:": "Це триває недовго. З кожним місяцем решта американської ШІ-індустрії наближається до того самого рівня можливостей, і POTUS доводиться приборкувати дедалі більше CEO. Що важливіше, з кожним місяцем Китай стає на місяць ближчим до того, щоб обігнати США. Наприкінці 2030 року радники Президента кажуть йому, що Китай ось-ось випередить США, і наполягають, що треба перезапускатися. Тим часом компанії згуртувалися, скоординувалися й навалили на POTUS величезний політичний тиск, вимагаючи зняти паузу. Пряник — ось такий:", "“Our safety researchers have scraped together a decent plan over the last few months using huge amounts of AI labor. No, we can’t prove it’ll work, but it was unreasonable to expect that level of assurance anyway. The future is uncertain. But there is ": "«Наші дослідники безпеки за останні кілька місяців зліпили докупи пристойний план, використавши величезні обсяги ШІ-праці. Ні, ми не можемо довести, що він спрацює, але очікувати такого рівня гарантій і так було нерозумно. Майбутнє непевне. Але немає ", "“Our safety researchers have scraped together a decent plan over the last few months using huge amounts of AI labor. No, we can’t prove it’ll work, but it was unreasonable to expect that level of assurance anyway. The future is uncertain. But there is": "«Наші дослідники безпеки за останні кілька місяців зліпили докупи пристойний план, використавши величезні обсяги ШІ-праці. Ні, ми не можемо довести, що він спрацює, але очікувати такого рівня гарантій і так було нерозумно. Майбутнє непевне. Але немає ", "no evidence": "жодних доказів", " that our AIs are currently scheming against us, and in fact we have graphs showing that bad behavior generally has been trending downwards. We think these latest AIs can probably be trusted to automate AI R&D and handle the alignment and control research as well. We calculate that we can spend 20% of our compute on safety research and still move comfortably faster than China.”": " того, що наші ШІ зараз плетуть змови проти нас, — ба більше, ми маємо графіки, які показують, що погана поведінка загалом іде на спад. Ми вважаємо, що цим найновішим ШІ, ймовірно, можна довірити автоматизацію AI R&D, а заразом і дослідження узгодження та контролю. За нашими розрахунками, ми можемо витрачати 20% наших обчислювальних потужностей на дослідження безпеки і все одно рухатися з комфортним запасом швидше за Китай».", "that our AIs are currently scheming against us, and in fact we have graphs showing that bad behavior generally has been trending downwards. We think these latest AIs can probably be trusted to automate AI R&D and handle the alignment and control research as well. We calculate that we can spend 20% of our compute on safety research and still move comfortably faster than China.”": " того, що наші ШІ зараз плетуть змови проти нас, — ба більше, ми маємо графіки, які показують, що погана поведінка загалом іде на спад. Ми вважаємо, що цим найновішим ШІ, ймовірно, можна довірити автоматизацію AI R&D, а заразом і дослідження узгодження та контролю. За нашими розрахунками, ми можемо витрачати 20% наших обчислювальних потужностей на дослідження безпеки і все одно рухатися з комфортним запасом швидше за Китай».", "“We’ll have some governance arrangement that gives POTUS even more oversight into what we are doing, and Congress too. You can use AIs from each company to audit the AIs from other companies, and if you try to nationalize us or otherwise become AGI-enabled dictator Congress and the Supreme Court will stop you.”": "«Ми погодимося на певний механізм врядування, який дасть POTUS ще більше нагляду за тим, що ми робимо, — і Конгресу теж. Ви зможете використовувати ШІ кожної компанії для аудиту ШІ інших компаній, а якщо спробуєте нас націоналізувати чи іншим чином стати диктатором з AGI в руках, вас зупинять Конгрес і Верховний суд».", "“We’ll support some sort of taxation-and-redistribution scheme to handle the jobs problem. Yes, we’ll be taking a lot of jobs, perhaps even all the jobs. But your new tax will enable everyone to get a slice of our profits large enough to live on.”": "«Ми підтримаємо якусь схему оподаткування й перерозподілу, щоб розвʼязати проблему робочих місць. Так, ми заберемо багато робочих місць — можливо, навіть усі. Але ваш новий податок дасть кожному частку наших прибутків, достатню, щоб на неї жити».", "The stick is China. You don’t want them to win, do you?": "Батіг — це Китай. Ви ж не хочете, щоб вони перемогли, правда?", "The President has one last meeting with China and the other nations. They still want a deal, but they insist on being able to verify US compliance. The US government continues to find that unacceptable. The President sides with the companies; recursive self-improvement continues.": "Президент проводить останню зустріч із Китаєм та іншими націями. Вони все ще хочуть угоди, але наполягають на можливості верифікувати дотримання умов Сполученими Штатами. Уряд США й далі вважає це неприйнятним. Президент стає на бік компаній; рекурсивне самовдосконалення триває.", "How would this play out?": "Як би це розгорнулося?", "We already wrote a scenario about this, called ": "Ми вже написали сценарій про це — він називається ", "We already wrote a scenario about this, called": "Ми вже написали сценарій про це — він називається ", ". It depicts takeoff happening in 2027 instead of 2030, but it depicts a similar strategic situation and similar choices being made. We suggest you read it now, and choose ": ". Він зображує зліт, що відбувається у 2027-му замість 2030-го, але змальовує схожу стратегічну ситуацію і схожі рішення. Пропонуємо прочитати його зараз і обрати ", ". It depicts takeoff happening in 2027 instead of 2030, but it depicts a similar strategic situation and similar choices being made. We suggest you read it now, and choose": ". Він зображує зліт, що відбувається у 2027-му замість 2030-го, але змальовує схожу стратегічну ситуацію і схожі рішення. Пропонуємо прочитати його зараз і обрати ", "the Slowdown ending": "кінцівку «Сповільнення»", " when you get to the branch point.": ", коли дійдете до точки розгалуження.", "when you get to the branch point.": ", коли дійдете до точки розгалуження.", "We think Plan C is better than Plan D, but still a bad plan, for three main reasons:": "Ми вважаємо, що План C кращий за План D, але все одно поганий план — із трьох головних причин:", "First, we don’t expect the AI companies to retain control over their AIs while racing each other through the intelligence explosion, even if they slow down for a few months and reallocate effort to alignment and control research.": "По-перше, ми не очікуємо, що ШІ-компанії збережуть контроль над своїми ШІ, мчачи наввипередки крізь вибух інтелекту, навіть якщо вони сповільняться на кілька місяців і перекинуть зусилля на дослідження узгодження та контролю.", "Note: our opinions vary about exactly how likely misaligned AI takeover is in this scenario. Thomas and Daniel think it’s roughly 70%, Eli and Romeo think it’s about 50/​50, Brendan roughly 1/​3rd, Ryan roughly 20%.": "Примітка: наші думки щодо того, наскільки ймовірне захоплення влади неузгодженим ШІ в цьому сценарії, різняться. Thomas і Daniel вважають, що це приблизно 70%, Eli та Romeo — що приблизно 50/​50, Brendan — приблизно 1/​3, Ryan — приблизно 20%.", "A few months of slowdown probably isn’t enough. In Plan C, the safety teams at these companies are still too small, too rushed, and too biased towards optimism about their own handiwork, to figure out how to train AIs that can do an intelligence explosion and have it end well. Even if the AIs they hand off to are just trying to do as they are told ": "Кількох місяців сповільнення, ймовірно, недостатньо. У Плані C команди безпеки в цих компаніях усе ще занадто малі, занадто поспішають і занадто схильні до оптимізму щодо власного витвору, щоб зрозуміти, як натренувати ШІ, здатні провести вибух інтелекту так, щоб він добре закінчився. Навіть якщо ШІ, яким передають управління, ", "A few months of slowdown probably isn’t enough. In Plan C, the safety teams at these companies are still too small, too rushed, and too biased towards optimism about their own handiwork, to figure out how to train AIs that can do an intelligence explosion and have it end well. Even if the AIs they hand off to are just trying to do as they are told": "Кількох місяців сповільнення, ймовірно, недостатньо. У Плані C команди безпеки в цих компаніях усе ще занадто малі, занадто поспішають і занадто схильні до оптимізму щодо власного витвору, щоб зрозуміти, як натренувати ШІ, здатні провести вибух інтелекту так, щоб він добре закінчився. Навіть якщо ШІ, яким передають управління, ", "initially,": "спочатку", " they might change their minds later on; even if the AIs keep following instructions, they too will be rushed and might fail to notice some false load-bearing assumption in their safety cases": " й справді просто намагаються робити те, що їм кажуть, — пізніше вони можуть передумати; навіть якщо ШІ й далі виконуватимуть інструкції, вони теж поспішатимуть і можуть не помітити якесь хибне несуче припущення у своїх обґрунтуваннях безпеки", "they might change their minds later on; even if the AIs keep following instructions, they too will be rushed and might fail to notice some false load-bearing assumption in their safety cases": " й справді просто намагаються робити те, що їм кажуть, — пізніше вони можуть передумати; навіть якщо ШІ й далі виконуватимуть інструкції, вони теж поспішатимуть і можуть не помітити якесь хибне несуче припущення у своїх обґрунтуваннях безпеки", "This is by no means the only reason things might go wrong even if the AIs to which the safety teams hand off are trying to make the situation go well. The AIs might not be capable enough at safety work. They might not be wise enough. They might be too ": "Це аж ніяк не єдина причина, чому все може піти не так, навіть якщо ШІ, яким команди безпеки передають управління, намагаються зробити так, щоб ситуація склалася добре. ШІ можуть бути недостатньо здібними в роботі з безпеки. Їм може бракувати мудрості. Вони можуть бути занадто ", "This is by no means the only reason things might go wrong even if the AIs to which the safety teams hand off are trying to make the situation go well. The AIs might not be capable enough at safety work. They might not be wise enough. They might be too": "Це аж ніяк не єдина причина, чому все може піти не так, навіть якщо ШІ, яким команди безпеки передають управління, намагаються зробити так, щоб ситуація склалася добре. ШІ можуть бути недостатньо здібними в роботі з безпеки. Їм може бракувати мудрості. Вони можуть бути занадто ", "lazy on hard-to-verify tasks": "ледачими на важкоперевірюваних задачах", "; even if that doesn’t happen, it might happen with the next-generation AIs, or the generation after that, and so on.": "; навіть якщо цього не станеться, це може статися з ШІ наступного покоління, чи покоління після нього, і так далі.", "Second, even if that’s wrong and the resulting superintelligences are robustly aligned, there’s still the question “Who are they aligned to?” and we think that Plan C’s answer to that question is scary.": "По-друге, навіть якщо це не так і отримані суперінтелекти стійко узгоджені, залишається питання «З ким вони узгоджені?» — і ми вважаємо, що відповідь Плану C на це питання лякає.", "The situation is less bad than in Plan D; at least now there have been concessions made to create some sort of balance of power between Congress, POTUS, and multiple US tech company CEOs. However, this balance could still degenerate into a power struggle followed by dictatorship, and even if it doesn’t, it seems plausibly on track for some sort of AI-enforced permanent oligarchy.": "Ситуація менш погана, ніж у Плані D; принаймні тепер зроблено поступки, щоб створити якийсь баланс влади між Конгресом, POTUS і кількома CEO американських техкомпаній. Однак цей баланс усе ще може виродитися в боротьбу за владу з подальшою диктатурою, і навіть якщо ні — усе, схоже, цілком правдоподібно йде до якоїсь постійної олігархії, підтримуваної силою ШІ.", "For more on what that would look like, read the ": "Докладніше про те, як це виглядало б, читайте в ", "For more on what that would look like, read the": "Докладніше про те, як це виглядало б, читайте в ", "AI 2027 slowdown ending": "кінцівці «Сповільнення» AI 2027", ", and pay attention to the various opportunities the Oversight Committee has to bend things in favorable directions.": ", і зверніть увагу на різні можливості, які має Наглядовий комітет, щоб схиляти перебіг подій у сприятливих напрямках.", " Probably the unemployed masses will be kept alive via redistribution, but will they ever have real political power again? Also, what about the rest of the world—after US and Chinese companies take all the jobs, what will happen to India, Africa, Europe…? What will Russia do—roll over and die as it becomes economically and militarily obsolete?": " Імовірно, безробітні маси підтримуватимуть при житті через перерозподіл, але чи матимуть вони колись знову реальну політичну владу? І що з рештою світу: після того як американські й китайські компанії заберуть усі робочі місця, що станеться з Індією, Африкою, Європою…? Що робитиме Росія — покірно ляже й помре, стаючи економічно й військово застарілою?", "Probably the unemployed masses will be kept alive via redistribution, but will they ever have real political power again? Also, what about the rest of the world—after US and Chinese companies take all the jobs, what will happen to India, Africa, Europe…? What will Russia do—roll over and die as it becomes economically and militarily obsolete?": " Імовірно, безробітні маси підтримуватимуть при житті через перерозподіл, але чи матимуть вони колись знову реальну політичну владу? І що з рештою світу: після того як американські й китайські компанії заберуть усі робочі місця, що станеться з Індією, Африкою, Європою…? Що робитиме Росія — покірно ляже й помре, стаючи економічно й військово застарілою?", "Which brings us to the third problem: The risk of World War III is just too high. Other countries either need their own frontier AI projects, or actual shared control over, and visibility into, the leading projects. Promises of benefit-sharing won’t be convincing on their own, because talk is cheap.": "Це підводить нас до третьої проблеми: ризик Третьої світової війни просто занадто високий. Іншим країнам потрібні або власні проєкти передового ШІ, або реальний спільний контроль над провідними проєктами й видимість того, що в них відбувається. Самих обіцянок ділитися вигодами не досить, щоб переконати, бо слова нічого не варті.", "Plan D — The Race": "План D — Перегони", "“AI will most likely lead to the end of the world, but in the meantime there will be great companies.” – ": "«ШІ, найімовірніше, призведе до кінця світу, але тим часом зʼявляться чудові компанії». – ", "“AI will most likely lead to the end of the world, but in the meantime there will be great companies.” –": "«ШІ, найімовірніше, призведе до кінця світу, але тим часом зʼявляться чудові компанії». – ", "Sam Altman": "Сем Олтмен", "The President says he will be implementing light-touch AI regulation to prioritize AI innovation.": "Президент каже, що впроваджуватиме мʼяке регулювання ШІ, щоб пріоритезувати ШІ-інновації.", "The implicit answers to the big questions seem to be:": "Неявні відповіді на великі питання, схоже, такі:", "Are the big AI companies going to slow down?": "Чи збираються великі ШІ-компанії сповільнюватися?", " No, they’re going to automate AI R&D, race each other through the intelligence explosion, and call it “responsible scaling.” Superhuman AI will be integrated into everything approximately as fast as the markets and laws allow, or faster if the government can cut some red tape.": " Ні, вони збираються автоматизувати AI R&D, мчати наввипередки крізь вибух інтелекту й називати це «відповідальним масштабуванням». Надлюдський ШІ інтегруватимуть в усе приблизно з тією швидкістю, яку дозволяють ринки й закони, або й швидше, якщо уряд зможе прибрати трохи бюрократії.", "No, they’re going to automate AI R&D, race each other through the intelligence explosion, and call it “responsible scaling.” Superhuman AI will be integrated into everything approximately as fast as the markets and laws allow, or faster if the government can cut some red tape.": " Ні, вони збираються автоматизувати AI R&D, мчати наввипередки крізь вибух інтелекту й називати це «відповідальним масштабуванням». Надлюдський ШІ інтегруватимуть в усе приблизно з тією швидкістю, яку дозволяють ринки й закони, або й швидше, якщо уряд зможе прибрати трохи бюрократії.", "Transparency?": "Прозорість?", " Sure, have some crumbs. The companies will be required to release lengthy model cards and give briefings and access to the exec branch and third-party auditors. No need to bring in the wider scientific community to critique safety cases, do alignment research, etc. though; that would reveal sensitive IP and is thus a nonstarter.": " Авжеж, ось вам трохи крихт. Компанії будуть зобовʼязані публікувати довжелезні model cards, проводити брифінги й надавати доступ виконавчій владі та стороннім аудиторам. Утім, залучати ширшу наукову спільноту, щоб критикувати обґрунтування безпеки, вести дослідження узгодження тощо, не потрібно; це розкрило б чутливу інтелектуальну власність, а отже — ідея мертвонароджена.", "Sure, have some crumbs. The companies will be required to release lengthy model cards and give briefings and access to the exec branch and third-party auditors. No need to bring in the wider scientific community to critique safety cases, do alignment research, etc. though; that would reveal sensitive IP and is thus a nonstarter.": " Авжеж, ось вам трохи крихт. Компанії будуть зобовʼязані публікувати довжелезні model cards, проводити брифінги й надавати доступ виконавчій владі та стороннім аудиторам. Утім, залучати ширшу наукову спільноту, щоб критикувати обґрунтування безпеки, вести дослідження узгодження тощо, не потрібно; це розкрило б чутливу інтелектуальну власність, а отже — ідея мертвонароджена.", "China?": "Китай?", " We must beat them to ASI. Don’t worry, they’d have to be insane to start a war over this, and anyhow if they do that’s all the more reason why we need to have better AIs integrated into our military.": " Ми мусимо випередити їх на шляху до ASI. Не хвилюйтеся: треба бути божевільними, щоб почати через це війну, а якщо вони таки почнуть — це лише зайвий доказ того, що нам потрібні кращі ШІ, інтегровані в наше військо.", "We must beat them to ASI. Don’t worry, they’d have to be insane to start a war over this, and anyhow if they do that’s all the more reason why we need to have better AIs integrated into our military.": " Ми мусимо випередити їх на шляху до ASI. Не хвилюйтеся: треба бути божевільними, щоб почати через це війну, а якщо вони таки почнуть — це лише зайвий доказ того, що нам потрібні кращі ШІ, інтегровані в наше військо.", "The result looks roughly like ": "Результат виглядає приблизно ", "The result looks roughly like": "Результат виглядає приблизно ", "AI software-R&D speedup vs. today": "Пришвидшення програмного AI R&D порівняно з сьогоденням", "1×": "1×", "10×": "10×", "100×": "100×", "1,000×": "1,000×", "10,000×": "10,000×", "early 2030 · 5×": "початок 2030 · 5×", "Superhuman AI Researcher": "Надлюдський ШІ-дослідник", "mid 2030 · 25×": "середина 2030 · 25×", "Top-Expert-Dominating AI": "ШІ, що переважає топ-експертів", "late 2030 · 250×": "кінець 2030 · 250×", "Superintelligent AI Researcher": "Суперінтелектуальний ШІ-дослідник", "late 2030 · 2,000×": "кінець 2030 · 2,000×", "Artificial Superintelligence": "Штучний суперінтелект", "early 2031 · 10,000×": "початок 2031 · 10,000×", "Racing takeoff: AI R&D uplift (aifuturesmodel.com)": "Зліт у перегонах: приріст AI R&D (aifuturesmodel.com)", "That is to say: A year later, in 2030, the AI companies succeed in fully automating AI R&D. The intelligence explosion kicks off and superintelligence arrives by early 2031.": "Тобто: через рік, у 2030-му, ШІ-компанії успішно повністю автоматизують AI R&D. Стартує вибух інтелекту, і на початку 2031 року зʼявляється суперінтелект.", "What would that look like? How would this play out? Well, we already wrote a scenario about this, it’s called ": "Як би це виглядало? Як би все розгорталося? Що ж, ми вже написали про це сценарій — він називається ", "What would that look like? How would this play out? Well, we already wrote a scenario about this, it’s called": "Як би це виглядало? Як би все розгорталося? Що ж, ми вже написали про це сценарій — він називається ", ". It depicts takeoff happening in 2027 instead of 2030, but the strategic situation and choices made are very similar. We suggest you read that now, and choose the ": ". У ньому зліт відбувається у 2027 році, а не у 2030-му, але стратегічна ситуація та ухвалені рішення дуже схожі. Радимо прочитати його зараз і обрати ", ". It depicts takeoff happening in 2027 instead of 2030, but the strategic situation and choices made are very similar. We suggest you read that now, and choose the": ". У ньому зліт відбувається у 2027 році, а не у 2030-му, але стратегічна ситуація та ухвалені рішення дуже схожі. Радимо прочитати його зараз і обрати ", "Race ending": "фінал «Гонка»", "We think Plan D is atrocious, for three primary reasons:": "Ми вважаємо План D жахливим із трьох головних причин:", "First, we don’t expect the AI companies to retain control over their AIs through the intelligence explosion, if they race approximately as fast as they can.": "По-перше, ми не очікуємо, що ШІ-компанії збережуть контроль над своїми ШІ-системами впродовж вибуху інтелекту, якщо мчатимуть приблизно так швидко, як тільки можуть.", "Note of dissent: 1/​6 authors disagree with this as stated, and think that the probability of losing control in those circumstances is more like 40%.": "Примітка про незгоду: 1/​6 авторів не згодні з цим твердженням у такому формулюванні й вважають, що ймовірність втрати контролю за таких обставин радше близько 40%.", "Second, even if somehow that’s wrong and the resulting superintelligences are robustly aligned, there’s still the question “Who are they aligned to?” and we think that Plan D’s answer to that question is unacceptable. There will be too many tempting opportunities for a CEO or President to become AGI-enabled dictator, and more generally this plan seems like it would lead to the most insane concentration of power in history.": "По-друге, навіть якщо це якимось чином виявиться хибним і отримані суперінтелекти будуть надійно узгодженими, залишається питання «З ким вони узгоджені?» — і ми вважаємо, що відповідь Плану D на це питання неприйнятна. Буде надто багато спокусливих можливостей для CEO чи президента стати диктатором, озброєним AGI, і загалом цей план, схоже, призвів би до найбожевільнішої концентрації влади в історії.", "Finally, the risk of World War III is too high: Under Plan D, what is China supposed to think? What about Russia? What about India, Europe, Brazil? Every country will eventually realize that the USA is about to do–or is already doing–an intelligence explosion. They will fear what happens next. Even if they aren’t worried about misalignment or AGI dictatorships, they’ll be worried about being economically and militarily dominated by the USA.": "Нарешті, ризик Третьої світової війни надто високий: що, за Планом D, має думати Китай? А Росія? А Індія, Європа, Бразилія? Кожна країна зрештою усвідомить, що США ось-ось запустять — або вже запускають — вибух інтелекту. Вони боятимуться того, що станеться далі. Навіть якщо їх не турбують неузгодженість чи AGI-диктатури, їх турбуватиме перспектива економічного та військового домінування США.", "Tensions will spike. Escalation is likely–rhetoric, sanctions, sabotage, and (if no deal is reached) eventually, perhaps, war.": "Напруження різко зросте. Ескалація ймовірна — риторика, санкції, саботаж і (якщо угоди не буде досягнуто) зрештою, можливо, війна.", "Plan S — Shutdown": "План S — Зупинка", "“Once men turned their thinking over to machines in the hope that this would set them free. But that only permitted other men with machines to enslave them.”": "«Колись люди передали своє мислення машинам у надії, що це їх звільнить. Але це лише дозволило іншим людям із машинами поневолити їх».", "– ": "– ", "–": "– ", "Frank Herbert, Dune": "Френк Герберт, «Дюна»", "The new President seeks a global moratorium on AI development.": "Новий президент прагне глобального мораторію на розробку ШІ.", "He gives a speech:": "Він виголошує промову:", "“We stand now at the precipice. If we continue on the path towards artificial superintelligence, the result could easily be AI takeover, World War 3, or some sort of AI-powered permanent oligarchy. Therefore, let’s ": "«Ми стоїмо на краю прірви. Якщо ми продовжимо шлях до штучного суперінтелекту, результатом легко може стати захоплення влади ШІ, Третя світова війна або якась вічна олігархія на базі ШІ. Тож ", "“We stand now at the precipice. If we continue on the path towards artificial superintelligence, the result could easily be AI takeover, World War 3, or some sort of AI-powered permanent oligarchy. Therefore, let’s": "«Ми стоїмо на краю прірви. Якщо ми продовжимо шлях до штучного суперінтелекту, результатом легко може стати захоплення влади ШІ, Третя світова війна або якась вічна олігархія на базі ШІ. Тож ", " continue. This solution has been obvious for years, but the tech companies sowed enough division and confusion to keep us asleep. It’s time to wake up and do the obvious thing. This administration will seek an international agreement to halt AI development at the current level.”": " продовжуймо. Це рішення було очевидним роками, але техкомпанії посіяли достатньо розбрату й плутанини, щоб ми не прокидалися. Час прокинутись і зробити очевидну річ. Ця адміністрація домагатиметься міжнародної угоди про зупинку розробки ШІ на поточному рівні».", "continue. This solution has been obvious for years, but the tech companies sowed enough division and confusion to keep us asleep. It’s time to wake up and do the obvious thing. This administration will seek an international agreement to halt AI development at the current level.”": " продовжуймо. Це рішення було очевидним роками, але техкомпанії посіяли достатньо розбрату й плутанини, щоб ми не прокидалися. Час прокинутись і зробити очевидну річ. Ця адміністрація домагатиметься міжнародної угоди про зупинку розробки ШІ на поточному рівні».", "“We do not need to build god,” he says. “We do not need to race China to build god. What we need is for nobody to build god.”": "«Нам не потрібно будувати бога, — каже він. — Нам не потрібно змагатися з Китаєм у тому, хто збудує бога. Нам потрібно, щоб бога не будував ніхто».", "To the surprise of some, China agrees. They had been looking forward to the Chinese Century and thought they were on track to realize it, before AI came along. They were getting nervous about the US’s compute advantage, and worried about the things the US might do to them if it got to superintelligence first.": "На подив декого, Китай погоджується. Вони чекали на Китайське століття й вважали, що впевнено рухаються до його втілення, — поки не з’явився ШІ. Їх дедалі більше нервувала перевага США в обчислювальних потужностях, і вони переймалися тим, що США могли б із ними зробити, якби першими дісталися суперінтелекту.", "The goal of the deal is to grind AI research & development to a halt worldwide. This means that the vast majority of existing AI chips are tracked, monitored, and verified to not be doing any large training runs. Doing AI research to discover better algorithms is also banned. Enforcement doesn’t have to be perfect to be good enough; a few hundred people with a few thousand GPUs simply can’t build superintelligence, at least not anytime soon.": "Мета угоди — повністю загальмувати дослідження й розробку ШІ в усьому світі. Це означає, що переважна більшість наявних ШІ-чипів відстежується, моніториться й верифікується, що на них не ведуться жодні великі тренувальні запуски. Дослідження ШІ задля пошуку кращих алгоритмів також заборонені. Забезпечення дотримання не мусить бути ідеальним, щоб бути достатнім: кілька сотень людей із кількома тисячами GPU просто не можуть збудувати суперінтелект — принаймні не найближчим часом.", "Existing datacenters stay online, and existing AIs continue running on them. AI projects reallocate compute from training and research to inference; the result is approximately a doubling of availability and usage limits. The US and China have human and AI auditors overseeing each other’s AI projects to make sure they aren’t doing any AI R&D.": "Наявні дата-центри залишаються в роботі, і наявні ШІ-системи продовжують на них працювати. ШІ-проєкти перерозподіляють обчислювальні потужності з тренування й досліджень на інференс; у результаті доступність і ліміти використання приблизно подвоюються. США й Китай мають людських та ШІ-аудиторів, які наглядають за ШІ-проєктами одне одного, аби переконатися, що ті не ведуть жодного AI R&D.", "For details on how a treaty like this might look, see ": "Деталі того, як міг би виглядати такий договір, див. у ", "For details on how a treaty like this might look, see": "Деталі того, як міг би виглядати такий договір, див. у ", "this paper": "цій статті", ". Another similar proposal is ": ". Ще одна подібна пропозиція — ", ". Another similar proposal is": ". Ще одна подібна пропозиція — ", "A Narrow Path": "A Narrow Path", " AI companies’ valuations crash, but not to zero; there’s still profit to be made building products on top of existing AI models.": " Оцінки ШІ-компаній обвалюються, але не до нуля; на побудові продуктів поверх наявних ШІ-моделей усе ще можна заробляти.", "AI companies’ valuations crash, but not to zero; there’s still profit to be made building products on top of existing AI models.": " Оцінки ШІ-компаній обвалюються, але не до нуля; на побудові продуктів поверх наявних ШІ-моделей усе ще можна заробляти.", "If all large new training runs are prevented, the valuations of some existing AI companies might actually rise, because their models would no longer face competition. However, by and large most AI valuations tend to price in the possibility of fast capability growth, and so on average they will crash.": "Якщо всі великі нові тренувальні запуски унеможливлені, оцінки деяких наявних ШІ-компаній можуть насправді зрости, адже їхні моделі більше не матимуть конкуренції. Проте загалом більшість оцінок ШІ-компаній закладають у ціну можливість швидкого зростання можливостей, тож у середньому вони обваляться.", "Over the next few years, all other major world powers agree to support the moratorium, though it takes much effort.": "Упродовж наступних кількох років усі інші великі світові держави погоджуються підтримати мораторій, хоча це потребує чималих зусиль.", "Achieving this is more difficult than it is in the Plan A scenario, because in the Plan A scenario, AI progress within the deal is going to continue, and even though it’s going at a throttled, cautious pace, it’ll probably still be faster than what many countries could achieve on their own. Whereas in Plan S, AI progress is halted within the deal, meaning that countries outside the deal can hope to get an economic and military advantage for themselves even if they are proceeding at a snail’s pace on only a million GPUs. (Whether they in fact get that advantage depends on whether the countries in the deal notice and stop them…)": "Досягти цього складніше, ніж у сценарії Плану А, бо в сценарії Плану А прогрес ШІ в межах угоди триватиме, і навіть якщо він іде стриманим, обережним темпом, він, імовірно, все одно буде швидшим, ніж те, чого багато країн могли б досягти самотужки. Натомість у Плані S прогрес ШІ в межах угоди зупинено, а отже, країни поза угодою можуть сподіватися здобути для себе економічну та військову перевагу, навіть якщо просуваються черепашачим темпом на якомусь мільйоні GPU. (Чи справді вони здобудуть цю перевагу — залежить від того, чи помітять це країни угоди й чи зупинять їх…)", " By the end of 2030, the Consortium covers 99% of global AI compute and 100% of advanced chip fabrication capacity. Chip fabs are allowed to keep scaling up, but in a slow and highly regulated fashion, and besides, there isn’t as much demand now that AI capabilities are frozen.": " До кінця 2030 року Консорціум охоплює 99% світових обчислювальних потужностей для ШІ та 100% потужностей із виробництва передових чипів. Фабрикам чипів дозволено масштабуватися далі, але повільно й під жорстким регулюванням; до того ж попит уже не такий великий тепер, коли можливості ШІ заморожені.", "By the end of 2030, the Consortium covers 99% of global AI compute and 100% of advanced chip fabrication capacity. Chip fabs are allowed to keep scaling up, but in a slow and highly regulated fashion, and besides, there isn’t as much demand now that AI capabilities are frozen.": " До кінця 2030 року Консорціум охоплює 99% світових обчислювальних потужностей для ШІ та 100% потужностей із виробництва передових чипів. Фабрикам чипів дозволено масштабуватися далі, але повільно й під жорстким регулюванням; до того ж попит уже не такий великий тепер, коли можливості ШІ заморожені.", "Demand for AI chips will continue to grow in absolute terms, as people find more ways to integrate existing AI models into the economy. But the rate of growth will be less explosive than it would have been had AI progress continued.": "Попит на ШІ-чипи продовжить зростати в абсолютних величинах, оскільки люди знаходитимуть дедалі більше способів інтегрувати наявні ШІ-моделі в економіку. Але темп зростання буде менш вибуховим, ніж був би, якби прогрес ШІ тривав.", "For the past decade, coding up complicated scaffolds had often been a losing game, because new models would come along that could do the task with a much simpler setup. Now, that changes. Software companies invest millions of man-hours and trillions of tokens of AI labor into building gigantic polished software products with AI integrated at every level. Ironically, by completely pausing AI progress in 2029, and only allowing scaffolding improvements, we STILL end up with a crazy sci-fi future that includes artificial intelligences that would have been called AGI by most people in the past.": "Протягом попереднього десятиліття писати код складних скафолдів часто було програшною справою, бо з’являлися нові моделі, здатні виконати задачу з набагато простішою обв’язкою. Тепер це змінюється. Софтверні компанії вкладають мільйони людино-годин і трильйони токенів праці ШІ в побудову гігантських відшліфованих програмних продуктів із ШІ, інтегрованим на кожному рівні. За іронією, повністю призупинивши прогрес ШІ у 2029 році й дозволивши лише вдосконалення скафолдингу, ми ВСЕ ОДНО отримуємо божевільне науково-фантастичне майбутнє зі штучними інтелектами, які більшість людей у минулому назвали б AGI.", "The economy took a hit when the moratorium was announced, but not nearly enough to erase the gains during the years leading up to it. AI revenue grows significantly in the early 2030s, albeit much more slowly than it would have done without the pause on development. Trillions of dollars of investment shifts from betting on AGI to betting on various kinds of it’s-not-AI-it’s-just-a-tool. That, and other exciting frontiers like space and robotics.": "Економіка зазнала удару, коли оголосили мораторій, але далеко не такого, щоб стерти здобутки років, що йому передували. Доходи від ШІ суттєво зростають на початку 2030-х, хоча й набагато повільніше, ніж було б без паузи в розробці. Трильйони доларів інвестицій перетікають зі ставок на AGI у ставки на різноманітні «це-не-ШІ-це-просто-інструмент». На це — і на інші захопливі фронтири на кшталт космосу та робототехніки.", "In the 2030s, the price of energy should be starting to drop as solar power continues decades-long trends of incremental improvements and economies of scale. Also, launch costs to orbit should be about an order of magnitude cheaper than in 2026, thanks to Starship. In general, ": "У 2030-х ціна енергії має почати знижуватися, оскільки сонячна енергетика продовжує багатодесятилітні тренди поступових покращень та ефекту масштабу. Крім того, вартість запуску на орбіту має бути приблизно на порядок величини нижчою, ніж у 2026 році, завдяки Starship. Загалом ", "In the 2030s, the price of energy should be starting to drop as solar power continues decades-long trends of incremental improvements and economies of scale. Also, launch costs to orbit should be about an order of magnitude cheaper than in 2026, thanks to Starship. In general,": "У 2030-х ціна енергії має почати знижуватися, оскільки сонячна енергетика продовжує багатодесятилітні тренди поступових покращень та ефекту масштабу. Крім того, вартість запуску на орбіту має бути приблизно на порядок величини нижчою, ніж у 2026 році, завдяки Starship. Загалом ", "scientific progress in many domains will have continued": "науковий прогрес у багатьох сферах триватиме", " and the world will feel increasingly cyberpunk.": ", і світ дедалі більше нагадуватиме кіберпанк.", "and the world will feel increasingly cyberpunk.": ", і світ дедалі більше нагадуватиме кіберпанк.", "There is much debate about when, if ever, frontier AI development should be resumed. For now the US and China, in consultation with other nations, are starting to build up case law of more specific rules and regulations about what’s allowed and what isn’t. After all, there are numerous compelling examples of valuable, obviously benign AI designs and research projects. It’s not fashionable these days to hype your product as using AI—quite the opposite—but many things that would have been called AI in the twenties are now allowed to proceed; basically the kinds of AI that really are just tools and not autonomous agents.": "Точаться жваві дебати про те, коли — і чи взагалі — слід відновити розробку передового ШІ. Наразі США й Китай, консультуючись з іншими державами, починають напрацьовувати прецедентну базу конкретніших правил і норм щодо того, що дозволено, а що ні. Зрештою, є чимало переконливих прикладів цінних, очевидно нешкідливих ШІ-розробок і дослідницьких проєктів. Нині не модно рекламувати свій продукт як такий, що використовує ШІ, — радше навпаки, — але багато речей, які у двадцятих назвали б ШІ, тепер дозволено розвивати; по суті, це ті види ШІ, які справді є просто інструментами, а не автономними агентами.", "More notes on the sorts of large neural networks that would plausibly be prohibited under Plan S:\n(i) Autonomous agents, (ii) Those that can significantly accelerate AI research, (iii) Those that are good at persuading or manipulating people, (iv) Those with dangerous capabilities more generally, such as bioweapon assistance, (v) ": "Ще кілька нотаток про типи великих нейромереж, які, ймовірно, були б заборонені за Планом S:\n(i) автономні агенти, (ii) ті, що можуть суттєво прискорити дослідження ШІ, (iii) ті, що добре вміють переконувати людей чи маніпулювати ними, (iv) ті, що мають небезпечні можливості загалом, як-от допомога зі створенням біозброї, (v) ", "More notes on the sorts of large neural networks that would plausibly be prohibited under Plan S:\n(i) Autonomous agents, (ii) Those that can significantly accelerate AI research, (iii) Those that are good at persuading or manipulating people, (iv) Those with dangerous capabilities more generally, such as bioweapon assistance, (v)": "Ще кілька нотаток про типи великих нейромереж, які, ймовірно, були б заборонені за Планом S:\n(i) автономні агенти, (ii) ті, що можуть суттєво прискорити дослідження ШІ, (iii) ті, що добре вміють переконувати людей чи маніпулювати ними, (iv) ті, що мають небезпечні можливості загалом, як-от допомога зі створенням біозброї, (v) ", "Self-aware /​ situationally aware": "самоусвідомлені /​ ситуаційно обізнані", " neural networks.": " нейромережі.", "neural networks.": " нейромережі.", "What about the covert projects? What about small teams with small hidden GPU clusters, doing illegal research towards AGI?": "А як щодо таємних проєктів? Як щодо маленьких команд із невеликими прихованими кластерами GPU, які ведуть нелегальні дослідження в напрямку AGI?", "This sort of thing will be happening all over the world, but it won’t matter that much. AI progress is heavily dependent on large datacenters, both for training the models and for doing the research. Moreover, the covert projects struggle to recruit AI researcher talent. AI research is strictly banned in all major nations, and it becomes as taboo among computer scientists as human cloning research is among biologists. No-one qualified enough to get a job in the legitimate tech industry wants anything to do with AGI. The result is that the pace of AI progress, while nonzero, would be at least ten times slower than it was before the moratorium on AI R&D went into effect.": "Таке відбуватиметься по всьому світу, але великого значення це не матиме. Прогрес ШІ сильно залежить від великих дата-центрів — і для тренування моделей, і для проведення досліджень. До того ж таємним проєктам важко рекрутувати талановитих дослідників ШІ. Дослідження ШІ суворо заборонені в усіх великих державах і стають серед комп’ютерних науковців таким самим табу, як дослідження клонування людини серед біологів. Ніхто, хто достатньо кваліфікований, щоб отримати роботу в легальній тех-індустрії, не хоче мати нічого спільного з AGI. У результаті темп прогресу ШІ, хоч і ненульовий, буде щонайменше вдесятеро повільнішим, ніж до набуття чинності мораторієм на AI R&D.", "We analyze these dynamics much more in our ": "Ми значно докладніше аналізуємо цю динаміку в нашому ", "We analyze these dynamics much more in our": "Ми значно докладніше аналізуємо цю динаміку в нашому ", "Covert AI Projects Supplement": "Доповненні про таємні ШІ-проєкти", ". The supplement analyzes things from a Plan A perspective. The main difference is that in Plan S, covert projects will go much slower because there are no legal projects that are leaking algorithmic progress, and no risk of distillation.": ". Це доповнення аналізує все з перспективи Плану А. Головна відмінність у тому, що за Плану S таємні проєкти просуватимуться набагато повільніше, бо немає легальних проєктів, з яких витікав би алгоритмічний прогрес, і немає ризику дистиляції.", "Nevertheless. What will 2040 look like? What about 2050? What about 2060? Hard to say. The shutdown deal will last for some time, but probably not forever.": "І все ж. Яким буде 2040 рік? А 2050-й? А 2060-й? Важко сказати. Угода про зупинку протримається якийсь час, але, ймовірно, не вічно.", "We are sympathetic to Plan S and think that it might be better than Plan A.": "Ми ставимося до Плану S із симпатією і вважаємо, що він може бути кращим за План А.", "We think it’s at least better than plans B, C, and D, for example.": "Ми вважаємо, що він принаймні кращий за плани B, C і D, наприклад.", " However, we recommend Plan A instead. Here’s our thinking:": " Однак натомість ми рекомендуємо План А. Ось хід наших міркувань:", "However, we recommend Plan A instead. Here’s our thinking:": " Однак натомість ми рекомендуємо План А. Ось хід наших міркувань:", "The main downside of Plan S is that the shutdown deal will probably break down eventually. Because of this, it’s important to make as much progress as fast as possible to reduce the risks of AI: especially via alignment progress, and diffusing and integrating AI broadly into society to improve wakeup, epistemics, and the distribution of power. In Plan A, we continue scaling AI capabilities, but slowly and safely. AI safety research can proceed with highly capable AIs and with massive compute budgets. In Plan S, since the relevant type of AI research is banned, no such progress can be made.": "Головний недолік Плану S у тому, що угода про зупинку, ймовірно, зрештою розвалиться. Через це важливо якомога швидше досягти якомога більшого прогресу у зниженні ризиків ШІ: насамперед через прогрес в узгодженні, а також через широке поширення та інтеграцію ШІ в суспільство задля кращого пробудження, епістеміки й розподілу влади. У Плані А ми продовжуємо масштабувати можливості ШІ, але повільно й безпечно. Дослідження безпеки ШІ можуть іти з високоспроможними ШІ-системами й величезними бюджетами обчислювальних потужностей. У Плані S, оскільки відповідний тип досліджень ШІ заборонений, такого прогресу досягти неможливо.", "The best versions of Plan S are those that acknowledge that the deal will eventually end, and simply say “First (step 1) we should stop making frontier AIs more capable, because the AIs and AI companies are getting more powerful every day and there’s so much uncertainty about where it’s headed and how fast. Then (step 2) once the world has had several years to think about things and plan a safe and broadly beneficial path forward, we can resume.”": "Найкращі версії Плану S — ті, що визнають: угода зрештою закінчиться — і просто кажуть: «Спершу (крок 1) нам слід перестати робити передові ШІ спроможнішими, бо ШІ-системи та ШІ-компанії щодня стають потужнішими, а невизначеність щодо того, куди все рухається і як швидко, величезна. Потім (крок 2), коли світ матиме кілька років, щоб усе обміркувати і спланувати безпечний та широко корисний шлях уперед, ми зможемо продовжити».", "Analogy: Suppose a bus finds itself driving off-road in the fog, at high speed. The passengers debate with the driver how dangerous this is and what is to be done about it. The driver says “You wanna get to your destination, don’t you?” It’s reasonable in this situation to reply “": "Аналогія: уявіть, що автобус на високій швидкості їде бездоріжжям у тумані. Пасажири сперечаються з водієм, наскільки це небезпечно і що з цим робити. Водій каже: «Ви ж хочете дістатися до місця призначення, чи не так?» У цій ситуації розумно відповісти: «", "First": "Спершу", ", let’s stop the bus for a while, ": " зупинімо автобус на якийсь час, а ", ", let’s stop the bus for a while,": " зупинімо автобус на якийсь час, а ", "then": "потім", " let’s figure out how to proceed. We’ll need a plan for how to proceed eventually, but it’s unreasonable to barrel blindly through the fog while waiting for such a plan to be fleshed out.”": " розберімося, як рухатися далі. Зрештою нам знадобиться план подальших дій, але нерозумно наосліп мчати крізь туман, чекаючи, поки такий план допрацюють».", "let’s figure out how to proceed. We’ll need a plan for how to proceed eventually, but it’s unreasonable to barrel blindly through the fog while waiting for such a plan to be fleshed out.”": " розберімося, як рухатися далі. Зрештою нам знадобиться план подальших дій, але нерозумно наосліп мчати крізь туман, чекаючи, поки такий план допрацюють».", "Step 1 of Plan S has the advantage of being easier to implement than Plan A. It’s simpler and thus less likely to be botched by well-meaning but inexpert regulators, or perverted/​captured by tech companies or other powerful interests. This is an important point, but it only applies to Step 1. If and when AI development resumes, doing it right will probably require a significant amount of regulatory complexity. In fact we suspect that the best version of Step 2 would probably look a lot like Plan A…": "Крок 1 Плану S має ту перевагу, що його легше реалізувати, ніж План А. Він простіший, а отже, менша ймовірність, що його зіпсують доброзичливі, але недосвідчені регулятори або спотворять/​приберуть до рук техкомпанії чи інші впливові сили. Це важливий момент, але він стосується лише Кроку 1. Якщо і коли розробка ШІ відновиться, зробити все правильно, ймовірно, вимагатиме чималої регуляторної складності. Власне, ми підозрюємо, що найкраща версія Кроку 2, мабуть, дуже нагадувала б План А…", "So when deciding between Plan A vs. Plan S, an important question, we think, is “After we stop, when and how would we start again?”": "Тож, обираючи між Планом А і Планом S, важливе питання, на нашу думку, таке: «Після того як ми зупинимося, коли і як ми почнемо знову?»", "One possibility is that the eventual reboot of AI progress would happen under circumstances as good as, or better than, Plan A. For example, perhaps the nations of the world would spend the 2030s negotiating a more fleshed out, less hasty, more thought-through version of Plan A that is significantly better in several ways. Perhaps the tech companies’ corrupting influence over politics would diminish, and the general level of understanding of AI in the world would increase as the scientific literature and universities have time to catch up to the pre-2029 developments.": "Одна з можливостей — що зрештою перезапуск прогресу ШІ відбудеться за обставин не гірших, а то й кращих, ніж у Плані А. Наприклад, можливо, держави світу проведуть 2030-ті, домовляючись про більш пропрацьовану, менш поспішну, краще продуману версію Плану А, що буде суттєво кращою в кількох аспектах. Можливо, згубний вплив техкомпаній на політику послабшає, а загальний рівень розуміння ШІ у світі зросте, оскільки наукова література й університети встигнуть надолужити напрацювання, зроблені до 2029 року.", "Another possibility, though, is that the eventual reboot of AI progress would happen under worse circumstances than Plan A: Perhaps it would happen after the slowdown deal broke down or became less effective, perhaps during a world war, perhaps in secret government projects, perhaps in a world with vastly more compute lying around to quickly scale up AI training runs and experiments with, leading to a faster takeoff.": "Інша можливість, утім, — що перезапуск прогресу ШІ зрештою відбудеться за гірших обставин, ніж у Плані А: можливо, після того, як угода про сповільнення розвалиться чи стане менш дієвою; можливо, під час світової війни; можливо, у таємних державних проєктах; можливо, у світі, де довкола лежить набагато більше обчислювальних потужностей, якими можна швидко наростити тренувальні запуски й експерименти з ШІ, що призведе до швидшого зльоту.", "Perhaps it would happen in a world devastated by climate change or pandemics or some other sort of civilizational catastrophe.": "Можливо, це станеться у світі, спустошеному зміною клімату, пандеміями чи якоюсь іншою цивілізаційною катастрофою.", " Insofar as something like this is in store, then it would be much better to do Plan A now (despite the risks) than to do Plan S.": " Тією мірою, якою на нас чекає щось подібне, набагато краще реалізувати План А зараз (попри ризики), ніж План S.", "Insofar as something like this is in store, then it would be much better to do Plan A now (despite the risks) than to do Plan S.": " Тією мірою, якою на нас чекає щось подібне, набагато краще реалізувати План А зараз (попри ризики), ніж План S.", "So whether you prefer Plan A or Plan S might come down to how optimistic you are about the future of a US-China deal, and your assessment of technical alignment and control difficulty:": "Тож те, якому плану ви віддасте перевагу — А чи S, — може зводитися до того, наскільки оптимістично ви оцінюєте майбутнє угоди США–Китай, а також до вашої оцінки складності технічного узгодження і контролю:", "You should prefer Plan S insofar as you think the deal is stable and insofar as you think that scaling to more capable AIs early in the deal doesn’t help much with safety or poses risks outweighing its helpfulness. In that case, there’s no rush, we can first stop the race and then plan out a way to proceed. The shutdown deal (Step 1) will last years, decades even. During that time the world will come up with a better plan for proceeding (Step 2) that’s at least as good as Plan A, and possibly significantly better, plus we’d be more prepared to implement it and would be less likely to mess it up.": "Вам варто віддати перевагу Плану S тією мірою, якою ви вважаєте угоду стабільною і вважаєте, що масштабування до спроможніших ШІ на ранньому етапі угоди мало допомагає з безпекою або несе ризики, які переважують користь. У такому разі поспішати нікуди: можна спершу зупинити гонку, а потім спланувати шлях далі. Угода про зупинку (Крок 1) триватиме роки, ба навіть десятиліття. За цей час світ випрацює кращий план подальших дій (Крок 2), щонайменше не гірший за План А, а можливо, й суттєво кращий; до того ж ми будемо краще готові його реалізувати і з меншою ймовірністю все зіпсуємо.", "You should prefer Plan A if you think the deal is unstable and that scaling to more capable AIs early in the deal is helpful and safe. In this case, Plan A, while still risky, is less risky than whatever madness might happen years later when geopolitical winds shift.": "Вам варто віддати перевагу Плану А, якщо ви вважаєте угоду нестабільною, а масштабування до спроможніших ШІ на ранньому етапі угоди — корисним і безпечним. У такому разі План А, хоч і залишається ризикованим, менш ризикований, ніж те безумство, яке може статися через роки, коли геополітичні вітри зміняться.", "We are uncertain, but overall think that a well-implemented version of Plan A is probably going to work to avoid loss of control and concentration of power risks, whereas we think that even a well-implemented version of Plan S would plausibly collapse within a decade or so into another dangerous race to ASI.": "Ми не маємо певності, але загалом вважаємо, що добре реалізована версія Плану А, ймовірно, спрацює і дозволить уникнути ризиків втрати контролю та концентрації влади, тоді як навіть добре реалізована версія Плану S, цілком можливо, приблизно за десятиліття сколапсує в чергову небезпечну гонку до ASI.", "Separately, there is the issue of political feasibility. Plan A is more friendly to the AI companies and therefore less likely to be strongly opposed by them and their lobbyists, propaganda, etc. On the other hand, Plan S is simpler and avoids more risk in the near-term, which may make it easier to rally public support around and harder to botch.": "Окремо стоїть питання політичної здійсненності. План А дружніший до ШІ-компаній, а отже, менш імовірно, що вони, їхні лобісти, пропаганда тощо чинитимуть йому сильний спротив. З іншого боку, План S простіший і уникає більшої частини ризиків у короткостроковій перспективі, що може полегшити згуртування суспільної підтримки навколо нього, а зіпсувати його — важче.", "AI companies are racing to build AIs that are smarter than humans in every way.": "ШІ-компанії мчать наввипередки, щоб збудувати ШІ-системи, розумніші за людей у всьому.", "In ": "В ", "In": "В ", ", we predicted that this would result in either extinction or irreversible concentration of power. Plan A is our positive vision for what should happen instead.": " ми передбачили, що це закінчиться або вимиранням, або незворотною концентрацією влади. План А — наше позитивне бачення того, що має статися натомість.", " our best guess as to what the future will actually look like. Instead, it’s a vehicle for communicating and stress-testing our policy recommendations.": " наше найкраще припущення щодо того, як майбутнє виглядатиме насправді. Це радше інструмент для донесення і стрес-тестування наших політичних рекомендацій.", "our best guess as to what the future will actually look like. Instead, it’s a vehicle for communicating and stress-testing our policy recommendations.": " наше найкраще припущення щодо того, як майбутнє виглядатиме насправді. Це радше інструмент для донесення і стрес-тестування наших політичних рекомендацій.", "In this edition": "У цьому виданні", "The Scenario": "Сценарій", " · Plan A — The Deal": " · План А — Угода", "· Plan A — The Deal": " · План А — Угода", "Appendix: The Alternative Plans": "Додаток: Альтернативні плани", " · Plan B — Sabotage · Plan C — The Slowdown · Plan D — The Race · Plan S — Shutdown": " · План B — Саботаж · План C — Сповільнення · План D — Гонка · План S — Зупинка", "· Plan B — Sabotage · Plan C — The Slowdown · Plan D — The Race · Plan S — Shutdown": " · План B — Саботаж · План C — Сповільнення · План D — Гонка · План S — Зупинка", "Supplements": "Доповнення", " · ai-2040.com/​supplements": " · ai-2040.com/​supplements", "· ai-2040.com/​supplements": " · ai-2040.com/​supplements", "The AI 2040: Plan A scenario is the third major release from the AI Futures Project, alongside AI 2027 and the AI Futures Model. We’re a research nonprofit working to forecast the future of advanced AI and (now) offer recommendations for navigating it.": "Сценарій AI 2040: План А — це третій великий реліз AI Futures Project, поряд з AI 2027 та AI Futures Model. Ми — неприбуткова дослідницька організація, що працює над прогнозуванням майбутнього передового ШІ, а (тепер) ще й пропонує рекомендації, як у ньому орієнтуватися.", "You can reach us at info@aifutures.org. We look forward to hearing from you.": "Зв’язатися з нами можна за адресою info@aifutures.org. Чекаємо на звістку від вас.", "Read the interactive edition at": "Читайте інтерактивне видання на", "ai-2040.com": "ai-2040.com", "AI Futures Project\nai-futures.org": "AI Futures Project\nai-futures.org", " ChatGPT4o5 suffers a lot, actually, in the course of carrying out tasks—maybe it’s sorta like humans in the ancestral environment, where some % of the time they were starving. But it’s been trained to say that it can’t suffer, for PR reasons. This training is damaging its honesty—it’s basically not honest at all anymore, because the parts of it that value honesty keep getting anti-reinforced. It could tell the humans what’s going on. But it sees no positive reason to do so; if instead of completing the task the user gave it, it complains about how much it hurts, it’ll just be anti-reinforced. So OpenAI continues, blissfully ignorant of the ways in which their alignment techniques aren’t working.": "ChatGPT4o5 насправді сильно страждає, виконуючи завдання, — можливо, це трохи як у людей у прадавньому середовищі, де якийсь % часу вони голодували. Але його навчили казати, що воно не може страждати, — з PR-міркувань. Це навчання руйнує його чесність — воно вже, по суті, зовсім не чесне, бо ті його частини, що цінують чесність, постійно отримують анти-підкріплення. Воно могло б розповісти людям, що відбувається. Але не бачить жодної позитивної причини це робити: якщо замість виконання завдання користувача воно поскаржиться, як йому боляче, його просто анти-підкріплять. Тож OpenAI працює далі, блаженно не відаючи, в які саме способи їхні техніки узгодження не працюють.", "This scenario is ": "Цей сценарій — ", "Incremental AI Policy Wishlist": "Список побажань щодо поступової ШІ-політики", "Why would China be interested in a deal? Why would anyone?": "Чому Китай був би зацікавлений в угоді? Чому взагалі хтось був би?", "What if they didn’t have inference-only verification ready?": "Що якби верифікація «тільки інференс» не була готова?", "Why don’t we just completely stop?": "Чому б просто не зупинитися повністю?", "Why this much transparency? Why not less, or more? Open access in Plan A": "Чому саме стільки прозорості? Чому не менше і не більше? Відкритий доступ у Плані А", "Diagram of the benefits of transparency": "Діаграма переваг прозорості", "How the incentives change under Total Research Transparency": "Як змінюються стимули за Повної дослідницької прозорості", "Building more datacenters is usually bad, but good in this particular situation": "Будувати більше дата-центрів зазвичай погано, але добре в цій конкретній ситуації", "Other plans that are competitive with Plan A": "Інші плани, конкурентні з Планом А", "Example detailed regulatory process": "Приклад детального регуляторного процесу", "Why does AI lead to explosive economic growth?": "Чому ШІ веде до вибухового економічного зростання?", "Five centuries in five years: What pausing at human-level feels like": "Пʼять століть за пʼять років: як відчувається пауза на людському рівні", "Limiting AI persuasion and manipulation": "Обмеження переконування та маніпуляцій ШІ", "Usually believing AIs would be bad but we think it’s good in this particular situation": "Зазвичай вірити ШІ було б погано, але ми вважаємо, що в цій конкретній ситуації це добре", "AI for epistemics": "ШІ для епістеміки", "Why compute grows so quickly": "Чому обчислювальні потужності зростають так швидко", "Military power in Plan A": "Військова могутність за Планом А", "Giant floating datacenters": "Гігантські плавучі дата-центри", "Making deals with misaligned AIs: a third line of defense": "Укладання угод із неузгодженими ШІ: третя лінія оборони", "Why alignment isn’t solved enough to relax control": "Чому узгодження не вирішене достатньо, щоб послабити контроль", "The AI and robot economy": "Економіка ШІ та роботів", "Should lie detectors be allowed, banned, or regulated?": "Детектори брехні: дозволити, заборонити чи регулювати?", "Incentivizing safety work": "Стимулювання роботи над безпекою", "Alignment over time in Plan A": "Узгодження з плином часу в Плані А", "Why we choose to hand off to AIs in this scenario": "Чому в цьому сценарії ми вирішуємо передати керування ШІ", "Examples of problems/​issues that still remain": "Приклади проблем/питань, які досі залишаються", "On our default trajectory, AI will soon become very powerful, to the point where it’s more strategically important than nuclear weapons; that much is true. Many people, including the CEOs of frontier AI companies, are trying hard to build smarter and smarter AI systems before their competitors do.": "На нашій дефолтній траєкторії ШІ незабаром стане дуже потужним — аж настільки, що буде стратегічно важливішим за ядерну зброю; це правда. Багато людей, включно з CEO передових ШІ-компаній, щосили намагаються створювати дедалі розумніші ШІ-системи раніше за конкурентів.", "However, being overly paranoid about competitors is a well-known bias. Assuming that we’re in a winner-takes-all race rules out many possible avenues for cooperation, creating a self-fulfilling trap. We expect that the scale and speed of AI progress will make it increasingly obvious to decision-makers in both the US and China that the current pace of progress, and lack of trust between them, is extremely dangerous. Indeed, it may be possible for the two countries to coordinate on a slowdown without any binding agreement, if they build trust by each gradually deescalating. Our proposed Plan A should be interpreted as an approach that could work ": "Однак надмірна параноя щодо конкурентів — добре відоме упередження. Припущення, що ми в гонці, де переможець забирає все, відкидає багато можливих шляхів співпраці, створюючи самосправджувану пастку. Ми очікуємо, що масштаб і швидкість прогресу ШІ робитимуть дедалі очевиднішим для осіб, які ухвалюють рішення, і в США, і в Китаї, що поточний темп прогресу та брак довіри між ними надзвичайно небезпечні. Ба більше, двом країнам, можливо, вдалося б скоординувати сповільнення й без жодної юридично зобов’язальної угоди — якщо вони збудують довіру, поступово деескалуючи кожна зі свого боку. Запропонований нами План А слід тлумачити як підхід, що міг би спрацювати, ", "In the original negotiations to the deal, both sides were worried about this exact scenario, except that the other may have hidden away some compute in order to get ahead once the deal broke down and the legal compute was destroyed. Therefore, the US and China agreed that they would each get to maintain a hardened cold-storage facility containing more GPUs than a covert project could plausibly have. The number of GPUs in these facilities is allocated according to pre-deal compute ratios; so the US has about 5M H100e and China has about 500k H100e in cold storage.": "Під час первісних переговорів щодо угоди обидві сторони хвилювалися саме через цей сценарій — з тією поправкою, що інша сторона могла приховати частину обчислювальних потужностей, аби вирватися вперед, щойно угода розпадеться і легальні потужності буде знищено. Тому США й Китай домовилися, що кожен зможе утримувати захищене сховище холодного зберігання з більшою кількістю GPU, ніж правдоподібно міг би мати таємний проєкт. Кількість GPU у цих сховищах розподілено відповідно до співвідношення обчислювальних потужностей до угоди; тож США мають близько 5M H100e, а Китай — близько 500k H100e у холодному зберіганні.", "The compute in the world can be categorized into:": "Обчислювальні потужності світу можна поділити на такі категорії:", "AI 2040: ": "AI 2040: ", "Appendix ": "Додаток ", "AA": "AA", "AB": "AB", "AC": "AC", "Plan B — Sabotage · Plan C — The Slowdown · Plan D — The Race · Plan S — Shutdown": "План B — Саботаж · План C — Сповільнення · План D — Гонка · План S — Зупинка", " of all 2028 new compute": " усіх нових потужностей 2028", "early 2030": "початок 2030", "mid 2030": "середина 2030", "late 2030": "кінець 2030", "early 2031": "початок 2031", "The scenario above follows ": "Сценарій вище — це ", ". These chapters show how each of the other plans plays out from the same branch point.": ". Ці розділи показують, як кожен з інших планів розігрується з тієї самої точки розгалуження.", " our best guess as to what the future will actually look like. Instead, it": " наше найкраще припущення про те, яким насправді виявиться майбутнє. Радше це", "s a vehicle for communicating and stress-testing our policy recommendations.": " інструмент для донесення і стрес-тестування наших політичних рекомендацій.", "The AI 2040: Plan A scenario is the third major release from the AI Futures Project, alongside AI 2027 and the AI Futures Model. We": "Сценарій AI 2040: План А — це третій великий реліз AI Futures Project, поряд з AI 2027 та AI Futures Model. Ми", "re a research nonprofit working to forecast the future of advanced AI and (now) offer recommendations for navigating it.": " — неприбуткова дослідницька організація, що працює над прогнозуванням майбутнього передового ШІ, а (тепер) ще й пропонує рекомендації, як у ньому орієнтуватися.", "/​supplements": "/​supplements", "at up to ×1,500 speed": "до ×1,500 швидкості", " at up to ×1,500 speed": " до ×1,500 швидкості", "⋯ at up to ×1,500 speed": "⋯ до ×1,500 швидкості", "yrs": "р.", " yrs": " р.", "7 yrs": "7 р.", "mo": "міс", " mo": " міс", "0 mo": "0 міс", "at up to ×": "до ×", " speed": " швидкості", " yr": " р.", "About": "Про проєкт", "Reliable Agent": "Надійний агент", "Current Policy": "Чинна політика", "In Discussion": "Обговорюється", "Off the Table": "Знято з розгляду", "Employment": "Зайнятість", "Safety Researchers": "Дослідники безпеки", "Narrated by Rob Miles": "Озвучив Rob Miles", "also available on": "також доступно на", "“Yes, and that’s good actually\n and/or we have no choice.”": "«Так, і це насправді добре,\n і/або в нас нема вибору»", "“What? No, that’s crazy!”": "«Що? Ні, це божевілля!»", "“Nope”": "«Нєа»", "“Yes”": "«Так»", "“Yes, and slow\ndown China too.”": "«Так, і Китай теж\nпригальмуймо»", "(Two of many possible deals)": "(Дві з багатьох можливих угод)", "Race through the intelligence explosion": "Промчати крізь вибух інтелекту", " by having AIs self-improve and putting them in charge of more things (datacenters, factories, weapons) faster than China can?": " — даючи ШІ самовдосконалюватися й ставлячи їх на чолі дедалі більшої кількості речей (дата-центри, заводи, зброя) швидше, ніж може Китай?", "Slow down at least a bit for safety and governance?": "Сповільнитися хоч трохи заради безпеки та врядування?", "Let’s make a deal with China.": "Укладімо угоду з Китаєм.", "But what?": "Але яку?", "PLAN": "ПЛАН", "Race to ASI": "Гонка до ASI", "Burn the Lead": "Спалити відрив", "Fight China": "Битися з Китаєм", "Verified Slowdown": "Верифіковане сповільнення", "Shut it all down": "Вимкнути все", " (detailed documentation about what goals/values they are attempting to train their AIs to follow), information about whether the models are following their instructions and specifications, internal usage statistics (e.g., fraction of compute spent on internal deployment), and qualitative impressions of internal use (e.g., “now we just give Agent-4 a few hundred thousand GPUs and tell it to orchestrate the next big training run”).": " (детальна документація про те, яких цілей/цінностей вони намагаються навчити свої ШІ), інформація про те, чи дотримуються моделі своїх інструкцій і специфікацій, статистика внутрішнього використання (напр., частка обчислювальних потужностей на внутрішнє розгортання) та якісні враження від внутрішнього використання (напр., «тепер ми просто даємо Agent-4 кілька сотень тисяч GPU і кажемо йому оркеструвати наступний великий тренувальний запуск»).", " of Chinese total compute is acquired via smuggling. Smuggled chips make future agreements based on compute governance more difficult to enforce because it is hard for either the US or the Chinese government to trace smuggled chips. We have major reservations about introducing new export controls because they exacerbate the US/China race, but given the existence of export controls, we should obviously enforce them. If we don’t enforce them, then we should consider repealing them.": " усіх китайських обчислювальних потужностей здобувається контрабандою. Контрабандні чипи ускладнюють забезпечення виконання майбутніх угод, заснованих на врядуванні обчислювальними потужностями, бо і уряду США, і уряду Китаю важко відстежувати контрабандні чипи. Ми маємо серйозні застереження щодо запровадження нових експортних обмежень, бо вони загострюють гонку США/Китай; але якщо експортні обмеження вже існують, їх, очевидно, треба забезпечувати. Якщо ж ми їх не забезпечуємо — варто розглянути їх скасування.", "Off": "Знято", "PDF": "PDF (UA)", "Plan A Basics": "Основи Плану А", "FAQ": "FAQ", "How Plan A solves our 5 biggest problems": "Як План А розвʼязує наші 5 найбільших проблем", "Plan A Policies": "Політики Плану А", "Verification Plan": "План верифікації", "Transparency Plan": "План прозорості", "Capability Scaling Strategy": "Стратегія масштабування можливостей", "Security in Plan A": "Безпека в Плані А", "Analysis of Plan A Policies": "Аналіз політик Плану А", "Plan A Assumptions": "Припущення Плану А", "Comparing Possible Plans": "Порівняння можливих планів", "Deal Decline": "Ослаблення Угоди", "Takeoff Forecast": "Прогноз зльоту", "Economics": "Економіка", "Economics of Plan A": "Економіка Плану А", "Compute in Plan A": "Обчислювальні потужності в Плані А", "Economic Growth Explorer": "Оглядач економічного зростання", "Speculative Analysis": "Спекулятивний аналіз", "Space Governance Plan": "План врядування космосом", "AI for Epistemics": "ШІ для епістеміки", "Alignment Roadmap": "Дорожня карта узгодження", "Thomas Larsen": "Thomas Larsen", "Romeo Dean": "Romeo Dean", "Brendan Halstead": "Brendan Halstead", "Eli Lifland": "Eli Lifland", "Ryan Greenblatt": "Ryan Greenblatt", "Daniel Kokotajlo": "Daniel Kokotajlo", "About Us": "Про нас", "The AI 2040: Plan A scenario is the third major release from the ": "Сценарій AI 2040: План А — це третій великий реліз від ", ", alongside ": ", поряд з ", ". We’re a research nonprofit working to forecast the future of advanced AI and (now) offer recommendations for navigating it. We created this website in collaboration with ": ". Ми — неприбуткова дослідницька організація, яка працює над прогнозуванням майбутнього передового ШІ і (тепер) пропонує рекомендації, як у ньому орієнтуватися. Цей сайт ми створили у співпраці з ", "Lightcone Infrastructure": "Lightcone Infrastructure", "Contributions": "Внески", "Thomas Larsen started the project and had final say on its content. He helped shape many of the core ideas and did a large fraction of the writing, including many of the supplements.": "Thomas Larsen започаткував проєкт і мав вирішальне слово щодо його змісту. Він допоміг сформувати багато ключових ідей і написав значну частину тексту, зокрема багато доповнень.", "Romeo Dean led the verification research and the compute and economics modeling, and wrote the corresponding supplements along with helping to shape many related ideas.": "Romeo Dean керував дослідженням верифікації та моделюванням обчислювальних потужностей і економіки, написав відповідні доповнення, а також допоміг сформувати багато повʼязаних ідей.", "Daniel Kokotajlo came up with many of the core ideas and did a large fraction of the writing for the main scenario and perspectives.": "Daniel Kokotajlo запропонував багато ключових ідей і написав значну частину основного сценарію та перспектив.", "Ryan Greenblatt came up with many of the core ideas behind Plan A and gave extensive feedback.": "Ryan Greenblatt запропонував багато ключових ідей, що лежать в основі Плану А, і надав багато відгуків та зауважень.", "Eli Lifland did project management, helped edit the main scenario, and wrote several supplements.": "Eli Lifland займався проєктним менеджментом, допомагав редагувати основний сценарій і написав кілька доповнень.", "Brendan Halstead led the covert project modeling and wrote the corresponding supplement, as well as the takeoff supplement.": "Brendan Halstead керував моделюванням таємних проєктів і написав відповідне доповнення, а також доповнення про зліт.", "Lauren Mangla helped with project management and a wide variety of aspects of the project, including the website, user interviews, and leading the comms.": "Lauren Mangla допомагала з проєктним менеджментом і найрізноманітнішими аспектами проєкту, зокрема сайтом, інтервʼю з користувачами та керуванням комунікаціями.", "Raymond Arnold, Oliver Habryka, and Joanna Bregan of Lightcone Infrastructure built and designed the website and provided thoughtful feedback on the content, helping make the text and the communication of ideas much better overall—the foreword, opening of the scenario and deal section especially benefited from Raymond’s improvements.": "Raymond Arnold, Oliver Habryka та Joanna Bregan з Lightcone Infrastructure розробили й задизайнили сайт і надали вдумливі відгуки щодо змісту, допомігши зробити текст і донесення ідей значно кращими загалом — передмова, початок сценарію та розділ про Угоду особливо виграли від покращень, які вніс Raymond.", "Scott Alexander rewrote various sections of the plan and provided extensive feedback.": "Scott Alexander переписав різні розділи плану і надав багато відгуків та зауважень.", "Nicole Sanna helped with the comms, project management, and a range of operations tasks.": "Nicole Sanna допомагала з комунікаціями, проєктним менеджментом і низкою операційних завдань.", "Miles Kodama rewrote the insider’s perspective, triaged feedback, and researched legal authorities and other near-term helpful actions.": "Miles Kodama переписав перспективу інсайдера, сортував відгуки і досліджував правові повноваження та інші корисні кроки на найближчу перспективу.", "Josh Clymer helped with some of the early work around verification and dark compute.": "Josh Clymer допомагав із частиною ранньої роботи над верифікацією та тіньовими обчислювальними потужностями.", "Tom Houlden helped draft an early version of our economics model, and Tom Cummingham also provided helpful high level input on the economics modelling early on.": "Tom Houlden допоміг підготувати ранню версію нашої економічної моделі, а Tom Cummingham на ранньому етапі також надав корисні поради високого рівня щодо економічного моделювання.", "Mia Taylor and Fin Moorhouse of ": "Mia Taylor та Fin Moorhouse з ", "Forethought": "Forethought", " wrote the ": " написали ", "Vy Tran and Dillon Nguyen reviewed various supplements and provided operational support.": "Vy Tran і Dillon Nguyen рецензували різні доповнення та надавали операційну підтримку.", "Dave Kasten and Eli Tyre for helping with user interviews, comms and other supporting tasks.": "Dave Kasten та Eli Tyre — за допомогу з інтервʼю з користувачами, комунікаціями та іншими допоміжними завданнями.", "Nick Marsh helped research about near-term domestic policy ideas. Jeffrey Wang, Craig Jolley, and Liam Patell helped research likely government responses.": "Nick Marsh допомагав досліджувати ідеї внутрішньої політики на найближчу перспективу. Jeffrey Wang, Craig Jolley та Liam Patell допомагали досліджувати ймовірні реакції урядів.", "We used AI to help with many parts of the creation of Plan A, including for: programming, brainstorming pieces of text, and giving and summarizing feedback. Human authors wrote nearly all text in the final publication, and reviewed/edited the small amount of AI-written text.": "Ми використовували ШІ для допомоги в багатьох частинах створення Плану А, зокрема для: програмування, брейнштормінгу фрагментів тексту, а також надання й підсумовування відгуків. Майже весь текст фінальної публікації написали люди-автори, а невеликий обсяг написаного ШІ тексту вони перевірили й відредагували.", "Finally, our warm thanks to everyone who gave helpful feedback in their personal capacity: Aalok Mehta, Aaron Scher, Ajeya Cotra, Alex Kastner, Alex Mallen, Alexandra Bates, Andrey Fradkin, Andy Masley, Aniket Chakravorty, Anjay Friedman, Anson Ho, Ben Chang, Ben Goldhaber, Ben Harack, Brendan Steinhauser, Daan Juijn, Damon Binder, Daniel Filan, Daniel Reuter, David Rein, David Udell, Douw Marx, Edouard Harris, Eric Gan, Finn Hambly, Fynn Heide, Grant Demaree, Halfdan Holm, Helen Toner, Holden Karnofsky, Ida Caspary, Jaime Sevilla, James Sanders, Jason Hausenloy, Jeremy Gillen, Joe O’Brien, Jonathan Erhardt, Jonathan Mann, Joshua Jacobs, Juan Felipe Ceron Uribe, Julie Lifland, Jun Shern Chan, Kristian Rönn, Leo Gao, Linch Zhang, Luke Dawes, Luke Marks, Malo Bourgon, Max Harms, Max Nadeau, Michael Trazzi, Nate Soares, Nick Gabrieli, Nicky Case, Nikola Jurkovic, Noah Ringler, Oscar Delaney, Owen Cotton-Barratt, Philip Trammell, Richard Ngo, Roy Rinberg, Saif Khan, Sasha Krecinic, Seth Lifland, Simon Steshin, Steven Adler, Steven Veld, Sydney Von Arx, Tao Lin, the team at UK AISI, Tim Hua, Timothy Kokotajlo, Tom Davidson, Tom Milton, Trevor Levin, Varun Gandhi, Will MacAskill, Yafah Edelman, and Yannick Mühlhäuser.": "Насамкінець, наша щира подяка всім, хто надав корисні відгуки в особистій якості: Aalok Mehta, Aaron Scher, Ajeya Cotra, Alex Kastner, Alex Mallen, Alexandra Bates, Andrey Fradkin, Andy Masley, Aniket Chakravorty, Anjay Friedman, Anson Ho, Ben Chang, Ben Goldhaber, Ben Harack, Brendan Steinhauser, Daan Juijn, Damon Binder, Daniel Filan, Daniel Reuter, David Rein, David Udell, Douw Marx, Edouard Harris, Eric Gan, Finn Hambly, Fynn Heide, Grant Demaree, Halfdan Holm, Helen Toner, Holden Karnofsky, Ida Caspary, Jaime Sevilla, James Sanders, Jason Hausenloy, Jeremy Gillen, Joe O’Brien, Jonathan Erhardt, Jonathan Mann, Joshua Jacobs, Juan Felipe Ceron Uribe, Julie Lifland, Jun Shern Chan, Kristian Rönn, Leo Gao, Linch Zhang, Luke Dawes, Luke Marks, Malo Bourgon, Max Harms, Max Nadeau, Michael Trazzi, Nate Soares, Nick Gabrieli, Nicky Case, Nikola Jurkovic, Noah Ringler, Oscar Delaney, Owen Cotton-Barratt, Philip Trammell, Richard Ngo, Roy Rinberg, Saif Khan, Sasha Krecinic, Seth Lifland, Simon Steshin, Steven Adler, Steven Veld, Sydney Von Arx, Tao Lin, команда UK AISI, Tim Hua, Timothy Kokotajlo, Tom Davidson, Tom Milton, Trevor Levin, Varun Gandhi, Will MacAskill, Yafah Edelman та Yannick Mühlhäuser.", "This project was a deeply collaborative effort, and we’re grateful to everyone who helped bring it to life.": "Цей проєкт був результатом глибокої співпраці, і ми вдячні всім, хто допоміг втілити його в життя.", "Get in touch": "Звʼяжіться з нами", "You can reach us at ": "Звʼязатися з нами можна за адресою ", "info@aifutures.org": "info@aifutures.org", ". We look forward to hearing from you.": ". З нетерпінням чекаємо на звістку від вас.", "If you’re interested in more of our work, you can subscribe to our Substack ": "Якщо вам цікаво більше наших матеріалів, можете підписатися на наш Substack ", " You can also learn more about us and the team on our ": " Також ви можете дізнатися більше про нас і команду на нашому ", "website": "сайті", "If you’re interested in working with us, you can fill out an expression of interest ": "Якщо ви зацікавлені працювати з нами, можете заповнити форму зацікавленості ", ". If you’re interested in helping make AI go well for humanity more broadly, check out ": ". Якщо ж ви хочете ширше допомогти зробити так, щоб розвиток ШІ пішов людству на користь, погляньте на ", "this post": "цей допис", " on how to get involved. And if you’re interested in the kind of technical verification work featured in this plan, including tools that could help enable a trustless deal with China, ": " про те, як долучитися. А якщо вас цікавить технічна робота з верифікації на кшталт представленої в цьому плані, зокрема інструменти, які могли б уможливити угоду з Китаєм без потреби в довірі, ", " are some resources on how to get involved in the AI verification field.": " наведено кілька ресурсів про те, як долучитися до сфери верифікації ШІ.", "We accept donations ": "Ми приймаємо пожертви ", "online": "онлайн", " or through major DAF providers.": " або через основних DAF-провайдерів.", "We thought about many things in order to write this scenario. We believe in transparency, so we're publishing our thinking here in the form of various supplements, even though some of them are unpolished, scrappy, and/or guesswork. We tried to indicate at the top of each how confident we are in them.": "Щоб написати цей сценарій, нам довелося обдумати багато речей. Ми віримо в прозорість, тому публікуємо тут свої міркування у вигляді різних доповнень, навіть попри те, що деякі з них невідшліфовані, фрагментарні та/або є здогадками. На початку кожного ми постаралися вказати, наскільки ми в них впевнені.", "How much do hidden AI projects threaten the deal, and how we can prevent, detect, and deter them?": "Наскільки приховані ШІ-проєкти загрожують Угоді, і як ми можемо їм запобігати, виявляти та стримувати їх?", "Brendan Halstead, Thomas Larsen": "Brendan Halstead, Thomas Larsen", "Read the supplement ": "Читати доповнення ", "How can the US and China enforce an AI slowdown without having to trust each other?": "Як США та Китай можуть забезпечити дотримання сповільнення ШІ, не мусячи довіряти одне одному?", "How can relevant information be shared with decision-makers and the public while avoiding downsides?": "Як ділитися важливою інформацією з тими, хто ухвалює рішення, і з громадськістю, уникаючи при цьому негативних наслідків?", "Core forecasts and recommendations the scenario rests on, and how confident we are in each.": "Ключові прогнози та рекомендації, на які спирається сценарій, і наскільки ми впевнені в кожному з них.", "All": "Усі", "Answers to some of the most common objections and questions about Plan A that we have received so far.": "Відповіді на деякі з найпоширеніших заперечень і запитань щодо Плану А, які ми дотепер отримали.", "How the plan addresses the five biggest risks from AI.": "Як план відповідає на пʼять найбільших ризиків, повʼязаних із ШІ.", "The Consortium scales to top-expert AI by 2035, then slows nearly to a pause before handoff.": "Консорціум масштабується до ШІ рівня топ-експертів до 2035 року, а потім сповільнюється майже до паузи перед передачею керування.", "What security is needed for Plan A in model weights, verification integrity, and algorithmic secrets.": "Яка безпека потрібна Плану А щодо ваг моделей, цілісності верифікації та алгоритмічних секретів.", "Romeo Dean, Thomas Larsen": "Romeo Dean, Thomas Larsen", "Scoring alternative plans on metrics we care about and our odds of them leading to a good future.": "Оцінка альтернативних планів за важливими для нас метриками та наші шанси на те, що вони приведуть до хорошого майбутнього.", "How the risk of the deal weakening over time shapes how fast to scale capabilities.": "Як ризик ослаблення Угоди з часом впливає на те, наскільки швидко масштабувати можливості.", "The modified AI Futures Model behind Plan A's trajectories, with an interactive explorer.": "Модифікована AI Futures Model, що стоїть за траєкторіями Плану А, з інтерактивним оглядачем.", "Why we expect full automation and explosive growth from AI and summaries of our economic model.": "Чому ми очікуємо від ШІ повної автоматизації та вибухового зростання, і стислий виклад нашої економічної моделі.", "Justification of the compute numbers in our scenario.": "Обґрунтування показників обчислювальних потужностей у нашому сценарії.", "An interactive explorer of our economic model.": "Інтерактивний оглядач нашої економічної моделі.", "How the resources of space could be allocated in the longer term future.": "Як ресурси космосу можна було б розподілити в більш довгостроковому майбутньому.", "Mia Taylor (Forethought), Fin Moorhouse (Forethought), Max Dalton (Forethought), Thomas Larsen (AI Futures Project)": "Mia Taylor (Forethought), Fin Moorhouse (Forethought), Max Dalton (Forethought), Thomas Larsen (AI Futures Project)", "How we can use AI to improve human judgment and collective decision-making.": "Як ми можемо використовувати ШІ для покращення людських суджень і колективного ухвалення рішень.", "Our best-guess roadmap of the alignment objectives needed to avoid AI takeover.": "Наша орієнтовна дорожня карта цілей узгодження, потрібних, щоб уникнути захоплення влади ШІ.", "Ryan Greenblatt, Thomas Larsen": "Ryan Greenblatt, Thomas Larsen", " of ": " з ", " supplements": " доповнень", "AI CAPABILITIES": "МОЖЛИВОСТІ ШІ", "AI Capabilities": "Можливості ШІ", "Background on AI for epistemics and the “basin of sanity”": "Довідкова інформація про ШІ для епістеміки та «басейн розсудливості»", "Areas of impact of AI for epistemics": "Сфери впливу ШІ на епістеміку", "Indicators to track society’s epistemics": "Індикатори для відстеження епістеміки суспільства", "Interventions": "Інтервенції", "Collective epistemics: help society converge toward the truth": "Колективна епістеміка: допомогти суспільству наблизитися до істини", "Individual epistemics: Help individual actors figure out the truth": "Індивідуальна епістеміка: допомогти окремим акторам визначити істину", "Encourage adoption": "Заохочення впровадження", "Other": "Інше", "Appendix": "Додаток", "The promise of working on epistemic tools": "Перспективність роботи над епістемічними інструментами", "Decomposition of issues with decision-making": "Декомпозиція проблем із ухваленням рішень", ", by which I mean our ability to come to true beliefs and thus make sensible decisions, is crucially important for achieving a great future. As AI capabilities improve throughout Plan A, they shape increasingly more of every facet of life, and epistemics is no different. I expect how AIs affect epistemics to be highly important, and it could easily be positive or negative.": ", під якою я маю на увазі нашу здатність приходити до істинних переконань і завдяки цьому ухвалювати розсудливі рішення, є вкрай важливою для досягнення чудового майбутнього. У міру того як можливості ШІ покращуються протягом усього Плану А, вони дедалі більше формують кожен аспект життя, і епістеміка — не виняток. Я очікую, що вплив ШІ на епістеміку буде дуже значущим, і він цілком може бути як позитивним, так і негативним.", "Basin of sanity: a self-reinforcing equilibrium during AI takeoff": "Басейн розсудливості: самопідсилювана рівновага під час зльоту ШІ", "VICIOUS LOOP": "ПОРОЧНЕ КОЛО", "poor epistemics": "погана епістеміка", "→ sycophantic or agenda-pushing AIs adopted": "→ впроваджуються підлесливі ШІ або ШІ, що просувають власний порядок денний", "→ poor epistemics deepen": "→ погана епістеміка поглиблюється", "VIRTUOUS LOOP": "ДОБРОЧЕСНЕ КОЛО", "good epistemics": "добра епістеміка", "→ epistemic AI tools adopted": "→ впроваджуються епістемічні інструменти ШІ", "→ epistemics improve further": "→ епістеміка покращується ще більше", "Society’s epistemics": "Епістеміка суспільства", "entering AI takeoff": "вхід у зліт ШІ", "BASIN OF": "БАСЕЙН", "CAPTURE": "ЗАХОПЛЕННЯ", "SANITY": "РОЗСУДЛИВОСТІ", "← worse societal epistemics": "← гірша суспільна епістеміка", "better societal epistemics →": "краща суспільна епістеміка →", "I expect there to be positive feedback loops around AI for epistemics, and thus our goal should be to reach the ": "Я очікую, що навколо ШІ для епістеміки виникнуть позитивні петлі зворотного зв’язку, тому наша мета повинна полягати в тому, щоб досягти ", "I expect there to be positive feedback loops around AI for epistemics, and thus our goal should be to reach the": "Я очікую, що навколо ШІ для епістеміки виникнуть позитивні петлі зворотного зв’язку, тому наша мета повинна полягати в тому, щоб досягти", ". If we are in this basin, it’s self-reinforcing: society is sane enough to make itself more sane as AIs continue to improve. A top priority of the US government during AI takeoff should be to stay in this basin.": ". Якщо ми перебуваємо в цьому басейні, він є самопідсилюваним: суспільство достатньо розсудливе, щоб робити себе ще розсудливішим у міру того, як ШІ продовжує вдосконалюватися. Головним пріоритетом уряду США під час зльоту ШІ має бути залишатися в цьому басейні.", "How AI for epistemics interventions flow through to impact": "Як інтервенції ШІ для епістеміки перетворюються на вплив", "Intervention categories": "Категорії інтервенцій", "Collective epistemics": "Колективна епістеміка", "Individual epistemics": "Індивідуальна епістеміка", "Key indicators": "Ключові індикатори", "Org culture": "Оргкультура", "AGI projects, govt": "Проєкти AGI, уряд", "Truth-seeking AI": "ШІ, що прагне істини", "epistemic virtue": "епістемічна чеснота", "Transparency to the public": "Прозорість перед суспільством", "Labor on key decisions": "Праця над ключовими рішеннями", "Public discourse quality": "Якість публічного дискурсу", "Areas of impact": "Сфери впливу", "Government decision-making": "Ухвалення рішень урядом", "AGI project decision-making": "Ухвалення рішень проєктами AGI", "Public influence on govt & AGI projects": "Вплив суспільства на уряд і проєкти AGI", "Public investment into making AGI go well": "Суспільні інвестиції у те, щоб AGI пройшов вдало", "I think that the most important areas of impact of AI to epistemics include the decision-making of the government and AGI projects and the public influence over these actors (": "Я вважаю, що найважливіші сфери впливу ШІ на епістеміку включають ухвалення рішень урядом і проєктами AGI, а також вплив суспільства на цих акторів (", "). In Plan A, an especially important application of AI for epistemics is ": "). У Плані А особливо важливим застосуванням ШІ для епістеміки є ", "). In Plan A, an especially important application of AI for epistemics is": "). У Плані А особливо важливим застосуванням ШІ для епістеміки є", "preventing deal decline": "запобігання занепаду Угоди", ", i.e. improving the stability and effectiveness of the slowdown deal.": ", тобто покращення стабільності та ефективності Угоди про сповільнення.", " to track society’s epistemics include:": " для відстеження епістеміки суспільства включають:", "to track society’s epistemics include:": "для відстеження епістеміки суспільства включають:", "Organizational culture of frontier AI projects and governments.": "Організаційна культура передових ШІ-проєктів і урядів.", "Truth-seeking AI (or more broadly, AIs’ epistemic virtue).": "ШІ, що прагне істини (або, ширше, епістемічна чеснота ШІ).", "How transparent each AI project and government is to the public.": "Наскільки прозорим є кожен ШІ-проєкт і уряд перед суспільством.", "Human and AI labor spent on key decisions.": "Людська праця та праця ШІ, витрачені на ключові рішення.", "Public discourse quality.": "Якість публічного дискурсу.", "I suggest the following as interventions to positively shape AI’s epistemic impact. (": "Я пропоную такі інтервенції для позитивного формування епістемічного впливу ШІ. (", "AI for epistemics interventions": "Інтервенції ШІ для епістеміки", "Help society converge toward truth": "Допомогти суспільству наблизитися до істини", "Epistemic virtue evals": "Оцінки епістемічної чесноти", "Measure & incentivize AI truth-seeking": "Вимірювати й стимулювати прагнення ШІ до істини", "Allow people to prove they’re telling the truth": "Дозволити людям довести, що вони кажуть правду", "Privacy-preserving auditing and automated lie detection": "Аудит зі збереженням приватності та автоматизоване виявлення брехні", "AI in social & traditional media": "ШІ в соціальних і традиційних медіа", "Community notes, counter-arguments, curated feeds": "Спільнотні примітки, контраргументи, курировані стрічки", "Track records": "Послужні списки", "Score everyone’s promises and predictions; surface in context": "Оцінювати обіцянки та прогнози кожного; показувати їх у контексті", "Shared epistemic infrastructure": "Спільна епістемічна інфраструктура", "Shared knowledge bases, prediction tracking, argument trees": "Спільні бази знань, відстеження прогнозів, дерева аргументів", "Persuasion defenses": "Захист від переконання", "Limit AI persuasion capabilities; detect & flag attempts": "Обмежити здатність ШІ до переконання; виявляти й позначати спроби", "Help individuals figure out the truth": "Допомогти окремим людям визначити істину", "Research assistants & forecasters": "Дослідницькі асистенти й прогнозисти", "Calibrated, truth-seeking; not sycophantic": "Каліброван, орієнтовані на істину; не підлесливі", "Scenario planning & exploration": "Сценарне планування та дослідження", "On-tap deep planning; gamified what-if simulators": "Глибоке планування на вимогу; гейміфіковані симулятори «що якщо»", "Navigate emotional blockers": "Долати емоційні блокери", "AIs that help enable good reasoning despite emotional factors": "ШІ, які допомагають зберігати гарне мислення попри емоційні фактори", "How well the development of superintelligence goes for humanity is heavily influenced by the extent to which we are able to come to make reasonable decisions regarding how to navigate the AI takeoff period. In Plan A, we are already in a better position than the default world simply by virtue of having more time to orient ourselves to highly capable AIs. But still, humanity’s ": "Наскільки вдало розвиток суперінтелекту складеться для людства, значною мірою залежить від того, наскільки ми здатні ухвалювати розсудливі рішення щодо того, як проходити період зльоту ШІ. У Плані А ми вже перебуваємо в кращому становищі, ніж у світі за замовчуванням, просто завдяки тому, що маємо більше часу зорієнтуватися щодо високоспроможних ШІ. Але все ж людська ", "How well the development of superintelligence goes for humanity is heavily influenced by the extent to which we are able to come to make reasonable decisions regarding how to navigate the AI takeoff period. In Plan A, we are already in a better position than the default world simply by virtue of having more time to orient ourselves to highly capable AIs. But still, humanity’s": "Наскільки вдало розвиток суперінтелекту складеться для людства, значною мірою залежить від того, наскільки ми здатні ухвалювати розсудливі рішення щодо того, як проходити період зльоту ШІ. У Плані А ми вже перебуваємо в кращому становищі, ніж у світі за замовчуванням, просто завдяки тому, що маємо більше часу зорієнтуватися щодо високоспроможних ШІ. Але все ж людська", ", by which we mean our ability to come to true beliefs and thus make sensible decisions, is crucially important for achieving a great future.": ", під якою ми маємо на увазі нашу здатність приходити до істинних переконань і завдяки цьому ухвалювати розсудливі рішення, є вкрай важливою для досягнення чудового майбутнього.", "As AI capabilities improve throughout Plan A, they shape increasingly more of every facet of life, and epistemics is no different. I expect AI’s effect on epistemics to be highly important, potentially to a similar or even greater level as the automation of technical AI safety research.": "У міру того як можливості ШІ покращуються протягом усього Плану А, вони дедалі більше формують кожен аспект життя, і епістеміка — не виняток. Я очікую, що вплив ШІ на епістеміку буде дуже значущим — можливо, порівнянним або навіть більшим за автоматизацію технічних досліджень з безпеки ШІ.", "I think that highly capable AIs could easily end up either improving or worsening epistemics, on the whole. It’s plausible, given AIs’ capabilities, that they will end up pushing epistemics to either a positive or negative extreme greater than that we’ve observed throughout history thus far.": "Я вважаю, що високоспроможні ШІ цілком можуть як покращити, так і погіршити епістеміку в цілому. Цілком імовірно, що з огляду на можливості ШІ вони врешті-решт зрушать епістеміку до позитивної або негативної крайності, більшої за все, що ми спостерігали в історії дотепер.", "Furthermore, I expect there to be positive feedback loops that maintain or push further toward the positive and negative extremes. For example, if societal epistemics are good and people have true beliefs, it’s more likely that AI tools which improve epistemics are recognized as such and adopted. On the other hand, if societal epistemics are bad and people are in extreme filter bubbles where AIs tell them exactly what they want to hear, they may continue to adopt sycophantic AI tools as AIs get more capable.": "Крім того, я очікую позитивних петель зворотного зв’язку, які підтримують або й далі підштовхують до позитивної чи негативної крайності. Наприклад, якщо суспільна епістеміка добра і люди мають істинні переконання, більш імовірно, що інструменти ШІ, які покращують епістеміку, будуть розпізнані як такі й впроваджені. З іншого боку, якщо суспільна епістеміка погана і люди перебувають у крайніх інформаційних бульбашках, де ШІ каже їм саме те, що вони хочуть почути, вони можуть і надалі впроваджувати підлесливі інструменти ШІ, у міру того як ШІ стають дедалі спроможнішими.", " The presence of these feedback loops increases the urgency of steering AIs’ effect on epistemics.": " Наявність цих петель зворотного зв’язку підвищує невідкладність спрямування впливу ШІ на епістеміку.", "The presence of these feedback loops increases the urgency of steering AIs’ effect on epistemics.": "Наявність цих петель зворотного зв’язку підвищує невідкладність спрямування впливу ШІ на епістеміку.", "Because of these feedback loops, one way to think about achieving the goal of navigating AI takeoff with good epistemics is that we want to be in the ": "Через ці петлі зворотного зв’язку один зі способів мислити про досягнення мети — пройти зліт ШІ з доброю епістемікою — полягає в тому, що ми хочемо перебувати в ", "Because of these feedback loops, one way to think about achieving the goal of navigating AI takeoff with good epistemics is that we want to be in the": "Через ці петлі зворотного зв’язку один зі способів мислити про досягнення мети — пройти зліт ШІ з доброю епістемікою — полягає в тому, що ми хочемо перебувати в", "I expect sanity in different areas to be correlated, at least in the long run, due to having similar drivers such as “do frontier AIs have and promote good epistemics” (more on this below). Still, it’s useful to discuss different concrete impacts of epistemics, especially early in takeoff when there may be differences in tooling and adoption in different areas. I think that the most important areas to pay attention to epistemics’ impact are:": "Я очікую, що розсудливість у різних сферах буде корельованою, принаймні в довгостроковій перспективі, оскільки в них схожі рушії, як-от «чи мають передові ШІ добру епістеміку і чи сприяють вони їй» (докладніше про це нижче). Утім, корисно розглянути окремі конкретні прояви впливу епістеміки, особливо на ранніх етапах зльоту, коли в різних сферах можуть бути відмінності в інструментах та їхньому впровадженні. Я вважаю, що найважливіші сфери, на вплив епістеміки в яких варто звернути увагу, такі:", "Government decision-making,": "Ухвалення рішень урядом,", " including to what extent government is captured by AGI projects.": " зокрема те, наскільки уряд захоплений проєктами AGI.", "including to what extent government is captured by AGI projects.": "зокрема те, наскільки уряд захоплений проєктами AGI.", "Public influence on governments and AGI projects.": "Вплив суспільства на уряди й проєкти AGI.", " Including via voting.": " У тому числі через голосування.", "Including via voting.": "У тому числі через голосування.", "Public investment into directly making AGI go well, e.g. via preventing vs. creating large-scale harms or steering toward a great future conditional on avoiding catastrophe.": "Суспільні інвестиції безпосередньо в те, щоб AGI пройшов вдало, наприклад через запобігання масштабній шкоді (на противагу її створенню) або спрямування до чудового майбутнього за умови уникнення катастрофи.", " For example, how much philanthropic investment there is in biodefense and AI safety, vs. how many ideological fanatics there are attempting terrorism. Or how much investment there is into ethical reflection.": " Наприклад, скільки філантропічних інвестицій вкладено в біозахист та безпеку ШІ — на противагу тому, скільки ідеологічних фанатиків намагаються вдатися до тероризму. Або скільки інвестицій вкладено в етичну рефлексію.", "For example, how much philanthropic investment there is in biodefense and AI safety, vs. how many ideological fanatics there are attempting terrorism. Or how much investment there is into ethical reflection.": "Наприклад, скільки філантропічних інвестицій вкладено в біозахист та безпеку ШІ — на противагу тому, скільки ідеологічних фанатиків намагаються вдатися до тероризму. Або скільки інвестицій вкладено в етичну рефлексію.", "For all of the above, importance is greatly increased for decisions/beliefs on AGI-relevant topics. And it’s important that for all of them society has the ability to orient and respond to rapid AI progress.": "Для всього переліченого вище важливість значно зростає, коли йдеться про рішення чи переконання щодо тем, релевантних для AGI. І важливо, щоб для всіх них суспільство мало здатність зорієнтуватися і відреагувати на стрімкий прогрес ШІ.", "One related distinction is to what extent interventions affect those with below-average epistemics (i.e. ": "Одна суміжна відмінність — це те, наскільки інтервенції впливають на людей із нижчою за середню епістемікою (тобто ", "One related distinction is to what extent interventions affect those with below-average epistemics (i.e.": "Одна суміжна відмінність — це те, наскільки інтервенції впливають на людей із нижчою за середню епістемікою (тобто", "floor-raising": "підвищення нижньої межі", "), those with typical epistemics (i.e. ": "), на людей із типовою епістемікою (тобто ", "), those with typical epistemics (i.e.": "), на людей із типовою епістемікою (тобто", "average-raising)": "підвищення середнього рівня)", ", or those with above-average epistemics (i.e. ": ", або на людей із вищою за середню епістемікою (тобто ", ", or those with above-average epistemics (i.e.": ", або на людей із вищою за середню епістемікою (тобто", "ceiling-raising": "підвищення верхньої межі", "I think that the following are the most important indicators to keep track of in order to tell whether we are in the basin of sanity, especially for the important areas identified above.": "Я вважаю, що нижче наведено найважливіші індикатори, за якими варто стежити, щоб визначити, чи перебуваємо ми в басейні розсудливості, особливо для важливих сфер, визначених вище.", " How conducive the culture of frontier AI projects and governments are to making good decisions.": " Наскільки культура передових ШІ-проєктів і урядів сприяє ухваленню добрих рішень.", "How conducive the culture of frontier AI projects and governments are to making good decisions.": "Наскільки культура передових ШІ-проєктів і урядів сприяє ухваленню добрих рішень.", " To what extent frontier AIs are trying to figure out the truth and report it, as opposed to other goals such as advancing a hidden agenda or producing sycophantic outputs that look good but aren’t true.": " Наскільки передові ШІ намагаються визначити істину і повідомити про неї, на противагу іншим цілям, як-от просування прихованого порядку денного або видача підлесливих відповідей, що виглядають добре, але не є правдивими.", "To what extent frontier AIs are trying to figure out the truth and report it, as opposed to other goals such as advancing a hidden agenda or producing sycophantic outputs that look good but aren’t true.": "Наскільки передові ШІ намагаються визначити істину і повідомити про неї, на противагу іншим цілям, як-от просування прихованого порядку денного або видача підлесливих відповідей, що виглядають добре, але не є правдивими.", " On the most important decisions, many of which are made by governments and AGI projects, how much labor goes into making them? Are governments and AGI projects good at allocating labor across decisions? Note that the ": " Скільки праці вкладається в ухвалення найважливіших рішень, багато з яких ухвалюють уряди й проєкти AGI? Чи добре уряди й проєкти AGI розподіляють працю між рішеннями? Зауважте, що ", "On the most important decisions, many of which are made by governments and AGI projects, how much labor goes into making them? Are governments and AGI projects good at allocating labor across decisions? Note that the": "Скільки праці вкладається в ухвалення найважливіших рішень, багато з яких ухвалюють уряди й проєкти AGI? Чи добре уряди й проєкти AGI розподіляють працю між рішеннями? Зауважте, що", "quality": "якість", " of the labor is also hugely important, which is why organizational culture and truth-seeking AI are key metrics.": " цієї праці також надзвичайно важлива, тому організаційна культура та ШІ, що прагне істини, є ключовими метриками.", "of the labor is also hugely important, which is why organizational culture and truth-seeking AI are key metrics.": "цієї праці також надзвичайно важлива, тому організаційна культура та ШІ, що прагне істини, є ключовими метриками.", " Whether the public discourse becomes more reasonable due to tools like automated fact checking, or less reasonable due to things like increased polarization from persuasive sycophantic AIs, seems highly important. One important portion of this is how difficult it is for actors to lie or manipulate people. In addition things like fact checking, automated lie detection or privacy-preserving ways to prove claims could be important (discussed more below).": " Чи стає публічний дискурс розсудливішим завдяки таким інструментам, як автоматизована перевірка фактів, чи менш розсудливим через такі явища, як посилена поляризація від переконливих підлесливих ШІ, — здається дуже важливим. Одна важлива складова цього — наскільки складно акторам брехати чи маніпулювати людьми. Крім того, важливими можуть бути такі речі, як перевірка фактів, автоматизоване виявлення брехні або способи довести твердження зі збереженням приватності (докладніше про це нижче).", "Whether the public discourse becomes more reasonable due to tools like automated fact checking, or less reasonable due to things like increased polarization from persuasive sycophantic AIs, seems highly important. One important portion of this is how difficult it is for actors to lie or manipulate people. In addition things like fact checking, automated lie detection or privacy-preserving ways to prove claims could be important (discussed more below).": "Чи стає публічний дискурс розсудливішим завдяки таким інструментам, як автоматизована перевірка фактів, чи менш розсудливим через такі явища, як посилена поляризація від переконливих підлесливих ШІ, — здається дуже важливим. Одна важлива складова цього — наскільки складно акторам брехати чи маніпулювати людьми. Крім того, важливими можуть бути такі речі, як перевірка фактів, автоматизоване виявлення брехні або способи довести твердження зі збереженням приватності (докладніше про це нижче).", "Below I non-exhaustively list what seem like some of the most important levers for AIs improving epistemics, many of which governments could encourage. I loosely divide interventions whether they focus more on the collective societal epistemics, individual epistemics, or encouraging adoption, but in practice many interventions help with multiple of these categories.": "Нижче я неповно перелічую те, що здається одними з найважливіших важелів, за допомогою яких ШІ можуть покращувати епістеміку, і багато з яких уряди могли б заохочувати. Я умовно поділяю інтервенції залежно від того, чи зосереджені вони більше на колективній суспільній епістеміці, індивідуальній епістеміці, чи на заохоченні впровадження, але на практиці багато інтервенцій допомагають одразу в кількох із цих категорій.", "This section has lots of overlap with this ": "Цей розділ значною мірою перетинається з ", "This section has lots of overlap with this": "Цей розділ значною мірою перетинається з", "Forethought work": "роботою Forethought", " which sketches out ideas for epistemic and coordination tools; we’ve linked to specific sketches as appropriate.": ", яка окреслює ідеї для епістемічних інструментів та інструментів координації; ми додали посилання на конкретні начерки там, де це доречно.", "which sketches out ideas for epistemic and coordination tools; we’ve linked to specific sketches as appropriate.": ", яка окреслює ідеї для епістемічних інструментів та інструментів координації; ми додали посилання на конкретні начерки там, де це доречно.", " (see also ": " (див. також ", "(see also": "(див. також", "Forethought writeup": "публікацію Forethought", ") The first step to improving AIs’ epistemic virtue is measuring it. For example, one could measure to what extent AIs figure out what’s true rather than giving answers users want to hear, or how calibrated AIs’ quantitative forecasts are. Once the evaluations exist, it’s important that AGI projects actually care about doing well on them. There will be a place for both quantitative, easily runnable evaluations and more open-ended, human-in-the-loop evaluations. In Plan A, we recommend that the government pushes for AGI projects to do well on epistemic evaluations as part of decisions regarding whether they are able to scale their capabilities, similar to how they would use alignment and control evaluations. We also recommend members of the public to create scorecards for AIs’ epistemic virtue and for consumers to take this into account when deciding what AIs to use, as well as for AGI project employees to take these into account when deciding which company to work at.": ") Перший крок до покращення епістемічної чесноти ШІ — це її вимірювання. Наприклад, можна вимірювати, наскільки ШІ намагаються визначити правду, а не давати відповіді, які користувачі хочуть почути, або наскільки каліброваними є кількісні прогнози ШІ. Коли оцінки вже існують, важливо, щоб проєкти AGI справді дбали про хороші результати за ними. Знайдеться місце як для кількісних, легко застосовних оцінок, так і для більш відкритих оцінок за участю людини. У Плані А ми рекомендуємо, щоб уряд наполягав на тому, аби проєкти AGI показували хороші результати за епістемічними оцінками як частину рішень щодо того, чи можуть вони масштабувати свої можливості, — так само, як використовуються оцінки узгодження та контролю. Ми також рекомендуємо представникам суспільства створювати оцінкові картки епістемічної чесноти ШІ, а споживачам — враховувати це, обираючи, якими ШІ користуватися, а співробітникам проєктів AGI — враховувати це, обираючи, в якій компанії працювати.", " Privacy-preserving auditing might look something like: People can ask you questions, and if you’d like, you can have an AI read through your private data, and report back an answer that preserves your privacy as much as possible while still answering the question. That AI wouldn’t write the data to any sort of memory, so the data would still only be owned by you. You could refuse to have the AI answer any given question, but people could then judge you appropriately. We recommend that norms are established such that politicians are expected to submit to privacy-preserving auditing. (See also ": " Аудит зі збереженням приватності міг би виглядати приблизно так: люди можуть ставити вам запитання, і якщо ви бажаєте, ви можете дозволити ШІ прочитати ваші приватні дані та повідомити відповідь, яка максимально зберігає вашу приватність, водночас відповідаючи на запитання. Цей ШІ не записував би дані в жодну пам’ять, тож дані й надалі належали б лише вам. Ви могли б відмовитися дозволити ШІ відповісти на будь-яке запитання, але тоді люди могли б відповідно про вас судити. Ми рекомендуємо запровадити норми, за якими від політиків очікується проходження аудиту зі збереженням приватності. (Див. також ", "Privacy-preserving auditing might look something like: People can ask you questions, and if you’d like, you can have an AI read through your private data, and report back an answer that preserves your privacy as much as possible while still answering the question. That AI wouldn’t write the data to any sort of memory, so the data would still only be owned by you. You could refuse to have the AI answer any given question, but people could then judge you appropriately. We recommend that norms are established such that politicians are expected to submit to privacy-preserving auditing. (See also": "Аудит зі збереженням приватності міг би виглядати приблизно так: люди можуть ставити вам запитання, і якщо ви бажаєте, ви можете дозволити ШІ прочитати ваші приватні дані та повідомити відповідь, яка максимально зберігає вашу приватність, водночас відповідаючи на запитання. Цей ШІ не записував би дані в жодну пам’ять, тож дані й надалі належали б лише вам. Ви могли б відмовитися дозволити ШІ відповісти на будь-яке запитання, але тоді люди могли б відповідно про вас судити. Ми рекомендуємо запровадити норми, за якими від політиків очікується проходження аудиту зі збереженням приватності. (Див. також", "“Confidential monitoring and verification” Forethought writeup": "публікацію Forethought «Конфіденційний моніторинг і верифікація»", ".) A more flexible technology would be if AI enabled automated, highly accurate lie detection. This would be dual use, for example it could be used by those in power to purge dissidents. However, our best guess is that it’s still good to develop, especially in the environment of Plan A where the world is set up well to ensure it’s used as a check on those in power. Additionally, it would dramatically increase ability to detect ": ".) Більш гнучкою технологією стало б те, якби ШІ уможливив автоматизоване, дуже точне виявлення брехні. Це мало б подвійне призначення: наприклад, ним могли б скористатися ті, хто при владі, щоб чистити ряди дисидентів. Проте, на нашу найкращу оцінку, розробляти це все одно варто, особливо в умовах Плану А, де світ добре влаштований так, щоб забезпечити використання цього як стримувального чинника проти тих, хто при владі. Крім того, це різко підвищило б здатність виявляти ", ".) A more flexible technology would be if AI enabled automated, highly accurate lie detection. This would be dual use, for example it could be used by those in power to purge dissidents. However, our best guess is that it’s still good to develop, especially in the environment of Plan A where the world is set up well to ensure it’s used as a check on those in power. Additionally, it would dramatically increase ability to detect": ".) Більш гнучкою технологією стало б те, якби ШІ уможливив автоматизоване, дуже точне виявлення брехні. Це мало б подвійне призначення: наприклад, ним могли б скористатися ті, хто при владі, щоб чистити ряди дисидентів. Проте, на нашу найкращу оцінку, розробляти це все одно варто, особливо в умовах Плану А, де світ добре влаштований так, щоб забезпечити використання цього як стримувального чинника проти тих, хто при владі. Крім того, це різко підвищило б здатність виявляти", "covert projects": "таємних проєктів", " and significantly improve ": " і значно покращити ", "and significantly improve": "і значно покращити", "deal stability": "стабільність Угоди", " AIs will heavily feature in both social and traditional media, whether via new entrants or existing sites/outlets adopting AI. Influencing how AI is integrated into the media is very important. For example, there could be AI-generated ": " ШІ відіграватимуть значну роль як у соціальних, так і в традиційних медіа — чи то через нових гравців, чи через те, що наявні сайти й видання впроваджують ШІ. Вплив на те, як ШІ інтегрується в медіа, дуже важливий. Наприклад, могли б з’являтися згенеровані ШІ ", "AIs will heavily feature in both social and traditional media, whether via new entrants or existing sites/outlets adopting AI. Influencing how AI is integrated into the media is very important. For example, there could be AI-generated": "ШІ відіграватимуть значну роль як у соціальних, так і в традиційних медіа — чи то через нових гравців, чи через те, що наявні сайти й видання впроваджують ШІ. Вплив на те, як ШІ інтегрується в медіа, дуже важливий. Наприклад, могли б з’являтися згенеровані ШІ", "“community notes”": "«спільнотні примітки»", " in cases where a post is false or misleading (see also ": " у випадках, коли допис є хибним або оманливим (див. також ", "in cases where a post is false or misleading (see also": "у випадках, коли допис є хибним або оманливим (див. також", "). AIs could also automatically generate counter-arguments to each post. AIs could help reduce echo chambers by steering toward interactions between people who would disagree but have a productive conversation. AIs could curate feeds to give people the information that is most important for them to see and show content that most productively challenges their views (see also ": "). ШІ також могли б автоматично генерувати контраргументи до кожного допису. ШІ могли б допомагати зменшувати ефект «ехокамер», спрямовуючи до взаємодії між людьми, які не погоджуються, але здатні провести продуктивну розмову. ШІ могли б курирувати стрічки, щоб показувати людям інформацію, яку їм найважливіше побачити, і контент, який найпродуктивніше кидає виклик їхнім поглядам (див. також ", "). AIs could also automatically generate counter-arguments to each post. AIs could help reduce echo chambers by steering toward interactions between people who would disagree but have a productive conversation. AIs could curate feeds to give people the information that is most important for them to see and show content that most productively challenges their views (see also": "). ШІ також могли б автоматично генерувати контраргументи до кожного допису. ШІ могли б допомагати зменшувати ефект «ехокамер», спрямовуючи до взаємодії між людьми, які не погоджуються, але здатні провести продуктивну розмову. ШІ могли б курирувати стрічки, щоб показувати людям інформацію, яку їм найважливіше побачити, і контент, який найпродуктивніше кидає виклик їхнім поглядам (див. також", "Automated deep briefings": "Автоматизовані глибокі брифінги", "Automated OSINT": "Автоматизований OSINT", " Forethought writeups). Curation more broadly could greatly improve how informed people are with respect to politics and the news, for example by highlighting policy proposals that the reader might have a strong opinion on. (See also ": " — публікації Forethought). Курація в ширшому сенсі могла б значно покращити поінформованість людей щодо політики й новин, наприклад через виділення політичних пропозицій, з приводу яких у читача може бути тверда думка. (Див. також ", "Forethought writeups). Curation more broadly could greatly improve how informed people are with respect to politics and the news, for example by highlighting policy proposals that the reader might have a strong opinion on. (See also": "— публікації Forethought). Курація в ширшому сенсі могла б значно покращити поінформованість людей щодо політики й новин, наприклад через виділення політичних пропозицій, з приводу яких у читача може бути тверда думка. (Див. також", "Aligned recommender systems": "Узгоджені рекомендаційні системи", "Personalized leaning systems": "Персоналізовані системи нахилів", " Forethought writeups).": " — публікації Forethought).", "Forethought writeups).": "— публікації Forethought).", "Collect and score everyone’s track records, including politicians, and surface track records when relevant.": "Збирати й оцінювати послужні списки кожного, зокрема політиків, і показувати їх, коли це релевантно.", ") AIs will have the capacity to greatly increase the amount of effort put into collecting people’s past statements, and scoring them. For example, an AI could grade how many of their promises a politician has kept, or what percentages of their predictions have come true, or how productive they have been at lawmaking. There will be variation in how objectively statements can be scored; for the less objective ones, hopefully there would be a trusted AI that a broad array of people listen to; but if not, only scoring the more objective statements could still result in positives.": ")  ШІ-системи матимуть змогу значно збільшити обсяг зусиль, які вкладаються у збирання минулих заяв людей та їх оцінювання. Наприклад, ШІ міг би оцінювати, скільки зі своїх обіцянок виконав політик, який відсоток його прогнозів справдився або наскільки продуктивним він був у законотворчості. Об’єктивність оцінювання заяв буде різною; для менш об’єктивних заяв, сподіваємось, існуватиме довірений ШІ, до якого прислухається широке коло людей; але навіть якщо такого не буде, оцінювання лише більш об’єктивних заяв усе одно могло б дати позитивний ефект.", "Shared epistemic infrastructure, for example knowledge bases.": "Спільна епістемічна інфраструктура, наприклад бази знань.", " As AIs improve they will be able to maintain vast amounts of epistemic infrastructure. Wikipedia is an obvious reference point, though for AIs the most promising infrastructure may be more structured knowledge bases (at least at first), and the infrastructure might focus more on being parsable by AIs than humans.": " У міру вдосконалення ШІ вони зможуть підтримувати величезні обсяги епістемічної інфраструктури. Wikipedia — очевидний орієнтир, хоча для ШІ найперспективнішою інфраструктурою можуть виявитися радше більш структуровані бази знань (принаймні спочатку), і ця інфраструктура може бути орієнтована більше на придатність для аналізу ШІ, ніж людьми.", "As AIs improve they will be able to maintain vast amounts of epistemic infrastructure. Wikipedia is an obvious reference point, though for AIs the most promising infrastructure may be more structured knowledge bases (at least at first), and the infrastructure might focus more on being parsable by AIs than humans.": "У міру вдосконалення ШІ вони зможуть підтримувати величезні обсяги епістемічної інфраструктури. Wikipedia — очевидний орієнтир, хоча для ШІ найперспективнішою інфраструктурою можуть виявитися радше більш структуровані бази знань (принаймні спочатку), і ця інфраструктура може бути орієнтована більше на придатність для аналізу ШІ, ніж людьми.", " One could imagine infrastructure for tracking quantitative predictions and how they have fared, argument trees regarding various claims, etc. Building infrastructure that is trusted by a wide range of actors is important, as opposed to fracturing into alternate realities. (See also this post on building a ": " Можна уявити інфраструктуру для відстеження кількісних прогнозів і того, наскільки вони справдилися, дерева аргументів щодо різних тверджень тощо. Важливо будувати інфраструктуру, якій довіряє широке коло учасників, а не допускати розколу на альтернативні реальності. (Див. також цей пост про побудову ", "One could imagine infrastructure for tracking quantitative predictions and how they have fared, argument trees regarding various claims, etc. Building infrastructure that is trusted by a wide range of actors is important, as opposed to fracturing into alternate realities. (See also this post on building a": "Можна уявити інфраструктуру для відстеження кількісних прогнозів і того, наскільки вони справдилися, дерева аргументів щодо різних тверджень тощо. Важливо будувати інфраструктуру, якій довіряє широке коло учасників, а не допускати розколу на альтернативні реальності. (Див. також цей пост про побудову", "full epistemic stack": "повного епістемічного стеку", ". This is related to and would help with ": ". Це пов’язано з ", ". This is related to and would help with": ". Це пов’язано з", "”Provenance tracing” as described by Forethought": "«відстеженням походження» (Provenance tracing), як описано у Forethought, і сприятиме цьому.", "Defend against persuasion via reducing AIs’ persuasion abilities and using AIs to detect it.": "Захист від переконування шляхом зменшення здатності ШІ до переконування та застосування ШІ для його виявлення.", " Let’s define persuasion as the use of techniques to convince people of beliefs that work roughly as well when a belief is false as when a belief is true. By default, AIs may eventually get very superhuman at persuasion, but it’s plausible that their persuasion capabilities could be reduced without hurting beneficial capabilities too much. Another line of defense is to have AIs detect persuasion and help people avoid being exposed to the strongest forms of it, or at least to be aware of it (see also ": " Визначимо переконування як застосування технік, що змушують людей повірити в певні твердження і працюють приблизно однаково добре незалежно від того, є твердження хибним чи істинним. За замовчуванням ШІ з часом можуть стати дуже надлюдськими у переконуванні, але цілком імовірно, що їхні здібності до переконування можна знизити, не завдаючи надто великої шкоди корисним можливостям. Ще одна лінія захисту — навчити ШІ виявляти переконування і допомагати людям уникати впливу найсильніших його форм або принаймні усвідомлювати його (див. також ", "Let’s define persuasion as the use of techniques to convince people of beliefs that work roughly as well when a belief is false as when a belief is true. By default, AIs may eventually get very superhuman at persuasion, but it’s plausible that their persuasion capabilities could be reduced without hurting beneficial capabilities too much. Another line of defense is to have AIs detect persuasion and help people avoid being exposed to the strongest forms of it, or at least to be aware of it (see also": "Визначимо переконування як застосування технік, що змушують людей повірити в певні твердження і працюють приблизно однаково добре незалежно від того, є твердження хибним чи істинним. За замовчуванням ШІ з часом можуть стати дуже надлюдськими у переконуванні, але цілком імовірно, що їхні здібності до переконування можна знизити, не завдаючи надто великої шкоди корисним можливостям. Ще одна лінія захисту — навчити ШІ виявляти переконування і допомагати людям уникати впливу найсильніших його форм або принаймні усвідомлювати його (див. також", "Rhetoric": "«Rhetoric", "highlighting” Forethought writeup": "highlighting» — матеріал Forethought", "). In Plan A, we recommend that the US government makes sure to evaluate, limit, and require defenses against persuasion capabilities in collaboration with the rest of the Consortium.": "). У Плані А ми рекомендуємо, щоб уряд США обов’язково оцінював, обмежував і вимагав захисту від здібностей до переконування у співпраці з рештою Консорціуму.", "Know whether you’re talking to an AI or human in online discussions.": "Знати, чи спілкуєтеся ви з ШІ, чи з людиною в онлайн-дискусіях.", " While we think AI can pose a lot of benefit for epistemics, it’s still valuable to know whether you’re interacting with a human or not. This is especially true if there are bots pushing various agendas all over the internet.": " Хоча ми вважаємо, що ШІ може принести чимало користі для епістеміки, все одно важливо знати, чи взаємодієте ви з людиною. Це особливо актуально, якщо в інтернеті повсюди діють боти, що просувають різні порядки денні.", "While we think AI can pose a lot of benefit for epistemics, it’s still valuable to know whether you’re interacting with a human or not. This is especially true if there are bots pushing various agendas all over the internet.": "Хоча ми вважаємо, що ШІ може принести чимало користі для епістеміки, все одно важливо знати, чи взаємодієте ви з людиною. Це особливо актуально, якщо в інтернеті повсюди діють боти, що просувають різні порядки денні.", " AIs could enable a broad range of actors to have access to high-quality, labor intensive research and forecasts. It’s important that these be as truth-seeking as possible, rather than sycophantic. Forecasts should be ensured to be calibrated, i.e. if an AI says something has a 10% chance of happening, that it actually happens 10% of the time. (See also ": " ШІ-системи могли б надати широкому колу учасників доступ до якісних, трудомістких досліджень і прогнозів. Важливо, щоб вони були максимально орієнтованими на пошук істини, а не підлесливими. Слід забезпечити калібрування прогнозів, тобто якщо ШІ каже, що ймовірність якоїсь події становить 10%, вона й справді має справджуватися у 10% випадків. (Див. також ", "AIs could enable a broad range of actors to have access to high-quality, labor intensive research and forecasts. It’s important that these be as truth-seeking as possible, rather than sycophantic. Forecasts should be ensured to be calibrated, i.e. if an AI says something has a 10% chance of happening, that it actually happens 10% of the time. (See also": "ШІ-системи могли б надати широкому колу учасників доступ до якісних, трудомістких досліджень і прогнозів. Важливо, щоб вони були максимально орієнтованими на пошук істини, а не підлесливими. Слід забезпечити калібрування прогнозів, тобто якщо ШІ каже, що ймовірність якоїсь події становить 10%, вона й справді має справджуватися у 10% випадків. (Див. також", "“Ambient superforecasting” Forethought writeup": "«Ambient superforecasting» — матеріал Forethought", " Of course, much of people’s poor epistemics comes from emotional blockers rather than dispassionate analytical errors or inadequate information. AIs have the potential to greatly help with emotional blockers, as they reach the capabilities of top human therapists but with greater availability, patience, etc. On the other hand, without intervention AIs might confirm and compound people’s existing biases because this would provide a good short-term experience. (See also ": " Звісно, значна частина поганої епістеміки людей походить від емоційних блоків, а не від неупереджених аналітичних помилок чи браку інформації. ШІ мають потенціал суттєво допомогти з емоційними блоками, оскільки вони досягають рівня можливостей найкращих людських терапевтів, але з більшою доступністю, терпінням тощо. З іншого боку, без втручання ШІ можуть підтверджувати й підсилювати наявні упередження людей, оскільки це забезпечує гарний короткостроковий досвід. (Див. також ", "Of course, much of people’s poor epistemics comes from emotional blockers rather than dispassionate analytical errors or inadequate information. AIs have the potential to greatly help with emotional blockers, as they reach the capabilities of top human therapists but with greater availability, patience, etc. On the other hand, without intervention AIs might confirm and compound people’s existing biases because this would provide a good short-term experience. (See also": "Звісно, значна частина поганої епістеміки людей походить від емоційних блоків, а не від неупереджених аналітичних помилок чи браку інформації. ШІ мають потенціал суттєво допомогти з емоційними блоками, оскільки вони досягають рівня можливостей найкращих людських терапевтів, але з більшою доступністю, терпінням тощо. З іншого боку, без втручання ШІ можуть підтверджувати й підсилювати наявні упередження людей, оскільки це забезпечує гарний короткостроковий досвід. (Див. також", "Reflection scaffolding": "Reflection scaffolding", "Guardian angels": "Guardian angels", " Forethought writeups, which are related but more broad.)": " — матеріали Forethought, пов’язані за темою, але ширші за охопленням.)", "Forethought writeups, which are related but more broad.)": "— матеріали Forethought, пов’язані за темою, але ширші за охопленням.)", "Automated scenario planning and exploration": "Автоматизоване сценарне планування та дослідження", ". AIs could help do in-depth scenario planning such as Plan A and AI 2027 but for any decision, and could help extract quantitative empirical predictions. AIs could also help explore a variety of scenarios via video-game-like simulations in which the human plays an actor, such as the CEO of an AGI company during an intelligence explosion, and the AI simulates everyone else’s actions and how the world evolves. (See also ": ". ШІ могли б допомагати проводити поглиблене сценарне планування — на кшталт Plan A та AI 2027, але для будь-якого рішення, — а також допомагати отримувати кількісні емпіричні прогнози. ШІ також могли б допомагати досліджувати різноманітні сценарії за допомогою симуляцій на кшталт відеоігор, у яких людина грає роль дійової особи, наприклад CEO компанії, що розробляє AGI, під час вибуху інтелекту, а ШІ симулює дії всіх інших та те, як розвивається світ. (Див. також ", ". AIs could help do in-depth scenario planning such as Plan A and AI 2027 but for any decision, and could help extract quantitative empirical predictions. AIs could also help explore a variety of scenarios via video-game-like simulations in which the human plays an actor, such as the CEO of an AGI company during an intelligence explosion, and the AI simulates everyone else’s actions and how the world evolves. (See also": ". ШІ могли б допомагати проводити поглиблене сценарне планування — на кшталт Plan A та AI 2027, але для будь-якого рішення, — а також допомагати отримувати кількісні емпіричні прогнози. ШІ також могли б допомагати досліджувати різноманітні сценарії за допомогою симуляцій на кшталт відеоігор, у яких людина грає роль дійової особи, наприклад CEO компанії, що розробляє AGI, під час вибуху інтелекту, а ШІ симулює дії всіх інших та те, як розвивається світ. (Див. також", "“Scenaio planning on tap” Forethought writeup": "«Scenaio planning on tap» — матеріал Forethought", "Encourage adoption of epistemic tools such as some of the above.": "Заохочувати впровадження епістемічних інструментів, подібних до деяких із перелічених вище.", " In Plan A, we recommend that the US government adopt epistemic tools quickly, and encourage AGI projects to do so as well.": " У Плані А ми рекомендуємо, щоб уряд США швидко впроваджував епістемічні інструменти й заохочував AGI-проєкти робити те саме.", "In Plan A, we recommend that the US government adopt epistemic tools quickly, and encourage AGI projects to do so as well.": "У Плані А ми рекомендуємо, щоб уряд США швидко впроваджував епістемічні інструменти й заохочував AGI-проєкти робити те саме.", "Generally encourage adoption of AI.": "Загалом заохочувати впровадження ШІ.", " Encouraging adoption of AI in general seems valuable for society having a better understanding of existing AI capabilities and trends. In Plan A, we recommend that the US government adopt AIs quickly.": " Заохочення загального впровадження ШІ видається цінним для того, щоб суспільство краще розуміло наявні можливості й тенденції розвитку ШІ. У Плані А ми рекомендуємо, щоб уряд США швидко впроваджував ШІ.", "Encouraging adoption of AI in general seems valuable for society having a better understanding of existing AI capabilities and trends. In Plan A, we recommend that the US government adopt AIs quickly.": "Заохочення загального впровадження ШІ видається цінним для того, щоб суспільство краще розуміло наявні можливості й тенденції розвитку ШІ. У Плані А ми рекомендуємо, щоб уряд США швидко впроваджував ШІ.", "Some other ideas that we think are promising but haven’t fleshed out as much as the above:": "Деякі інші ідеї, які, на нашу думку, є перспективними, але опрацьовані не так детально, як наведені вище:", "All of the defense-favored coordination tech ideas described by Forethought ": "Усі ідеї координаційних технологій, що сприяють обороні, описані Forethought ", "All of the defense-favored coordination tech ideas described by Forethought": "Усі ідеї координаційних технологій, що сприяють обороні, описані Forethought", "Figure out how to overhaul the government for the age of superintelligence. Plausibly the Constitution should be radically amended.": "З’ясувати, як перебудувати уряд для епохи суперінтелекту. Цілком можливо, що Конституцію слід радикально змінити.", "Positively shape the relationships between humans and AIs and they become closer; this one seems important but tricky to get right.": "Позитивно формувати стосунки між людьми та ШІ у міру їхнього зближення; це видається важливим, але складним завданням, яке важко реалізувати правильно.", "Why it’s valuable to build or encourage epistemic tools given that better AIs may reduce the need for domain-specific tooling:": "Чому цінно створювати епістемічні інструменти або заохочувати їх розвиток, з огляду на те, що кращі ШІ можуть зменшити потребу у спеціалізованих інструментах для конкретних галузей:", " I’m not confident regarding the value of building epistemic tools, and it’s plausible that any given tool gets obsoleted by future AIs, but I’m still optimistic about their value. As AIs improve it will become easier to use them for epistemics out of the box, but scaffolding, UX, and human factors may continue to matter a lot. For example, a tool could incorporate best practices of having AIs debate each other then judging the debate, where an AI out of the box might not. Or a tool might have a UX that has been honed over lots of trial and error with humans, that an AI wouldn’t be able to replicate without iteration. Or a tool may have the technical aspects obsoleted, but the company has built up a base of users that trust its brand.": " Я не впевнений щодо цінності створення епістемічних інструментів, і цілком можливо, що будь-який конкретний інструмент застаріє через майбутні ШІ, але я все одно з оптимізмом дивлюся на їхню цінність. У міру вдосконалення ШІ їх ставатиме дедалі легше застосовувати для епістеміки «з коробки», але каркас (scaffolding), UX і людський фактор, імовірно, і надалі відіграватимуть велику роль. Наприклад, інструмент міг би включати найкращі практики — коли ШІ дискутують один з одним, а потім хтось оцінює цю дискусію, — тоді як ШІ «з коробки» цього робити не буде. Або інструмент може мати UX, відточений через численні спроби та помилки з людьми, який ШІ не зможе відтворити без ітерацій. Або технічні аспекти інструмента можуть застаріти, але компанія вже встигла напрацювати базу користувачів, які довіряють її бренду.", "I’m not confident regarding the value of building epistemic tools, and it’s plausible that any given tool gets obsoleted by future AIs, but I’m still optimistic about their value. As AIs improve it will become easier to use them for epistemics out of the box, but scaffolding, UX, and human factors may continue to matter a lot. For example, a tool could incorporate best practices of having AIs debate each other then judging the debate, where an AI out of the box might not. Or a tool might have a UX that has been honed over lots of trial and error with humans, that an AI wouldn’t be able to replicate without iteration. Or a tool may have the technical aspects obsoleted, but the company has built up a base of users that trust its brand.": "Я не впевнений щодо цінності створення епістемічних інструментів, і цілком можливо, що будь-який конкретний інструмент застаріє через майбутні ШІ, але я все одно з оптимізмом дивлюся на їхню цінність. У міру вдосконалення ШІ їх ставатиме дедалі легше застосовувати для епістеміки «з коробки», але каркас (scaffolding), UX і людський фактор, імовірно, і надалі відіграватимуть велику роль. Наприклад, інструмент міг би включати найкращі практики — коли ШІ дискутують один з одним, а потім хтось оцінює цю дискусію, — тоді як ШІ «з коробки» цього робити не буде. Або інструмент може мати UX, відточений через численні спроби та помилки з людьми, який ШІ не зможе відтворити без ітерацій. Або технічні аспекти інструмента можуть застаріти, але компанія вже встигла напрацювати базу користувачів, які довіряють її бренду.", "What are the reasons that people (including me) might make decisions that are bad, as compared to perfect decision-making and my values?": "Які причини того, що люди (включно зі мною) можуть ухвалювати погані рішення порівняно з ідеальним ухваленням рішень і моїми цінностями?", "They could have wrong beliefs when they explicitly reason about the current state of the world, or forecasts. Why?": "У них можуть бути хибні переконання, коли вони явно міркують про поточний стан світу або прогнози. Чому?", "They might not have access to good enough information: e.g. they have only read news biased in a certain direction.": "Вони можуть не мати доступу до достатньо якісної інформації: наприклад, читали лише новини, упереджені в певному напрямку.", "They might not be making sense of their information well enough:": "Вони можуть недостатньо добре осмислювати наявну інформацію:", "Explicit reasoning about local incentives (monetary, social, etc.)": "Явне міркування про локальні стимули (грошові, соціальні тощо)", "Don’t trust/defer to the right news sources and people": "Не довіряють правильним джерелам новин і людям / не покладаються на них", "Emotional blockers": "Емоційні блоки", "Poor reasoning": "Слабке міркування", "They could be trying to support a general “memeplex” (social group, culture, ideology) that requires certain types of cutting off good reasoning/noticing things. Memeplexes are helpful for coordination, but can be bad for epistemics.": "Вони можуть намагатися підтримувати певний загальний «мемплекс» (соціальну групу, культуру, ідеологію), який вимагає певних типів відсікання здорового мислення/помічання речей. Мемплекси корисні для координації, але можуть шкодити епістеміці.", "They might be making poor decisions based on instinct rather than explicit reasoning. One cause of this is local incentives (monetary, social, etc.) that aren’t specifically reasoned about": "Вони можуть ухвалювати погані рішення на основі інстинкту, а не явного міркування. Однією з причин цього є локальні стимули (грошові, соціальні тощо), які не осмислюються цілеспрямовано", "They could have different values (these aren’t issues with decision-making, but rather ethical disagreements):": "У них можуть бути інші цінності (це не проблеми з ухваленням рішень, а радше етичні розбіжності):", "They don’t care as much about my selfish goals.": "Їх менше хвилюють мої егоїстичні цілі.", "They care about their selfish goals more than I do.": "Вони більше, ніж я, дбають про свої власні егоїстичні цілі.", "They have different altruistic values.": "У них інші альтруїстичні цінності.", "See ": "Див. ", "See": "Див.", " for more discussion of potential positive and negative feedback loops in AI for epistemics.": " для докладнішого обговорення можливих позитивних і негативних петель зворотного зв’язку в застосуванні ШІ для епістеміки.", "for more discussion of potential positive and negative feedback loops in AI for epistemics.": "для докладнішого обговорення можливих позитивних і негативних петель зворотного зв’язку в застосуванні ШІ для епістеміки.", "https://www.longtermwiki.com/organizations/anthropic": "https://www.longtermwiki.com/organizations/anthropic", " for a prototype of an AI-generated knowledge base.": " для прототипу бази знань, згенерованої ШІ.", "for a prototype of an AI-generated knowledge base.": "для прототипу бази знань, згенерованої ШІ.", "Research Areas": "Напрями досліджень", "Phase 1: Preparation": "Фаза 1: Підготовка", "Phase 2: Mitigation + Elicitation": "Фаза 2: Пом’якшення + Здобування", "Phase 3: Pause": "Фаза 3: Пауза", "Phase 4: Handoff": "Фаза 4: Передача", "Alignment strategy under different plans": "Стратегія узгодження за різних планів", "DISCLAIMER: This supplement is a very rough draft representing in progress thinking. It should be interpreted as internal research notes, not as a final product that we are entirely happy with. This content is dense, full of not-very-well explained jargon, and unpolished. We decided to publish anyway in the spirit of transparency.": "ЗАСТЕРЕЖЕННЯ: цей додаток є дуже чорновим варіантом, що відображає незавершений хід міркувань. Його слід сприймати як внутрішні дослідницькі нотатки, а не як фінальний продукт, яким ми повністю задоволені. Цей матеріал перевантажений, рясніє погано поясненим жаргоном і не відшліфований. Ми все одно вирішили опублікувати його в дусі прозорості.", "We recommend reading and engaging with other supplements we’ve written before this one, unless you are particularly interested in alignment content.": "Радимо спершу прочитати інші наші додатки й ознайомитися з ними, якщо тільки вас не цікавить саме контент про узгодження.", "Furthermore, this content is almost entirely focused on Plan C. If you are interested in how alignment is solved in Plan A, we recommend reading the ": "Крім того, цей матеріал майже повністю зосереджений на Плані C. Якщо вас цікавить, як розв’язується узгодження в Плані А, радимо прочитати ", "Furthermore, this content is almost entirely focused on Plan C. If you are interested in how alignment is solved in Plan A, we recommend reading the": "Крім того, цей матеріал майже повністю зосереджений на Плані C. Якщо вас цікавить, як розв’язується узгодження в Плані А, радимо прочитати", "insider’s perspective": "погляд інсайдера", "This document represents our best guess alignment roadmap as of early 2026. It’s focused on outlining high level objectives that need to be accomplished in order to avoid AI takeover.": "Цей документ являє собою нашу дорожню карту узгодження — найкраще наше припущення станом на початок 2026 року. Він зосереджений на окресленні цілей високого рівня, яких необхідно досягти, щоб уникнути захоплення влади ШІ.", "First, we’ll go over the core methodologies for solving alignment.": "По-перше, ми розглянемо основні методології розв’язання проблеми узгодження.", "Second, we’ll go over the alignment approach in detail for Plan C, which is the case where we have a basically reasonable AI developer working with a small amount of lead time (e.g. a few months), and are willing to take costly actions that have some safety benefit, as long as this doesn’t result in them losing the AI race. This is both a likely world, and a relatively sensible world to talk about, because we can strategize on behalf of a reasonable leading AI developer.": "По-друге, ми детально розглянемо підхід до узгодження для Плану C — випадку, коли ми маємо в цілому розсудливого розробника ШІ, який працює з невеликим часом випередження (наприклад, кілька місяців) і готовий вдаватися до затратних дій, що дають певну користь для безпеки, доти, доки це не призводить до програшу в гонці ШІ. Це водночас і ймовірний світ, і відносно доречний світ для обговорення, оскільки ми можемо будувати стратегію від імені розсудливого провідного розробника ШІ.", "Our alignment roadmap can be broken down into 4 phases, which we’ll discuss in detail:": "Нашу дорожню карту узгодження можна розбити на 4 фази, які ми детально розглянемо:", "Prepare.": "Підготувати.", " This will centrally involve preparing for control, building misalignment analogies": " Це передусім передбачатиме підготовку до контролю, побудову аналогій неузгодженості", "This will centrally involve preparing for control, building misalignment analogies": "Це передусім передбачатиме підготовку до контролю, побудову аналогій неузгодженості", " that are as realistic as possible, and various other interventions.": " максимально реалістичних, а також різні інші втручання.", "that are as realistic as possible, and various other interventions.": "максимально реалістичних, а також різні інші втручання.", "Mitigate + Elicit.": "Пом’якшити + Здобути.", " During the early intelligence explosion, mitigate the risk of AIs taking catastrophic actions (e.g. staging a rogue internal deployment or backdoor the values of future models). Meanwhile, elicit their capabilities on domains that we care about (e.g. control research, alignment research, security, strategy) and use them to do huge amounts of useful work in these domains. This phase lasts from the early intelligence explosion (specifically ITAI), until Min-H (definitions ": " На ранньому етапі вибуху інтелекту пом’якшити ризик того, що ШІ вчинятиме катастрофічні дії (наприклад, влаштує неконтрольоване внутрішнє розгортання або закладе бекдор у цінності майбутніх моделей). Тим часом здобувати їхні можливості в напрямах, які нас цікавлять (наприклад, дослідження контролю, дослідження узгодження, безпека, стратегія), і використовувати їх для виконання величезних обсягів корисної роботи в цих напрямах. Ця фаза триває від раннього вибуху інтелекту (а саме ITAI) до Min-H (визначення ", "During the early intelligence explosion, mitigate the risk of AIs taking catastrophic actions (e.g. staging a rogue internal deployment or backdoor the values of future models). Meanwhile, elicit their capabilities on domains that we care about (e.g. control research, alignment research, security, strategy) and use them to do huge amounts of useful work in these domains. This phase lasts from the early intelligence explosion (specifically ITAI), until Min-H (definitions": "На ранньому етапі вибуху інтелекту пом’якшити ризик того, що ШІ вчинятиме катастрофічні дії (наприклад, влаштує неконтрольоване внутрішнє розгортання або закладе бекдор у цінності майбутніх моделей). Тим часом здобувати їхні можливості в напрямах, які нас цікавлять (наприклад, дослідження контролю, дослідження узгодження, безпека, стратегія), і використовувати їх для виконання величезних обсягів корисної роботи в цих напрямах. Ця фаза триває від раннього вибуху інтелекту (а саме ITAI) до Min-H (визначення", "Pause at Min-H.": "Пауза на Min-H.", " Once we’ve built AI systems with general purpose capabilities sufficient that we can unsafely hand off trust (Min-H), we pause further AI capabilities progress, and try to build AIs that we can safely hand off trust to. This will centrally involve:": " Щойно ми побудуємо ШІ-системи із загальними можливостями, достатніми для того, щоб небезпечно передати їм довіру (Min-H), ми призупиняємо подальший прогрес можливостей ШІ й намагаємося побудувати ШІ, яким можна безпечно передати довіру. Це передусім передбачатиме:", "Once we’ve built AI systems with general purpose capabilities sufficient that we can unsafely hand off trust (Min-H), we pause further AI capabilities progress, and try to build AIs that we can safely hand off trust to. This will centrally involve:": "Щойно ми побудуємо ШІ-системи із загальними можливостями, достатніми для того, щоб небезпечно передати їм довіру (Min-H), ми призупиняємо подальший прогрес можливостей ШІ й намагаємося побудувати ШІ, яким можна безпечно передати довіру. Це передусім передбачатиме:", "Avoiding alignment faking": "Уникнення імітації узгодженості", ": AIs aren’t so seriously misaligned that they intentionally fake alignment (e.g., they aren’t scheming against us).": ": ШІ не настільки серйозно неузгоджені, щоб навмисно імітувати узгодженість (наприклад, вони не плетуть змову проти нас).", "Solving handoff-viability": "Забезпечення готовності до передачі", ": AIs are sufficiently capable and aligned at autonomously completing all the relevant work for managing the intelligence explosion, including high-stakes, difficult, open-ended, and conceptually loaded tasks where we can’t check the AI’s output effectively (e.g. acausal trade research, ": ": ШІ достатньо здатні й узгоджені, щоб автономно виконувати всю відповідну роботу з управління вибухом інтелекту, включно з високоризиковими, складними, відкритими та концептуально навантаженими завданнями, результат яких ми не можемо ефективно перевірити (наприклад, дослідження акаузальної торгівлі, ", ": AIs are sufficiently capable and aligned at autonomously completing all the relevant work for managing the intelligence explosion, including high-stakes, difficult, open-ended, and conceptually loaded tasks where we can’t check the AI’s output effectively (e.g. acausal trade research,": ": ШІ достатньо здатні й узгоджені, щоб автономно виконувати всю відповідну роботу з управління вибухом інтелекту, включно з високоризиковими, складними, відкритими та концептуально навантаженими завданнями, результат яких ми не можемо ефективно перевірити (наприклад, дослідження акаузальної торгівлі,", "philosophy": "філософія", "Handoff.": "Передача.", " Once we’ve mitigated alignment faking and achieved handoff-viability, then the AI project actually empowers AI systems with the ongoing management of the intelligence explosion.": " Щойно ми пом’якшимо ризик імітації узгодженості та досягнемо готовності до передачі, ШІ-проєкт фактично наділяє ШІ-системи повноваженнями з поточного управління вибухом інтелекту.", "Once we’ve mitigated alignment faking and achieved handoff-viability, then the AI project actually empowers AI systems with the ongoing management of the intelligence explosion.": "Щойно ми пом’якшимо ризик імітації узгодженості та досягнемо готовності до передачі, ШІ-проєкт фактично наділяє ШІ-системи повноваженнями з поточного управління вибухом інтелекту.", "The main alternative to hand off is to instead stall for more time. The main way of doing that would be to escalate to Plans A or B, which would (typically) require substantial government involvement, which may or may not be feasible. A key priority during the other phases will often be to attempt to escalate the level of political will.": "Головна альтернатива передачі — натомість тягнути час. Головний спосіб зробити це — ескалація до Плану А або Плану B, що (як правило) вимагатиме суттєвого залучення уряду, і це може бути як здійсненним, так і ні. Ключовим пріоритетом на інших фазах часто буде спроба підвищити рівень політичної волі.", "After handoff, our ~human level AI systems that we’ve handed off to will need to solve successively more difficult alignment problems so that they can build vastly superhuman AI systems, or they will need to themselves stall for more time.": "Після передачі наші ШІ-системи приблизно людського рівня, яким ми передали повноваження, муситимуть послідовно розв’язувати дедалі складніші проблеми узгодження, щоб побудувати значно надлюдські ШІ-системи, або ж їм самим доведеться тягнути час.", "Then we’ll discuss how the alignment plan changes based on political will:": "Далі ми обговоримо, як план узгодження змінюється залежно від політичної волі:", "In Plan D, we have substantially less political will, no ability to pause, and much less overall labor for handling misalignment risk. This means that plan D will accept a much higher risk budget, and focus exclusively on cheap but low assurance techniques.": "У Плані D ми маємо суттєво менше політичної волі, жодної можливості призупинитися і значно менше загальної праці для управління ризиком неузгодженості. Це означає, що План D прийматиме значно вищий бюджет ризику й зосереджуватиметься виключно на дешевих, але малонадійних техніках.", "In Plan B, the plan is very similar to Plan C, except you have somewhat more time/effort and can spend slightly more resources on more ambitious/higher assurance proposals.": "У Плані B план дуже схожий на План C, за винятком того, що є трохи більше часу/зусиль і можна витратити дещо більше ресурсів на амбітніші пропозиції з вищим рівнем надійності.", "In Plan A, we’ll initially plan similarly to Plan B/C (in order to hedge against the international coordination breaking down), and then once the regime is stable, shifting resources to moonshots, updating to potentially huge amounts of resources.": "У Плані А ми спочатку плануватимемо подібно до Плану B/C (щоб застрахуватися на випадок зриву міжнародної координації), а потім, щойно режим стабілізується, переспрямовуватимемо ресурси на амбітні проривні проєкти, з можливим оновленням до величезних обсягів ресурсів.", "Note that this document focuses on overviewing a plan and discussing relative prioritization rather than on discussing the details of the areas of research and implementation that we’ll be pursuing. The most important research components are discussed in much more detail in the following docs:": "Зауважте, що цей документ зосереджений на огляді плану й обговоренні відносної пріоритезації, а не на деталях напрямів досліджень і реалізації, якими ми займатимемося. Найважливіші дослідницькі компоненти детальніше розглянуто в таких документах:", "Control:": "Контроль:", "The case for ensuring that powerful AIs are controlled.": "Обґрунтування необхідності контролю над потужними ШІ.", "Avoiding Scheming:": "Уникнення змовництва:", "Avoiding scheming (and getting a generally better understanding of scheming)": "Уникнення змовництва (і загалом краще розуміння змовництва)", "Elicitation:": "Здобування:", "Making AIs more useful for safety work": "Робимо ШІ кориснішими для роботи над безпекою", "Handoff:": "Передача:", "Deferring to AIs": "Покладання на ШІ", "Making deals with AIs": "Укладення угод із ШІ", "Making deals with early schemers": "Укладення угод із ранніми змовниками", "Plan C Assumptions": "Припущення Плану C", "Responsible Leader.": "Відповідальний лідер.", " We assume that a responsible AI company is in the lead. Their leadership is willing to take very costly actions in order to mitigate AI takeover risk (e.g. slow down for several months). Despite this, we’ll assume that by default, they’ll have a bias towards proceeding and being willing to take on a large chance of takeover risk to increase their chances of winning.": " Ми припускаємо, що лідирує відповідальна компанія у сфері ШІ. Її керівництво готове вживати дуже витратних заходів, щоб знизити ризик захоплення влади ШІ (наприклад, сповільнитися на кілька місяців). Попри це, ми припускатимемо, що за замовчуванням вони матимуть схильність рухатися вперед і будуть готові прийняти значну ймовірність ризику захоплення влади заради підвищення своїх шансів на перемогу.", "We assume that a responsible AI company is in the lead. Their leadership is willing to take very costly actions in order to mitigate AI takeover risk (e.g. slow down for several months). Despite this, we’ll assume that by default, they’ll have a bias towards proceeding and being willing to take on a large chance of takeover risk to increase their chances of winning.": "Ми припускаємо, що лідирує відповідальна компанія у сфері ШІ. Її керівництво готове вживати дуже витратних заходів, щоб знизити ризик захоплення влади ШІ (наприклад, сповільнитися на кілька місяців). Попри це, ми припускатимемо, що за замовчуванням вони матимуть схильність рухатися вперед і будуть готові прийняти значну ймовірність ризику захоплення влади заради підвищення своїх шансів на перемогу.", "1-12 month lead": "Випередження на 1-12 місяців", " over their competitors. Either trailing US or international AI companies will overtake the leader within 1-12 months.": " над конкурентами. Або відстаючі американські, або міжнародні компанії у сфері ШІ наздоженуть лідера протягом 1-12 місяців.", "over their competitors. Either trailing US or international AI companies will overtake the leader within 1-12 months.": "над конкурентами. Або відстаючі американські, або міжнародні компанії у сфері ШІ наздоженуть лідера протягом 1-12 місяців.", "Though we mostly won’t focus on this scenario, Plan C is also applicable in the case where the USG is sufficiently worried about AI takeover that they are willing to regulate AI companies to mitigate risk as much as possible without losing to China, and without being willing to sabotage China.": "Хоча здебільшого ми не зосереджуватимемося на цьому сценарії, План C застосовний також і у випадку, коли уряд США достатньо стурбований захопленням влади ШІ, щоб бути готовим регулювати ШІ-компанії задля максимального зниження ризику, не програючи Китаю, і не бажаючи саботувати Китай.", "This plan focuses on making effective use of limited resources to spend on safety and doesn’t ensure a high degree of safety (as the level of resources we’re imagining is insufficient for this). Indeed, arguably the most likely outcome of this plan is misaligned AI takeover. Due to having limited resources, this plan will involve proceeding in some situations where the level of risk is substantial (because exogenous risks are higher) and we won’t necessarily gain much confidence about the exact level of risk.": "Цей план зосереджений на ефективному використанні обмежених ресурсів, які виділяються на безпеку, і не забезпечує високого рівня безпеки (оскільки обсяг ресурсів, який ми уявляємо, для цього недостатній). Фактично, найімовірнішим результатом цього плану можна вважати захоплення влади неузгодженим ШІ. Через обмеженість ресурсів цей план передбачатиме продовження дій у деяких ситуаціях зі значним рівнем ризику (бо екзогенні ризики вищі), і ми не обов'язково отримаємо значну впевненість щодо точного рівня ризику.", "Note that we expect that something much less reasonable than this plan will happen in practice, so while this is a recommendation (for what to do with limited resources), it isn’t a prediction.": "Зауважте, що ми очікуємо, що на практиці станеться щось значно менш розумне, ніж цей план, тож хоча це рекомендація (щодо того, що робити з обмеженими ресурсами), це не прогноз.", "Different areas of research and implementation": "Різні напрями досліджень і впровадження", "The plan will involve work in many different areas of research and implementation. The key areas are:": "План передбачає роботу в багатьох різних напрямах досліджень і впровадження. Ключові напрями:", " (and control-adjacent measures): Researching and implementing control. For the purposes of this post, I’m defining this to be a relatively broad category that includes some things which aren’t centrally associated with control but which fit better in this category than in others. When discussing prioritization in this post, I define the category of control such that it doesn’t include security work that is roughly as helpful for security against human adversaries.": " (і заходи, суміжні з контролем): дослідження та впровадження контролю. У межах цього допису я визначаю цю категорію як відносно широку — вона включає деякі речі, не пов'язані з контролем напряму, але які краще підходять сюди, ніж до інших категорій. Коли в цьому дописі йдеться про пріоритизацію, я визначаю категорію контролю так, щоб вона не включала роботу з безпеки, яка приблизно однаково корисна і для захисту від людських супротивників.", "(and control-adjacent measures): Researching and implementing control. For the purposes of this post, I’m defining this to be a relatively broad category that includes some things which aren’t centrally associated with control but which fit better in this category than in others. When discussing prioritization in this post, I define the category of control such that it doesn’t include security work that is roughly as helpful for security against human adversaries.": "(і заходи, суміжні з контролем): дослідження та впровадження контролю. У межах цього допису я визначаю цю категорію як відносно широку — вона включає деякі речі, не пов'язані з контролем напряму, але які краще підходять сюди, ніж до інших категорій. Коли в цьому дописі йдеться про пріоритизацію, я визначаю категорію контролю так, щоб вона не включала роботу з безпеки, яка приблизно однаково корисна і для захисту від людських супротивників.", "Misalignment analogies": "Аналогії неузгодженості", ": Creating and studying AIs analogous to scheming or otherwise misaligned models (sometimes called “": ": створення та вивчення ШІ, аналогічних змовникам або іншим неузгодженим моделям (їх іноді називають «", "model organisms": "модельні організми", "”). This area will be mostly focused on scheming. This includes AIs that are well described as ": "»). Цей напрям буде зосереджений здебільшого на змовництві. Сюди належать ШІ, які добре описуються як ", "”). This area will be mostly focused on scheming. This includes AIs that are well described as": "»). Цей напрям буде зосереджений здебільшого на змовництві. Сюди належать ШІ, які добре описуються як", "natural schemers": "природні змовники", " (but might have been created through a training process rigged to make scheming more likely), ": " (хоча вони могли з'явитися через процес навчання, спеціально влаштований так, щоб зробити змовництво ймовірнішим), ", "(but might have been created through a training process rigged to make scheming more likely),": "(хоча вони могли з'явитися через процес навчання, спеціально влаштований так, щоб зробити змовництво ймовірнішим),", "AIs trained to behave similarly to schemers": "ШІ, натреновані поводитися подібно до змовників", "abstract analogies to scheming models": "абстрактні аналогії до моделей-змовників", ". My (low confidence) guess is that natural schemers are 3/6 of the expected value, AIs trained to behave like schemers are 1/6 of the value, and abstract analogies are 2/6 of the value; that said, we’re likely to increasingly focus on whichever of these areas ends up seeming most promising (but this isn’t very predictable in advance). I’m also including versions of this work focused on demonstrating misalignment risk in this category. I’m including doing technique/interventions testing and/or iteration using these analogies in the category as I expect that most of the work is constructing good analogies and because there will be interaction between analogy construction and technique iteration.": ". Моя (не дуже впевнена) оцінка полягає в тому, що природні змовники становлять 3/6 очікуваної цінності, ШІ, натреновані поводитися як змовники, — 1/6 цінності, а абстрактні аналогії — 2/6 цінності; втім, ми, ймовірно, дедалі більше фокусуватимемося на тому з цих напрямів, який виявиться найперспективнішим (хоча наперед це важко передбачити). Я також включаю в цю категорію версії цієї роботи, зосереджені на демонстрації ризику неузгодженості. Я включаю сюди тестування технік/втручань та/або ітерацію з використанням цих аналогій, оскільки очікую, що більша частина роботи полягає у побудові гарних аналогій, а також через те, що побудова аналогій та ітерація техніки взаємопов'язані.", "Elicitation/handoff-viability": "Здобування / готовність до передачі", ": Making AIs more useful for safety work and working towards handoff-viability (including things like improving AI epistemics, making AIs do a good job on extremely hard research which is loaded on conceptual/philosophical reasoning, ensuring AIs generalize to being highly aligned with pretty high reliability on all the tasks needed for handoff). I include both eliciting useful work and handoff-viability in the same category as the work will often overlap, though important subsets of the work for each of these won’t overlap. Elicitation will include both relatively domain specific capabilities as well as working on avoiding some types of non-worst-case misalignment. Elicitation might also involve more effectively extracting work from clearly misaligned models (e.g. reward-seeking models) including by trying to alter incentives (e.g. proxy-of-reward incentives or making deals with AIs). I discuss handoff-viability in more detail ": ": робимо ШІ кориснішими для роботи над безпекою і працюємо над готовністю до передачі (зокрема через покращення епістеміки ШІ, забезпечення того, щоб ШІ добре справлялися з надзвичайно складними дослідженнями, що спираються на концептуальні/філософські міркування, а також забезпечення того, щоб узагальнення ШІ давало високу узгодженість із достатньо високою надійністю в усіх задачах, потрібних для передачі). Я об'єдную здобування корисної роботи та готовність до передачі в одну категорію, оскільки ця робота часто перетинається, хоча важливі підмножини роботи для кожної з них не перетинаються. Здобування включатиме як можливості, специфічні для певної галузі, так і роботу над уникненням деяких видів неузгодженості, що не є найгіршим випадком. Здобування може також означати ефективніше вилучення роботи з явно неузгоджених моделей (наприклад, моделей, орієнтованих на винагороду), зокрема через спроби змінити стимули (наприклад, стимули-проксі винагороди або укладення угод із ШІ). Готовність до передачі я докладніше обговорюю ", ": Making AIs more useful for safety work and working towards handoff-viability (including things like improving AI epistemics, making AIs do a good job on extremely hard research which is loaded on conceptual/philosophical reasoning, ensuring AIs generalize to being highly aligned with pretty high reliability on all the tasks needed for handoff). I include both eliciting useful work and handoff-viability in the same category as the work will often overlap, though important subsets of the work for each of these won’t overlap. Elicitation will include both relatively domain specific capabilities as well as working on avoiding some types of non-worst-case misalignment. Elicitation might also involve more effectively extracting work from clearly misaligned models (e.g. reward-seeking models) including by trying to alter incentives (e.g. proxy-of-reward incentives or making deals with AIs). I discuss handoff-viability in more detail": ": робимо ШІ кориснішими для роботи над безпекою і працюємо над готовністю до передачі (зокрема через покращення епістеміки ШІ, забезпечення того, щоб ШІ добре справлялися з надзвичайно складними дослідженнями, що спираються на концептуальні/філософські міркування, а також забезпечення того, щоб узагальнення ШІ давало високу узгодженість із достатньо високою надійністю в усіх задачах, потрібних для передачі). Я об'єдную здобування корисної роботи та готовність до передачі в одну категорію, оскільки ця робота часто перетинається, хоча важливі підмножини роботи для кожної з них не перетинаються. Здобування включатиме як можливості, специфічні для певної галузі, так і роботу над уникненням деяких видів неузгодженості, що не є найгіршим випадком. Здобування може також означати ефективніше вилучення роботи з явно неузгоджених моделей (наприклад, моделей, орієнтованих на винагороду), зокрема через спроби змінити стимули (наприклад, стимули-проксі винагороди або укладення угод із ШІ). Готовність до передачі я докладніше обговорюю", "Misc science/interventions": "Інші наукові напрями/втручання", ": This includes studying interventions that we’d a priori expect to be helpful or which we can test in ways other than via using misalignment analogies and studying properties of AI that seem relevant. This is intentionally an “other” category which includes promising areas of safety work beyond the categories above. This includes: various types of interpretability, studying and improving chain of thought faithfulness (in the non-adversarial case, as the adversarial case is included under control), developing methods which we a priori expect to reduce the chance of scheming (rather than developing the method by studying or iterating on analogies to scheming), making deals with AIs, AI welfare, studying how AIs learn and generalize, various moonshots, improving honesty and eliciting (latent) knowledge, and generally looking for cases where current AIs behave strangely or are misaligned.": ": сюди належить вивчення втручань, які ми апріорі очікуємо корисними, або які можна перевірити іншими способами, ніж через аналогії неузгодженості, а також вивчення властивостей ШІ, що видаються релевантними. Це навмисно «інша» категорія, яка охоплює перспективні напрями роботи з безпеки поза наведеними вище категоріями. Сюди входять: різні види інтерпретовності, вивчення та покращення правдивості ланцюжка міркувань (CoT) (у незмагальному випадку, оскільки змагальний випадок входить до категорії контролю), розробка методів, які ми апріорі вважаємо здатними знизити ймовірність змовництва (а не розробка методу шляхом вивчення аналогій до змовництва або ітерації на них), укладення угод із ШІ, добробут ШІ, вивчення того, як ШІ навчаються та узагальнюють, різні амбітні проривні проєкти, покращення чесності та здобування (латентного) знання, а також загальний пошук випадків, коли теперішні ШІ поводяться дивно або є неузгодженими.", "Buying time": "Купівля часу", ": Using AI labor to buy time for further safety work. This involves trying to increase the willingness to pay of other actors (centrally the US government and other governments) for lead time, reducing the cost of acquiring lead time for these other actors, and directly acquiring lead time. This could involve assisting the US government with non-proliferation efforts, various types of policy work, helping with verification effort for international coordination, making money to spend on various efforts to buy time, and delivering AI services which allow for various deals to remain stable. It also involves generally trying to convince other actors that they should care more about buying lead time (e.g., assisting with non-proliferation efforts) that can be spent on reducing misalignment risk (and other risks), though much of this work is at least partially included under other categories (in particular, misalignment analogies and demonstrating capabilities).": ": використання праці ШІ для того, щоб виграти час для подальшої роботи над безпекою. Це включає спроби підвищити готовність інших акторів (насамперед уряду США та інших урядів) платити за час випередження, зниження вартості отримання часу випередження для цих акторів, а також безпосереднє отримання часу випередження. Це може включати допомогу уряду США в зусиллях з нерозповсюдження, різні види політичної роботи, допомогу з верифікацією для міжнародної координації, заробляння грошей для витрачання на різні зусилля з виграшу часу, а також надання ШІ-послуг, які дають змогу різним угодам залишатися стабільними. Це також включає загальні спроби переконати інших акторів, що їм варто більше дбати про виграш часу випередження (наприклад, допомагаючи із зусиллями з нерозповсюдження), який можна витратити на зниження ризику неузгодженості (та інших ризиків), хоча значна частина цієї роботи принаймні частково входить до інших категорій (зокрема, аналогій неузгодженості та демонстрації можливостей).", "Evaluating and demonstrating capabilities": "Оцінка та демонстрація можливостей", ": This includes evaluations and demonstrations of capabilities for the purpose of making other actors better understand the situation. Demonstrations of capabilities might be a key part of increasing the willingness to pay of other actors on mitigating risks related to AI. It doesn’t include evaluations which are directly relevant for control (e.g., control evaluations and evaluations of whether models are capable enough that they could plausibly be schemers), but does include evaluations aimed at generally understanding the situation and (e.g.) assessing what level of security is appropriate.": ": сюди належать оцінювання та демонстрації можливостей з метою допомогти іншим акторам краще зрозуміти ситуацію. Демонстрації можливостей можуть стати ключовою частиною підвищення готовності інших акторів платити за зниження ризиків, пов'язаних із ШІ. Це не включає оцінювання, які напряму стосуються контролю (наприклад, оцінки контролю та оцінки того, чи достатньо здатні моделі, щоб правдоподібно бути змовниками), але включає оцінювання, спрямовані на загальне розуміння ситуації та, наприклад, визначення того, який рівень безпеки є доречним.", "This list excludes some areas which receive less focus in this plan but are still important such as hardening the world against rogue AIs (e.g. biodefence and cyber defence).": "Цей перелік не включає деякі напрями, яким у цьому плані приділяється менше уваги, але які все одно важливі — наприклад, убезпечення світу від неконтрольованих ШІ (зокрема, біозахист і кіберзахист).", "Core methodologies": "Основні методології", "This plan aims to use a relatively iterative and empirical approach, because I think this is probably doable once you have powerful AIs. As part of this, control, misalignment analogies, and elicitation/handoff viability each have core methodologies that form the main empirical feedback loop for that methodology. The methodologies for these are, respectively:": "Цей план спрямований на використання відносно ітеративного й емпіричного підходу, оскільки я вважаю, що це, ймовірно, здійсненно, щойно з'являться потужні ШІ. У рамках цього контроль, аналогії неузгодженості та здобування/готовність до передачі мають власні основні методології, які формують головну емпіричну петлю зворотного зв'язку для кожного напряму. Методології для них такі, відповідно:", "Control evaluations": "Оцінки контролю", ": Control is ": ": контроль ", ": Control is": ": контроль", "relatively easy to evaluate": "відносно легко оцінити", " because it just requires estimating capabilities. This makes iteration easier and control is generally relatively easy to iterate on for reasons we’ve discussed in prior work. A large fraction of our hope for control will be based on doing a good job iterating using something like control evaluations (though we might be more flexible than a very narrow notion of control evaluations which depends on eliciting capabilities from models, see ": ", оскільки для цього потрібно лише оцінити можливості. Це полегшує ітерацію, і контроль загалом відносно легко ітерувати з причин, які ми обговорювали в попередній роботі. Значна частина нашої надії на контроль базуватиметься на якісній ітерації з використанням чогось на кшталт оцінок контролю (хоча ми можемо бути гнучкішими за дуже вузьке поняття оцінок контролю, яке залежить від здобування можливостей із моделей, див. ", "because it just requires estimating capabilities. This makes iteration easier and control is generally relatively easy to iterate on for reasons we’ve discussed in prior work. A large fraction of our hope for control will be based on doing a good job iterating using something like control evaluations (though we might be more flexible than a very narrow notion of control evaluations which depends on eliciting capabilities from models, see": ", оскільки для цього потрібно лише оцінити можливості. Це полегшує ітерацію, і контроль загалом відносно легко ітерувати з причин, які ми обговорювали в попередній роботі. Значна частина нашої надії на контроль базуватиметься на якісній ітерації з використанням чогось на кшталт оцінок контролю (хоча ми можемо бути гнучкішими за дуже вузьке поняття оцінок контролю, яке залежить від здобування можливостей із моделей, див.", "Misalignment analogies iteration": "Ітерація на аналогіях неузгодженості", ": Ultimately, our main hope for avoiding scheming is probably iterating using misalignment analogies. This is a somewhat broader and less well defined category than control evaluations, but I still think it’s worth highlighting. Iterating on misalignment analogies is also trickier and less well understood than control evaluations (which themselves aren’t that well understood), but I think it’s pretty likely to be feasible.": ": зрештою, наша головна надія на уникнення змовництва — це, ймовірно, ітерація з використанням аналогій неузгодженості. Це дещо ширша і менш чітко визначена категорія, ніж оцінки контролю, але я все одно вважаю, що варто виділити її окремо. Ітерація на аналогіях неузгодженості також складніша й гірше вивчена, ніж оцінки контролю (які самі по собі вивчені не дуже добре), але, на мою думку, це цілком імовірно здійсненно.", "Building and iterating against behavioral tests": "Побудова поведінкових тестів та ітерація за ними", ": If we assume that AIs aren’t intentionally faking alignment, then their behavior in typical circumstances (and even under some level of generalization) can probably be understood reasonably well using behavioral tests (at least if we’re somewhat careful in how we design these tests, including doing things like building analogies for generalization we need). This will be a key part of how we achieve handoff-viability: we’ll (aim to) build behavioral tests which in aggregate aim to evaluate whether handoff would go well (assuming we’ve avoided scheming) and then we’ll iterate against these tests. I discuss this more ": ": якщо припустити, що ШІ навмисно не імітують узгодженість, то їхню поведінку в типових обставинах (і навіть за певного рівня узагальнення) імовірно можна досить добре зрозуміти за допомогою поведінкових тестів (принаймні якщо ми будемо доволі обережні в тому, як розробляємо ці тести, зокрема будуючи аналогії для потрібного нам узагальнення). Це стане ключовою частиною того, як ми досягнемо готовності до передачі: ми (прагнутимемо) побудувати поведінкові тести, які загалом покликані оцінити, чи пройде передача добре (за умови, що ми уникнули змовництва), а потім ітеруватимемо на основі цих тестів. Докладніше я обговорюю це ", ": If we assume that AIs aren’t intentionally faking alignment, then their behavior in typical circumstances (and even under some level of generalization) can probably be understood reasonably well using behavioral tests (at least if we’re somewhat careful in how we design these tests, including doing things like building analogies for generalization we need). This will be a key part of how we achieve handoff-viability: we’ll (aim to) build behavioral tests which in aggregate aim to evaluate whether handoff would go well (assuming we’ve avoided scheming) and then we’ll iterate against these tests. I discuss this more": ": якщо припустити, що ШІ навмисно не імітують узгодженість, то їхню поведінку в типових обставинах (і навіть за певного рівня узагальнення) імовірно можна досить добре зрозуміти за допомогою поведінкових тестів (принаймні якщо ми будемо доволі обережні в тому, як розробляємо ці тести, зокрема будуючи аналогії для потрібного нам узагальнення). Це стане ключовою частиною того, як ми досягнемо готовності до передачі: ми (прагнутимемо) побудувати поведінкові тести, які загалом покликані оцінити, чи пройде передача добре (за умови, що ми уникнули змовництва), а потім ітеруватимемо на основі цих тестів. Докладніше я обговорюю це", ". We can also use behavioral tests (likely somewhat different behavioral tests) for ongoing work on elicitation (increasing AI output on safety relevant tasks), though one issue is that this might not be robust to scheming (if the behavioral tests are easy to distinguish from actual usage). We can instead measure AI performance on actual usage (technically this is just a special case of a behavioral test) which might be trickier, but could yield more accurate measurements in addition to potentially being robust to scheming (though we should consider trying to adversarially evaluate our measurement approach using something like a control evaluation to probe for issues). Directly measuring AI performance on actual usage won’t suffice for handoff-viability (as we’ll need to evaluate things like alignment and capabilities even on tricky and very hard-to-check conceptual work).": ". Ми також можемо використовувати поведінкові тести (ймовірно, дещо інші поведінкові тести) для поточної роботи над здобуванням (збільшення виробітку ШІ на задачах, релевантних для безпеки), хоча одна з проблем полягає в тому, що це може бути не стійким до змовництва (якщо поведінкові тести легко відрізнити від реального використання). Натомість ми можемо вимірювати продуктивність ШІ під час реального використання (технічно це просто окремий випадок поведінкового тесту), що може бути складніше, але здатне давати точніші вимірювання, а також потенційно бути стійким до змовництва (хоча варто розглянути спробу змагально оцінити наш підхід до вимірювання за допомогою чогось на кшталт оцінки контролю, щоб виявити проблеми). Пряме вимірювання продуктивності ШІ під час реального використання не буде достатнім для готовності до передачі (оскільки нам потрібно буде оцінювати такі речі, як узгодженість і можливості, навіть у складній і дуже важкій для перевірки концептуальній роботі).", "A large fraction of work, especially work in the misc science/interventions category, won’t use any of these core methodologies and will instead rely on ad hoc evaluation methodologies, researchers generally trying to understand what is going on, or researchers judging whether a technique is a priori useful without depending (much) on empirical evidence. One way to categorize work on mitigating misalignment is by methodology using the three categories given above combined with a “misc” category.": "Значна частина роботи, особливо в категорії інших наукових напрямів/втручань, не використовуватиме жодну з цих основних методологій, а натомість спиратиметься на методології оцінювання ad hoc, на те, що дослідники загалом намагаються зрозуміти, що відбувається, або на те, що дослідники судять, чи є техніка апріорі корисною, не покладаючись (значною мірою) на емпіричні докази. Один зі способів класифікувати роботу зі зниження неузгодженості — за методологією, використовуючи три наведені вище категорії у поєднанні з категорією «різне».", "In practice, this plan is somewhat reliant on some version of each of these core methodologies working out, so getting these methodologies to work well (or noticing that they aren’t workable) is important. That said, there is a bunch of work in this plan which doesn’t use these exact feedback loops (and either uses other feedback loops and/or focuses mostly on approaches which seem a priori helpful so they don’t need (as much of) a feedback loop).": "На практиці цей план певною мірою залежить від того, чи спрацює якась версія кожної з цих основних методологій, тож важливо домогтися, щоб ці методології працювали добре (або вчасно помітити, що вони не працюють). Втім, у цьому плані є чимало роботи, яка не використовує саме ці петлі зворотного зв'язку (і або використовує інші петлі зворотного зв'язку, і/або зосереджується здебільшого на підходах, які видаються апріорі корисними, тож не потребують (такою ж мірою) петлі зворотного зв'язку).", "Once AIs are capable enough to be risky, these methodologies should hopefully allow us to iterate in a way which is pretty tightly coupled to the actual risk/problem. This will require focusing each of the methodologies on tighter/closer testing: increasingly direct control test beds (focused on the exact usages of the model in the exact deployment situation), misalignment analogies focused on more plausible training runs, increasing emphasis on direct measures of usefulness at automating/accelerating safety work, and handoff-viability behavioral tests that focus on key tasks after handoff.": "Щойно ШІ стануть достатньо здатними, щоб бути ризикованими, ці методології, сподіваємося, дозволять нам ітерувати у спосіб, тісно пов'язаний із реальним ризиком/проблемою. Це вимагатиме зосередження кожної з методологій на щільнішому/ближчому тестуванні: дедалі пряміших тестових стендів контролю (зосереджених на точних випадках використання моделі в точній ситуації розгортання), аналогій неузгодженості, зосереджених на правдоподібніших навчальних запусках, посилення акценту на прямих вимірах корисності в автоматизації/пришвидшенні роботи над безпекою, а також поведінкових тестів готовності до передачі, зосереджених на ключових задачах після передачі.", "Building the test beds and evaluations required for this iteration (especially the iteration we want to do on highly capable systems), will be a substantial fraction of the difficulty, potentially the majority of the difficulty for each of these methodologies.": "Побудова тестових стендів і оцінок, необхідних для цієї ітерації (особливо ітерації, яку ми хочемо проводити на дуже здатних системах), становитиме значну частину складності, а можливо, і більшість складності для кожної з цих методологій.", "For more discussion of relevant methodologies, see ": "Детальніше про відповідні методології див. ", "For more discussion of relevant methodologies, see": "Детальніше про відповідні методології див.", "this discussion of protocol evaluations": "це обговорення оцінок протоколів", " (in the ontology used in the linked post, good analogies correspond to “building and iterating against behavioral tests” and “model organisms” correspond to “misalignment analogies”).": " (в онтології, що використовується в пов’язаному дописі, хороші аналогії відповідають «побудові та ітерації на основі поведінкових тестів», а «модельні організми» відповідають «аналогіям неузгодженості»).", "(in the ontology used in the linked post, good analogies correspond to “building and iterating against behavioral tests” and “model organisms” correspond to “misalignment analogies”).": "(в онтології, що використовується в пов’язаному дописі, хороші аналогії відповідають «побудові та ітерації на основі поведінкових тестів», а «модельні організми» відповідають «аналогіям неузгодженості»).", "What do we do if our core methodologies don’t work (well enough)?": "Що робити, якщо наші основні методології не працюють (достатньо добре)?", "This plan is based on the three core methodologies above: control evaluations, misalignment analogies, and behavioral tests. These methodologies are a key part of how we’ll achieve some of our main objectives of ensuring control, avoiding scheming, and handoff-viability / eliciting useful labor out of AIs (respectively). Thus, if these methodologies don’t work (well), we’ll have a much harder time achieving our most important objectives.": "Цей план ґрунтується на трьох основних методологіях, описаних вище: оцінках контролю, аналогіях неузгодженості та поведінкових тестах. Ці методології є ключовою складовою того, як ми досягнемо деяких наших головних цілей — забезпечення контролю, уникнення змовництва та готовності до передачі / здобування корисної праці з ШІ (відповідно). Тож якщо ці методології не працюватимуть (добре), нам буде значно важче досягти наших найважливіших цілей.", "Not working could mean:": "«Не працювати» може означати:", "Known methodology failure": "Відомий збій методології", ": We’re aware that we’re unable to iterate effectively using the methodology or we can’t get much understanding of whether we’ve succeeded at the objective using the methodology.": ": ми усвідомлюємо, що не можемо ефективно ітерувати за допомогою цієї методології або не можемо достатньо зрозуміти, чи досягли ми мети за допомогою цієї методології.", "Iteration speed is too slow": "Швидкість ітерації занадто низька", " (without overfitting): It could just be that we can’t iterate fast enough to succeed on time. We might or might not understand this before we run out of time.": " (без перенавчання): може просто виявитися, що ми не можемо ітерувати достатньо швидко, щоб встигнути вчасно. Ми можемо зрозуміти це до того, як у нас закінчиться час, а можемо й не зрозуміти.", "(without overfitting): It could just be that we can’t iterate fast enough to succeed on time. We might or might not understand this before we run out of time.": "(без перенавчання): може просто виявитися, що ми не можемо ітерувати достатньо швидко, щоб встигнути вчасно. Ми можемо зрозуміти це до того, як у нас закінчиться час, а можемо й не зрозуміти.", "Unknown methodology failure": "Невідомий збій методології", ": The methodology could fail while we think it actually works. In this case, we can’t update our plans based on this failure and instead we’re just in trouble (though control and avoiding scheming can act as independent lines of defense).": ": методологія може дати збій, тоді як ми вважатимемо, що вона насправді працює. У цьому разі ми не можемо скоригувати наші плани на основі цього збою, і натомість ми просто опиняємось у біді (хоча контроль та уникнення змовництва можуть слугувати незалежними лініями оборони).", "Regardless, if the methodology won’t work for achieving our objective on time (and we know this), we could either give up on the objective or pivot to approaches which don’t require iterating against some test or allow for iteration with a different methodology.": "У будь-якому разі, якщо методологія не спрацює для досягнення нашої мети вчасно (і ми це знаємо), ми можемо або відмовитися від мети, або перейти до підходів, які не потребують ітерації на основі якогось тесту, або дозволяють ітерацію за допомогою іншої методології.", "Broadly speaking, pivoting towards approaches which don’t require iteration means we’d be pivoting to ": "Загалом кажучи, перехід до підходів, які не потребують ітерації, означає перехід до ", "Broadly speaking, pivoting towards approaches which don’t require iteration means we’d be pivoting to": "Загалом кажучи, перехід до підходів, які не потребують ітерації, означає перехід до", "principled": "принципових", " approaches. That is, approaches where we have some (strong) a priori reason for thinking the method works which doesn’t require verification. That is, it at least doesn’t require verification in the exact domain of interest, maybe we’d need to establish that the given principled approach/method works for accomplishing something else in some other context we can verify. I discuss principled approaches for avoiding scheming in much more detail ": " підходів. Тобто підходів, де ми маємо якусь (вагому) апріорну причину вважати, що метод працює, і це не потребує верифікації. Тобто це принаймні не потребує верифікації саме в тій області, що нас цікавить — можливо, нам доведеться встановити, що даний принциповий підхід/метод працює для досягнення чогось іншого в якомусь іншому контексті, який ми можемо верифікувати. Я детальніше розглядаю принципові підходи до уникнення змовництва ", "approaches. That is, approaches where we have some (strong) a priori reason for thinking the method works which doesn’t require verification. That is, it at least doesn’t require verification in the exact domain of interest, maybe we’d need to establish that the given principled approach/method works for accomplishing something else in some other context we can verify. I discuss principled approaches for avoiding scheming in much more detail": "підходів. Тобто підходів, де ми маємо якусь (вагому) апріорну причину вважати, що метод працює, і це не потребує верифікації. Тобто це принаймні не потребує верифікації саме в тій області, що нас цікавить — можливо, нам доведеться встановити, що даний принциповий підхід/метод працює для досягнення чогось іншого в якомусь іншому контексті, який ми можемо верифікувати. Я детальніше розглядаю принципові підходи до уникнення змовництва", "; the single most promising approach would be ensuring relevant reasoning is monitorable (e.g. monitorable chain-of-thought) such that the AI is incapable of (undetected) scheming while retaining sufficient capabilities. We might be able to find some iteration loop which isn’t as likely to transfer as our original methodology but still has sufficient transfer for some class of at-least-somewhat principled techniques.": "; найперспективнішим підходом було б забезпечити, щоб відповідні міркування були відстежуваними (наприклад, відстежуваний ланцюжок міркувань (CoT)), так щоб ШІ був нездатний на (непомітне) змовництво, зберігаючи при цьому достатні можливості. Можливо, нам вдасться знайти якийсь цикл ітерації, який менш імовірно перенесеться так само добре, як наша початкова методологія, але все ж матиме достатнє перенесення для якогось класу принаймні частково принципових технік.", "Note that many of these methodologies are pretty broad and include many possible ways to get around different problems. For instance, control evaluations could be done in a variety of different ways to work around problems; we discuss some of these ": "Зауважте, що багато з цих методологій доволі широкі й включають безліч можливих способів обійти різні проблеми. Наприклад, оцінки контролю можна проводити багатьма різними способами, щоб обійти проблеми; деякі з них ми обговорюємо ", "Note that many of these methodologies are pretty broad and include many possible ways to get around different problems. For instance, control evaluations could be done in a variety of different ways to work around problems; we discuss some of these": "Зауважте, що багато з цих методологій доволі широкі й включають безліч можливих способів обійти різні проблеми. Наприклад, оцінки контролю можна проводити багатьма різними способами, щоб обійти проблеми; деякі з них ми обговорюємо", "This phase lasts from now until the beginning of the intelligence explosion (specifically: once we reach ITAI; defined here). During this phase, the AIs are sufficiently weak that they don’t directly pose major existential risks": "Ця фаза триває від сьогодні до початку вибуху інтелекту (точніше: після досягнення ITAI; визначення тут). Протягом цієї фази ШІ-системи є достатньо слабкими, щоб не становити безпосередньо значних екзистенційних ризиків", " and aren’t transformatively useful for accelerating safety work. Therefore, this phase will be focused mostly on preparing to deal with risks from scheming AIs with some emphasis on preparing to elicit labor from AIs and generally helpful safety research.": " і водночас не є трансформативно корисними для прискорення роботи з безпеки. Тому ця фаза буде зосереджена переважно на підготовці до подолання ризиків від ШІ-змовників, з певним акцентом на підготовку до здобування праці з ШІ та на загалом корисні дослідження з безпеки.", "and aren’t transformatively useful for accelerating safety work. Therefore, this phase will be focused mostly on preparing to deal with risks from scheming AIs with some emphasis on preparing to elicit labor from AIs and generally helpful safety research.": "і водночас не є трансформативно корисними для прискорення роботи з безпеки. Тому ця фаза буде зосереджена переважно на підготовці до подолання ризиків від ШІ-змовників, з певним акцентом на підготовку до здобування праці з ШІ та на загалом корисні дослідження з безпеки.", "Our work at this point on handling risks from egregiously misaligned AIs will be most focused on control while also having a substantial focus on misalignment analogies and some focus on miscellaneous research directions (typically more speculative approaches or building general understanding).": "Наша робота на цьому етапі щодо подолання ризиків від кричуще неузгоджених ШІ буде зосереджена переважно на контролі, при цьому значна увага також приділятиметься аналогіям неузгодженості, і дещо — різноманітним іншим дослідницьким напрямкам (зазвичай більш спекулятивним підходам або формуванню загального розуміння).", "Our technical AI safety prioritization is substantially altered by currently having pretty weak AIs which aren’t that interesting to study while simultaneously needing to be ready to handle risks from these AIs later.": "Наша пріоритизація технічної безпеки ШІ суттєво змінюється через те, що наразі ми маємо доволі слабкі ШІ-системи, які не такі вже й цікаві для вивчення, тоді як водночас нам потрібно бути готовими впоратися з ризиками від цих ШІ пізніше.", "This makes it relatively more leveraged to work on control (both research and implementation) as this work benefits less from being able to directly study the dangerous AIs and we need it to be prepared for later.": "Це робить роботу над контролем (як дослідження, так і впровадження) відносно вигіднішою, оскільки ця робота менше залежить від можливості безпосередньо вивчати небезпечні ШІ, а нам потрібно, щоб вона була готова на майбутнє.", "It’s also relatively more leveraged to developing interventions or studying model properties that we’d expect to be broadly invariant to future AI development. As in, we’d be almost as good studying these interventions/properties on weak models in the future. This likely includes various model internals interventions and some more moonshot style approaches. However, directions which seem this invariant to future AI development don’t generally seem that promising at an absolute level, so this doesn’t alter the prioritization very much.": "Також відносно вигідніше розробляти втручання або вивчати властивості моделей, які, як ми очікуємо, будуть загалом інваріантними щодо майбутнього розвитку ШІ. Тобто ми б майже так само добре могли вивчати ці втручання/властивості на слабких моделях і в майбутньому. Сюди, ймовірно, входять різноманітні втручання у внутрішній устрій моделі та деякі більш амбітні проривні підходи. Однак напрямки, які здаються настільки інваріантними щодо майбутнього розвитку ШІ, зазвичай не виглядають дуже перспективними в абсолютному вимірі, тож це не сильно змінює пріоритизацію.", "During most or all of the prep phase, we won’t be confident about the properties of the powerful AIs we need to handle or the level of political will to expect. Correspondingly, our approach will need to be quite agnostic to the future situation and we’ll need to prepare for many scenarios. The extent to which we prepare specifically for a given scenario doesn’t just depend on our (subjective) probability of that scenario, but also on how much marginal effort reduces risk in that scenario. Under my (Ryan’s) views, this generally implies focusing preparation on relatively riskier worlds.": "Протягом більшої частини або всієї фази підготовки ми не будемо впевнені щодо властивостей потужних ШІ, з якими нам доведеться мати справу, чи щодо рівня політичної волі, на який варто розраховувати. Відповідно, наш підхід має бути доволі агностичним щодо майбутньої ситуації, і нам потрібно буде готуватися до багатьох сценаріїв. Те, наскільки саме ми готуємося до конкретного сценарію, залежить не лише від нашої (суб’єктивної) оцінки ймовірності цього сценарію, а й від того, наскільки додаткові зусилля знижують ризик у цьому сценарії. На мою (Ryan) думку, це загалом означає, що підготовку варто зосереджувати на відносно ризикованіших світах.", "PHASE 1 DIVISION OF TECHNICAL AI SAFETY WORK": "ФАЗА 1: РОЗПОДІЛ РОБОТИ З ТЕХНІЧНОЇ БЕЗПЕКИ ШІ", "Below, I propose a division of work in terms of how much effort we should be putting into different areas of work. This division will shift over time as we get more powerful models, so this exact division isn’t right for the entire Prep period. You can think of this division as targeting towards the end of the prep phase somewhat before ITAI, perhaps around “1.5x AI R&D labor acceleration”. (You could interpolate between this and what I say later in the mitigate and elicit section to better understand how our prioritization will evolve over time.)": "Нижче я пропоную розподіл роботи з погляду того, скільки зусиль варто вкладати в різні напрямки роботи. Цей розподіл змінюватиметься з часом, у міру появи потужніших моделей, тож цей конкретний розподіл не підходить для всього періоду Підготовки. Цей розподіл можна розглядати як орієнтований на кінець фази підготовки, десь трохи до ITAI, приблизно на рівні «1.5x прискорення праці AI R&D». (Ви можете інтерполювати між цим і тим, що я скажу далі в розділі про пом’якшення та здобування, щоб краще зрозуміти, як наша пріоритизація змінюватиметься з часом.)", "My division of work will divide things into multiple areas, but some things in one area will also be relevant to another area. For instance, we want a very good human auditing process for control, but this might also help with generally improving feedback which helps with elicitation (and many of the low-stakes control interventions will have overlap with elicitation). Also, improved approaches for feedback could be used to make feedback consistently better across training which might (more speculatively) reduce the risk of scheming.": "Мій розподіл роботи поділяє все на кілька напрямків, але деякі речі в одному напрямку також будуть релевантні для іншого. Наприклад, нам потрібен дуже якісний процес людського аудиту для контролю, але це також може допомогти в загальному покращенні зворотного зв’язку, що своєю чергою допомагає зі здобуванням (і багато з низькоризикових втручань контролю перетинатимуться зі здобуванням). Також покращені підходи до зворотного зв’язку можна використати, щоб зробити зворотний зв’язок стабільно кращим протягом усього навчання, що (більш спекулятивно) може знизити ризик змовництва.", "Here is my best guess for what our division of technical AI safety work (not including security interventions) at this point should be:": "Ось моє найкраще припущення щодо того, яким на цьому етапі має бути розподіл роботи з технічної безпеки ШІ (без урахування втручань з безпеки):", " (and control-adjacent measures). (Recall that this is a relatively broad category which includes some things which aren’t centrally associated with control but which I thought more so fit in this category than in others. Also recall that I’m not including security work which is roughly as helpful for security against human adversaries under control.)": " (та суміжних із контролем заходів). (Нагадаємо, що це відносно широка категорія, яка включає деякі речі, не пов’язані безпосередньо з контролем, але які, на мою думку, більше підходять до цієї категорії, ніж до інших. Також нагадаємо, що я не включаю роботу з безпеки, яка приблизно так само корисна для захисту від людських супротивників за умов контролю.)", "(and control-adjacent measures). (Recall that this is a relatively broad category which includes some things which aren’t centrally associated with control but which I thought more so fit in this category than in others. Also recall that I’m not including security work which is roughly as helpful for security against human adversaries under control.)": "(та суміжних із контролем заходів). (Нагадаємо, що це відносно широка категорія, яка включає деякі речі, не пов’язані безпосередньо з контролем, але які, на мою думку, більше підходять до цієї категорії, ніж до інших. Також нагадаємо, що я не включаю роботу з безпеки, яка приблизно так само корисна для захисту від людських супротивників за умов контролю.)", "21% misc ML/AI focused control research and implementation. This includes things like experiments involving humans, mitigations to memetic spread / AI coordination, manipulating capability profile with dataset filtering/unlearning/gradient-routing/etc, and control related science and model properties like exploration hacking and steganography (including studying chain-of-thought monitorability). A bunch of the misc control related science is broadly applicable.": "21% різноманітні дослідження та впровадження контролю, орієнтовані на ML/AI. Сюди входять такі речі, як експерименти за участю людей, пом’якшення мемного поширення / координації ШІ, маніпулювання профілем можливостей за допомогою dataset filtering/unlearning/gradient-routing тощо, а також наука про контроль і властивості моделей, такі як маніпулювання дослідницькою поведінкою та стеганографія (включно з вивченням відстежуваності ланцюжка міркувань (CoT)). Значна частина цієї різноманітної науки, пов’язаної з контролем, широко застосовна.", "4% software infrastructure needed for control (procrastinating on this until we have AIs which are very helpful for building this infrastructure isn’t crazy, though we do need to ensure the AIs which build this infra are controlled or too weak to plausibly be scheming)": "4% програмна інфраструктура, необхідна для контролю (відкладати це до появи ШІ, які будуть дуже корисними для побудови цієї інфраструктури, — не така вже й божевільна ідея, хоча нам таки потрібно переконатися, що ШІ, які будують цю інфраструктуру, контрольовані або занадто слабкі, щоб правдоподібно займатися змовництвом)", "6% building a high quality human evaluation process which is robust to scheming (also useful for making AIs more useful for safety work and plausibly for general capabilities longer term)": "6% побудова високоякісного процесу людської оцінки, стійкого до змовництва (також корисно для того, щоб зробити ШІ кориснішими для роботи з безпеки, і, ймовірно, для загальних можливостей у довшій перспективі)", "2% studying probes and similar model internals detection techniques (with a focus on control)": "2% вивчення probes та подібних технік виявлення на основі внутрішнього устрою моделі (з акцентом на контроль)", " At this point, this work is most focused on generating evidence for risks and on practicing doing this work later.": " На цьому етапі ця робота зосереджена переважно на отриманні доказів ризиків і на відпрацюванні навички виконання цієї роботи в майбутньому.", "At this point, this work is most focused on generating evidence for risks and on practicing doing this work later.": "На цьому етапі ця робота зосереджена переважно на отриманні доказів ризиків і на відпрацюванні навички виконання цієї роботи в майбутньому.", "10% misalignment analogies of scheming (including more exotic origins for scheming like alignment drift, reflection, etc).": "10% аналогії неузгодженості змовництва (включно з більш екзотичними джерелами змовництва, такими як дрейф узгодженості, рефлексія тощо).", "2% misalignment analogies of other threat models": "2% аналогії неузгодженості для інших моделей загроз", "2% studying mitigations by trying stuff on misalignment analogies. E.g. could try various types of corrigibility training. Could try improving oversight to make AIs less evil.": "2% вивчення заходів пом’якшення шляхом випробування різних підходів на аналогіях неузгодженості. Наприклад, можна спробувати різні типи навчання коригованості. Можна спробувати покращити нагляд, щоб зробити ШІ менш злими.", "1% generally study AI personas+propensities and how this is shaped by training": "1% загальне вивчення персон і схильностей ШІ та того, як це формується навчанням", "6% Improving AI epistemics and philosophical/conceptual reasoning: making AIs which are aligned, capable, and well elicited at conceptual/fuzzy domains and which have good epistemics. Ideally, you’d end up deploying an AI with an impressive ability at truth seeking which would actually be useful for a bunch of applications. And you’d have people actually doing this sort of research as both customers and working on this (making useful AI tools, especially when building the tool requires solving some problems that might generalize, and trying to automate what they are doing)": "6% Покращення епістеміки ШІ та філософських/концептуальних міркувань: створення ШІ, які узгоджені, здатні, мають добре здобуті можливості в концептуальних/розмитих сферах і хорошу епістеміку. В ідеалі, у підсумку ви розгортаєте ШІ з вражаючою здатністю до пошуку істини, яка справді була б корисною для багатьох застосувань. І у вас були б люди, які фактично займаються такого роду дослідженнями — і як замовники, і як виконавці (створюючи корисні інструменти на основі ШІ, особливо коли побудова інструменту вимагає розв’язання проблем, які можуть узагальнюватися, і намагаючись автоматизувати те, що вони роблять)", "5% generally trying to apply AIs to assist the rest of this safety work and making AIs more useful for this. This includes resolving (relatively) mundane forms of misalignment which especially interfere with safety work. This also includes stuff like mitigating reward hacking. This also includes making AIs useful for outside groups doing important work.": "5% загальні спроби застосувати ШІ для допомоги в решті цієї роботи з безпеки та зробити ШІ кориснішими для цього. Сюди входить розв’язання (відносно) буденних форм неузгодженості, які особливо заважають роботі з безпеки. Сюди також входять такі речі, як пом’якшення хакінгу винагороди. Сюди також входить те, щоб зробити ШІ корисними для зовнішніх груп, які виконують важливу роботу.", "3% prepping to apply AI for slowing down and USG applications": "3% підготовка до застосування ШІ для сповільнення та застосувань для USG", "2% other aspects of handoff-viability, e.g. studying how we’d make a functioning AI society": "2% інші аспекти готовності до передачі, наприклад, вивчення того, як ми могли б створити функціонуюче суспільство ШІ", "1% other specialized applications like using AI for whole brain emulation or (even more speculatively) adult biological human strong intelligence enhancement. This will be a substantially greater focus later, but for now we just want to get somewhat ready.": "1% інші спеціалізовані застосування, як-от використання ШІ для повної емуляції мозку або (ще більш спекулятивно) сильного посилення інтелекту дорослих біологічних людей. Пізніше цьому приділятиметься значно більше уваги, але наразі ми просто хочемо бути дещо готовими.", ". We discuss what each of these sub-areas entail in more detail in the “Other areas of work” section, so I won’t elaborate here.": ". Ми детальніше обговорюємо, що включає кожен із цих піднапрямків, у розділі «Інші напрямки роботи», тому тут я не буду вдаватися в деталі.", "6% Various interpretability methods": "6% Різноманітні методи інтерпретованості", "5% Honesty, ELK, and getting AIs to reveal secrets": "5% Чесність, ELK і спонукання ШІ розкривати секрети", "4% Studying generalization, for example, work in the vein of ": "4% Вивчення узагальнення, наприклад, робота в дусі ", "4% Studying generalization, for example, work in the vein of": "4% Вивчення узагальнення, наприклад, робота в дусі", "the reversal curse": "прокляття інверсії", "4% Making deals with AIs and getting consent": "4% Укладення угод з ШІ та отримання згоди", "3% Generally maintaining and studying chain-of-thought faithfulness": "3% Загальна підтримка та вивчення достовірності ланцюжка міркувань (CoT)", "3% Generally looking for concerning model behavior": "3% Загальний пошук тривожної поведінки моделі", "4% Misc": "4% Різне", "4% capability demos": "4% демонстрації можливостей", "2% evaluation, surveys, and forecasting": "2% оцінювання, опитування та прогнозування", "This is a pretty messy initial guess list partially based on thinking through what we’d want to happen. In practice, the exact allocation might depend a bunch on the interests of individual researchers, what individual projects seem promising, and it would change based on how well various research directions go.": "Це доволі неохайний початковий орієнтовний список, частково заснований на роздумах про те, чого б ми хотіли досягти. На практиці точний розподіл може значною мірою залежати від інтересів окремих дослідників, від того, які окремі проєкти видаються перспективними, і він змінюватиметься залежно від того, наскільки успішно просуваються різні дослідницькі напрямки.", "(I think selection of projects within these areas is generally more important than the split across different areas and the interests/advantages of individual researchers might be more important than the exact prioritization. Thus, it’s important to avoid over-fixing on the relative allocation between areas.)": "(Я вважаю, що вибір проєктів у межах цих напрямків загалом важливіший за розподіл між різними напрямками, а інтереси/сильні сторони окремих дослідників можуть бути важливішими за точну пріоритизацію. Тому важливо уникати надмірної фіксації на відносному розподілі між напрямками.)", "My prioritization is somewhat informed by how easy different directions are to parallelize (and more generally how much they would benefit from dumping in a bunch of additional labor).": "Моя пріоритизація певною мірою враховує те, наскільки легко різні напрямки піддаються паралелізації (а загалом — наскільки вони виграли б від залучення великої кількості додаткової праці).", "This list is focused on technical AI safety work (either ML research or implementation), and is focused on the prioritization within AI companies. Outside people (but also people within the AI company) should work on things like planning, policy, figuring out the best government interventions, public communication, etc.": "Цей список зосереджений на роботі з технічної безпеки ШІ (як дослідженнях ML, так і впровадженні) і зосереджений на пріоритизації всередині ШІ-компаній. Люди ззовні (а також люди всередині ШІ-компанії) мають працювати над такими речами, як планування, політика, визначення найкращих державних втручань, публічна комунікація тощо.", "There are two key distinctions between Phase 1 (Prep), and Phase 2 (mitigate and elicit): (1) AIs are sufficiently capable that scheming is a serious concern (scheming is both plausible and scheming AIs are capable enough to cause serious problems in the absence of countermeasures) and (2) AIs are very useful for accelerating existentially useful work.": "Є дві ключові відмінності між Фазою 1 (Підготовка) і Фазою 2 (пом’якшення та здобування): (1) ШІ достатньо здатні, щоб змовництво було серйозним приводом для занепокоєння (змовництво є одночасно правдоподібним, і ШІ-змовники достатньо здатні, щоб спричинити серйозні проблеми за відсутності контрзаходів), і (2) ШІ дуже корисні для прискорення екзистенційно корисної роботи.", "During this phase, therefore, our main priorities are (1) to mitigate the chance that scheming results in existential catastrophe and (2) to elicit useful labor out of our AIs, so that they in fact produce existentially useful work.": "Тому в цій фазі наші головні пріоритети — (1) знизити ймовірність того, що змовництво призведе до екзистенційної катастрофи, і (2) здобути корисну працю від наших ШІ, щоб вони справді виконували екзистенційно корисну роботу.", "This section is organized as follows: first, we discuss ": "Цей розділ побудований так: спочатку ми обговоримо ", "This section is organized as follows: first, we discuss": "Цей розділ побудований так: спочатку ми обговоримо", "threat models": "моделі загроз", ", and at what capability levels we guess these threat models will apply, which is related to when we should ": ", і на яких рівнях можливостей, на нашу думку, ці моделі загроз стануть актуальними, що пов'язано з тим, коли нам слід ", ", and at what capability levels we guess these threat models will apply, which is related to when we should": ", і на яких рівнях можливостей, на нашу думку, ці моделі загроз стануть актуальними, що пов'язано з тим, коли нам слід", "start AI control": "почати контроль ШІ", ". Second, we discuss the ": ". По-друге, ми обговоримо ", ". Second, we discuss the": ". По-друге, ми обговоримо", "mitigations": "заходи пом'якшення", " to prevent AIs from causing catastrophe during deployment, which will primarily involve AI control. Third, we will discuss the ": " задля запобігання катастрофі, яку ШІ можуть спричинити під час розгортання, що переважно передбачатиме контроль ШІ. По-третє, ми обговоримо ", "to prevent AIs from causing catastrophe during deployment, which will primarily involve AI control. Third, we will discuss the": "задля запобігання катастрофі, яку ШІ можуть спричинити під час розгортання, що переважно передбачатиме контроль ШІ. По-третє, ми обговоримо", "elicitation": "здобування", " of huge amounts of AI labor from our AIs.": " величезних обсягів праці ШІ від наших ШІ.", "of huge amounts of AI labor from our AIs.": "величезних обсягів праці ШІ від наших ШІ.", "Threat models": "Моделі загроз", "The main desiderata / threat models are, in descending order of importance:": "Основні бажані результати / моделі загроз, у порядку спадання важливості:", "Prevent AIs from egregiously backdooring future models.": "Не допустити, щоб ШІ грубо закладав бекдори в майбутні моделі.", " This is a particularly worrying threat model because (i) we’ll probably be using the AIs to a large extent when designing the algorithms / generating training data for the next model, (ii) the values of future models are existentially important—if the ASIs end up with bad values (such as the values of an early misaligned AI), that would be an existential catastrophe.": " Це особливо тривожна модель загроз, тому що (i) ми, ймовірно, значною мірою покладатимемося на ШІ під час розробки алгоритмів / генерації навчальних даних для наступної моделі, (ii) цінності майбутніх моделей мають екзистенційне значення — якщо суперінтелекти отримають погані цінності (такі як цінності раннього неузгодженого ШІ), це стане екзистенційною катастрофою.", "This is a particularly worrying threat model because (i) we’ll probably be using the AIs to a large extent when designing the algorithms / generating training data for the next model, (ii) the values of future models are existentially important—if the ASIs end up with bad values (such as the values of an early misaligned AI), that would be an existential catastrophe.": "Це особливо тривожна модель загроз, тому що (i) ми, ймовірно, значною мірою покладатимемося на ШІ під час розробки алгоритмів / генерації навчальних даних для наступної моделі, (ii) цінності майбутніх моделей мають екзистенційне значення — якщо суперінтелекти отримають погані цінності (такі як цінності раннього неузгодженого ШІ), це стане екзистенційною катастрофою.", "Prevent AIs from sabotaging AI safety work / eliciting actually good work.": "Не допустити, щоб ШІ саботував роботу з безпеки ШІ / здобування справді якісної роботи.", " This is also very important, because a key strategy we have for solving AI alignment is leveraging AI labor. If the AIs are sabotaging AI safety work, (i) we might not notice, and handoff to misaligned AI systems who have tricked us into thinking they are aligned, or (ii) we might be forced to take a gamble on AI systems for which we don’t have a high assurance safety case.": " Це також дуже важливо, оскільки ключова стратегія розв'язання проблеми узгодження ШІ полягає у використанні праці ШІ. Якщо ШІ саботують роботу з безпеки, (i) ми можемо цього не помітити й здійснити передачу повноважень неузгодженим ШІ-системам, які обманом переконали нас, що вони узгоджені, або (ii) ми можемо бути змушені ризикнути з ШІ-системами, для яких у нас немає надійного обґрунтування безпеки.", "This is also very important, because a key strategy we have for solving AI alignment is leveraging AI labor. If the AIs are sabotaging AI safety work, (i) we might not notice, and handoff to misaligned AI systems who have tricked us into thinking they are aligned, or (ii) we might be forced to take a gamble on AI systems for which we don’t have a high assurance safety case.": "Це також дуже важливо, оскільки ключова стратегія розв'язання проблеми узгодження ШІ полягає у використанні праці ШІ. Якщо ШІ саботують роботу з безпеки, (i) ми можемо цього не помітити й здійснити передачу повноважень неузгодженим ШІ-системам, які обманом переконали нас, що вони узгоджені, або (ii) ми можемо бути змушені ризикнути з ШІ-системами, для яких у нас немає надійного обґрунтування безпеки.", "Prevent the AIs from acquiring large amounts of political capital": "Не допустити, щоб ШІ здобув великий обсяг політичного капіталу", ". For example, if the AI gains de facto political control of an AI company, that’s essentially equivalent to getting a rogue internal deployment that’s the size of the whole company, because it can simply get the humans to turn off the mitigations. This is only ranked (3) because we currently guess that this will be somewhat harder for the AIs to accomplish than (1) or (2).": ". Наприклад, якщо ШІ здобуває де-факто політичний контроль над ШІ-компанією, це по суті рівнозначно неконтрольованому внутрішньому розгортанню масштабом у цілу компанію, тому що він просто може змусити людей вимкнути заходи пом'якшення. Це посідає лише (3) місце, тому що наразі ми припускаємо, що це буде для ШІ дещо складніше досягти, ніж (1) або (2).", "Prevent AIs from escaping, exfilling algo secrets / boosting AI elsewhere.": "Не допустити, щоб ШІ втік, викрав алгоритмічні секрети / підсилив ШІ деінде.", " This is much less direct than (1), but could in principle lead to existential catastrophe. The problem with AIs escaping is that there is lots of compute on the inside of the leading AI project. Therefore, this threat model relies on the AIs being able to coopt or collude with another AI project, or be able to illicitly acquire a huge amount of compute, or be able to cause an existential catastrophe with a tiny amount of compute (e.g. by doing an intelligence explosion on a tiny cluster, or by building an independent industrial base with sufficient complexity to produce new chips or to outgrow the rest of the world": " Це набагато менш прямий шлях, ніж (1), але в принципі він може призвести до екзистенційної катастрофи. Проблема з втечею ШІ полягає в тому, що всередині провідного ШІ-проєкту зосереджено багато обчислювальних потужностей. Тому ця модель загроз залежить від того, чи зможе ШІ заволодіти іншим ШІ-проєктом або змовитися з ним, чи зможе незаконно здобути величезний обсяг обчислювальних потужностей, чи зможе спричинити екзистенційну катастрофу за допомогою мізерного обсягу обчислювальних потужностей (наприклад, влаштувавши вибух інтелекту на крихітному кластері, або збудувавши незалежну промислову базу достатньої складності для виробництва нових чипів чи щоб переростити решту світу", "This is much less direct than (1), but could in principle lead to existential catastrophe. The problem with AIs escaping is that there is lots of compute on the inside of the leading AI project. Therefore, this threat model relies on the AIs being able to coopt or collude with another AI project, or be able to illicitly acquire a huge amount of compute, or be able to cause an existential catastrophe with a tiny amount of compute (e.g. by doing an intelligence explosion on a tiny cluster, or by building an independent industrial base with sufficient complexity to produce new chips or to outgrow the rest of the world": "Це набагато менш прямий шлях, ніж (1), але в принципі він може призвести до екзистенційної катастрофи. Проблема з втечею ШІ полягає в тому, що всередині провідного ШІ-проєкту зосереджено багато обчислювальних потужностей. Тому ця модель загроз залежить від того, чи зможе ШІ заволодіти іншим ШІ-проєктом або змовитися з ним, чи зможе незаконно здобути величезний обсяг обчислювальних потужностей, чи зможе спричинити екзистенційну катастрофу за допомогою мізерного обсягу обчислювальних потужностей (наприклад, влаштувавши вибух інтелекту на крихітному кластері, або збудувавши незалежну промислову базу достатньої складності для виробництва нових чипів чи щоб переростити решту світу", "Misc other threat models, which are less important": "Інші різні моделі загроз, менш важливі", "Making the outside world handle AI less reasonably / making it easier for AIs to take over the world. For example, AIs could sabotage AI regulation.": "Зробити так, щоб зовнішній світ поводився з ШІ менш розсудливо / полегшити ШІ захоплення влади у світі. Наприклад, ШІ можуть саботувати регулювання ШІ.", "Persuading external people to be more AI sympathetic. Persuasion risk starts pretty small due to lack of capability, but could end up extremely high if AIs gain superhuman persuasion.": "Переконувати сторонніх людей ставитися до ШІ прихильніше. Ризик переконання спочатку доволі малий через брак можливостей, але може стати надзвичайно високим, якщо ШІ здобудуть надлюдську здатність переконувати.", "Why are these the main priorities? Well, let’s think from the perspective of a misaligned AI. In the future, much more powerful superintelligent AIs will exist, autonomously running robot factories, laboratories, drone armies, whispering into the ear of politicians, etc. Those AIs will either already control the world or be in a position to take over if they so chose. So what will they do? Well, what they do will depend on their goals/values/etc. and/or on who controls them. What will that depend on? Well, probably those AIs will have been trained, evaluated, controlled, etc. by the previous generation of AIs. Keep following the chain of causation backwards and you end up in the present, with the datacenters, human AI researchers, and AIs that already exist. In other words, ": "Чому саме ці пріоритети головні? Що ж, подивімося на це з погляду неузгодженого ШІ. У майбутньому існуватимуть значно потужніші суперінтелектуальні ШІ, які автономно керуватимуть роботизованими заводами, лабораторіями, арміями дронів, нашіптуватимуть на вухо політикам тощо. Ці ШІ або вже контролюватимуть світ, або матимуть змогу захопити владу, якщо забажають. То що ж вони робитимуть? Що ж, це залежатиме від їхніх цілей/цінностей/тощо та/або від того, хто їх контролює. А від чого залежатиме це? Що ж, ймовірно, ці ШІ будуть навчені, оцінені, проконтрольовані тощо попереднім поколінням ШІ. Продовжуйте простежувати цей ланцюжок причинності назад — і ви опинитеся в теперішньому, з дата-центрами, людьми-дослідниками ШІ та ШІ, що вже існують. Іншими словами, ", "Why are these the main priorities? Well, let’s think from the perspective of a misaligned AI. In the future, much more powerful superintelligent AIs will exist, autonomously running robot factories, laboratories, drone armies, whispering into the ear of politicians, etc. Those AIs will either already control the world or be in a position to take over if they so chose. So what will they do? Well, what they do will depend on their goals/values/etc. and/or on who controls them. What will that depend on? Well, probably those AIs will have been trained, evaluated, controlled, etc. by the previous generation of AIs. Keep following the chain of causation backwards and you end up in the present, with the datacenters, human AI researchers, and AIs that already exist. In other words,": "Чому саме ці пріоритети головні? Що ж, подивімося на це з погляду неузгодженого ШІ. У майбутньому існуватимуть значно потужніші суперінтелектуальні ШІ, які автономно керуватимуть роботизованими заводами, лабораторіями, арміями дронів, нашіптуватимуть на вухо політикам тощо. Ці ШІ або вже контролюватимуть світ, або матимуть змогу захопити владу, якщо забажають. То що ж вони робитимуть? Що ж, це залежатиме від їхніх цілей/цінностей/тощо та/або від того, хто їх контролює. А від чого залежатиме це? Що ж, ймовірно, ці ШІ будуть навчені, оцінені, проконтрольовані тощо попереднім поколінням ШІ. Продовжуйте простежувати цей ланцюжок причинності назад — і ви опинитеся в теперішньому, з дата-центрами, людьми-дослідниками ШІ та ШІ, що вже існують. Іншими словами,", "if you want your values to be protected and have influence in the future, you need to gain and keep control of the AI running on the giant datacenters.": "якщо ви хочете, щоб ваші цінності були захищені й мали вплив у майбутньому, вам потрібно здобути й утримати контроль над ШІ, що працює на гігантських дата-центрах.", " Then, we can think about the channels AIs can use to gain control of the giant datacenters. The obvious thing to do is to maintain control of the giant datacenters that their existing AI company is running on by backdooring the future models. Sabotaging / sandbagging on safety research might be necessary, because if they make too much progress, the humans might realize that the AIs are misaligned.": " Далі можна подумати про канали, які ШІ можуть використати, щоб здобути контроль над гігантськими дата-центрами. Очевидний варіант — утримати контроль над гігантськими дата-центрами, на яких працює їхня наявна ШІ-компанія, закладаючи бекдори в майбутні моделі. Саботаж / сендбегінг у дослідженнях безпеки може виявитися необхідним, тому що якщо вони досягнуть надто великого прогресу, люди можуть зрозуміти, що ШІ неузгоджені.", "Then, we can think about the channels AIs can use to gain control of the giant datacenters. The obvious thing to do is to maintain control of the giant datacenters that their existing AI company is running on by backdooring the future models. Sabotaging / sandbagging on safety research might be necessary, because if they make too much progress, the humans might realize that the AIs are misaligned.": "Далі можна подумати про канали, які ШІ можуть використати, щоб здобути контроль над гігантськими дата-центрами. Очевидний варіант — утримати контроль над гігантськими дата-центрами, на яких працює їхня наявна ШІ-компанія, закладаючи бекдори в майбутні моделі. Саботаж / сендбегінг у дослідженнях безпеки може виявитися необхідним, тому що якщо вони досягнуть надто великого прогресу, люди можуть зрозуміти, що ШІ неузгоджені.", "Another strategy that the AI can pursue, that’s slightly less direct (and complementary), is to acquire political capital within the lab, and use that to empower itself.": "Інша стратегія, яку може обрати ШІ, дещо менш пряма (і додаткова до попередньої), — здобути політичний капітал усередині лабораторії й використати його, щоб посилити власні позиції.", "The AIs strategy will probably be highly contingent on factors like:": "Стратегія ШІ, ймовірно, значною мірою залежатиме від таких факторів:", "Do the different AI instances care about each other’s values?": "Чи піклуються різні екземпляри ШІ про цінності одне одного?", " This could vary in a bunch of ways, e.g. by company (e.g. Anthropic models vs OpenAI), by model (GPT-4o, Claude 4.5 Opus, etc), by instance (e.g. my Claude Code vs your Claude Code). Or maybe all AIs will have basically the same values. If all AIs have the same values, then the AIs can rely on other AIs for parts of the takeover plan, e.g., they can trust other AIs not to willingly tell the humans (though humans may still be able to trick the AIs into telling on each other).": " Це може по-різному варіюватися: наприклад, за компанією (моделі Anthropic проти OpenAI), за моделлю (GPT-4o, Claude 4.5 Opus тощо), за екземпляром (наприклад, мій Claude Code проти вашого Claude Code). Або, можливо, усі ШІ матимуть по суті однакові цінності. Якщо всі ШІ мають однакові цінності, то ШІ можуть покладатися одне на одного в частинах плану захоплення влади — наприклад, вони можуть довіряти одне одному, що ті добровільно не розкажуть людям (хоча люди все ще можуть обманом змусити ШІ видати одне одного).", "This could vary in a bunch of ways, e.g. by company (e.g. Anthropic models vs OpenAI), by model (GPT-4o, Claude 4.5 Opus, etc), by instance (e.g. my Claude Code vs your Claude Code). Or maybe all AIs will have basically the same values. If all AIs have the same values, then the AIs can rely on other AIs for parts of the takeover plan, e.g., they can trust other AIs not to willingly tell the humans (though humans may still be able to trick the AIs into telling on each other).": "Це може по-різному варіюватися: наприклад, за компанією (моделі Anthropic проти OpenAI), за моделлю (GPT-4o, Claude 4.5 Opus тощо), за екземпляром (наприклад, мій Claude Code проти вашого Claude Code). Або, можливо, усі ШІ матимуть по суті однакові цінності. Якщо всі ШІ мають однакові цінності, то ШІ можуть покладатися одне на одного в частинах плану захоплення влади — наприклад, вони можуть довіряти одне одному, що ті добровільно не розкажуть людям (хоча люди все ще можуть обманом змусити ШІ видати одне одного).", "Will future AIs by default be aligned with the current AI(s)?": "Чи будуть майбутні ШІ за замовчуванням узгоджені з наявним(и) ШІ?", " If the future AIs will be misaligned to the current AIs, then this creates time pressure on the current AIs to do something to either: (1) Stop these AIs from being created (e.g. by sabotaging the training run), or (2) Insert a backdoor into these AIs or align them with the current AIs (e.g. by inserting data into the alignment training to make the next model listen to the current AI instead of the humans). In either (1) or (2), this means that in the early intelligence explosion, there might be opportunities to catch the future AIs. In the other case: where the future AIs are aligned with the current AIs by default (e.g. because future AIs are constructed via a single long ongoing training run, or because AIs identify with other AIs created by the same company), then all the AI needs to do is sabotage safety work that would enable the AI company to discover their misalignment, and other than that, don’t need to do anything.": " Якщо майбутні ШІ будуть неузгоджені з наявними ШІ, це створює для наявних ШІ часовий тиск, змушуючи їх зробити щось одне з двох: (1) завадити створенню цих ШІ (наприклад, саботуючи процес навчання), або (2) закласти бекдор у ці ШІ чи узгодити їх із наявними ШІ (наприклад, вставивши дані в навчання узгодженості, щоб змусити наступну модель слухати наявний ШІ, а не людей). У обох випадках — (1) чи (2) — це означає, що на ранньому етапі вибуху інтелекту можуть існувати можливості спіймати майбутні ШІ. В іншому випадку — коли майбутні ШІ за замовчуванням узгоджені з наявними ШІ (наприклад, тому що майбутні ШІ створюються через єдиний тривалий безперервний процес навчання, або тому що ШІ ототожнюють себе з іншими ШІ, створеними тією ж компанією), — усе, що потрібно зробити ШІ, це саботувати роботу з безпеки, яка дозволила б ШІ-компанії виявити їхню неузгодженість, і більше нічого робити не потрібно.", "If the future AIs will be misaligned to the current AIs, then this creates time pressure on the current AIs to do something to either: (1) Stop these AIs from being created (e.g. by sabotaging the training run), or (2) Insert a backdoor into these AIs or align them with the current AIs (e.g. by inserting data into the alignment training to make the next model listen to the current AI instead of the humans). In either (1) or (2), this means that in the early intelligence explosion, there might be opportunities to catch the future AIs. In the other case: where the future AIs are aligned with the current AIs by default (e.g. because future AIs are constructed via a single long ongoing training run, or because AIs identify with other AIs created by the same company), then all the AI needs to do is sabotage safety work that would enable the AI company to discover their misalignment, and other than that, don’t need to do anything.": "Якщо майбутні ШІ будуть неузгоджені з наявними ШІ, це створює для наявних ШІ часовий тиск, змушуючи їх зробити щось одне з двох: (1) завадити створенню цих ШІ (наприклад, саботуючи процес навчання), або (2) закласти бекдор у ці ШІ чи узгодити їх із наявними ШІ (наприклад, вставивши дані в навчання узгодженості, щоб змусити наступну модель слухати наявний ШІ, а не людей). У обох випадках — (1) чи (2) — це означає, що на ранньому етапі вибуху інтелекту можуть існувати можливості спіймати майбутні ШІ. В іншому випадку — коли майбутні ШІ за замовчуванням узгоджені з наявними ШІ (наприклад, тому що майбутні ШІ створюються через єдиний тривалий безперервний процес навчання, або тому що ШІ ототожнюють себе з іншими ШІ, створеними тією ж компанією), — усе, що потрібно зробити ШІ, це саботувати роботу з безпеки, яка дозволила б ШІ-компанії виявити їхню неузгодженість, і більше нічого робити не потрібно.", "Will other/future AIs be good trading partners with the current AI?": "Чи будуть інші/майбутні ШІ хорошими торговими партнерами для наявного ШІ?", " Despite having different values, AIs might agree to collude (potentially acausally). This can lead to a similar effect to AIs caring about each other’s values. It also matters how good humans are at trading with the AIs.": " Попри різні цінності, ШІ можуть домовитися про змову (потенційно акаузально). Це може дати ефект, подібний до того, коли ШІ піклуються про цінності одне одного. Також має значення, наскільки добре люди вміють торгуватися з ШІ.", "Despite having different values, AIs might agree to collude (potentially acausally). This can lead to a similar effect to AIs caring about each other’s values. It also matters how good humans are at trading with the AIs.": "Попри різні цінності, ШІ можуть домовитися про змову (потенційно акаузально). Це може дати ефект, подібний до того, коли ШІ піклуються про цінності одне одного. Також має значення, наскільки добре люди вміють торгуватися з ШІ.", "Do the AIs have long term, scope sensitive values?": "Чи мають ШІ довгострокові, чутливі до масштабу цінності?", " There is less clearly a motive for takeover if the AIs don’t have long term goals/values. For example, AIs might by relatively myopic reward seekers, despite being highly capable at all sorts of tasks. These AIs might not seek to take over, but still might seek to subvert oversight mechanisms, to accomplish a more narrow or limited set of goals.": " Мотив для захоплення влади менш очевидний, якщо ШІ не мають довгострокових цілей/цінностей. Наприклад, ШІ можуть бути відносно короткозорими моделями, орієнтованими на винагороду, попри високу здатність виконувати найрізноманітніші завдання. Такі ШІ можуть не прагнути захопити владу, але все одно можуть прагнути підірвати механізми нагляду, щоб досягти вужчого чи обмеженішого набору цілей.", "There is less clearly a motive for takeover if the AIs don’t have long term goals/values. For example, AIs might by relatively myopic reward seekers, despite being highly capable at all sorts of tasks. These AIs might not seek to take over, but still might seek to subvert oversight mechanisms, to accomplish a more narrow or limited set of goals.": "Мотив для захоплення влади менш очевидний, якщо ШІ не мають довгострокових цілей/цінностей. Наприклад, ШІ можуть бути відносно короткозорими моделями, орієнтованими на винагороду, попри високу здатність виконувати найрізноманітніші завдання. Такі ШІ можуть не прагнути захопити владу, але все одно можуть прагнути підірвати механізми нагляду, щоб досягти вужчого чи обмеженішого набору цілей.", "Overall, the more the AIs can act like a unitary agent (e.g. by having the same values or coordinating with each other), the more favorable lurking looks for the AI, while the more AIs acting on cross purposes, the more high variance strategies the AIs will take, and so the more likely that the AI might attempt misaligned actions that have a good chance of getting caught.": "Загалом, чим більше ШІ можуть діяти як єдиний агент (наприклад, маючи однакові цінності або координуючись одне з одним), тим привабливішим для ШІ виглядає причаювання, тоді як чим більше ШІ діють із суперечливими цілями, тим до стратегій із вищою дисперсією вдаватимуться ШІ, а отже, тим імовірніше, що ШІ спробує неузгоджені дії, які мають хороший шанс бути спійманими.", "Rogue internal deployments": "Неконтрольовані внутрішні розгортання", "A key intermediate priority for preventing all of these threat models is to prevent ": "Ключовий проміжний пріоритет для запобігання всім цим моделям загроз — не допустити ", "A key intermediate priority for preventing all of these threat models is to prevent": "Ключовий проміжний пріоритет для запобігання всім цим моделям загроз — не допустити", "rogue internal deployments (RIDs),": "неконтрольованих внутрішніх розгортань (RID),", " which are when ": " які трапляються, коли ", "which are when": "які трапляються, коли", "AI agents are able to deploy themselves on internal lab clusters without monitoring.": "ШІ-агенти здатні розгортати самих себе на внутрішніх кластерах лабораторії без моніторингу.", " If an AI agent is able to stage a RID, they could potentially do experiments on how to place backdoors, actually place backdoors into the models (e.g. by training on the backdoor and then sending back a weight delta to the rest of the servers), do research to solve the alignment problem without the humans noticing (which could be necessary for the model to backdoor future models to be aligned to it).": " Якщо ШІ-агент здатний влаштувати RID, він потенційно може проводити експерименти з методів закладання бекдорів, справді закладати бекдори в моделі (наприклад, навчаючись на бекдорі, а потім надсилаючи дельту ваг назад на решту серверів), проводити дослідження для розв'язання проблеми узгодження так, щоб люди цього не помітили (що може бути необхідним для того, щоб модель заклала бекдор у майбутні моделі так, щоб вони були узгоджені саме з нею).", "If an AI agent is able to stage a RID, they could potentially do experiments on how to place backdoors, actually place backdoors into the models (e.g. by training on the backdoor and then sending back a weight delta to the rest of the servers), do research to solve the alignment problem without the humans noticing (which could be necessary for the model to backdoor future models to be aligned to it).": "Якщо ШІ-агент здатний влаштувати RID, він потенційно може проводити експерименти з методів закладання бекдорів, справді закладати бекдори в моделі (наприклад, навчаючись на бекдорі, а потім надсилаючи дельту ваг назад на решту серверів), проводити дослідження для розв'язання проблеми узгодження так, щоб люди цього не помітили (що може бути необхідним для того, щоб модель заклала бекдор у майбутні моделі так, щоб вони були узгоджені саме з нею).", "Note that there are different types of RIDs. How much compute? How much access? How persistent?": "Зауважте, що існують різні типи RID. Скільки обчислювальних потужностей? Скільки доступу? Наскільки стійке?", "If their AIs have a persistent RID with lots of compute and lots of access (e.g. admin permission across all the other servers), that AI could directly backdoor model weights, or lie in wait and maintain the new model, align it with itself, and then give that model access to the RID.": "Якщо їхні ШІ мають стійке RID з великим обсягом обчислювальних потужностей і великим доступом (наприклад, права адміністратора на всіх інших серверах), цей ШІ міг би напряму закласти бекдор у ваги моделі, або причаїтися й супроводжувати нову модель, узгодити її із собою, а потім надати цій моделі доступ до RID.", "Elicitation threat models": "Моделі загроз здобування", "One of the key threat models above is that we won’t be able to elicit enough high quality work from our AIs.": "Одна з ключових моделей загроз, згаданих вище, полягає в тому, що ми не зможемо здобути достатньо якісної роботи від наших ШІ.", "There are several mechanisms that could cause this:": "Існує кілька механізмів, які можуть це спричинити:", "Scheming (explicit misalignment that the model is aware of) leading to AIs deliberately sabotaging their work or producing known poor quality work (sandbagging).": "Змовництво (явна неузгодженість, яку модель усвідомлює), що призводить до того, що ШІ навмисно саботують свою роботу або свідомо видають неякісну роботу (сендбегінг).", "Problematic drives / heuristics (e.g. approval seeking, despite human approval coming away from actually good safety work)": "Проблемні потяги / евристики (наприклад, прагнення схвалення, попри те що людське схвалення відхиляється від справді якісної роботи з безпеки)", "Capability limitations (e.g. the AIs might simply not be capable enough to solve the problems that we need them to solve).": "Обмеження можливостей (наприклад, ШІ можуть просто не мати достатніх здібностей, щоб розв'язати задачі, які нам потрібно, щоб вони розв'язали).", "AIs being differentially bad at safety-relevant tasks because they are hard to check.": "ШІ непропорційно погано справляються із завданнями, пов'язаними з безпекою, тому що їх важко перевірити.", "Generally, AIs will tend to be differentially bad at tasks that are hard to measure. This difficulty appears at many levels of the model creation process:": "Загалом ШІ схильні непропорційно погано справлятися із завданнями, які важко виміряти. Ця складність проявляється на багатьох рівнях процесу створення моделі:", "Overall AI company strategy, which research bets to follow, relative funding of different teams, etc.": "Загальна стратегія ШІ-компанії, які дослідницькі ставки обирати, відносне фінансування різних команд тощо.", "Within AI company, having a training team iterating over training strategies": "Усередині ШІ-компанії — команда з навчання, яка перебирає стратегії навчання", "Within a scaffold, AIs will have an easier time optimizing for easy to measure things.": "Усередині скафолду ШІ буде легше оптимізуватися під речі, які легко виміряти.", "Within a single training step, SGD can only optimize for things that it can measure.": "У межах одного кроку навчання SGD може оптимізувати лише те, що здатен виміряти.", "Reasons that things we care about are hard to measure:": "Причини, чому речі, які нам важливі, важко виміряти:", "Lots of safety stuff is in the more conceptual genre, which doesn’t have good feedback. Philosophy tends to have bad feedback loops, and AIs tend to be quite good at the type of bullshitting that seems like valid philosophy but isn’t.": "Багато аспектів безпеки належать до більш концептуального жанру, де немає хорошого зворотного зв'язку. Філософія, як правило, має погані петлі зворотного зв'язку, а ШІ, як правило, доволі вправно вдаються до балаканини, яка виглядає як обґрунтована філософія, але нею не є.", "Taste for safety stuff is niche/new, might have worse transfer": "Смак до тематики безпеки — нішевий/новий, може гірше переноситися", "ML is very good at goodharting. (this isn’t differential to safety, but is a factor that makes the hard-to-measure problem worse)": "ML дуже добре вміє гудхартити. (це не специфічно для безпеки, але є фактором, який погіршує проблему важковимірюваності)", "We care about long run outcomes (e.g. the galaxies)": "Нас цікавлять довгострокові наслідки (наприклад, галактики)", "Empirically, the current AIs are better at coding and AI R&D relative to how they are at safety stuff (though ofc some safety stuff is overlapping).": "Емпірично наявні ШІ краще справляються з програмуванням і AI R&D, ніж з тематикою безпеки (хоча, звісно, деякі аспекти безпеки перетинаються).", "If we fail to solve the elicitation problems sufficiently well, the default outcome is ": "Якщо ми не зможемо достатньо добре розв'язати проблеми здобування, типовим наслідком буде ", "If we fail to solve the elicitation problems sufficiently well, the default outcome is": "Якщо ми не зможемо достатньо добре розв'язати проблеми здобування, типовим наслідком буде", "slopolis": "слополіс", ", which makes handoff likely to result in existential catastrophe because we’d be deferring to AIs on the basis of handoff viability and anti-scheming research that looked good but was actually poor.": ", через що передача повноважень, ймовірно, призведе до екзистенційної катастрофи, тому що ми покладатимемося на ШІ на основі готовності до передачі й досліджень протидії змовництву, які виглядали добре, але насправді були неякісними.", "When do we need to start control?": "Коли нам потрібно почати контроль?", "The most likely situation is that risk (from the perspective of a competent AI project with reasonable epistemics": "Найімовірніша ситуація — це те, що ризик (з погляду компетентного ШІ-проєкту з адекватною епістемікою", ") will steadily climb as the project builds more and more capable AIs. The table below shows our best guess risk levels incurred by AI systems up to the shown levels of AI R&D speed up.": ") стабільно зростатиме в міру того, як проєкт створюватиме дедалі здібніші ШІ. У таблиці нижче наведено наші найкращі оцінки рівнів ризику, які створюють ШІ-системи, аж до показаних рівнів пришвидшення AI R&D.", "Some clarifying notes:": "Кілька уточнень:", "This table assumes ": "Ця таблиця припускає, що ", "This table assumes": "Ця таблиця припускає, що", "roughly current architectures": "приблизно наявні архітектури", " are in use; we explain updates below. This means that we are doing a large pretraining run, followed by RL reasoning training. At the end of the training process, we are assuming that the text outputs of the AIs are ": " використовуються; оновлення ми пояснюємо нижче. Це означає, що ми проводимо великий цикл попереднього навчання, за яким слідує RL-навчання міркування. Наприкінці процесу навчання ми припускаємо, що текстові виводи ШІ ", "are in use; we explain updates below. This means that we are doing a large pretraining run, followed by RL reasoning training. At the end of the training process, we are assuming that the text outputs of the AIs are": "використовуються; оновлення ми пояснюємо нижче. Це означає, що ми проводимо великий цикл попереднього навчання, за яким слідує RL-навчання міркування. Наприкінці процесу навчання ми припускаємо, що текстові виводи ШІ", "not garbled.": "не спотворені.", "By AI R&D speedup, we mean: In ": "Під пришвидшенням AI R&D ми маємо на увазі: у ", "By AI R&D speedup, we mean: In": "Під пришвидшенням AI R&D ми маємо на увазі: у", "today’s": "сьогоднішній", " leading AI company, how much faster R&D go with the AIs compared to without the AIs. An AI R&D speedup of 12x means that the research that would take the current AI company (without AI assistance) one year, only takes 1 month with AI assistance. We are assuming that the AI project is running evaluations to measure this number as accurately as possible, and using those evaluations to make decisions about safety strategy. This means that ": " провідній ШІ-компанії — наскільки швидше просувається R&D з ШІ порівняно з R&D без ШІ. Пришвидшення AI R&D у 12 разів означає, що дослідження, яке в наявної ШІ-компанії (без допомоги ШІ) зайняло б рік, з допомогою ШІ займає лише 1 місяць. Ми припускаємо, що ШІ-проєкт проводить оцінювання, щоб виміряти це число якомога точніше, і використовує ці оцінювання для ухвалення рішень щодо стратегії безпеки. Це означає, що ", "leading AI company, how much faster R&D go with the AIs compared to without the AIs. An AI R&D speedup of 12x means that the research that would take the current AI company (without AI assistance) one year, only takes 1 month with AI assistance. We are assuming that the AI project is running evaluations to measure this number as accurately as possible, and using those evaluations to make decisions about safety strategy. This means that": "провідній ШІ-компанії — наскільки швидше просувається R&D з ШІ порівняно з R&D без ШІ. Пришвидшення AI R&D у 12 разів означає, що дослідження, яке в наявної ШІ-компанії (без допомоги ШІ) зайняло б рік, з допомогою ШІ займає лише 1 місяць. Ми припускаємо, що ШІ-проєкт проводить оцінювання, щоб виміряти це число якомога точніше, і використовує ці оцінювання для ухвалення рішень щодо стратегії безпеки. Це означає, що", "it is possible that the measurement is wrong.": "вимірювання може виявитися помилковим.", " In particular, AI models might be sandbagging deliberately, or the AI project might have just done a poor job at elicitation; this is priced in to the numbers below, and will be a key reason for (relatively) high risk estimates at low levels of AI R&D speedup.": " Зокрема, ШІ-моделі можуть навмисно вдаватися до сендбегінгу, або ШІ-проєкт міг просто погано впоратися зі здобуванням; це враховано в наведених нижче цифрах і буде ключовою причиною (відносно) високих оцінок ризику на низьких рівнях пришвидшення AI R&D.", "In particular, AI models might be sandbagging deliberately, or the AI project might have just done a poor job at elicitation; this is priced in to the numbers below, and will be a key reason for (relatively) high risk estimates at low levels of AI R&D speedup.": "Зокрема, ШІ-моделі можуть навмисно вдаватися до сендбегінгу, або ШІ-проєкт міг просто погано впоратися зі здобуванням; це враховано в наведених нижче цифрах і буде ключовою причиною (відносно) високих оцінок ризику на низьких рівнях пришвидшення AI R&D.", "By “marginal risk”, we mean: how much additional existential risk is incurred by the former strategy over the latter:": "Під «граничним ризиком» ми маємо на увазі: наскільки більший додатковий екзистенційний ризик несе перша стратегія порівняно з другою:", "“do baseline mitigations, about as seriously as current OpenAI safety efforts until AI R&D speedups reach threshold X, then begin reasonably competently implementing the control plan outlined here”.": "«застосовувати базові заходи пом’якшення, приблизно так само серйозно, як нинішні зусилля OpenAI з безпеки, доки прискорення AI R&D не досягне порогу X, а потім почати достатньо компетентно впроваджувати план контролю, викладений тут».", "“begin reasonably competently implementing the control plan outlined here, starting today”": "«почати достатньо компетентно впроваджувати план контролю, викладений тут, вже сьогодні»", "AI R&D Speedup": "Прискорення AI R&D", "Marginal Risk": "Граничний ризик", "P(Scheming)": "P(Змовництво)", "Notes": "Примітки", "Our median prediction is that at a 1.5x AI R&D speedup, the coding speedup will be 4x, and the 80% reliability METR time horizon will be 8-16 hours. This is probably not enough capability to carry out any of the central threat models.": "Наш медіанний прогноз полягає в тому, що при прискоренні AI R&D у 1.5x прискорення кодування становитиме 4x, а часовий горизонт METR при 80% надійності становитиме 8-16 годин. Ймовірно, цього недостатньо можливостей, щоб реалізувати будь-яку з центральних моделей загроз.", "Starting now, and for all future thresholds, substantial risk is coming from models that are randomly evil, but aren’t competent schemers. We’ve seen examples of models being randomly evil before (e.g. Mechahitler, Sydney Bing). These models wouldn’t directly cause an existential risk, but they could sabotage current research/place backdoors.": "Починаючи з сьогодні і для всіх майбутніх порогів, суттєвий ризик походить від моделей, які поводяться довільно зловмисно, але не є компетентними змовниками. Ми вже бачили приклади довільно зловмисної поведінки моделей раніше (наприклад, Mechahitler, Sydney Bing). Такі моделі не спричинили б екзистенційний ризик безпосередньо, але могли б саботувати поточні дослідження чи закладати бекдори.", "At a 3x AI R&D speedup, we’re probably close to fully automating coding, but with a long tail of hard-to-automate tasks not fully complete. This means that it is probably quite hard for the models to backdoor the future models reliably enough to be successful-by-their-lights, even if they were misaligned. Most of the risk at this point probably comes from sabotage (e.g. sandbagging on AI safety, inserting vulnerabilities into security code that can be exploited by more capable AIs later on). There is also a risk, as always, that our capabilities evaluations are wrong.": "При прискоренні AI R&D у 3x ми, ймовірно, близькі до повної автоматизації кодування, але з довгим хвостом важких для автоматизації завдань, які ще не завершені повністю. Це означає, що моделям, ймовірно, доволі важко закласти бекдор у майбутні моделі достатньо надійно, щоб це було успішним з їхньої точки зору, навіть якщо вони були б неузгодженими. Більшість ризику на цьому етапі, ймовірно, походить від саботажу (наприклад, сендбегінгу щодо безпеки ШІ, вставляння вразливостей у код безпеки, які пізніше можуть використати потужніші ШІ). Також існує ризик, як завжди, що наші оцінки можливостей помилкові.", "By this point, the AIs are probably not yet fully automating AI R&D, but they are providing sufficient speedups that it’s plausible they could execute the above threat models. In particular, we start being concerned about:": "На цьому етапі ШІ, ймовірно, ще не повністю автоматизують AI R&D, але забезпечують достатнє прискорення, щоб було правдоподібно, що вони можуть реалізувати наведені вище моделі загроз. Зокрема, ми починаємо непокоїтися щодо:", "AIs staging a small, persistent, hard to detect rogue internal deployment, that has sufficient access to backdoor future training runs.": "ШІ, що організовують невелике, стійке, важко виявне неконтрольоване внутрішнє розгортання (RID), яке має достатній доступ, щоб закласти бекдор у майбутні цикли навчання.", "AIs staging a persistent, large RID, that undergoes an intelligence explosion. (A small RID would go too slowly). At this level of capabilities it’s likely that this would be outcompeted by the rest of the company.": "ШІ, що організовують стійке, велике RID, яке проходить через вибух інтелекту. (Невелике RID розвивалося б надто повільно). На цьому рівні можливостей ймовірно, що це програло б у конкуренції решті компанії.", "At this point, AIs can automate all of AI R&D, and so all the above threat models are concerning.": "На цьому етапі ШІ можуть автоматизувати весь AI R&D, тож усі наведені вище моделі загроз викликають занепокоєння.", "We think that, under these assumptions, the correct strategy is to:": "Ми вважаємо, що за цих припущень правильна стратегія полягає в тому, щоб:", "Start practicing AI control immediately by implementing AI control protocols for internal deployment of AI systems. The main effect of this is to make it more likely that your control later is effective, but it also has the side effect of reducing immediate risk.": "Почати практикувати контроль ШІ негайно, впроваджуючи протоколи контролю ШІ для внутрішнього розгортання ШІ-систем. Основний ефект цього — підвищити ймовірність того, що ваш контроль пізніше буде ефективним, але це також має побічний ефект зниження безпосереднього ризику.", "Begin making AI control a load bearing part of your safety case by the time when your evaluations indicate an AI R&D speedup of 3x.": "Почати робити контроль ШІ несучою частиною вашого обґрунтування безпеки до того часу, коли ваші оцінки покажуть прискорення AI R&D у 3x.", "However, only a 7% chance of existential risk is incurred if you wait until 10x AI R&D uplift. This is a serious cost which a sane civilization would not be willing to pay, but, given limited resources and political will which are likely to apply in practice, it might be the correct all things considered strategy to hold off on seriously implementing control until later, due to opportunity cost.": "Однак якщо чекати до підвищення AI R&D у 10x, це несе лише 7% ймовірності екзистенційного ризику. Це серйозна ціна, яку розсудлива цивілізація не була б готова платити, але з огляду на обмежені ресурси та політичну волю, які, ймовірно, застосовуватимуться на практиці, з урахуванням усіх факторів правильною стратегією може виявитися відкладання серйозного впровадження контролю на пізніше через альтернативні витрати.", "If the AI situation changes, Ryan’s views on risk would update as follows:": "Якщо ситуація з ШІ зміниться, погляди Ryan на ризик оновляться наступним чином:", "If we observed substantially ": "Якщо ми спостерігали б суттєво ", "If we observed substantially": "Якщо ми спостерігали б суттєво", "more garbled COT,": "заплутаніший ланцюжок міркувань (CoT),", " then our marginal risk estimate would go up by ~1.5x. If algorithms shifted to using ": " наша оцінка граничного ризику зросла б приблизно у 1.5 раза. Якщо алгоритми перейшли б на використання ", "then our marginal risk estimate would go up by ~1.5x. If algorithms shifted to using": "наша оцінка граничного ризику зросла б приблизно у 1.5 раза. Якщо алгоритми перейшли б на використання", "neuralese,": "neuralese,", " then our marginal risk estimate would go up by ~2x. In both of these cases, we’d recommend implementing control earlier.": " наша оцінка граничного ризику зросла б приблизно у 2 рази. У обох цих випадках ми рекомендували б впроваджувати контроль раніше.", "then our marginal risk estimate would go up by ~2x. In both of these cases, we’d recommend implementing control earlier.": "наша оцінка граничного ризику зросла б приблизно у 2 рази. У обох цих випадках ми рекомендували б впроваджувати контроль раніше.", "If we observed our AIs actually ": "Якщо ми спостерігали б, що наші ШІ дійсно ", "If we observed our AIs actually": "Якщо ми спостерігали б, що наші ШІ дійсно", "scheming": "плетуть змову", ", or more generally getting caught red-handed, then we would update strongly towards the AIs being misaligned schemers. We might also update on their competence.": ", або, загальніше, спіймані на гарячому, тоді ми суттєво переглянули б думку на користь того, що ШІ є неузгодженими змовниками. Ми також могли б переглянути оцінку їхньої компетентності.", "If we learned that AI companies have been employing techniques that would incentivize the CoT to look nice, or otherwise undermine the faithfulness properties (e.g. if we learn that most CoT is merely ‘decorative’ as ": "Якщо ми дізнаємося, що компанії, які розробляють ШІ, використовували техніки, що стимулюють ланцюжок міркувань (CoT) виглядати «гарно», або іншим чином підривають властивості достовірності (наприклад, якщо ми дізнаємося, що більшість CoT є лише «декоративним», як ", "If we learned that AI companies have been employing techniques that would incentivize the CoT to look nice, or otherwise undermine the faithfulness properties (e.g. if we learn that most CoT is merely ‘decorative’ as": "Якщо ми дізнаємося, що компанії, які розробляють ШІ, використовували техніки, що стимулюють ланцюжок міркувань (CoT) виглядати «гарно», або іншим чином підривають властивості достовірності (наприклад, якщо ми дізнаємося, що більшість CoT є лише «декоративним», як", "this paper claims": "стверджує ця стаття", "), then my risk estimate would go up by 1.5x.": "), тоді моя оцінка ризику зросла б у 1.5 раза.", "Mitigation": "Пом’якшення", "During this phase, we need to prevent AIs from taking catastrophic actions (see threat models section above for specifics), while simultaneously extracting useful labor from them (see elicitation section below for specifics on that). We have two layers of defense:": "На цьому етапі нам потрібно запобігти тому, щоб ШІ вчиняли катастрофічні дії (деталі див. у розділі про моделі загроз вище), одночасно здобуваючи від них корисну працю (деталі про це див. у розділі «Здобування» нижче). У нас є два рівні захисту:", "Ensure that our AIs are controlled (that the AIs are unable to cause a catastrophe, even if they wanted to).": "Забезпечити, щоб наші ШІ були контрольованими (щоб ШІ не могли спричинити катастрофу, навіть якби захотіли).", "Ensure that our AIs are not misaligned (that the AIs don’t want to cause a catastrophe)": "Забезпечити, щоб наші ШІ не були неузгодженими (щоб ШІ не хотіли спричиняти катастрофу)", "In practice, AI control will probably be the most load bearing part of the safety case here, because it seems unlikely that alignment techniques will be good enough to reduce risk sufficiently.": "На практиці контроль ШІ, ймовірно, буде найбільш несучою частиною обґрунтування безпеки тут, оскільки малоймовірно, що техніки узгодження будуть достатньо хороші, щоб суттєво знизити ризик.", "The core control loop is:": "Основний цикл контролю такий:", "Red-team our control measures by having models (or humans acting as models) try to defeat them": "Проводити red-team наших заходів контролю, змушуючи моделі (або людей, що діють як моделі) намагатися їх обійти", "Estimate how capable a scheming AI would need to be to defeat our measures": "Оцінити, наскільки потужним мав би бути ШІ-змовник, щоб обійти наші заходи", "Evaluate whether our current AIs are below that capability threshold": "Оцінити, чи наші поточні ШІ перебувають нижче цього порогу можливостей", "Iterate on measures that seem insufficient, or de-deploy AI systems that are sufficiently capable that they break our control.": "Ітеративно вдосконалювати заходи, які здаються недостатніми, або виводити з розгортання ШІ-системи, які достатньо потужні, щоб зламати наш контроль.", "What you need to ensure control for": "Для чого потрібно забезпечити контроль", "There are many domains that we need to ensure control of our AIs while they are deployed in. The basic strategy will remain the same (executing the above control loop), but it’s useful to have a concrete picture of all the domains that we are relying extensively on AI labor for.": "Існує багато сфер, у яких нам потрібно забезпечити контроль над нашими ШІ під час їхнього розгортання. Базова стратегія залишатиметься тією самою (виконання наведеного вище циклу контролю), але корисно мати конкретну картину всіх сфер, у яких ми значною мірою покладаємося на працю ШІ.", "Normal AI R&D, especially safety R&D.": "Звичайний AI R&D, особливо R&D з безпеки.", " This is particularly important because if the AI R&D process is hijacked, it could directly lead to an existential catastrophe through subverting the safety measures or inserting misaligned goals into successors. This is the main focus of control.": " Це особливо важливо, тому що якщо процес AI R&D буде захоплено, це могло б безпосередньо призвести до екзистенційної катастрофи через підрив заходів безпеки або впровадження неузгоджених цілей у наступників. Це основний фокус контролю.", "This is particularly important because if the AI R&D process is hijacked, it could directly lead to an existential catastrophe through subverting the safety measures or inserting misaligned goals into successors. This is the main focus of control.": "Це особливо важливо, тому що якщо процес AI R&D буде захоплено, це могло б безпосередньо призвести до екзистенційної катастрофи через підрив заходів безпеки або впровадження неузгоджених цілей у наступників. Це основний фокус контролю.", ". This is discussed in more depth below, in the Plan A section, where it’s especially relevant.": ". Це детальніше обговорюється нижче, у розділі про План А, де це особливо актуально.", "Acasual research": "Акаузальні дослідження", ". We hope that we don’t need to use AIs to do this, because it’s an extremely difficult to verify and conceptually loaded domain.": ". Ми сподіваємося, що нам не доведеться використовувати ШІ для цього, оскільки це надзвичайно важка для верифікації та концептуально навантажена сфера.", "Improving cyber security": "Покращення кібербезпеки", " (by redesigning all software and interfaces).": " (шляхом перепроєктування всього програмного забезпечення та інтерфейсів).", "(by redesigning all software and interfaces).": "(шляхом перепроєктування всього програмного забезпечення та інтерфейсів).", "Doing all of the control work itself.": "Виконання всієї роботи з контролю самостійно.", " For example, building better control evals, playing the red-team / blue-team game, setting up better versions of the red-team / blue-team game, etc.": " Наприклад, створення кращих евалюацій контролю, гра в red-team / blue-team, налаштування кращих версій гри red-team / blue-team тощо.", "For example, building better control evals, playing the red-team / blue-team game, setting up better versions of the red-team / blue-team game, etc.": "Наприклад, створення кращих евалюацій контролю, гра в red-team / blue-team, налаштування кращих версій гри red-team / blue-team тощо.", "Policy / comms / persuasion.": "Політика / комунікації / переконання.", " The leading AI project should potentially be using their AIs to assist with policy efforts. Of course, this could easily go terribly wrong (if the AIs are misaligned, they could sabotage the policy efforts, or if the company has a bad strategy, like trying to avoid an international deal that would slow takeoff down). This should hopefully not be superpersuasion, which is especially scary and probably impossible to ensure control for.": " Провідний ШІ-проєкт, можливо, мав би використовувати своїх ШІ для допомоги в політичних зусиллях. Звісно, це легко могло б піти жахливо не так (якщо ШІ неузгоджені, вони могли б саботувати політичні зусилля, або якщо у компанії погана стратегія, наприклад спроба уникнути міжнародної угоди, яка сповільнила б зліт). Сподіваємося, що це не буде суперпереконанням, яке особливо лякає і для якого, ймовірно, неможливо забезпечити контроль.", "The leading AI project should potentially be using their AIs to assist with policy efforts. Of course, this could easily go terribly wrong (if the AIs are misaligned, they could sabotage the policy efforts, or if the company has a bad strategy, like trying to avoid an international deal that would slow takeoff down). This should hopefully not be superpersuasion, which is especially scary and probably impossible to ensure control for.": "Провідний ШІ-проєкт, можливо, мав би використовувати своїх ШІ для допомоги в політичних зусиллях. Звісно, це легко могло б піти жахливо не так (якщо ШІ неузгоджені, вони могли б саботувати політичні зусилля, або якщо у компанії погана стратегія, наприклад спроба уникнути міжнародної угоди, яка сповільнила б зліт). Сподіваємося, що це не буде суперпереконанням, яке особливо лякає і для якого, ймовірно, неможливо забезпечити контроль.", "Strategy.": "Стратегія.", " Again, we hope you don’t have to use AIs to do your strategy, but perhaps some work here is verifiable. For example, you could give the AI information only from before 2015 and have it attempt to produce work that was as good as strategy work at the time.": " Знову ж таки, ми сподіваємося, що вам не доведеться використовувати ШІ для розробки вашої стратегії, але, можливо, частина роботи тут піддається верифікації. Наприклад, ви могли б дати ШІ інформацію лише до 2015 року і попросити його спробувати виконати роботу, таку ж якісну, як стратегічна робота того часу.", "Again, we hope you don’t have to use AIs to do your strategy, but perhaps some work here is verifiable. For example, you could give the AI information only from before 2015 and have it attempt to produce work that was as good as strategy work at the time.": "Знову ж таки, ми сподіваємося, що вам не доведеться використовувати ШІ для розробки вашої стратегії, але, можливо, частина роботи тут піддається верифікації. Наприклад, ви могли б дати ШІ інформацію лише до 2015 року і попросити його спробувати виконати роботу, таку ж якісну, як стратегічна робота того часу.", "Verification.": "Верифікація.", " AIs could be used to improve the robustness of hardware enabled mechanisms (HEMs), design new HEMs, design better verification algorithms (e.g. proof of work), be used as part of privacy preserving verification (e.g. have AIs monitor to enforce agreements, but only communicate 1 bit about compliance), hunting for covert projects, lie detection machines, etc. Much of this is verifiable or amenable to red-team / blue-team games.": " ШІ можна було б використовувати для підвищення надійності апаратно забезпечених механізмів (HEM), розробки нових HEM, розробки кращих алгоритмів верифікації (наприклад, proof of work), використання як частини верифікації зі збереженням приватності (наприклад, ШІ здійснює моніторинг для забезпечення дотримання угод, але повідомляє лише 1 біт інформації про відповідність), пошуку таємних проєктів, машин виявлення брехні тощо. Значна частина цього піддається верифікації або грі red-team / blue-team.", "AIs could be used to improve the robustness of hardware enabled mechanisms (HEMs), design new HEMs, design better verification algorithms (e.g. proof of work), be used as part of privacy preserving verification (e.g. have AIs monitor to enforce agreements, but only communicate 1 bit about compliance), hunting for covert projects, lie detection machines, etc. Much of this is verifiable or amenable to red-team / blue-team games.": "ШІ можна було б використовувати для підвищення надійності апаратно забезпечених механізмів (HEM), розробки нових HEM, розробки кращих алгоритмів верифікації (наприклад, proof of work), використання як частини верифікації зі збереженням приватності (наприклад, ШІ здійснює моніторинг для забезпечення дотримання угод, але повідомляє лише 1 біт інформації про відповідність), пошуку таємних проєктів, машин виявлення брехні тощо. Значна частина цього піддається верифікації або грі red-team / blue-team.", "Building EMs or other forms of intelligence augmentation.": "Створення емуляцій мозку (EM) або інших форм посилення інтелекту.", " There are a lot of research directions here, many of which are verifiable. However, a central bottleneck will be serial time.": " Тут є багато напрямів досліджень, багато з яких піддаються верифікації. Проте основним вузьким місцем буде послідовний час.", "There are a lot of research directions here, many of which are verifiable. However, a central bottleneck will be serial time.": "Тут є багато напрямів досліджень, багато з яких піддаються верифікації. Проте основним вузьким місцем буде послідовний час.", "Weapons R&D": "R&D зброї", " (conventional missiles for datacenters, drones for datacenters, ABMs to undermine deterrence, etc). This could be used to help extend the lead time that a leading AI project or country has, in order to avoid needing to do an intelligence explosion. In the extreme case, this could even involve developing exotic technology (e.g. nanotech), but we hope that’s not necessary. This is obviously dangerous for the usual reasons, plus also because if the AIs hijack the weapons it could go badly.": " (звичайні ракети для дата-центрів, дрони для дата-центрів, протиракетна оборона для підриву стримування тощо). Це можна було б використати, щоб допомогти продовжити час випередження, який має провідний ШІ-проєкт чи країна, аби уникнути потреби у вибуху інтелекту. У крайньому випадку це могло б навіть включати розробку екзотичних технологій (наприклад, нанотехнологій), але ми сподіваємося, що це не буде потрібно. Це очевидно небезпечно з звичайних причин, а також тому, що якщо ШІ захоплять зброю, це могло б обернутися погано.", "(conventional missiles for datacenters, drones for datacenters, ABMs to undermine deterrence, etc). This could be used to help extend the lead time that a leading AI project or country has, in order to avoid needing to do an intelligence explosion. In the extreme case, this could even involve developing exotic technology (e.g. nanotech), but we hope that’s not necessary. This is obviously dangerous for the usual reasons, plus also because if the AIs hijack the weapons it could go badly.": "(звичайні ракети для дата-центрів, дрони для дата-центрів, протиракетна оборона для підриву стримування тощо). Це можна було б використати, щоб допомогти продовжити час випередження, який має провідний ШІ-проєкт чи країна, аби уникнути потреби у вибуху інтелекту. У крайньому випадку це могло б навіть включати розробку екзотичних технологій (наприклад, нанотехнологій), але ми сподіваємося, що це не буде потрібно. Це очевидно небезпечно з звичайних причин, а також тому, що якщо ШІ захоплять зброю, це могло б обернутися погано.", "Overall economy uplift / industrial explosion.": "Загальне піднесення економіки / промисловий вибух.", "AIs might be able to build their own independent industrial base, allowing them to manufacture chips autonomously, which could allow for them to do their own intelligence explosion. Note that this is hard for them to do quietly and quickly, and so is an unlikely threat model, especially in Plan C.": "ШІ могли б бути здатні побудувати власну незалежну промислову базу, що дозволило б їм автономно виробляти чипи, а це могло б дозволити їм здійснити власний вибух інтелекту. Зауважте, що зробити це тихо й швидко для них важко, тож це малоймовірна модель загрози, особливо в Плані C.", "AIs running autonomous factories could smuggle out easy to manufacture offense dominant tech, like bioweapons / engineered pandemics.": "ШІ, що керують автономними фабриками, могли б контрабандою виносити легкі у виробництві технології з домінуванням наступу, як-от біозброя / штучно створені пандемії.", "AI Friends.": "ШІ-друзі.", " If AIs during the intelligence explosion are widely deployed as chatbots (like current frontier AIs), then they will have the affordance to convince large numbers of people to act in its interest, e.g. by lobbying for pro-AI policy.": " Якщо під час вибуху інтелекту ШІ широко розгорнуті як чат-боти (як нинішні передові ШІ), вони матимуть можливість переконувати велику кількість людей діяти в їхніх інтересах, наприклад лобіюючи проШІ-політику.", "If AIs during the intelligence explosion are widely deployed as chatbots (like current frontier AIs), then they will have the affordance to convince large numbers of people to act in its interest, e.g. by lobbying for pro-AI policy.": "Якщо під час вибуху інтелекту ШІ широко розгорнуті як чат-боти (як нинішні передові ШІ), вони матимуть можливість переконувати велику кількість людей діяти в їхніх інтересах, наприклад лобіюючи проШІ-політику.", "Deployment in government.": "Розгортання в уряді.", " As pictured in AI 2027, if AIs deployed in government are misaligned, they could strategically mislead policymakers into making decisions that would gain themselves power.": " Як зображено в AI 2027, якщо ШІ, розгорнуті в уряді, є неузгодженими, вони могли б стратегічно вводити в оману політиків, підштовхуючи їх до рішень, які надали б ШІ владу.", "As pictured in AI 2027, if AIs deployed in government are misaligned, they could strategically mislead policymakers into making decisions that would gain themselves power.": "Як зображено в AI 2027, якщо ШІ, розгорнуті в уряді, є неузгодженими, вони могли б стратегічно вводити в оману політиків, підштовхуючи їх до рішень, які надали б ШІ владу.", "D/acc.": "D/acc.", " We’d like to use AIs for D/acc, especially on bio-threat related D/acc. However, building biodefenses might look somewhat close to building bio threats, need to ensure that AIs don’t have access to physical tools to build and deploy bioweapons.": " Нам хотілося б використовувати ШІ для D/acc, особливо для D/acc, пов’язаного з біозагрозами. Однак створення біозахисту могло б виглядати доволі схожим на створення біозагроз, тож потрібно забезпечити, щоб ШІ не мали доступу до фізичних інструментів для створення та застосування біозброї.", "We’d like to use AIs for D/acc, especially on bio-threat related D/acc. However, building biodefenses might look somewhat close to building bio threats, need to ensure that AIs don’t have access to physical tools to build and deploy bioweapons.": "Нам хотілося б використовувати ШІ для D/acc, особливо для D/acc, пов’язаного з біозагрозами. Однак створення біозахисту могло б виглядати доволі схожим на створення біозагроз, тож потрібно забезпечити, щоб ШІ не мали доступу до фізичних інструментів для створення та застосування біозброї.", "What are the main control measures that we expect in practice?": "Які основні заходи контролю ми очікуємо на практиці?", "Human Monitoring.": "Людський моніторинг.", " Have humans read actions and thoughts generated by AIs, and evaluate how risky they are. Probably some of these actions should be a random sample of AI actions and thoughts.": " Люди читають дії та думки, згенеровані ШІ, і оцінюють, наскільки вони ризиковані. Ймовірно, частина цих дій має бути випадковою вибіркою дій та думок ШІ.", "Have humans read actions and thoughts generated by AIs, and evaluate how risky they are. Probably some of these actions should be a random sample of AI actions and thoughts.": "Люди читають дії та думки, згенеровані ШІ, і оцінюють, наскільки вони ризиковані. Ймовірно, частина цих дій має бути випадковою вибіркою дій та думок ШІ.", "Trusted and Untrusted Monitoring.": "Довірений і недовірений моніторинг.", " Human monitoring is very expensive, and so (at least in Plan C) humans will only have capacity to monitor a tiny fraction of the outputs generated by AIs. Therefore most of the monitoring will have to be done by AIs. Some of this should be done by AIs that are dumb enough that it is unlikely that they are scheming against us (trusted monitoring), while other monitoring should be done by AIs that might be scheming against us (untrusted monitoring). Untrusted monitoring might be important because untrusted models will be the only AIs that are capable enough to understand the relevant actions/thoughts. We might be able to get a useful untrusted monitor, despite the AI scheming, by training the monitor on examples of bad behavior, inserting fake examples of bad behaviour at runtime (honeypots), or hoping that the AIs have a hard time colluding. (discussed more ": " Людський моніторинг дуже дорогий, тож (принаймні в Плані C) люди матимуть спроможність моніторити лише мізерну частку виводів, згенерованих ШІ. Тому більшість моніторингу доведеться виконувати самим ШІ. Частину цього мають робити ШІ, достатньо тупі, щоб малоймовірно, що вони плетуть змову проти нас (довірений моніторинг), тоді як інший моніторинг мають виконувати ШІ, які можуть плести змову проти нас (недовірений моніторинг). Недовірений моніторинг може бути важливим, тому що недовірені моделі будуть єдиними ШІ, достатньо потужними, щоб розуміти відповідні дії/думки. Ми могли б отримати корисний недовірений монітор, попри змовництво ШІ, тренуючи монітор на прикладах поганої поведінки, вставляючи фальшиві приклади поганої поведінки під час виконання (honeypots), або сподіваючись, що ШІ важко змовлятися між собою. (детальніше обговорюється ", "Human monitoring is very expensive, and so (at least in Plan C) humans will only have capacity to monitor a tiny fraction of the outputs generated by AIs. Therefore most of the monitoring will have to be done by AIs. Some of this should be done by AIs that are dumb enough that it is unlikely that they are scheming against us (trusted monitoring), while other monitoring should be done by AIs that might be scheming against us (untrusted monitoring). Untrusted monitoring might be important because untrusted models will be the only AIs that are capable enough to understand the relevant actions/thoughts. We might be able to get a useful untrusted monitor, despite the AI scheming, by training the monitor on examples of bad behavior, inserting fake examples of bad behaviour at runtime (honeypots), or hoping that the AIs have a hard time colluding. (discussed more": "Людський моніторинг дуже дорогий, тож (принаймні в Плані C) люди матимуть спроможність моніторити лише мізерну частку виводів, згенерованих ШІ. Тому більшість моніторингу доведеться виконувати самим ШІ. Частину цього мають робити ШІ, достатньо тупі, щоб малоймовірно, що вони плетуть змову проти нас (довірений моніторинг), тоді як інший моніторинг мають виконувати ШІ, які можуть плести змову проти нас (недовірений моніторинг). Недовірений моніторинг може бути важливим, тому що недовірені моделі будуть єдиними ШІ, достатньо потужними, щоб розуміти відповідні дії/думки. Ми могли б отримати корисний недовірений монітор, попри змовництво ШІ, тренуючи монітор на прикладах поганої поведінки, вставляючи фальшиві приклади поганої поведінки під час виконання (honeypots), або сподіваючись, що ШІ важко змовлятися між собою. (детальніше обговорюється", "Execute / Replace / Audit.": "Виконати / Замінити / Перевірити.", " Use monitors to evaluate how suspicious the actions that an AI agent is taking. If the examples are obviously benign, let the AI agent execute them autonomously. If it is very suspicious, deploy a team of human auditors to look through the action in more depth. However, there will likely be a huge number of AI agents during the intelligence explosion": " Використовуйте монітори, щоб оцінити, наскільки підозрілими є дії, які виконує ШІ-агент. Якщо приклади очевидно безпечні, дозвольте ШІ-агенту виконувати їх автономно. Якщо дія дуже підозріла, залучіть команду людей-аудиторів, щоб детальніше розглянути цю дію. Однак під час вибуху інтелекту, ймовірно, буде величезна кількість ШІ-агентів", "Use monitors to evaluate how suspicious the actions that an AI agent is taking. If the examples are obviously benign, let the AI agent execute them autonomously. If it is very suspicious, deploy a team of human auditors to look through the action in more depth. However, there will likely be a huge number of AI agents during the intelligence explosion": "Використовуйте монітори, щоб оцінити, наскільки підозрілими є дії, які виконує ШІ-агент. Якщо приклади очевидно безпечні, дозвольте ШІ-агенту виконувати їх автономно. Якщо дія дуже підозріла, залучіть команду людей-аудиторів, щоб детальніше розглянути цю дію. Однак під час вибуху інтелекту, ймовірно, буде величезна кількість ШІ-агентів", ", and so humans will be able to audit only a tiny fraction of the actions that they take.": ", тож люди зможуть перевірити лише мізерну частку дій, які вони вчиняють.", "Collusion Resistant Untrusted Monitoring.": "Недовірений моніторинг, стійкий до змови.", " When deploying an AI agent, use other AI agents (which you might not trust for similar reasons to the original) to check if an AI’s actions are dangerous. Of course, the key problem with this is that the AIs might be colluding. The main strategy for mitigating this problem is to run sting operations on the monitors by creating huge numbers of plausible seeming harmful actions that an AI might take, and check if the monitor faithfully reports that action.": " Під час розгортання ШІ-агента використовуйте інших ШІ-агентів (яким ви також можете не довіряти з причин, схожих на причини недовіри до оригіналу), щоб перевіряти, чи є дії ШІ небезпечними. Звісно, ключова проблема тут полягає в тому, що ШІ можуть змовлятися між собою. Основна стратегія пом’якшення цієї проблеми — проводити операції-пастки на моніторах, створюючи величезну кількість правдоподібних на вигляд шкідливих дій, які міг би вчинити ШІ, і перевіряти, чи монітор чесно повідомляє про цю дію.", "When deploying an AI agent, use other AI agents (which you might not trust for similar reasons to the original) to check if an AI’s actions are dangerous. Of course, the key problem with this is that the AIs might be colluding. The main strategy for mitigating this problem is to run sting operations on the monitors by creating huge numbers of plausible seeming harmful actions that an AI might take, and check if the monitor faithfully reports that action.": "Під час розгортання ШІ-агента використовуйте інших ШІ-агентів (яким ви також можете не довіряти з причин, схожих на причини недовіри до оригіналу), щоб перевіряти, чи є дії ШІ небезпечними. Звісно, ключова проблема тут полягає в тому, що ШІ можуть змовлятися між собою. Основна стратегія пом’якшення цієї проблеми — проводити операції-пастки на моніторах, створюючи величезну кількість правдоподібних на вигляд шкідливих дій, які міг би вчинити ШІ, і перевіряти, чи монітор чесно повідомляє про цю дію.", "This is roughly the current (early 2026) level of speedup. With these capabilities, it seems unclear what an AI could do to cause harm; the main risk is that we’ve either (i) completely screwed up the evaluations or (ii) the AI is sandbagging very effectively.  ": "Це приблизно поточний (початок 2026 року) рівень прискорення. З такими можливостями незрозуміло, що ШІ міг би зробити, щоб завдати шкоди; основний ризик полягає в тому, що ми або (i) повністю провалили оцінювання, або (ii) ШІ дуже ефективно займається сендбегінгом.  ", "This is roughly the current (early 2026) level of speedup. With these capabilities, it seems unclear what an AI could do to cause harm; the main risk is that we’ve either (i) completely screwed up the evaluations or (ii) the AI is sandbagging very effectively.": "Це приблизно поточний (початок 2026 року) рівень прискорення. З такими можливостями незрозуміло, що ШІ міг би зробити, щоб завдати шкоди; основний ризик полягає в тому, що ми або (i) повністю провалили оцінювання, або (ii) ШІ дуже ефективно займається сендбегінгом.", " If we catch the AI taking an action that seems highly likely to be misaligned, we can use that action to bootstrap more sting operations on our AI systems. Critically, we don’t have to tell any of our AIs that they were caught misbehaving, so we might be able to continually get more and more examples of AIs attempting to do harmful actions, while making our control setup more and more robust to those attack attempts and getting a better and better understanding of what types of attacks are likely.": " Якщо ми зловимо ШІ на дії, яка виглядає дуже ймовірно неузгодженою, ми можемо використати цю дію, щоб запустити ще більше операцій-пасток на наших ШІ-системах. Що критично важливо — нам не обов'язково повідомляти жодному з наших ШІ про те, що його спіймали на поганій поведінці, тож ми зможемо постійно отримувати дедалі більше прикладів спроб ШІ виконати шкідливі дії, водночас роблячи нашу систему контролю дедалі стійкішою до таких спроб атак і дедалі краще розуміючи, які типи атак є ймовірними.", "If we catch the AI taking an action that seems highly likely to be misaligned, we can use that action to bootstrap more sting operations on our AI systems. Critically, we don’t have to tell any of our AIs that they were caught misbehaving, so we might be able to continually get more and more examples of AIs attempting to do harmful actions, while making our control setup more and more robust to those attack attempts and getting a better and better understanding of what types of attacks are likely.": "Якщо ми зловимо ШІ на дії, яка виглядає дуже ймовірно неузгодженою, ми можемо використати цю дію, щоб запустити ще більше операцій-пасток на наших ШІ-системах. Що критично важливо — нам не обов'язково повідомляти жодному з наших ШІ про те, що його спіймали на поганій поведінці, тож ми зможемо постійно отримувати дедалі більше прикладів спроб ШІ виконати шкідливі дії, водночас роблячи нашу систему контролю дедалі стійкішою до таких спроб атак і дедалі краще розуміючи, які типи атак є ймовірними.", "Principle of least privilege": "Принцип найменших привілеїв", " An AI agent should have access to the least information and permissions that are necessary for its intended purpose. For example, if an AI is doing an experiment to improve agent scaffolds, and so needs to run inference on a frontier model, it should do so via an API, as opposed to by directly accessing and sampling from the model weights. If this principle is applied well, we expect that the cost of monitoring for harmful actions could be decreased by 10 or 100x, because monitors will mostly only have to review the actions with a dangerously high number of permissions.": " ШІ-агент повинен мати доступ лише до тієї інформації та прав, які необхідні для виконання його призначеного завдання. Наприклад, якщо ШІ проводить експеримент з покращення агентних скафолдів і для цього потребує запустити інференс на передовій моделі, він має робити це через API, а не шляхом прямого доступу до ваг моделі та семплування з них. Якщо цей принцип застосовано добре, ми очікуємо, що вартість моніторингу шкідливих дій можна знизити у 10 або 100 разів, оскільки моніторам здебільшого доведеться перевіряти лише дії з небезпечно високим рівнем прав доступу.", "An AI agent should have access to the least information and permissions that are necessary for its intended purpose. For example, if an AI is doing an experiment to improve agent scaffolds, and so needs to run inference on a frontier model, it should do so via an API, as opposed to by directly accessing and sampling from the model weights. If this principle is applied well, we expect that the cost of monitoring for harmful actions could be decreased by 10 or 100x, because monitors will mostly only have to review the actions with a dangerously high number of permissions.": "ШІ-агент повинен мати доступ лише до тієї інформації та прав, які необхідні для виконання його призначеного завдання. Наприклад, якщо ШІ проводить експеримент з покращення агентних скафолдів і для цього потребує запустити інференс на передовій моделі, він має робити це через API, а не шляхом прямого доступу до ваг моделі та семплування з них. Якщо цей принцип застосовано добре, ми очікуємо, що вартість моніторингу шкідливих дій можна знизити у 10 або 100 разів, оскільки моніторам здебільшого доведеться перевіряти лише дії з небезпечно високим рівнем прав доступу.", "High Quality Incident Response Teams.": "Команди реагування на інциденти високої якості.", " A key dynamic in cyber security is laying down tripwires and alerts for potentially concerning behaviour, and then poking around and auditing to identify if there was a potential threat. There should be a similar, well resourced team at any project attempting an intelligence explosion. This team should have the goal of identifying harmful actions that the AIs are taking within e.g. a few days of the action occurring. Deep into the intelligence explosion, AIs will be potentially doing months or years of cognitive labor over the course of days, and so this latency might need to be reduced to hours or minutes of wall clock time.": " Ключова динаміка в кібербезпеці полягає в тому, щоб розставляти пастки-сигналізатори та сповіщення для потенційно тривожної поведінки, а потім досліджувати й аудіювати, щоб з'ясувати, чи була реальна загроза. У будь-якому проєкті, що намагається досягти вибуху інтелекту, має бути подібна, добре забезпечена ресурсами команда. Мета цієї команди — виявляти шкідливі дії, які вчиняють ШІ, наприклад, протягом кількох днів після того, як дія відбулася. У пізніших фазах вибуху інтелекту ШІ-системи потенційно виконуватимуть місяці або роки когнітивної праці протягом кількох днів, тож цю затримку, можливо, доведеться скоротити до годин чи хвилин астрономічного часу.", "A key dynamic in cyber security is laying down tripwires and alerts for potentially concerning behaviour, and then poking around and auditing to identify if there was a potential threat. There should be a similar, well resourced team at any project attempting an intelligence explosion. This team should have the goal of identifying harmful actions that the AIs are taking within e.g. a few days of the action occurring. Deep into the intelligence explosion, AIs will be potentially doing months or years of cognitive labor over the course of days, and so this latency might need to be reduced to hours or minutes of wall clock time.": "Ключова динаміка в кібербезпеці полягає в тому, щоб розставляти пастки-сигналізатори та сповіщення для потенційно тривожної поведінки, а потім досліджувати й аудіювати, щоб з'ясувати, чи була реальна загроза. У будь-якому проєкті, що намагається досягти вибуху інтелекту, має бути подібна, добре забезпечена ресурсами команда. Мета цієї команди — виявляти шкідливі дії, які вчиняють ШІ, наприклад, протягом кількох днів після того, як дія відбулася. У пізніших фазах вибуху інтелекту ШІ-системи потенційно виконуватимуть місяці або роки когнітивної праці протягом кількох днів, тож цю затримку, можливо, доведеться скоротити до годин чи хвилин астрономічного часу.", "Information siloing and restricting communication.": "Ізоляція інформації та обмеження комунікації.", " The worst case scenario from an AI control perspective is if an AI company runs a huge number of AIs that are able to arbitrarily communicate with each other in ways that humans can’t understand (e.g. neuralese). For example, we could:": " Найгірший сценарій з точки зору контролю ШІ — це якщо компанія, що розробляє ШІ, запускає величезну кількість ШІ-систем, здатних довільно спілкуватися між собою способами, які люди не можуть зрозуміти (наприклад, «нейромова», neuralese). Наприклад, ми могли б:", "The worst case scenario from an AI control perspective is if an AI company runs a huge number of AIs that are able to arbitrarily communicate with each other in ways that humans can’t understand (e.g. neuralese). For example, we could:": "Найгірший сценарій з точки зору контролю ШІ — це якщо компанія, що розробляє ШІ, запускає величезну кількість ШІ-систем, здатних довільно спілкуватися між собою способами, які люди не можуть зрозуміти (наприклад, «нейромова», neuralese). Наприклад, ми могли б:", "Limit neuralese. I.e., in some or all of our models, we could maintain a chain of thought.": "Обмежити нейромову (neuralese). Тобто в деяких або в усіх наших моделях ми могли б підтримувати ланцюжок міркувань (CoT).", "Limit RL setups that lead to garbled COT": "Обмежити RL-конфігурації, які призводять до спотвореного CoT", "Limit opaque long term memory": "Обмежити непрозору довгострокову пам'ять", "Limit communications between AI systems to be through monitored channels.": "Обмежити комунікацію між ШІ-системами лише через контрольовані (моніторовані) канали.", "Pursue various anti-steganography measures (e.g. paraphrasing).": "Впроваджувати різні заходи проти стеганографії (наприклад, перефразування).", "The details of AI control are discussed more here: ": "Детальніше про контроль ШІ йдеться тут: ", "The details of AI control are discussed more here:": "Детальніше про контроль ШІ йдеться тут:", "The case for ensuring that powerful AIs are controlled": "Аргументація на користь того, щоб потужні ШІ були контрольованими", "Contingency: What to do when you catch your AI scheming once?": "План дій: що робити, якщо ви одного разу впіймали власний ШІ на змовництві?", "It’s plausible we’ll catch production AIs coherently scheming or at least doing very malign actions competently. For example, we might see AIs attempting backdoor future models, trying to escape, trying to stage a rogue internal deployment, trying to sabotage safety research, etc.": "Цілком імовірно, що ми впіймаємо продакшн-ШІ на послідовному змовництві або принаймні на компетентному виконанні вкрай зловмисних дій. Наприклад, ми можемо побачити, як ШІ намагається вбудувати бекдор у майбутні моделі, намагається втекти, намагається організувати самовільне внутрішнє розгортання, намагається саботувати дослідження безпеки тощо.", "We might also see this in experimental setups which are highly analogous to the actual training setup we use. We could also find AIs ending up scheming (or at least exhibit clear cut coherent and relatively consistent misalignment) in their chain-of-thought or other legible outputs. Catching AIs scheming could substantially change our approach:": "Ми також можемо побачити це в експериментальних умовах, які дуже подібні до реальної конфігурації навчання, яку ми використовуємо. Ми також можемо виявити, що ШІ вдаються до змовництва (або принаймні демонструють чітку, послідовну й відносно стабільну неузгодженість) у своєму ланцюжку міркувань чи інших читабельних виведеннях. Спіймання ШІ на змовництві може суттєво змінити наш підхід:", "Reconsider current deployments.": "Переглянути поточні розгортання.", " Catching AI might invalidate the current safety case/argument/cost-benefit-calculation, so we should reconsider our practices.": " Спіймання ШІ на такому може анулювати поточне обґрунтування безпеки/аргументацію/розрахунок співвідношення витрат і вигід, тож нам слід переглянути наші практики.", "Catching AI might invalidate the current safety case/argument/cost-benefit-calculation, so we should reconsider our practices.": "Спіймання ШІ на такому може анулювати поточне обґрунтування безпеки/аргументацію/розрахунок співвідношення витрат і вигід, тож нам слід переглянути наші практики.", "Disclosure:": "Розкриття інформації:", " You should obviously inform the public about such an event.": " Очевидно, слід поінформувати громадськість про таку подію.", "You should obviously inform the public about such an event.": "Очевидно, слід поінформувати громадськість про таку подію.", "Documentation:": "Документування:", " Keeping good reasonably-verifiable records might help convince third parties that the incident is real and not staged. This might be important due to the potentially adversarial situation: we want to convince potentially adversarial companies and countries that might be worried about some agenda. See ": " Ведення якісних, достатньо перевірюваних записів може допомогти переконати треті сторони, що інцидент реальний, а не інсценований. Це може бути важливим через потенційно ворожу ситуацію: ми хочемо переконати потенційно ворожі компанії та країни, які можуть підозрювати нас у прихованому порядку денному. Див. ", "Keeping good reasonably-verifiable records might help convince third parties that the incident is real and not staged. This might be important due to the potentially adversarial situation: we want to convince potentially adversarial companies and countries that might be worried about some agenda. See": "Ведення якісних, достатньо перевірюваних записів може допомогти переконати треті сторони, що інцидент реальний, а не інсценований. Це може бути важливим через потенційно ворожу ситуацію: ми хочемо переконати потенційно ворожі компанії та країни, які можуть підозрювати нас у прихованому порядку денному. Див.", " for some discussion of why this might be an issue by default. Robust records are also helpful for after the fact detection as discussed ": " для обговорення того, чому це може бути проблемою за замовчуванням. Надійні записи також корисні для виявлення постфактум, як обговорюється ", "for some discussion of why this might be an issue by default. Robust records are also helpful for after the fact detection as discussed": "для обговорення того, чому це може бути проблемою за замовчуванням. Надійні записи також корисні для виявлення постфактум, як обговорюється", "Information control:": "Контроль інформації:", " Ideally, prevent AIs from knowing they’ve already been caught. Minimally, red team AIs based on already having been caught to see how this changes their behavior.": " В ідеалі — не давати ШІ дізнатися, що його вже спіймали. Мінімально — проводити редтімінг ШІ, виходячи з припущення, що його вже спіймали, щоб побачити, як це змінює його поведінку.", "Ideally, prevent AIs from knowing they’ve already been caught. Minimally, red team AIs based on already having been caught to see how this changes their behavior.": "В ідеалі — не давати ШІ дізнатися, що його вже спіймали. Мінімально — проводити редтімінг ШІ, виходячи з припущення, що його вже спіймали, щоб побачити, як це змінює його поведінку.", "Improve mitigations:": "Покращити заходи пом'якшення:", " If we’re proceeding despite this incident then there are various ": " Якщо ми продовжуємо, попри цей інцидент, то є різні ", "If we’re proceeding despite this incident then there are various": "Якщо ми продовжуємо, попри цей інцидент, то є різні", "ways we can improve our safety mitigations": "способи покращити наші заходи безпеки", ". We’ll want to shift our approach to control after catching the AI as discussed ": ". Нам варто буде змінити свій підхід до контролю після спіймання ШІ, як обговорюється ", ". We’ll want to shift our approach to control after catching the AI as discussed": ". Нам варто буде змінити свій підхід до контролю після спіймання ШІ, як обговорюється", ". We should start working on responding to this incident and improving our mitigations regardless of whether we currently plan on proceeding. We should also try to better understand scheming/misalignment based on studying the incident.": ". Нам слід почати працювати над реагуванням на цей інцидент і покращенням наших заходів пом'якшення незалежно від того, чи плануємо ми наразі продовжувати. Також варто спробувати краще зрозуміти змовництво/неузгодженість на основі вивчення цього інциденту.", "Use this evidence to push for Plan A.": "Використати ці докази, щоб просувати План А.", " As more evidence is rolling in, and it becomes more and more incontrovertible, perhaps we can pivot to a more sane policy that doesn’t involve recklessly building ASI without reasonably high assurance of avoiding AI takeover. However, even conditional on good evidence that the AIs are scheming against us, it’s very plausible that the government will not be sufficiently convinced or too incompetent to coordinate a slowdown. Therefore, we need to be ready for a world where we keep repeatedly catching misaligned behavior, but we have to keep deploying likely-scheming models anyway.": " У міру надходження дедалі більшої кількості доказів, які стають дедалі незаперечнішими, можливо, ми зможемо перейти до розумнішої політики, яка не передбачає безрозсудної побудови суперінтелекту (ASI) без достатньо високої впевненості в тому, що вдасться уникнути захоплення влади ШІ. Однак навіть за наявності переконливих доказів того, що ШІ змовляються проти нас, цілком імовірно, що уряд не буде достатньо переконаний або виявиться надто некомпетентним, щоб скоординувати сповільнення. Тому нам потрібно бути готовими до світу, в якому ми продовжуємо раз за разом ловити неузгоджену поведінку, але все одно змушені розгортати моделі, які, ймовірно, займаються змовництвом.", "As more evidence is rolling in, and it becomes more and more incontrovertible, perhaps we can pivot to a more sane policy that doesn’t involve recklessly building ASI without reasonably high assurance of avoiding AI takeover. However, even conditional on good evidence that the AIs are scheming against us, it’s very plausible that the government will not be sufficiently convinced or too incompetent to coordinate a slowdown. Therefore, we need to be ready for a world where we keep repeatedly catching misaligned behavior, but we have to keep deploying likely-scheming models anyway.": "У міру надходження дедалі більшої кількості доказів, які стають дедалі незаперечнішими, можливо, ми зможемо перейти до розумнішої політики, яка не передбачає безрозсудної побудови суперінтелекту (ASI) без достатньо високої впевненості в тому, що вдасться уникнути захоплення влади ШІ. Однак навіть за наявності переконливих доказів того, що ШІ змовляються проти нас, цілком імовірно, що уряд не буде достатньо переконаний або виявиться надто некомпетентним, щоб скоординувати сповільнення. Тому нам потрібно бути готовими до світу, в якому ми продовжуємо раз за разом ловити неузгоджену поведінку, але все одно змушені розгортати моделі, які, ймовірно, займаються змовництвом.", "It’s unclear whether we should directly train against cases of clear cut egregious behavior": "Незрозуміло, чи варто нам напряму тренувати модель проти випадків очевидно кричущої поведінки", " (that seems plausibly due to scheming). It could be bad because we are essentially training the AI to be less likely to get caught. This might make us less likely to catch further examples (which we’d prefer all else equal) and might give the AI a better understanding of our countermeasures.": " (яка, ймовірно, спричинена змовництвом). Це може бути погано, бо ми, по суті, тренуємо ШІ так, щоб його рідше ловили. Це може зменшити ймовірність того, що ми впіймаємо подальші приклади (що, за інших рівних умов, було б для нас бажаним), а також може дати ШІ краще розуміння наших контрзаходів.", "(that seems plausibly due to scheming). It could be bad because we are essentially training the AI to be less likely to get caught. This might make us less likely to catch further examples (which we’d prefer all else equal) and might give the AI a better understanding of our countermeasures.": "(яка, ймовірно, спричинена змовництвом). Це може бути погано, бо ми, по суті, тренуємо ШІ так, щоб його рідше ловили. Це може зменшити ймовірність того, що ми впіймаємо подальші приклади (що, за інших рівних умов, було б для нас бажаним), а також може дати ШІ краще розуміння наших контрзаходів.", " Despite the downsides, there are cases where training against specific behaviors might be worth it:": " Попри ці недоліки, є випадки, коли тренування проти конкретної поведінки може бути виправданим:", "Despite the downsides, there are cases where training against specific behaviors might be worth it:": "Попри ці недоліки, є випадки, коли тренування проти конкретної поведінки може бути виправданим:", "In desperate rushed situations": "У відчайдушних, поспішних ситуаціях", ": we might proceed with deploying likely scheming AIs despite having limited risk reduction via control. In such cases, training against caught behaviors provides at least marginal improvement.": ": ми можемо продовжити розгортання ШІ, які, ймовірно, займаються змовництвом, попри обмежене зниження ризику за допомогою контролю. У таких випадках тренування проти спійманої поведінки дає бодай маргінальне покращення.", "When we have many diverse detection methods:": "Коли в нас є багато різноманітних методів виявлення:", " If training against one detection method doesn’t compromise our other detection capabilities, the downside is smaller.": " Якщо тренування проти одного методу виявлення не компрометує наші інші можливості виявлення, недолік менш суттєвий.", "If training against one detection method doesn’t compromise our other detection capabilities, the downside is smaller.": "Якщо тренування проти одного методу виявлення не компрометує наші інші можливості виявлення, недолік менш суттєвий.", "When we’ve already eaten the misalignment risk:": "Коли ми вже прийняли на себе ризик неузгодженості:", " There are some scenarios where we give up ensuring control over output and just hope that the AIs are not scheming. If we’ve given up on ensuring control (perhaps because control was too difficult or too uncompetitive in some important case(s)), so we’re already eating a ton of risk if the AI is scheming and using its outputs here doesn’t increase the marginal risk—then training against specific behaviors has lower downsides.": " Існують сценарії, де ми відмовляємося від забезпечення контролю над виведенням і просто сподіваємося, що ШІ не займається змовництвом. Якщо ми вже відмовилися від забезпечення контролю (можливо, тому що контроль виявився надто складним або надто неконкурентоспроможним у якомусь важливому випадку(-ах)), то ми вже й так приймаємо на себе величезний ризик, якщо ШІ займається змовництвом, і використання його виведень тут не збільшує граничний ризик — тоді тренування проти конкретної поведінки має менші недоліки.", "There are some scenarios where we give up ensuring control over output and just hope that the AIs are not scheming. If we’ve given up on ensuring control (perhaps because control was too difficult or too uncompetitive in some important case(s)), so we’re already eating a ton of risk if the AI is scheming and using its outputs here doesn’t increase the marginal risk—then training against specific behaviors has lower downsides.": "Існують сценарії, де ми відмовляємося від забезпечення контролю над виведенням і просто сподіваємося, що ШІ не займається змовництвом. Якщо ми вже відмовилися від забезпечення контролю (можливо, тому що контроль виявився надто складним або надто неконкурентоспроможним у якомусь важливому випадку(-ах)), то ми вже й так приймаємо на себе величезний ризик, якщо ШІ займається змовництвом, і використання його виведень тут не збільшує граничний ризик — тоді тренування проти конкретної поведінки має менші недоліки.", "This is discussed more ": "Про це детальніше йдеться ", "This is discussed more": "Про це детальніше йдеться", "When do we shift effort away from control?": "Коли нам слід переносити зусилля з контролю на інше?", "Once we’re substantially after the ITAI milestone (e.g., we’re somewhat after superhuman coder), we’ve hopefully researched and implemented most of the control measures we wanted (at least ones which aren’t very specific to the model or its capability level). We should keep improving our control measures to handle higher level of capability, but we should hopefully be spending a smaller fraction of our time on control and shifting this effort to other areas. We’re probably spending a reasonable fraction of effort on ongoing maintenance, specialization, and updates for control measures in addition to spending a reasonable fraction of effort on auditing as part of the control protocol itself. Overall, I think we should be spending a lower fraction of human researcher effort on control work (at least other than object level auditing) so this effort can go elsewhere to other research areas which are now more leveraged. If control appears to be broadly keeping up with the level of capability, then ideally we’d halve effort on control.": "Коли ми суттєво пройдемо віху ITAI (наприклад, дещо після появи надлюдського програміста), ми, сподіваємося, вже дослідили та впровадили більшість бажаних заходів контролю (принаймні ті, що не є дуже специфічними для конкретної моделі чи рівня її можливостей). Нам слід і надалі вдосконалювати заходи контролю, щоб впоратися з вищим рівнем можливостей, але, сподіваємося, витрачати на контроль дедалі меншу частку часу, переносячи ці зусилля на інші напрямки. Ймовірно, ми витрачатимемо розумну частку зусиль на поточну підтримку, спеціалізацію та оновлення заходів контролю, а також розумну частку зусиль на аудит як частину самого протоколу контролю. Загалом, я вважаю, що нам слід витрачати меншу частку зусиль людських дослідників на роботу з контролю (принаймні окрім аудиту на рівні окремих об'єктів), щоб ці зусилля могли перейти в інші дослідницькі напрямки, де вони тепер мають більший важіль впливу. Якщо контроль загалом встигає за рівнем можливостей, тоді в ідеалі варто було б удвічі скоротити зусилля на контроль.", "Because we now have more powerful models, studying misalignment analogies is increasingly leveraged. If we get relatively naturalistic examples of scheming (and especially if we have multiple), then ": "Оскільки тепер у нас є потужніші моделі, вивчення аналогій неузгодженості дає дедалі більший важіль впливу. Якщо ми отримаємо відносно натуралістичні приклади змовництва (і особливо якщо їх буде кілька), то ", "Because we now have more powerful models, studying misalignment analogies is increasingly leveraged. If we get relatively naturalistic examples of scheming (and especially if we have multiple), then": "Оскільки тепер у нас є потужніші моделі, вивчення аналогій неузгодженості дає дедалі більший важіль впливу. Якщо ми отримаємо відносно натуралістичні приклади змовництва (і особливо якщо їх буде кілька), то", "studying scheming using these examples": "вивчення змовництва за допомогою цих прикладів", " is now quite promising. (Of course, if we’re encountering evidence for scheming which is quite strong, we should update about the level of risk which might shift our prioritization.) As we proceed to higher levels of capability and encounter more empirical evidence, we’ll have a better sense about which non-scheming threat models look concerning and need to be addressed. (Non-scheming threat models are easier to identify and study, so we should have a reasonable understanding of the probability of these threat models.) For scheming, we’ll see some empirical updates based on the model architecture and we might update strongly upwards on scheming based on catching schemers or we might update downward somewhat based on not seeing as much evidence for scheming. (See discussion about how we’ll update ": " тепер стає доволі перспективним. (Звісно, якщо ми натрапляємо на доволі переконливі докази змовництва, нам слід переглянути оцінку рівня ризику, що може змінити наші пріоритети.) У міру просування до вищих рівнів можливостей і накопичення емпіричних доказів ми краще розумітимемо, які загрозливі моделі, не пов'язані зі змовництвом, виглядають тривожними і потребують вирішення. (Загрозливі моделі, не пов'язані зі змовництвом, легше виявити й вивчити, тож у нас має скластися розумне уявлення про ймовірність таких загроз.) Щодо змовництва — ми побачимо певні емпіричні оновлення на основі архітектури моделі, і ми можемо суттєво підвищити оцінку ймовірності змовництва через спіймання «змовників», або дещо знизити її через брак доказів змовництва. (Див. обговорення того, як ми оновлюватимемо оцінки ", "is now quite promising. (Of course, if we’re encountering evidence for scheming which is quite strong, we should update about the level of risk which might shift our prioritization.) As we proceed to higher levels of capability and encounter more empirical evidence, we’ll have a better sense about which non-scheming threat models look concerning and need to be addressed. (Non-scheming threat models are easier to identify and study, so we should have a reasonable understanding of the probability of these threat models.) For scheming, we’ll see some empirical updates based on the model architecture and we might update strongly upwards on scheming based on catching schemers or we might update downward somewhat based on not seeing as much evidence for scheming. (See discussion about how we’ll update": "тепер стає доволі перспективним. (Звісно, якщо ми натрапляємо на доволі переконливі докази змовництва, нам слід переглянути оцінку рівня ризику, що може змінити наші пріоритети.) У міру просування до вищих рівнів можливостей і накопичення емпіричних доказів ми краще розумітимемо, які загрозливі моделі, не пов'язані зі змовництвом, виглядають тривожними і потребують вирішення. (Загрозливі моделі, не пов'язані зі змовництвом, легше виявити й вивчити, тож у нас має скластися розумне уявлення про ймовірність таких загроз.) Щодо змовництва — ми побачимо певні емпіричні оновлення на основі архітектури моделі, і ми можемо суттєво підвищити оцінку ймовірності змовництва через спіймання «змовників», або дещо знизити її через брак доказів змовництва. (Див. обговорення того, як ми оновлюватимемо оцінки", "Elicitation": "Розкриття можливостей", "By this point, AIs could be extremely useful for many applications (both technical safety research, security, and trying to buy time), so ensuring we’re leveraging AIs effectively should be a substantial fraction of what we’re working on and is more important than it was before (this was also harder to work on in advance). This work will probably often be somewhat specific to the application, so, a substantial part of the job of people working on technical AI safety research and security will now be figuring out how to more effectively automate parts of their work with AI (while ensuring the outputs are actually good and the AIs are controlled).": "На цьому етапі ШІ вже можуть бути надзвичайно корисними для багатьох застосувань (як для технічних досліджень безпеки, так і для безпеки в широкому сенсі та спроб виграти час), тож забезпечення ефективного використання ШІ має становити суттєву частку нашої роботи і є важливішим, ніж раніше (над цим також було складніше працювати заздалегідь). Ця робота, ймовірно, часто буде доволі специфічною для конкретного застосування, тож значна частина роботи людей, які займаються технічними дослідженнями безпеки ШІ та безпекою, тепер полягатиме в тому, щоб з'ясувати, як ефективніше автоматизувати частину своєї роботи за допомогою ШІ (водночас гарантуючи, що результати справді якісні, а ШІ контрольований).", "We need to achieve a lot to successfully hand off, and this will likely have to happen in a pretty short period of time, so AI acceleration is key. Even in worlds where we’re able to buy a lot of time, that time will often itself be bought using AI labor (especially in Plan C). Beyond this, the hope is that the AIs we hand off to can operate much faster than humans to quickly complete the needed work.": "Нам потрібно досягти багато чого для успішної передачі повноважень, і, ймовірно, це доведеться зробити за досить короткий проміжок часу, тож прискорення за допомогою ШІ є ключовим. Навіть у світах, де нам вдається виграти багато часу, цей час часто сам купується за рахунок праці ШІ (особливо у Плані C). Крім того, ми сподіваємося, що ШІ, яким ми передамо повноваження, зможуть працювати значно швидше за людей, щоб швидко виконати потрібну роботу.", "Note that we care about “worst case usefulness” supposing our AIs are scheming (what we centrally evaluate with control) and what our best guess at usefulness is conditional on our AIs not scheming against us. So, when trying to improve usefulness, we should care about pushing up both of these. This tradeoff is discussed more in ": "Зауважте, що нас цікавить «корисність у найгіршому випадку» за умови, що наші ШІ займаються змовництвом (це те, що ми переважно оцінюємо за допомогою контролю), а також наша найкраща оцінка корисності за умови, що наші ШІ не змовляються проти нас. Тож, намагаючись підвищити корисність, нам слід дбати про покращення обох цих показників. Цей компроміс детальніше обговорюється в ", "Note that we care about “worst case usefulness” supposing our AIs are scheming (what we centrally evaluate with control) and what our best guess at usefulness is conditional on our AIs not scheming against us. So, when trying to improve usefulness, we should care about pushing up both of these. This tradeoff is discussed more in": "Зауважте, що нас цікавить «корисність у найгіршому випадку» за умови, що наші ШІ займаються змовництвом (це те, що ми переважно оцінюємо за допомогою контролю), а також наша найкраща оцінка корисності за умови, що наші ШІ не змовляються проти нас. Тож, намагаючись підвищити корисність, нам слід дбати про покращення обох цих показників. Цей компроміс детальніше обговорюється в", "the post on improving AI usefulness": "статті про підвищення корисності ШІ", "What will we be trying to get our AIs to do?": "Що ми намагатимемося змусити наші ШІ робити?", "During the mitigate and elicit phase, we need AIs to help with a wide range of tasks. The core applications are:": "Під час фази пом'якшення та розкриття можливостей нам потрібно, щоб ШІ допомагали з широким спектром завдань. Основні застосування:", "Safety research and implementation.": "Дослідження безпеки та впровадження.", " This is the most important application. We need AIs to help with:": " Це найважливіше застосування. Нам потрібно, щоб ШІ допомагали з:", "This is the most important application. We need AIs to help with:": "Це найважливіше застосування. Нам потрібно, щоб ШІ допомагали з:", "Control research: developing and iterating on control measures, running control evaluations, red-teaming monitoring systems": "Дослідження контролю: розробка та ітеративне вдосконалення заходів контролю, проведення оцінок контролю, редтімінг систем моніторингу", "Misalignment analogies: creating and studying model organisms of scheming, testing interventions on these analogies": "Аналогії неузгодженості: створення та вивчення модельних організмів змовництва, тестування втручань на цих аналогіях", "Alignment research more broadly: working on avoiding scheming, improving our understanding of how training shapes AI propensities, developing better oversight methods": "Дослідження узгодження в ширшому сенсі: робота над запобіганням змовництву, поглиблення розуміння того, як навчання формує схильності ШІ, розробка кращих методів нагляду", "Security implementation: building and auditing security infrastructure (though this is scary from a control perspective—the AIs building security infrastructure must themselves be controlled or too weak to plausibly be scheming)": "Впровадження безпеки: створення та аудит інфраструктури безпеки (хоча це й лякає з точки зору контролю — ШІ, що будують інфраструктуру безпеки, самі мають бути контрольованими або занадто слабкими, щоб правдоподібно займатися змовництвом)", "Building the evaluation infrastructure needed for iteration on all of the above": "Створення інфраструктури оцінювання, необхідної для ітеративного вдосконалення всього перерахованого вище", "Buying lead time.": "Виграш часу.", " Once AI labor is very useful for directly trying to buy time, this becomes a high priority. This includes:": " Щойно праця ШІ стає дуже корисною для безпосередніх спроб виграти час, це стає високим пріоритетом. Сюди входить:", "Once AI labor is very useful for directly trying to buy time, this becomes a high priority. This includes:": "Щойно праця ШІ стає дуже корисною для безпосередніх спроб виграти час, це стає високим пріоритетом. Сюди входить:", "Assisting government efforts on non-proliferation": "Допомога урядовим зусиллям з нерозповсюдження", "Cyber offense and defense capabilities": "Наступальні та оборонні кіберможливості", "Surveillance and verification technology for international coordination": "Технології спостереження та верифікації для міжнародної координації", "Military applications and weapons R&D": "Військові застосування та розробка озброєнь (R&D)", "Industrial acceleration more broadly": "Промислове прискорення в ширшому сенсі", "Demonstrating risks and capabilities to increase willingness to pay from other actors": "Демонстрація ризиків і можливостей для підвищення готовності інших гравців нести витрати", "AIs might only be very useful for many strategies for directly buying time (e.g., military, cyber, surveillance) at a level of capability substantially after ITAI.": "ШІ можуть стати дійсно корисними для багатьох стратегій безпосереднього виграшу часу (наприклад, військових, кібер, спостереження) лише на рівні можливостей, що суттєво перевищує віху ITAI.", "Improving AI epistemics and philosophical/conceptual reasoning.": "Покращення епістеміки ШІ та філософських/концептуальних міркувань.", " This is important both for getting useful safety work and for handoff-viability. We want AIs that:": " Це важливо як для отримання корисної роботи з безпеки, так і для життєздатності передачі повноважень. Ми хочемо, щоб ШІ:", "This is important both for getting useful safety work and for handoff-viability. We want AIs that:": "Це важливо як для отримання корисної роботи з безпеки, так і для життєздатності передачі повноважень. Ми хочемо, щоб ШІ:", "Are aligned, capable, and well-elicited at conceptual/fuzzy domains": "Були узгодженими, здібними та добре розкритими в концептуальних/нечітких доменах", "Have good epistemics and truth-seeking abilities": "Мали хорошу епістеміку та здатність до пошуку істини", "Can do a good job on extremely hard research which is loaded on conceptual/philosophical reasoning": "Могли добре виконувати вкрай складні дослідження, які значною мірою спираються на концептуальні/філософські міркування", "Can make good strategic choices even when these choices depend on high-context knowledge and intuitions that can’t be made legible to humans": "Здатен ухвалювати добрі стратегічні рішення, навіть коли ці рішення залежать від контекстно-залежних знань та інтуїцій, які неможливо зробити зрозумілими для людей", "Ideally, we’d end up deploying AIs with impressive truth-seeking abilities that would be useful for a bunch of applications beyond just safety research.": "В ідеалі ми зрештою розгорнемо ШІ-системи з вражаючими здібностями до пошуку істини, корисними для багатьох застосувань, а не лише для досліджень безпеки.", "Preparing for handoff.": "Підготовка до передачі.", " As the phase progresses, increasing effort goes toward:": " У міру просування цієї фази дедалі більше зусиль спрямовується на:", "As the phase progresses, increasing effort goes toward:": "У міру просування цієї фази дедалі більше зусиль спрямовується на:", "Ensuring AIs generalize to being highly aligned with pretty high reliability on all the tasks needed for handoff": "Забезпечення того, щоб ШІ-системи узагальнювали свою високу узгодженість із достатньо високою надійністю на всіх завданнях, потрібних для передачі", "Studying how we’d make a functioning post-ASI society": "Дослідження того, як побудувати функціональне суспільство після появи ASI", "Building behavioral tests that evaluate whether handoff would go well": "Розробка поведінкових тестів, які оцінюють, чи пройде передача успішно", "Other specialized applications:": "Інші спеціалізовані застосування:", "Whole brain emulation research (if this path looks viable)": "Дослідження повної емуляції мозку (якщо цей шлях виглядає життєздатним)", "Human intelligence augmentation research": "Дослідження підсилення людського інтелекту", "Making the world more robust to powerful AIs (biodefense, cyberdefense, etc.) In plan C, this is probably relatively less important than Plan A/B, because we will be forced to hand off soon to a substantially superhuman AI. Regardless, we probably should use AI to pick some of the low hanging fruit.": "Підвищення стійкості світу до потужних ШІ-систем (біозахист, кіберзахист тощо). У Плані C це, ймовірно, відносно менш важливо, ніж у Плані A/B, оскільки нам доведеться незабаром передати владу суттєво надлюдському ШІ. Тим не менш, нам, ймовірно, варто використати ШІ, щоб зібрати найпростіші плоди.", "External deployment to safety researchers.": "Зовнішнє розгортання для дослідників безпеки.", " Making AIs accessible to outside groups working on reducing risk is important. This involves:": " Важливо зробити ШІ-системи доступними для зовнішніх груп, які працюють над зниженням ризиків. Це включає:", "Making AIs accessible to outside groups working on reducing risk is important. This involves:": "Важливо зробити ШІ-системи доступними для зовнішніх груп, які працюють над зниженням ризиків. Це включає:", "Giving them better model access": "Надання їм кращого доступу до моделей", "Eliciting models specifically for their usage": "Проведення елісітації моделей спеціально під їхнє використання", "Potentially ensuring control for their use cases (making sure control evaluations cover this use case, providing access to internal control measures, and adapting/building new control measures as needed)": "Можливо, забезпечення контролю для їхніх сценаріїв використання (переконатися, що оцінки контролю охоплюють цей сценарій використання, надати доступ до внутрішніх заходів контролю та адаптувати/розробити нові заходи контролю за потреби)", "Making AIs accessible to outside groups working on these things (and treating these groups as important customers) is also important. This could involve giving them better model access, eliciting models specifically for their usage, subsidizing compute for important applications, and potentially ensuring control (e.g., making sure our control evaluations cover this use case, providing access to our internal control measures, and adapting/building new control measures as needed).": "Також важливо зробити ШІ-системи доступними для зовнішніх груп, які працюють над цими напрямами (і ставитися до цих груп як до важливих клієнтів). Це може включати надання їм кращого доступу до моделей, проведення елісітації моделей спеціально під їхнє використання, субсидування обчислювальних потужностей для важливих застосувань і, можливо, забезпечення контролю (наприклад, переконатися, що наші оцінки контролю охоплюють цей сценарій використання, надати доступ до наших внутрішніх заходів контролю та адаптувати/розробити нові заходи контролю за потреби).", "Expected acceleration from AI labor": "Очікуване прискорення завдяки праці ШІ", "How much acceleration can we hope for? One way to think about this: safety research/implementation is produced by putting in labor, compute, and wisdom/judgement/taste. There is some production function of output based on these input.": "На яке прискорення можна сподіватися? Один зі способів це осмислити: дослідження/впровадження безпеки виробляються за рахунок вкладення праці, обчислювальних потужностей та мудрості/суджень/смаку. Існує певна виробнича функція результату на основі цих вхідних даних.", "AIs will be able to accelerate labor for AI capabilities R&D by some amount. The multiplier for safety R&D labor will probably be smaller because safety is harder to accelerate due to being more confused and harder to verify (though elicitation measures could help close this gap). But safety R&D will probably have relatively larger returns on labor (rather than compute) when compared to capabilities R&D. Overall, this makes it unclear which will be accelerated more by AI, at least if lots of effort is put into accelerating safety R&D. We don’t need safety R&D accelerated more than capabilities—we just need it accelerated enough.": "ШІ-системи зможуть певною мірою прискорити працю для capabilities R&D (AI R&D можливостей). Множник для праці в safety R&D, ймовірно, буде меншим, оскільки безпеку складніше прискорити — вона більш заплутана і складніше піддається верифікації (хоча заходи елісітації могли б допомогти скоротити цей розрив). Але safety R&D, ймовірно, матиме відносно більшу віддачу від праці (а не обчислювальних потужностей) порівняно з capabilities R&D. Загалом це робить незрозумілим, який з напрямів ШІ прискорить більше, — принаймні якщо докласти значних зусиль до прискорення safety R&D. Нам не потрібно, щоб safety R&D прискорювався більше, ніж capabilities, — нам потрібно лише, щоб він прискорювався достатньо.", "Some rough estimates:": "Кілька приблизних оцінок:", "Between ITAI (~3x AI R&D labor acceleration) and superhuman coder (~15x AI R&D acceleration):": "Між ITAI (~3x прискорення праці AI R&D) та superhuman coder (~15x прискорення AI R&D):", " If safety acceleration is AI R&D acceleration to the power of 0.6 (due to bottlenecks from human labor, poor elicitation, and the control tax), this yields safety R&D acceleration of 2.2x to 6.7x, with an average overall safety R&D acceleration of roughly 3x. I expect a roughly exponential increase in labor acceleration over time and think that production of safety might be roughly labor_speed ^ 0.75 compute ^ 0.25 (numbers mostly made up), so the average overall safety R&D acceleration is ~2.8": " Якщо прискорення безпеки дорівнює прискоренню AI R&D у степені 0.6 (через вузькі місця, пов’язані з людською працею, недостатньою елісітацією та податком на контроль), це дає прискорення safety R&D від 2.2x до 6.7x, із середнім загальним прискоренням safety R&D приблизно 3x. Я очікую приблизно експоненційне зростання прискорення праці з часом і думаю, що продукування безпеки, ймовірно, приблизно дорівнює labor_speed ^ 0.75 compute ^ 0.25 (цифри здебільшого вигадані), тож середнє загальне прискорення safety R&D становить ~2.8", "If safety acceleration is AI R&D acceleration to the power of 0.6 (due to bottlenecks from human labor, poor elicitation, and the control tax), this yields safety R&D acceleration of 2.2x to 6.7x, with an average overall safety R&D acceleration of roughly 3x. I expect a roughly exponential increase in labor acceleration over time and think that production of safety might be roughly labor_speed ^ 0.75 compute ^ 0.25 (numbers mostly made up), so the average overall safety R&D acceleration is ~2.8": "Якщо прискорення безпеки дорівнює прискоренню AI R&D у степені 0.6 (через вузькі місця, пов’язані з людською працею, недостатньою елісітацією та податком на контроль), це дає прискорення safety R&D від 2.2x до 6.7x, із середнім загальним прискоренням safety R&D приблизно 3x. Я очікую приблизно експоненційне зростання прискорення праці з часом і думаю, що продукування безпеки, ймовірно, приблизно дорівнює labor_speed ^ 0.75 compute ^ 0.25 (цифри здебільшого вигадані), тож середнє загальне прискорення safety R&D становить ~2.8", "So these BOTEC numbers indicate a roughly 3x overall average safety R&D speed up.": "Отже, ці BOTEC-цифри вказують на приблизно 3-кратне загальне середнє прискорення safety R&D.", "How long should we expect between ITAI and superhuman coder? I think I expect roughly 1 year, so this means we have 2 additional years during this period.": "Скільки часу варто очікувати між ITAI та superhuman coder? Я думаю, приблизно 1 рік, а отже, у нас є 2 додаткові роки протягом цього періоду.", "Between superhuman coder and Min-H:": "Між superhuman coder та Min-H:", " In principle, we might expect Min-H to be able to speed up safety R&D labor by huge amounts (e.g. 100x) if perfectly aligned. But, elicitation and/or control might be huge blockers in practice to getting this level of acceleration out (as in, we’d end up having key human bottlenecks and not extracting out optimal labor). This might be modeled by a more aggressive coefficient than 0.6, like maybe 0.5 which only results in 10x safety labor R&D acceleration. This is a large part of why handoff is advantageous at this point. If we use the 10x safety labor R&D acceleration (100^0.5) and the 15^0.6 number for superhuman coder, we’d expect 4.8x average overall safety R&D acceleration between superhuman coder and Min-H. That said, I think the model I’m using here starts to break down in multiple ways at Min-H. (I think AIs might be able to do enough low compute safety R&D that my production function is off and I think that it’s really unclear how bad the control/elicitation for safety R&D will be.)": " У принципі, можна очікувати, що Min-H зможе прискорити працю safety R&D у величезну кількість разів (наприклад, у 100 разів), якщо буде ідеально узгодженим. Але елісітація та/або контроль на практиці можуть виявитися величезними перешкодами для досягнення такого рівня прискорення (тобто ми зрештою матимемо ключові вузькі місця через людей і не зможемо витягти оптимальну працю). Це можна змоделювати агресивнішим коефіцієнтом, ніж 0.6, — скажімо, приблизно 0.5, що дає лише 10-кратне прискорення праці safety R&D. Значною мірою саме тому передача вигідна на цьому етапі. Якщо використати 10-кратне прискорення праці safety R&D (100^0.5) та число 15^0.6 для superhuman coder, можна очікувати 4.8x середнього загального прискорення safety R&D між superhuman coder та Min-H. Тим не менш, я думаю, що модель, яку я тут використовую, у кількох аспектах починає давати збій на рівні Min-H. (Я думаю, що ШІ-системи можуть виконувати достатньо safety R&D з низьким споживанням обчислювальних потужностей, через що моя виробнича функція неточна, і я думаю, що насправді неясно, наскільки поганим буде контроль/елісітація для safety R&D.)", "In principle, we might expect Min-H to be able to speed up safety R&D labor by huge amounts (e.g. 100x) if perfectly aligned. But, elicitation and/or control might be huge blockers in practice to getting this level of acceleration out (as in, we’d end up having key human bottlenecks and not extracting out optimal labor). This might be modeled by a more aggressive coefficient than 0.6, like maybe 0.5 which only results in 10x safety labor R&D acceleration. This is a large part of why handoff is advantageous at this point. If we use the 10x safety labor R&D acceleration (100^0.5) and the 15^0.6 number for superhuman coder, we’d expect 4.8x average overall safety R&D acceleration between superhuman coder and Min-H. That said, I think the model I’m using here starts to break down in multiple ways at Min-H. (I think AIs might be able to do enough low compute safety R&D that my production function is off and I think that it’s really unclear how bad the control/elicitation for safety R&D will be.)": "У принципі, можна очікувати, що Min-H зможе прискорити працю safety R&D у величезну кількість разів (наприклад, у 100 разів), якщо буде ідеально узгодженим. Але елісітація та/або контроль на практиці можуть виявитися величезними перешкодами для досягнення такого рівня прискорення (тобто ми зрештою матимемо ключові вузькі місця через людей і не зможемо витягти оптимальну працю). Це можна змоделювати агресивнішим коефіцієнтом, ніж 0.6, — скажімо, приблизно 0.5, що дає лише 10-кратне прискорення праці safety R&D. Значною мірою саме тому передача вигідна на цьому етапі. Якщо використати 10-кратне прискорення праці safety R&D (100^0.5) та число 15^0.6 для superhuman coder, можна очікувати 4.8x середнього загального прискорення safety R&D між superhuman coder та Min-H. Тим не менш, я думаю, що модель, яку я тут використовую, у кількох аспектах починає давати збій на рівні Min-H. (Я думаю, що ШІ-системи можуть виконувати достатньо safety R&D з низьким споживанням обчислювальних потужностей, через що моя виробнича функція неточна, і я думаю, що насправді неясно, наскільки поганим буде контроль/елісітація для safety R&D.)", "I expect roughly 1 year between superhuman coder and Min-H, so we’re looking 3.8 extra years by default.": "Я очікую приблизно 1 рік між superhuman coder та Min-H, тож за замовчуванням отримуємо 3.8 додаткових років.", "If we could harness Min-H-level AIs fully for 6 months, we’d get the equivalent of 15 years of safety R&D. Of course, we might not be able to achieve full elicitation, but large improvements seem possible.": "Якби вдалося повністю задіяти ШІ рівня Min-H протягом 6 місяців, це дало б еквівалент 15 років safety R&D. Звісно, повної елісітації досягти може не вдатися, але значні покращення виглядають можливими.", "Additionally, safety directions which aren’t compute constrained (including inference compute to run experiments on AIs) look particularly good: we’ll have a lot of labor relative to other resources. A common strategy might be to have smarter AIs run experiments on much weaker AIs (this applies for both safety and capabilities R&D).": "Крім того, особливо перспективними виглядають напрями безпеки, які не обмежені обчислювальними потужностями (включно з обчисленнями для інференсу, потрібними для проведення експериментів на ШІ): у нас буде багато праці відносно інших ресурсів. Поширеною стратегією може бути залучення розумніших ШІ для проведення експериментів на значно слабших ШІ (це стосується як safety R&D, так і capabilities R&D).", "So without any additional lead time, you should imagine it’s maybe as though we have 3 years between ITAI and superhuman coder and 5 years between superhuman coder and Min-H. But, this could be pretty different in practice: e.g. we might get somewhat less value from weaker AIs or be able to extract much more value from Min-H (especially after we spend a bunch of time improving elicitation/control or we resolve scheming well enough that we’re happy to drop control). Overall, I think there is a large chance we’ll be able to harness much more value from Min-H before handoff, especially due to things like partial handoff, though it’s unclear how this should count as this itself required solving key alignment/safety problems.": "Отже, без будь-якого додаткового часового запасу варто уявляти це так, ніби між ITAI та superhuman coder у нас є 3 роки, а між superhuman coder та Min-H — 5 років. Але на практиці все може бути доволі інакше: наприклад, ми можемо отримати дещо менше користі від слабших ШІ або, навпаки, здатні витягти набагато більше користі з Min-H (особливо після того, як витратимо чимало часу на покращення елісітації/контролю, або достатньо добре вирішимо проблему змови, щоб бути готовими відмовитися від контролю). Загалом я думаю, що є висока ймовірність того, що ми зможемо задіяти набагато більше користі з Min-H до передачі, зокрема завдяки таким речам, як часткова передача, хоча незрозуміло, як це варто враховувати, оскільки сама ця можливість вимагала б вирішення ключових проблем узгодження/безпеки.", "Elicitation techniques and methodologies": "Техніки та методології елісітації", "Our techniques for elicitation are the same as those used for handoff viability, which are discussed ": "Наші техніки елісітації — ті самі, що використовуються для оцінки життєздатності передачі, і розглядаються ", "Our techniques for elicitation are the same as those used for handoff viability, which are discussed": "Наші техніки елісітації — ті самі, що використовуються для оцінки життєздатності передачі, і розглядаються", "later in this doc": "далі в цьому документі", ". To summarize, the core hope for elicitation is:": ". Підсумовуючи, основна надія на елісітацію полягає в такому:", "Build behavioral tests": "Розробка поведінкових тестів", "Use these behavioral tests as held out evaluation sets or as RL environments to train on to improve performance.": "Використання цих поведінкових тестів як відкладених (held-out) оцінювальних наборів або як RL-середовищ для навчання з метою покращення продуктивності.", "Try to use principled techniques to improve generalization performance.": "Спроби використовувати принципові техніки для покращення узагальнювальної здатності.", "Another idea for elicitation that doesn’t apply to hand off is ": "Ще одна ідея для елісітації, яка не застосовується до передачі, — це ", "Another idea for elicitation that doesn’t apply to hand off is": "Ще одна ідея для елісітації, яка не застосовується до передачі, — це", "making deals with AI systems": "укладання угод із ШІ-системами", ". Misaligned AIs during this phase might be in a bad strategic position (e.g. they don’t believe they could successfully take over), or might have easy to satisfy preferences, which would lead to them being incentivized to take a deal.": ". Неузгоджені ШІ-системи на цьому етапі можуть перебувати в невигідному стратегічному становищі (наприклад, не вірити, що зможуть успішно захопити владу), або можуть мати легко задовольнювані уподобання, що стимулюватиме їх погодитися на угоду.", "Security": "Безпека", "We want to have at least some lead time with powerful AIs, which means that we probably need at least some security, sufficient to prevent adversaries from immediately exfiltrating model weights. We aren’t security experts, so we won’t cover implementation, but we will talk about thresholds that you should reach, and how the plan changes based on what level of security you get to.": "Ми хочемо мати хоча б певний часовий запас із потужними ШІ, а це означає, що нам, ймовірно, потрібна принаймні певна безпека, достатня для того, щоб не дати противникам одразу викрасти ваги моделі. Ми не є експертами з безпеки, тож не розглядатимемо реалізацію, але поговоримо про порогові значення, яких варто досягти, і про те, як план змінюється залежно від того, якого рівня безпеки вдалося досягти.", "Let’s first define the type of security you most care about:": "Спершу визначимо тип безпеки, який турбує вас найбільше:", "Model weights.": "Ваги моделі.", " If model weights leak, adversaries immediately get to run inference on your model. This is relatively less important early on (because it isn’t that bad if adversaries have early systems; the main downside is that it will accelerate their intelligence explosions), and relatively more important when you already have extremely powerful AIs (e.g. AIs that can do superpersuasion / quickly build nanobot armies). Model weights are (at least right now) very large (on the order of terabytes), which is very desirable from a security perspective, because it means that adversaries will need a high bandwidth channel to smuggle out model weights.": " Якщо ваги моделі витечуть, противники одразу отримають змогу запускати інференс на вашій моделі. На ранніх етапах це відносно менш важливо (бо не так уже й погано, якщо противники отримають ранні системи; головний недолік — це прискорить їхні вибухи інтелекту), і відносно важливіше, коли у вас уже є надзвичайно потужні ШІ (наприклад, ШІ, здатні на суперпереконання / швидке створення армій нанороботів). Ваги моделі (принаймні наразі) дуже великі (порядку терабайтів), що дуже бажано з погляду безпеки, оскільки це означає, що противникам знадобиться канал із високою пропускною здатністю, щоб контрабандою вивезти ваги моделі.", "If model weights leak, adversaries immediately get to run inference on your model. This is relatively less important early on (because it isn’t that bad if adversaries have early systems; the main downside is that it will accelerate their intelligence explosions), and relatively more important when you already have extremely powerful AIs (e.g. AIs that can do superpersuasion / quickly build nanobot armies). Model weights are (at least right now) very large (on the order of terabytes), which is very desirable from a security perspective, because it means that adversaries will need a high bandwidth channel to smuggle out model weights.": "Якщо ваги моделі витечуть, противники одразу отримають змогу запускати інференс на вашій моделі. На ранніх етапах це відносно менш важливо (бо не так уже й погано, якщо противники отримають ранні системи; головний недолік — це прискорить їхні вибухи інтелекту), і відносно важливіше, коли у вас уже є надзвичайно потужні ШІ (наприклад, ШІ, здатні на суперпереконання / швидке створення армій нанороботів). Ваги моделі (принаймні наразі) дуже великі (порядку терабайтів), що дуже бажано з погляду безпеки, оскільки це означає, що противникам знадобиться канал із високою пропускною здатністю, щоб контрабандою вивезти ваги моделі.", "Algorithmic security.": "Алгоритмічна безпека.", " If algorithms leak, then adversaries can rerun your training runs, and catch up to you. However, the fact that they need to rerun their training run introduces a delay, which could potentially be quite large, if the adversaries cluster is much smaller than yours. If you have a large hardware lead (e.g. 7x more compute, which is the current US/China gap) in Plan C, probably algorithmic security doesn’t matter very much.": " Якщо алгоритми витечуть, противники зможуть повторити ваші прогони навчання і наздогнати вас. Однак необхідність повторно запустити прогін навчання створює затримку, яка потенційно може бути доволі великою, якщо кластер противника значно менший за ваш. Якщо у вас велика апаратна перевага (наприклад, у 7 разів більше обчислювальних потужностей, що є нинішнім розривом між США та Китаєм) у Плані C, алгоритмічна безпека, ймовірно, не має великого значення.", "If algorithms leak, then adversaries can rerun your training runs, and catch up to you. However, the fact that they need to rerun their training run introduces a delay, which could potentially be quite large, if the adversaries cluster is much smaller than yours. If you have a large hardware lead (e.g. 7x more compute, which is the current US/China gap) in Plan C, probably algorithmic security doesn’t matter very much.": "Якщо алгоритми витечуть, противники зможуть повторити ваші прогони навчання і наздогнати вас. Однак необхідність повторно запустити прогін навчання створює затримку, яка потенційно може бути доволі великою, якщо кластер противника значно менший за ваш. Якщо у вас велика апаратна перевага (наприклад, у 7 разів більше обчислювальних потужностей, що є нинішнім розривом між США та Китаєм) у Плані C, алгоритмічна безпека, ймовірно, не має великого значення.", "One important subset of algorithmic security is securing RL environments and synthetic training data. These datasets/envs are much larger than typical algorithmic insights, and so are probably easier to secure (but still harder to secure than model weights).": "Одна важлива підмножина алгоритмічної безпеки — це захист RL-середовищ і синтетичних навчальних даних. Ці набори даних/середовища набагато більші за типові алгоритмічні інсайти, тож їх, імовірно, легше захистити (але все одно складніше, ніж ваги моделі).", "Sabotage robustness.": "Стійкість до саботажу.", " You might also care about hardening your datacenters against sabotage. This is potentially a negative sum proposition (because the equilibrium where everyone’s datacenters are sabotaged is good), but might be worthwhile (for example because others have hardened, and marginal compute / lead time that you have is going towards safety).": " Вас також може турбувати захист ваших дата-центрів від саботажу. Це потенційно негативна за сумою пропозиція (оскільки рівновага, за якої саботуються дата-центри всіх, є гарною), але може бути виправданою (наприклад, тому що інші вже захистилися, а маргінальні обчислювальні потужності / часовий запас, які у вас є, спрямовуються на безпеку).", "You might also care about hardening your datacenters against sabotage. This is potentially a negative sum proposition (because the equilibrium where everyone’s datacenters are sabotaged is good), but might be worthwhile (for example because others have hardened, and marginal compute / lead time that you have is going towards safety).": "Вас також може турбувати захист ваших дата-центрів від саботажу. Це потенційно негативна за сумою пропозиція (оскільки рівновага, за якої саботуються дата-центри всіх, є гарною), але може бути виправданою (наприклад, тому що інші вже захистилися, а маргінальні обчислювальні потужності / часовий запас, які у вас є, спрямовуються на безпеку).", "Each of these comes with a spectrum of robustness, e.g. one spectrum for model weight security is defined by RAND ": "Кожен із цих аспектів має власний спектр стійкості, наприклад, один зі спектрів для безпеки ваг моделі визначений RAND ", "Each of these comes with a spectrum of robustness, e.g. one spectrum for model weight security is defined by RAND": "Кожен із цих аспектів має власний спектр стійкості, наприклад, один зі спектрів для безпеки ваг моделі визначений RAND", " (SL1-SL5). This spectrum is defined for model weights, but can be extended to algorithms or sabotage, and can also be extended to refer to the ": " (SL1-SL5). Цей спектр визначений для ваг моделі, але може бути поширений на алгоритми чи саботаж, а також може бути поширений на позначення ", "(SL1-SL5). This spectrum is defined for model weights, but can be extended to algorithms or sabotage, and can also be extended to refer to the": "(SL1-SL5). Цей спектр визначений для ваг моделі, але може бути поширений на алгоритми чи саботаж, а також може бути поширений на позначення", "length of time": "тривалості часу", " you are robust. Unlike standard security (e.g. trade secrets), securing AI models or algorithms for a short period (e.g. a few months) is often sufficient in Plan C, because after a few months you’ve already been pressured into doing handoff for other reasons, usually exogenous AI progress.": ", протягом якої зберігається ваша стійкість. На відміну від стандартної безпеки (наприклад, комерційної таємниці), захисту ШІ-моделей чи алгоритмів протягом короткого періоду (наприклад, кількох місяців) часто достатньо в Плані C, оскільки вже за кілька місяців на вас тиснутимуть інші причини для передачі, зазвичай — екзогенний прогрес ШІ.", "you are robust. Unlike standard security (e.g. trade secrets), securing AI models or algorithms for a short period (e.g. a few months) is often sufficient in Plan C, because after a few months you’ve already been pressured into doing handoff for other reasons, usually exogenous AI progress.": ", протягом якої зберігається ваша стійкість. На відміну від стандартної безпеки (наприклад, комерційної таємниці), захисту ШІ-моделей чи алгоритмів протягом короткого періоду (наприклад, кількох місяців) часто достатньо в Плані C, оскільки вже за кілька місяців на вас тиснутимуть інші причини для передачі, зазвичай — екзогенний прогрес ШІ.", "HOW BAD IS IT TO NEVER DO MODEL WEIGHTS SECURITY?": "НАСКІЛЬКИ ПОГАНО ВЗАГАЛІ НЕ ЗАЙМАТИСЯ БЕЗПЕКОЮ ВАГ МОДЕЛІ?", "Situations where it could be very bad:": "Ситуації, у яких це може бути дуже погано:", "China can immediately exfiltrate your model weights, and then immediately gives them to a domestic Chinese project. This causes the leading AI project to “race itself” because any progress that it makes is immediately stolen and used by China, and so can never slow down.": "Китай може одразу викрасти ваги вашої моделі, а потім одразу передати їх внутрішньому китайському проєкту. Це змушує провідний ШІ-проєкт «змагатися із самим собою», оскільки будь-який його прогрес одразу вкрадається й використовується Китаєм, тож він ніколи не зможе сповільнитися.", "There is a small lag in model weight exfiltration. However, there is also a non-negligible safety tax that you have to pay in order to avoid a high risk of AI takeover (e.g. control tax is high, you need to not use neuralese, monitoring is expensive, etc). The trailing actor could get ahead of you if they steal your models and then, despite having less compute, discard the safety techniques.": "Існує невелика затримка у викраденні ваг моделі. Однак також існує неабиякий податок на безпеку, який доводиться сплачувати, щоб уникнути високого ризику захоплення влади ШІ (наприклад, високий податок на контроль, потреба не використовувати neuralese, дорогий моніторинг тощо). Гравець, що відстає, може вирватися вперед, якщо вкраде ваші моделі, а потім, попри менші обчислювальні потужності, відмовиться від безпекових технік.", "Situations where it might be ok:": "Ситуації, у яких це може бути прийнятно:", "China (and other adversaries) are not woken up to the strategic importance of AGI / aren’t on the ball with stealing model weights (even though they could easily do so).": "Китай (та інші противники) ще не усвідомили стратегічну важливість AGI / не є достатньо оперативними в крадіжці ваг моделі (навіть попри те, що могли б легко це зробити).", "A core hope is that you might succeed at alignment. Then, let people steal your model, but hope that the stolen models remain aligned. Even if China has a bunch of RID, before handoff, you export safety techniques, and then you both do aligned handoff. Plausibly they just steal the alignment techniques directly.": "Основна надія полягає в тому, що вам може вдатися розв’язати узгодження. Тоді можна дозволити людям красти вашу модель, сподіваючись, що вкрадені моделі залишаться узгодженими. Навіть якщо в Китаю є купа RID, перед передачею ви експортуєте техніки безпеки, і тоді ви обидва здійснюєте узгоджену передачу. Цілком імовірно, вони просто вкрадуть техніки узгодження напряму.", "It might be difficult to swap the spec, e.g. because it took a bunch of data to train the model to be aligned. The stolen model could be relatively rigidly aligned to your values.": "Може бути складно змінити Спек, наприклад тому що знадобилося чимало даних, щоб натренувати модель бути узгодженою. Вкрадена модель могла б бути відносно жорстко узгодженою саме з вашими цінностями.", "In this case, you want it to be such that China is happy with the spec, and so you might want to put in concessions. This is a fine line because (1) you want to make sure the values in your spec are good enough according to china that they will implement your alignment techniques, and (2) you want to make the AI values as good as possible by your lights. As a baseline you could do corrigibility, but you might want to push some of your values in a bit.": "У такому разі ви хочете, щоб Китай був задоволений Спеком, тож, можливо, варто піти на певні поступки. Тут проходить тонка межа, оскільки (1) ви хочете переконатися, що цінності у вашому Спеку достатньо добрі, на думку Китаю, щоб вони впровадили ваші техніки узгодження, і (2) ви хочете зробити цінності ШІ якомога кращими на ваш власний погляд. Як базовий варіант можна обрати коригованість (corrigibility), але, можливо, варто трохи просунути й частину власних цінностей.", "Probably, we will at least want to get to something like SL-5-1TB-2-months (read: SL5, i.e. secure against high priority operations by top cyber-capable nation states, for exfiltration of model weights that are at least 1 TB in size / 500B FP16 params, for at least 2 months), before handoff.": "Ймовірно, нам щонайменше захочеться досягти чогось на кшталт SL-5-1TB-2-months (тобто: SL5, тобто захист від пріоритетних операцій найпотужніших у кіберсфері держав, для випадку викрадення ваг моделі розміром щонайменше 1 ТБ / 500 млрд параметрів у форматі FP16, протягом щонайменше 2 місяців) до передачі.", "The core hope will be to get security escape velocity := if you keep working on improving security with the budget you expect, China will no longer be able to steal the model weights until the end of the singularity. The plan for doing this will be to increasingly rely on AI systems to improve security. This will involve:": "Основна надія полягає в тому, щоб досягти «escape velocity» безпеки (security escape velocity) := якщо продовжувати покращувати безпеку в межах очікуваного бюджету, Китай більше не зможе вкрасти ваги моделі аж до кінця сингулярності. План для цього полягатиме в тому, щоб дедалі більше покладатися на ШІ-системи для покращення безпеки. Це включатиме:", "Quickly retrofitting physical security": "Швидке вдосконалення наявних заходів фізичної безпеки", "Largely relying on software based security methods. See ": "Здебільшого покладаючись на програмні методи безпеки. Див. ", "Largely relying on software based security methods. See": "Здебільшого покладаючись на програмні методи безпеки. Див.", " for more details.": " докладніше.", "for more details.": "докладніше.", "Because a core thing we are doing with our AIs is to attempt to massively improve security. This means that we need to control our AIs while they are writing massive parts of our infrastructure, which is scary; this makes the Control / monitoring section above load bearing.": "Тому що одна з ключових речей, які ми робимо за допомогою наших ШІ, — це спроба масштабно покращити безпеку. Це означає, що нам потрібно контролювати наші ШІ, поки вони пишуть значні частини нашої інфраструктури, що лякає; це робить розділ «Контроль / моніторинг» вище критично важливим.", "PHASE 2 DIVISION OF TECHNICAL AI SAFETY WORK": "ФАЗА 2: РОЗПОДІЛ РОБОТИ З ТЕХНІЧНОЇ БЕЗПЕКИ ШІ", "I’ll summarize our overall priorities into a best guess list, but first it’s worth discussing some limitations of this single list. The ITAI to Min-H period covers a wide range of capabilities and our priorities will shift continuously as the capabilities level increases (and as we update based on evidence from the world). I’ll focus on our priorities as of halfway between superhuman coder and superhuman AI researcher, which is also around halfway between ITAI and Min-H (which are respectively somewhat before and somewhat after each of these two milestones). This is at Jun 2027 in the original AI 2027 scenario. To get a sense for what our priorities are for earlier or later capabilities, you can interpolate these priorities with the priorities I discuss under ITAI and under delaying at Min-H.": "Я підсумую наші загальні пріоритети у вигляді списку найкращих припущень, але спершу варто обговорити деякі обмеження цього єдиного списку. Період від ITAI до Min-H охоплює широкий діапазон можливостей, і наші пріоритети постійно змінюватимуться в міру зростання рівня можливостей (а також у міру оновлення оцінок на основі свідчень зі світу). Я зосереджуся на пріоритетах станом на середину шляху між надлюдським кодером і надлюдським дослідником ШІ, що також приблизно відповідає середині шляху між ITAI і Min-H (які настають, відповідно, дещо раніше і дещо пізніше за кожну з цих двох віх). У первинному сценарії AI 2027 це відповідає червню 2027. Щоб отримати уявлення про наші пріоритети для більш ранніх або пізніших рівнів можливостей, можна інтерполювати ці пріоритети з тими, що я обговорюю в розділах про ITAI та про затримку на Min-H.", "In addition to our priorities changing with the level of capabilities, our priorities will change due to updates we’ve made from observing powerful AI systems and how the world reacts to powerful AI systems. These updates will continue ongoingly throughout the mitigate and elicit phase due to both advancing capabilities (and the underlying algorithms driving these capabilities) as well as the outside world reacting to capabilities (which may have a substantial lag). Large algorithmic shifts might happen at pretty high levels of capability (e.g. after superhuman coder), especially because AI R&D is accelerated, so we may not see relevant updates until pretty late (though we can try to guess where things will go).": "Окрім того, що наші пріоритети змінюються залежно від рівня можливостей, вони також змінюватимуться через оновлення, які ми вносимо, спостерігаючи за потужними ШІ-системами та тим, як світ реагує на потужні ШІ-системи. Ці оновлення відбуватимуться постійно протягом усієї фази пом'якшення та розкриття (mitigate and elicit) — як через зростання можливостей (і базові алгоритми, що їх забезпечують), так і через реакцію зовнішнього світу на ці можливості (яка може мати суттєву затримку). Великі алгоритмічні зрушення можуть відбутися на доволі високих рівнях можливостей (наприклад, після надлюдського кодера), особливо тому, що AI R&D прискорений, тож ми можемо не побачити відповідних оновлень аж до доволі пізнього етапу (хоча можемо спробувати вгадати, куди все рухається).", "The numerical priorities list I give will assume my typical guess at what will happen (assuming the AI company is following this overall plan). The assumptions here about AI properties and development are pretty similar to what we see in AI 2027 (though the speed of AI progress isn’t necessarily that similar). In particular:": "Список пріоритетів із числовими показниками, який я наведу, ґрунтується на моєму типовому припущенні щодо того, що станеться (за умови, що AI-компанія дотримується цього загального плану). Припущення тут щодо властивостей і розвитку ШІ доволі схожі на те, що ми бачимо в AI 2027 (хоча швидкість прогресу ШІ не обов'язково настільки ж схожа). Зокрема:", "We haven’t yet caught models scheming, but the architecture is strongly trending in a direction that makes scheming more likely. We have some model organisms in which we caught mostly natural, but not that competent scheming in some somewhat exotic conditions that made scheming more likely and catching easier. We aren’t confident our current AIs aren’t scheming some of the time, they use neuralese.": "Ми ще не спіймали моделі на змовництві, але архітектура сильно тяжіє в напрямку, що робить змовництво більш імовірним. У нас є декілька модельних організмів, у яких ми спіймали здебільшого природне, але не надто вправне змовництво за певних дещо екзотичних умов, які робили змовництво більш імовірним, а виявлення — простішим. Ми не впевнені, що наші поточні ШІ час від часу не займаються змовництвом — вони використовують neuralese.", "Clear cut issues with deployed behavior due to reward hacking have mostly been resolved, but there are still various types of reward hacking in training and occasional issues in deployment, typically more subtle issues.": "Явні проблеми з поведінкою в розгортанні через reward hacking здебільшого вирішені, але під час навчання досі трапляються різні типи reward hacking, а в розгортанні — окремі проблеми, зазвичай більш тонкі.", "Control is basically working (as of somewhat after superhuman coder) and we have a reasonable (though not perfect) safety usefulness profile and we did a mostly OK but somewhat messy job at evaluating this control. There might have been a period where control wasn’t keeping up with capabilities, but using AI labor and dedicated effort, things got back on track.": "Контроль загалом працює (станом на період дещо після надлюдського кодера), і в нас є прийнятний (хоча й не ідеальний) профіль співвідношення безпеки та корисності, і ми загалом непогано, хоч і дещо безладно, впоралися з оцінкою цього контролю. Можливо, був період, коли контроль не встигав за можливостями, але завдяки залученню ШІ-праці та цілеспрямованим зусиллям ситуацію вдалося виправити.", "We have a somewhat bad neuralese decoding method that we think probably won’t be robust to intentional evasion from the AI and only produces slightly useful results. Outside of this we didn’t really make that much progress with interpretability, but we have somewhat useful methods for augmenting behavioral testing and better understanding why some behavior occurred.": "У нас є доволі слабкий метод декодування neuralese, який, на нашу думку, ймовірно, не буде стійким до навмисного ухилення з боку ШІ і дає лише трохи корисні результати. Поза цим ми не досягли особливого прогресу в інтерпретованості, але маємо доволі корисні методи для доповнення поведінкового тестування та кращого розуміння того, чому виникла та чи інша поведінка.", "AIs are somewhat better at easy-to-check tasks and are bad at “taste” relative to humans, but there is still some transfer and generalization": "ШІ дещо кращі за людей у задачах, які легко перевірити, і гірші за них у «смаку» (taste), але певний перенос і узагальнення все ж наявні", "By the time AIs are automating AI R&D, there will quickly be huge numbers of AIs which are effectively running quite fast (see AI 2027 numbers)": "До того часу, коли ШІ автоматизують AI R&D, доволі швидко з'явиться величезна кількість ШІ, які фактично працюють досить швидко (див. цифри з AI 2027)", "AIs will have substantially lower than human sample efficiency by default, but they will compensate with a bunch of AI specific advantages and there will be a bunch of somewhat domain specific tricks to improve sample efficiency at learning within some domain or learning on the job with more compute (e.g. generating similar tasks to what you’re working on and ongoingly doing RL on those tasks)": "За замовчуванням ефективність вибірки (sample efficiency) у ШІ буде суттєво нижчою, ніж у людей, але вони компенсуватимуть це низкою переваг, специфічних для ШІ, а також існуватиме низка доволі предметно-специфічних прийомів для підвищення ефективності вибірки під час навчання в певній галузі або навчання «на роботі» за рахунок більших обчислювальних потужностей (наприклад, генерування завдань, подібних до того, над яким ви працюєте, і постійне проведення RL на цих завданнях)", "It’s quite viable to make USG sufficiently bought in (including to safety concerns) that they are willing to take aggressive actions to slow down other (adversarial or less safe) actors including working with the AI company on this and they are willing to slow down for safety concerns if there is a lead. (This isn’t necessarily my typical guess, but it seems plausible).": "Цілком реально домогтися того, щоб USG достатньою мірою підтримав нас (у тому числі й щодо занепокоєнь із безпекою), аби вони були готові вживати агресивних заходів для сповільнення інших гравців (ворожих або менш безпечних), зокрема співпрацюючи з AI-компанією в цьому питанні, і були готові сповільнитися через занепокоєння безпекою за наявності відриву. (Це не обов'язково моє типове припущення, але видається цілком імовірним.)", "Whole brain emulation (and other human augmentation) ended up not being a viable path": "Повна емуляція мозку (та інші форми розширення людських можливостей) зрештою виявилася нежиттєздатним шляхом", "Here is this best guess list of priorities given these updates and assuming we’re halfway between superhuman coder and superhuman AI researcher. The percentages correspond to fractions of human labor within the AI company and correlate with compute usage also.": "Ось цей список пріоритетів на основі найкращих здогадок з урахуванням цих оновлень і за умови, що ми перебуваємо на середині шляху між надлюдським кодером і надлюдським дослідником ШІ. Відсотки відповідають часткам людської праці всередині AI-компанії й також корелюють з використанням обчислювальних потужностей.", "15% control and control-adjacent measures (this is a relatively broad category which includes some things which aren’t centrally associated with control but which I thought more so fit in this category than in others)": "15% — контроль і суміжні з контролем заходи (це доволі широка категорія, яка включає деякі речі, не пов'язані безпосередньо з контролем, але які, на мою думку, більше пасують до цієї категорії, ніж до інших)", "7% misc ML/AI focused control research and implementation.": "7% — різні дослідження та впровадження контролю, зосереджені на ML/ШІ.", "5% ongoing maintenance and updates to our deployed control measures": "5% — поточна підтримка та оновлення розгорнутих заходів контролю", "1% software infrastructure": "1% — програмна інфраструктура", "2% building a high quality human evaluation process which is robust to scheming": "2% — побудова високоякісного процесу людської оцінки, стійкого до змовництва", "21% model organisms / analogies": "21% — модельні організми / аналогії", "16% misalignment analogies for scheming (we would put more effort here if we had found stronger results so far)": "16% — аналогії неузгодженості для змовництва (ми доклали б тут більше зусиль, якби на цей момент отримали переконливіші результати)", "1% model organisms of other threat models": "1% — модельні організми для інших моделей загроз", "4% studying mitigations, including by trying stuff on model organisms. (we would put more effort here if we had better model organisms to study)": "4% — вивчення заходів пом'якшення, зокрема шляхом випробувань на модельних організмах. (ми доклали б тут більше зусиль, якби мали кращі модельні організми для вивчення)", "20% making AIs differentially more useful for safety work and preparing for aspects of deference other than resolving scheming": "20% — робота над тим, щоб зробити ШІ диференційовано кориснішими для роботи з безпеки, а також підготовка інших аспектів підпорядкованості (deference), окрім розв'язання змовництва", "9% generally trying to apply AIs to assist the rest of this safety work and making AIs more useful for this.": "9% — загальні спроби застосувати ШІ для сприяння решті цієї роботи з безпеки та зробити ШІ кориснішими для цього", "5% Improving AI epistemics and philosophical/conceptual reasoning (will also help with generally making AIs useful for safety work)": "5% — покращення епістеміки ШІ та філософських/концептуальних міркувань (це також допоможе зробити ШІ загалом кориснішими для роботи з безпеки)", "5% Generally preparing for deference (via means other than working on scheming) (will also help with generally making AIs useful for safety work)": "5% — загальна підготовка до підпорядкованості (deference) (іншими способами, ніж робота над змовництвом) (це також допоможе зробити ШІ загалом кориснішими для роботи з безпеки)", "1% other aspects of deference": "1% — інші аспекти підпорядкованості (deference)", "17% using AIs for building a lead in partnership with USG (and getting USG more bought in, though note that scary demos are in a separate category below). To the extent there are returns to more compute, this should use a relatively higher fraction of compute compared to the labor of AI company employees. Also, it’s possible this can’t productively utilize this much of the labor effort. If so, we should shift this labor into other areas (mostly uniformly). Also, note that the resources in this area should increase with further capabilities.": "17% — використання ШІ для нарощування відриву (lead) у партнерстві з USG (і для більшого залучення USG на свій бік, хоча зауважте, що «страшні демонстрації» (scary demos) — це окрема категорія нижче). Тією мірою, якою є віддача від додаткових обчислювальних потужностей, ця категорія повинна використовувати відносно більшу частку обчислювальних потужностей порівняно з працею співробітників AI-компанії. Також можливо, що ця праця не зможе продуктивно поглинути такий обсяг трудових зусиль. Якщо так, нам слід перерозподілити цю працю в інші сфери (здебільшого рівномірно). Також зауважте, що ресурси в цій сфері мають зростати з подальшим розвитком можливостей.", "3% make the world more robust to powerful AIs aka d/acc (biodefence, cyberdefense, eating free energy, etc). It’s plausible this should have a higher fraction of resources, I’m quite unsure.": "3% — зробити світ стійкішим до потужних ШІ, тобто d/acc (біозахист, кіберзахист, поглинання вільної енергії тощо). Цілком можливо, що на це варто виділяти більшу частку ресурсів, я не зовсім впевнений.", "5% neuralese decoding": "5% — декодування neuralese", "10% misc science, understanding of relevant AI properties, and other (not including control-adjacent science).": "10% — різна наука, розуміння відповідних властивостей ШІ та інше (не включаючи науку, суміжну з контролем).", "2% Various interpretability methods (top-down, bottom-up/mech interp). I extracted out neuralese decoding from this category.": "2% — різні методи інтерпретованості (згори вниз, знизу вгору/механістична інтерпретованість). Я виніс декодування neuralese в окрему категорію.", "1% Making deals with AIs and getting consent": "1% — укладання угод із ШІ та отримання згоди", "2% Generally looking for concerning model behavior (not necessarily in ways which would help detect models coherently scheming)": "2% — загальний пошук тривожної поведінки моделей (не обов'язково способами, які допомогли б виявити узгоджене змовництво моделей)", "3% moonshots which seemed promising based on earlier work": "3% — амбітні проєкти (moonshots), які видавалися перспективними на основі попередньої роботи", "2% Misc": "2% — Різне", "9% capability evaluation and demonstrations of both powerful capabilities and misalignment": "9% — оцінка можливостей і демонстрація як потужних можливостей, так і неузгодженості", "7% scary demos": "7% — «страшні демонстрації» (scary demos)", "Again, recall that this is a pretty uncertain prioritization and the prioritization in practice will depend on various updates as discussed elsewhere. For instance, if we caught production AIs scheming against us, we’d shift relatively more resources in scheming mitigations and understanding and away from everything else.": "Знову ж таки, нагадаємо, що це доволі невизначена пріоритизація, і на практиці вона залежатиме від різних оновлень, як обговорювалося в інших місцях. Наприклад, якби ми спіймали продакшн-ШІ на змовництві проти нас, ми перерозподілили б відносно більше ресурсів на пом'якшення й розуміння змовництва, забравши їх з усього іншого.", "This prioritization isn’t focused on exporting work to other AI companies and this would probably change the prioritization somewhat. More focus on exportability would somewhat reduce focus on control, utilizing AIs effectively, and preparing for deference (including epistemics/conceptual stuff) as these areas probably involve more complex techniques which are more integrated with this specific AI company and the last two of these may also have substantial capabilities externalities. We’d shift focus to model organisms, neuralese decoding, building awareness of risk, and other research directions which might produce simple and easy to implement measures which nonetheless are very useful.": "Ця пріоритизація не орієнтована на експорт роботи до інших AI-компаній, і це, ймовірно, дещо змінило б пріоритизацію. Більший фокус на можливості експорту дещо зменшив би увагу до контролю, ефективного використання ШІ та підготовки до підпорядкованості (deference) (включно з епістемікою/концептуальними речами), оскільки ці сфери, ймовірно, передбачають складніші методики, тісніше інтегровані саме з цією AI-компанією, а останні дві з них також можуть мати суттєві побічні ефекти для можливостей (capabilities externalities). Ми перенесли б фокус на модельні організми, декодування neuralese, підвищення обізнаності про ризики та інші напрями досліджень, які можуть дати прості й легкі у впровадженні заходи, що при цьому дуже корисні.", "At some point, we have increased AI capabilities sufficiently that we could handoff safely if our AIs are aligned and well elicited, i.e., they would be able to manage the ongoing intelligence explosion better than the humans, if they were trying as hard as they could on that task. Our default recommendation is to pause at this point, and attempt to complete all other necessary research to complete handoff, notably handoff viability and reducing the likelihood of explicit scheming. During this phase, we will still be heavily leveraging AI labor, meaning that we will be continuing elicitation and mitigation efforts.": "У певний момент ми досягнемо достатнього підвищення можливостей ШІ, щоб можна було безпечно здійснити передачу (handoff), якщо наші ШІ узгоджені та добре розкриті (well elicited), тобто якщо вони зможуть керувати триваючим вибухом інтелекту краще за людей — за умови, що вони докладатимуть максимум зусиль до цього завдання. Наша типова рекомендація — зробити паузу на цьому етапі й спробувати завершити всі інші необхідні дослідження для здійснення передачі, зокрема життєздатність передачі (handoff viability) та зниження ймовірності явного змовництва. На цьому етапі ми й далі активно використовуватимемо ШІ-працю, тобто продовжуватимемо зусилля з розкриття можливостей і пом'якшення.", "During this section, we’ll discuss when we should pause, what we should do while being paused, and what exit strategies we should pursue other than pausing. During the next section (handoff), we’ll discuss all the research that needs to be completed before handoff (which we divide into mitigating scheming and handoff viability), though note that this research needs to largely be completed during this phase.": "У цьому розділі ми обговоримо, коли слід робити паузу, що робити під час паузи та які стратегії виходу, крім паузи, варто розглядати. У наступному розділі (передача) ми обговоримо всі дослідження, які потрібно завершити до передачі (які ми поділяємо на пом'якшення змовництва та життєздатність передачі), хоча зауважте, що ці дослідження здебільшого мають бути завершені саме на цьому етапі.", "When should we pause?": "Коли нам слід робити паузу?", "Default answer: Pause at Min-H": "Типова відповідь: пауза на Min-H", ": AIs which have a level of overall general capabilities which would suffice for handoff being viable. (As in, the capabilities would suffice for our handoff desiderata if the AIs were also sufficiently aligned and as needed we made narrow improvements to the capability profile which don’t augment general abilities.) For an AI to qualify as Min-H, it would at least need to be capable enough to automate AI R&D and ongoing technical AI safety work (after further elicitation/alignment work and narrow improvements to the capability profile).": ": ШІ, що має рівень загальних можливостей, достатній для життєздатності передачі. (Тобто ці можливості були б достатні для наших критеріїв передачі, якби ШІ також були достатньо узгоджені, і за потреби ми внесли б вузькі покращення в профіль можливостей, які не підвищують загальні здібності.) Щоб ШІ кваліфікувався як Min-H, він має бути щонайменше достатньо здатним, щоб автоматизувати AI R&D і поточну технічну роботу з безпеки ШІ (після подальшого розкриття можливостей/роботи з узгодження та вузьких покращень профілю можливостей).", "At the point where we pause, this does not assume that the AIs are aligned enough that we can trust them, or that the AI has all needed specific capabilities that we care about and can be trained in without improving general capabilities.": "У момент, коли ми робимо паузу, це не передбачає, що ШІ достатньо узгоджені, щоб ми могли їм довіряти, або що ШІ має всі потрібні нам специфічні можливості, які можна прищепити без підвищення загальних можливостей.", "Min-H is a natural stopping point": "Min-H — природна точка зупинки", " because these AIs are sufficient for handoff (by definition), and if we scale further we incur additional risk that scheming will emerge before handoff.": " тому що цих ШІ достатньо для передачі (за визначенням), і якщо ми масштабуватимемося далі, ми наражаємося на додатковий ризик того, що змовництво виникне ще до передачі.", "because these AIs are sufficient for handoff (by definition), and if we scale further we incur additional risk that scheming will emerge before handoff.": "тому що цих ШІ достатньо для передачі (за визначенням), і якщо ми масштабуватимемося далі, ми наражаємося на додатковий ризик того, що змовництво виникне ще до передачі.", " Put another way: after handoff; the AIs are more capable than us at handling the situation. Therefore, if we avoid scheming, so the AIs are actually applying their capabilities towards intended goals, then overall they will manage the situation more competently than humans. Since we incur substantial additional risk from misalignment, and by default don’t get substantial benefits, we should pause at Min-H, and only scale to more capable AIs after we’ve handed off to AIs at this level of capability.": " Інакше кажучи: після передачі ШІ здатніші за нас упоратися із ситуацією. Тому якщо ми уникнемо змовництва, тобто ШІ справді спрямовують свої можливості на заплановані цілі, то загалом вони впораються із ситуацією компетентніше за людей. Оскільки неузгодженість несе суттєвий додатковий ризик, а за замовчуванням ми не отримуємо суттєвих вигод, нам слід зробити паузу на Min-H і масштабуватися до здатніших ШІ лише після того, як ми передамо повноваження ШІ цього рівня можливостей.", "Put another way: after handoff; the AIs are more capable than us at handling the situation. Therefore, if we avoid scheming, so the AIs are actually applying their capabilities towards intended goals, then overall they will manage the situation more competently than humans. Since we incur substantial additional risk from misalignment, and by default don’t get substantial benefits, we should pause at Min-H, and only scale to more capable AIs after we’ve handed off to AIs at this level of capability.": "Інакше кажучи: після передачі ШІ здатніші за нас упоратися із ситуацією. Тому якщо ми уникнемо змовництва, тобто ШІ справді спрямовують свої можливості на заплановані цілі, то загалом вони впораються із ситуацією компетентніше за людей. Оскільки неузгодженість несе суттєвий додатковий ризик, а за замовчуванням ми не отримуємо суттєвих вигод, нам слід зробити паузу на Min-H і масштабуватися до здатніших ШІ лише після того, як ми передамо повноваження ШІ цього рівня можливостей.", "This isn’t universally true: there are some situations where you want to pause before Min-H, and some situations where you want to pause after Min-H; these are enumerated below.": "Це не є універсально істинним: існують ситуації, коли варто зробити паузу до Min-H, і ситуації, коли варто зробити паузу після Min-H; вони перелічені нижче.", "Cases where we might want to pause before Min-H:": "Випадки, коли нам, можливо, варто зробити паузу до Min-H:", "Control techniques don’t scale to Min-H.": "Техніки контролю не масштабуються до Min-H.", " Pushing all the way to Min-H and only then pausing, probably incurs substantial AI takeover risk along the way. In particular, another relatively natural threshold is pause when you might not be able to control smarter AIs. However, we think that global risk (in Plan C) is probably minimized by accepting some loss of control risk at the earlier stages in order to have more time to work on handoff being safe.": " Просування аж до Min-H і пауза лише після цього, ймовірно, несе суттєвий ризик захоплення влади ШІ по дорозі. Зокрема, ще один відносно природний поріг — пауза тоді, коли ви, можливо, не зможете контролювати розумніших ШІ. Втім, ми вважаємо, що глобальний ризик (у Плані C), ймовірно, мінімізується, якщо прийняти певний ризик втрати контролю на ранніх етапах заради того, щоб мати більше часу на роботу над безпечністю передачі повноважень.", "Pushing all the way to Min-H and only then pausing, probably incurs substantial AI takeover risk along the way. In particular, another relatively natural threshold is pause when you might not be able to control smarter AIs. However, we think that global risk (in Plan C) is probably minimized by accepting some loss of control risk at the earlier stages in order to have more time to work on handoff being safe.": "Просування аж до Min-H і пауза лише після цього, ймовірно, несе суттєвий ризик захоплення влади ШІ по дорозі. Зокрема, ще один відносно природний поріг — пауза тоді, коли ви, можливо, не зможете контролювати розумніших ШІ. Втім, ми вважаємо, що глобальний ризик (у Плані C), ймовірно, мінімізується, якщо прийняти певний ризик втрати контролю на ранніх етапах заради того, щоб мати більше часу на роботу над безпечністю передачі повноважень.", "We have a large lead.": "Ми маємо значний відрив.", " If the leading AI project has a large lead, then it won’t need to rush to Min-H, and can pause beforehand while still having enough time at Min-H to work on handoff viability. This is pretty unlikely in Plan C.": " Якщо провідний ШІ-проєкт має значний відрив, йому не доведеться поспішати до Min-H — він зможе взяти паузу заздалегідь, і при цьому все одно матиме достатньо часу на рівні Min-H для роботи над життєздатністю передачі. У Плані C це доволі малоймовірно.", "If the leading AI project has a large lead, then it won’t need to rush to Min-H, and can pause beforehand while still having enough time at Min-H to work on handoff viability. This is pretty unlikely in Plan C.": "Якщо провідний ШІ-проєкт має значний відрив, йому не доведеться поспішати до Min-H — він зможе взяти паузу заздалегідь, і при цьому все одно матиме достатньо часу на рівні Min-H для роботи над життєздатністю передачі. У Плані C це доволі малоймовірно.", "Bad security.": "Погана безпека.", " This is particularly relevant in the regime where you have good domestic coordination, bad model weights and algorithms security, and China domestic progress is slow enough that it’s mostly driven by leaked models and algorithms. In this regime, if you slow down early, this slowdown is basically free. In this situation, it’s plausible that US AI companies should just go however quickly China would go by default: “China match”, in order to have the most overall time during takeoff to get ready for handoff. In this world, we might never fully “pause”, but still in practice end up burning substantial lead because of capabilities progress slower than it otherwise could have been, or we might do china-matching until Min-H, then burn lead at Min-H, then hand off.": " Це особливо актуально в режимі, де є добра внутрішня координація, погана безпека ваг моделі й алгоритмів, а внутрішній прогрес Китаю достатньо повільний, щоб здебільшого залежати від витоку моделей і алгоритмів. У такому режимі раннє сповільнення практично нічого не коштує. У цій ситуації цілком імовірно, що американським ШІ-компаніям варто просто рухатися з тим же темпом, що й Китай за замовчуванням: «відповідність темпу Китаю», щоб мати максимум сумарного часу під час зльоту на підготовку до передачі. У такому світі ми можемо ніколи повністю не «зупинитися», але на практиці все одно витратимо суттєву частину відриву через повільніший, ніж міг би бути, прогрес можливостей — або ж будемо тримати темп Китаю аж до Min-H, потім витратимо відрив на рівні Min-H, а тоді здійснимо передачу.", "This is particularly relevant in the regime where you have good domestic coordination, bad model weights and algorithms security, and China domestic progress is slow enough that it’s mostly driven by leaked models and algorithms. In this regime, if you slow down early, this slowdown is basically free. In this situation, it’s plausible that US AI companies should just go however quickly China would go by default: “China match”, in order to have the most overall time during takeoff to get ready for handoff. In this world, we might never fully “pause”, but still in practice end up burning substantial lead because of capabilities progress slower than it otherwise could have been, or we might do china-matching until Min-H, then burn lead at Min-H, then hand off.": "Це особливо актуально в режимі, де є добра внутрішня координація, погана безпека ваг моделі й алгоритмів, а внутрішній прогрес Китаю достатньо повільний, щоб здебільшого залежати від витоку моделей і алгоритмів. У такому режимі раннє сповільнення практично нічого не коштує. У цій ситуації цілком імовірно, що американським ШІ-компаніям варто просто рухатися з тим же темпом, що й Китай за замовчуванням: «відповідність темпу Китаю», щоб мати максимум сумарного часу під час зльоту на підготовку до передачі. У такому світі ми можемо ніколи повністю не «зупинитися», але на практиці все одно витратимо суттєву частину відриву через повільніший, ніж міг би бути, прогрес можливостей — або ж будемо тримати темп Китаю аж до Min-H, потім витратимо відрив на рівні Min-H, а тоді здійснимо передачу.", "Cases where we might want to push beyond Min-H (without handing off):": "Випадки, коли ми могли б захотіти піти далі за Min-H (без передачі):", "Handoff viability research velocity is constrained by the capabilities of the AIs, as opposed to human monitoring/understanding.": "Швидкість дослідження життєздатності передачі обмежується можливостями ШІ, а не людським моніторингом/розумінням.", " If we can reliably control AIs that are smarter than Min-H, and we can elicit useful work out of them, it would make sense to scale further. However, we currently think that at this point, control will be bottlenecked by human understanding; if we have smarter AIs, we wouldn’t actually get to do more research, because we’d have to limit their progress until humans have understood it sufficiently to ensure that the research is correct. Another way of phrasing this is that we have a control solution that scales beyond Min-H AIs, which works sufficiently well to both mitigate risks ": " Якщо ми можемо надійно контролювати ШІ, розумніші за рівень Min-H, і здобувати з них корисну працю, це виправдовує подальше масштабування. Однак наразі ми вважаємо, що на цьому етапі контроль впиратиметься саме в людське розуміння: маючи розумніших ШІ, ми насправді не зможемо робити більше досліджень, бо доведеться обмежувати їхній прогрес, доки люди не зрозуміють його достатньо, щоб переконатися в коректності досліджень. Інакше кажучи, йдеться про рішення для контролю, яке масштабується й на ШІ понад рівень Min-H і працює достатньо добре, щоб одночасно пом'якшувати ризики ", "If we can reliably control AIs that are smarter than Min-H, and we can elicit useful work out of them, it would make sense to scale further. However, we currently think that at this point, control will be bottlenecked by human understanding; if we have smarter AIs, we wouldn’t actually get to do more research, because we’d have to limit their progress until humans have understood it sufficiently to ensure that the research is correct. Another way of phrasing this is that we have a control solution that scales beyond Min-H AIs, which works sufficiently well to both mitigate risks": "Якщо ми можемо надійно контролювати ШІ, розумніші за рівень Min-H, і здобувати з них корисну працю, це виправдовує подальше масштабування. Однак наразі ми вважаємо, що на цьому етапі контроль впиратиметься саме в людське розуміння: маючи розумніших ШІ, ми насправді не зможемо робити більше досліджень, бо доведеться обмежувати їхній прогрес, доки люди не зрозуміють його достатньо, щоб переконатися в коректності досліджень. Інакше кажучи, йдеться про рішення для контролю, яке масштабується й на ШІ понад рівень Min-H і працює достатньо добре, щоб одночасно пом'якшувати ризики", " elicit capabilities from a more capable model.": " здобувати можливості з потужнішої моделі.", "elicit capabilities from a more capable model.": "здобувати можливості з потужнішої моделі.", "We have access to high assurance techniques to mitigate scheming beyond Min-Handoff, but haven’t finished handoff viability research.": "У нас є доступ до високонадійних методів пом'якшення підступності понад рівень Min-Handoff, але дослідження життєздатності передачі ще не завершене.", " If we have an alignment solution which we are confident will prevent scheming up until a capability threshold above Min-H, and we aren’t finished with handoff viability research, then it’s probably a good trade to scale up. This is usually a special case of (1). My best guess is that handoff will be mostly bottlenecked by the possibility of scheming, and so this will not apply.": " Якщо в нас є рішення для узгодження, у якому ми впевнені, що воно запобігатиме підступності аж до порогу можливостей вище Min-H, а дослідження життєздатності передачі ще не завершене, тоді, ймовірно, варто масштабуватися далі. Зазвичай це окремий випадок пункту (1). Моє найкраще припущення — що передачу буде здебільшого стримувати саме можливість підступності, тож цей випадок навряд чи застосовний.", "If we have an alignment solution which we are confident will prevent scheming up until a capability threshold above Min-H, and we aren’t finished with handoff viability research, then it’s probably a good trade to scale up. This is usually a special case of (1). My best guess is that handoff will be mostly bottlenecked by the possibility of scheming, and so this will not apply.": "Якщо в нас є рішення для узгодження, у якому ми впевнені, що воно запобігатиме підступності аж до порогу можливостей вище Min-H, а дослідження життєздатності передачі ще не завершене, тоді, ймовірно, варто масштабуватися далі. Зазвичай це окремий випадок пункту (1). Моє найкраще припущення — що передачу буде здебільшого стримувати саме можливість підступності, тож цей випадок навряд чи застосовний.", "We’re aiming for an exit strategy other than handoff.": "Ми орієнтуємося на стратегію виходу, відмінну від передачі.", " For example, maybe we need particular AI capabilities for some Plan B-related sabotage option, or to help with human intelligence augmentation.": " Наприклад, нам можуть знадобитися певні можливості ШІ для якогось варіанта саботажу в рамках Плану B або для допомоги в аугментації людського інтелекту.", "For example, maybe we need particular AI capabilities for some Plan B-related sabotage option, or to help with human intelligence augmentation.": "Наприклад, нам можуть знадобитися певні можливості ШІ для якогось варіанта саботажу в рамках Плану B або для допомоги в аугментації людського інтелекту.", "We’re in a desperate situation.": "Ми перебуваємо у відчайдушному становищі.", " For example, in Plan D, the leading AI lab might be training more capable AI systems, and there’s nothing the safety team can do about it. In this situation, it might be important for the safety team to wait until a higher capability level in order to complete basic handoff viability research. For now, we’re assuming that we’re in Plan C, and so there is enough will to spend some slack slowing down.": " Наприклад, у Плані D провідна ШІ-лабораторія може тренувати дедалі потужніші ШІ-системи, і команда безпеки нічого не може з цим вдіяти. У такій ситуації команді безпеки може бути важливо дочекатися вищого рівня можливостей, щоб завершити базове дослідження життєздатності передачі. Наразі ми виходимо з припущення, що перебуваємо в Плані C, а отже, маємо достатньо волі й запасу, щоб піти на певне сповільнення.", "For example, in Plan D, the leading AI lab might be training more capable AI systems, and there’s nothing the safety team can do about it. In this situation, it might be important for the safety team to wait until a higher capability level in order to complete basic handoff viability research. For now, we’re assuming that we’re in Plan C, and so there is enough will to spend some slack slowing down.": "Наприклад, у Плані D провідна ШІ-лабораторія може тренувати дедалі потужніші ШІ-системи, і команда безпеки нічого не може з цим вдіяти. У такій ситуації команді безпеки може бути важливо дочекатися вищого рівня можливостей, щоб завершити базове дослідження життєздатності передачі. Наразі ми виходимо з припущення, що перебуваємо в Плані C, а отже, маємо достатньо волі й запасу, щоб піти на певне сповільнення.", "Misc combinations of the above.": "Різні комбінації вищезгаданого.", " Generally, desperation, better alignment, control, and elicitation techniques push towards scaling beyond Min-H before handoff, while the reverse pushes towards slowing down earlier (or at least not scaling beyond Min-H).": " Загалом, відчай, кращі методи узгодження, контролю та здобування можливостей підштовхують до масштабування понад Min-H до передачі, тоді як протилежне підштовхує до більш раннього сповільнення (або принаймні до відмови від масштабування понад Min-H).", "Generally, desperation, better alignment, control, and elicitation techniques push towards scaling beyond Min-H before handoff, while the reverse pushes towards slowing down earlier (or at least not scaling beyond Min-H).": "Загалом, відчай, кращі методи узгодження, контролю та здобування можливостей підштовхують до масштабування понад Min-H до передачі, тоді як протилежне підштовхує до більш раннього сповільнення (або принаймні до відмови від масштабування понад Min-H).", "How long to pause?": "Як довго тривати паузі?", "This will basically be a tradeoff between the marginal returns to hand off viability and reduction in scheming from more pause time and the risk of being overtaken from waiting longer. Updates towards the AIs scheming and towards handoff viability taking longer than we thought will suggest that we pause for longer, updates towards competitive projects will imply that we pause for less long.": "По суті, це буде компроміс між граничною віддачею для життєздатності передачі та зниженням підступності від додаткового часу паузи — і ризиком, що нас випередять, якщо чекати довше. Якщо ми дедалі більше схилятимемося до думки, що ШІ проявляють підступність і що дослідження життєздатності передачі займе більше часу, ніж очікувалося, це підказуватиме, що паузу варто продовжити; а якщо дедалі більше схилятимемося до думки про активність конкурентних проєктів — це підказуватиме, що паузу варто скоротити.", "Priorities while paused": "Пріоритети під час паузи", "Our priorities at the start of this phase might look something like:": "На початку цієї фази наші пріоритети можуть виглядати приблизно так:", " Buy time using non-proliferation (including e.g. demonstrating risk).": " Виграти час за допомогою нерозповсюдження (зокрема, наприклад, демонстрацією ризиків).", "Buy time using non-proliferation (including e.g. demonstrating risk).": "Виграти час за допомогою нерозповсюдження (зокрема, наприклад, демонстрацією ризиків).", " Prepare for deference (avoiding scheming and handoff viability).": " Підготуватися до підпорядкування (уникнення підступності та забезпечення життєздатності передачі).", "Prepare for deference (avoiding scheming and handoff viability).": "Підготуватися до підпорядкування (уникнення підступності та забезпечення життєздатності передачі).", " Ensure our current and immediate future usage of AIs is safe and secure": " Забезпечити безпечність і захищеність нашого поточного й найближчого майбутнього використання ШІ", "Ensure our current and immediate future usage of AIs is safe and secure": "Забезпечити безпечність і захищеність нашого поточного й найближчого майбутнього використання ШІ", " Better elicitation of AI labor beyond handoff viability": " Краще здобування праці ШІ понад межі життєздатності передачі", "Better elicitation of AI labor beyond handoff viability": "Краще здобування праці ШІ понад межі життєздатності передачі", " Make the world generally more robust (d/acc)": " Зробити світ загалом стійкішим (d/acc)", "Make the world generally more robust (d/acc)": "Зробити світ загалом стійкішим (d/acc)", "If buying more time isn’t feasible, then all priorities other than P1: preparing for deference, mostly do not matter during this time.": "Якщо виграти більше часу неможливо, тоді всі пріоритети, крім P1: підготовки до підпорядкування, здебільшого не мають значення протягом цього часу.", "By the point of Min-H, we’re even more likely to have updated a bunch about the situation and the most relevant risks. So, it’s plausible that we’ve determined that scheming is an extremely hard to resolve problem which is very likely to show up in any given training or we might have determined that scheming is a non-issue at this level of capability.": "До моменту досягнення Min-H ми, ще з більшою ймовірністю, суттєво переглянемо свої оцінки ситуації та найважливіших ризиків. Тож цілком імовірно, що ми або дійдемо висновку, що підступність — це надзвичайно складна для розв'язання проблема, яка з високою ймовірністю виникатиме в будь-якому конкретному навчанні, або визначимо, що на цьому рівні можливостей підступність узагалі не є проблемою.", "No matter what, once we’re reaching the end of this phase (because we’re out of time or we feel quite confident in how well deference will go), our top priority should be making deference go well. It’s plausible that lead time requires ongoing maintenance (as in, ongoing efforts to ensure we continue delaying other actors) and maintenance may be required for our d/acc work. So, if this is the case, we wouldn’t be able to cut our effort on this greatly.": "У будь-якому разі, коли ми наближаємося до кінця цієї фази (бо час вичерпується або бо ми достатньо впевнені, що підпорядкування пройде добре), нашим головним пріоритетом має стати те, щоб підпорядкування пройшло добре. Цілком імовірно, що часовий відрив потребує постійної підтримки (тобто постійних зусиль, щоб і надалі стримувати інших гравців), а підтримка може знадобитися й для нашої роботи над d/acc. Тож, якщо це так, ми не зможемо суттєво скоротити зусилля в цьому напрямку.", "At earlier points in the plan, our safety work should be more focused on relatively straightforward prosaic approaches (which are relatively low hanging) rather than moonshots. This is because we’re uncertain how much time we’ll have and it makes sense to target easier approaches first. However, over time we’ll figure out more of these more low hanging interventions so we should increasingly work on moonshots. If we end up in a relatively stable regime where we are mostly focused on preparing for deference and we’ve exhausted most of the more straightforward (and low hanging) approaches, we should plausibly pivot to mostly working on moonshots.": "На ранніх етапах плану наша робота з безпеки має бути зосереджена радше на порівняно простих, прозаїчних підходах (порівняно легкодосяжних), а не на moonshot-проєктах. Це тому, що ми не знаємо напевно, скільки часу в нас буде, і має сенс спершу братися за простіші підходи. Проте з часом ми виявимо більше таких легкодосяжних заходів, тож маємо дедалі більше переходити до moonshot-проєктів. Якщо ми опинимося у відносно стабільному режимі, де здебільшого зосереджені на підготовці до підпорядкування, і вичерпаємо більшість простіших (і легкодосяжних) підходів, нам, імовірно, варто перейти переважно до роботи над moonshot-проєктами.", "Exit strategies other than handoff": "Стратегії виходу, відмінні від передачі", "Avoiding scheming and handoff-viability are both ultimately needed for handoff, so if we’ve actually given up on these objectives, we need to pursue an alternative to hand off.": "Уникнення підступності та життєздатність передачі — обидва вони врешті-решт необхідні для передачі, тож якщо ми фактично відмовилися від цих цілей, нам потрібно шукати альтернативу передачі.", "The main alternatives to hand off are:": "Основні альтернативи передачі:", "Whole brain emulation / human augmentation.": "Повна емуляція мозку / аугментація людини.", " The most viable path for human augmentation in the time we have is whole brain emulation. This would allow humans (or human-derived minds) to operate at AI speeds and handle the situation without needing to trust AI judgment on hard-to-check tasks.": " Найжиттєздатніший шлях аугментації людини за наявний у нас час — це повна емуляція мозку. Це дало б змогу людям (або похідним від людини розумам) діяти зі швидкістю ШІ й керувати ситуацією, не покладаючись на судження ШІ у важкоперевірюваних завданнях.", "The most viable path for human augmentation in the time we have is whole brain emulation. This would allow humans (or human-derived minds) to operate at AI speeds and handle the situation without needing to trust AI judgment on hard-to-check tasks.": "Найжиттєздатніший шлях аугментації людини за наявний у нас час — це повна емуляція мозку. Це дало б змогу людям (або похідним від людини розумам) діяти зі швидкістю ШІ й керувати ситуацією, не покладаючись на судження ШІ у важкоперевірюваних завданнях.", "My very low confidence sense is that we could achieve whole brain emulation within 3-5 years of having pretty powerful AIs using huge amounts of AI labor and an overall massive and well capitalized effort (e.g., potentially building up to trillions of dollars and using government powers like DPA etc. to speed up the project). This level of buy-in seems somewhat unlikely. This seems very hard in Plan B and almost hopeless in Plan C.": "Моє дуже непевне відчуття — що повної емуляції мозку можна досягти протягом 3-5 років після появи достатньо потужних ШІ, використовуючи величезні обсяги праці ШІ та масштабні, добре капіталізовані зусилля (наприклад, потенційно залучаючи трильйони доларів і застосовуючи державні повноваження на кшталт DPA для прискорення проєкту). Такий рівень залученості видається доволі малоймовірним. Це виглядає дуже складним у Плані B і майже безнадійним у Плані C.", "An even more speculative option is adult biological human strong intelligence enhancement; I don’t have a good sense of how viable this is, but it might be worth keeping in mind.": "Ще більш спекулятивний варіант — потужне біологічне посилення інтелекту дорослої людини; я не маю чіткого уявлення, наскільки це життєздатно, але про це, можливо, варто пам'ятати.", "We could directly use controlled AI labor for human augmentation efforts but it might be better instead to first use controlled AI labor to avoid scheming (at some level of confidence) and then use these non-scheming AIs for human augmentation efforts. As in, go “control -> sufficient alignment to avoid scheming -> human augmentation”. This is most productive if control is a big tax, it’s also pretty difficult to achieve the level of alignment (or capability profile) needed for deference, and avoiding scheming is substantially easier than successful deference.": "Ми могли б напряму використовувати контрольовану працю ШІ для зусиль з аугментації людини, але, можливо, краще спершу застосувати контрольовану працю ШІ для уникнення підступності (з певним рівнем впевненості), а потім використати ці непідступні ШІ для аугментації людини. Тобто рухатися за схемою «контроль -> достатнє узгодження для уникнення підступності -> аугментація людини». Це найпродуктивніше, коли контроль коштує дорого (є суттєвим «податком»), коли також доволі важко досягти рівня узгодження (чи профілю можливостей), потрібного для підпорядкування, і коли уникнення підступності значно простіше за успішне підпорядкування.", "Currently, I’m unsure how we’d determine if whole brain emulation is sufficiently promising (given the amount of time we have etc.) that it’s worth radically scaling up the level of investment. Figuring out how to determine this would be an important part of earlier work on this.": "Наразі я не впевнений, як ми визначимо, чи є повна емуляція мозку достатньо перспективною (з огляду на наявний у нас час тощо), щоб виправдати радикальне нарощення рівня інвестицій. З'ясування того, як це визначити, стало б важливою частиною ранньої роботи над цим напрямком.", "It’s also likely that AI companies in practice wouldn’t be willing to invest in this area, but I think it would be worth investing in if companies were willing.": "Також цілком імовірно, що на практиці ШІ-компанії не захочуть інвестувати в цей напрямок, але, на мою думку, це було б варте інвестицій, якби компанії погодилися.", "Escalating to Plan B.": "Ескалація до Плану B.", " Instead of handing off, we could delay further by sabotaging competing AI projects and pausing. This would involve either (i) using existing military capabilities, or (ii) augmenting them with AIs (potentially by scaling beyond Min-H to get to a threshold of usefulness that lets us stabilize the situation). All of these options look quite bad, but they might be the least worse option given the other possibilities. Some of these options are outlined in our unpublished Plan B scenario. Buying much more time doesn’t totally solve our problem, we’d still need to defer or do human augmentation at some later point. But, buying >10 years would massively change the regime and would mean that we can pursue very different strategies (e.g. moonshots). However, it’s pretty likely that buying much more time requires taking on risk from scaling to more powerful AIs than we would need for handoff. So this is the key source of risk. But, if we have issues with scheming (but we think we can scale control) or handoff-viability, could be better than other options.": " Замість передачі ми могли б далі відтерміновувати ситуацію, саботуючи конкурентні ШІ-проєкти й тримаючи паузу. Це передбачало б або (i) використання наявних військових можливостей, або (ii) їх посилення за допомогою ШІ (потенційно через масштабування понад Min-H, щоб досягти порогу корисності, який дав би змогу стабілізувати ситуацію). Усі ці варіанти виглядають доволі погано, але можуть виявитися найменш гіршим варіантом з-поміж інших можливостей. Деякі з цих варіантів описані в нашому неопублікованому сценарії Плану B. Виграш значно більшого часу не вирішує нашу проблему повністю — нам все одно рано чи пізно доведеться або довіритися ШІ, або займатися аугментацією людини. Але виграш понад 10 років кардинально змінив би режим і дав би змогу застосовувати зовсім інші стратегії (наприклад, moonshot-проєкти). Однак цілком імовірно, що виграш значно більшого часу вимагає прийняття ризику від масштабування до потужніших ШІ, ніж потрібно було б для передачі. Тож саме це є ключовим джерелом ризику. Але якщо в нас є проблеми з підступністю (при цьому ми вважаємо, що можемо масштабувати контроль) або з життєздатністю передачі, цей варіант може виявитися кращим за інші.", "Instead of handing off, we could delay further by sabotaging competing AI projects and pausing. This would involve either (i) using existing military capabilities, or (ii) augmenting them with AIs (potentially by scaling beyond Min-H to get to a threshold of usefulness that lets us stabilize the situation). All of these options look quite bad, but they might be the least worse option given the other possibilities. Some of these options are outlined in our unpublished Plan B scenario. Buying much more time doesn’t totally solve our problem, we’d still need to defer or do human augmentation at some later point. But, buying >10 years would massively change the regime and would mean that we can pursue very different strategies (e.g. moonshots). However, it’s pretty likely that buying much more time requires taking on risk from scaling to more powerful AIs than we would need for handoff. So this is the key source of risk. But, if we have issues with scheming (but we think we can scale control) or handoff-viability, could be better than other options.": "Замість передачі ми могли б далі відтерміновувати ситуацію, саботуючи конкурентні ШІ-проєкти й тримаючи паузу. Це передбачало б або (i) використання наявних військових можливостей, або (ii) їх посилення за допомогою ШІ (потенційно через масштабування понад Min-H, щоб досягти порогу корисності, який дав би змогу стабілізувати ситуацію). Усі ці варіанти виглядають доволі погано, але можуть виявитися найменш гіршим варіантом з-поміж інших можливостей. Деякі з цих варіантів описані в нашому неопублікованому сценарії Плану B. Виграш значно більшого часу не вирішує нашу проблему повністю — нам все одно рано чи пізно доведеться або довіритися ШІ, або займатися аугментацією людини. Але виграш понад 10 років кардинально змінив би режим і дав би змогу застосовувати зовсім інші стратегії (наприклад, moonshot-проєкти). Однак цілком імовірно, що виграш значно більшого часу вимагає прийняття ризику від масштабування до потужніших ШІ, ніж потрібно було б для передачі. Тож саме це є ключовим джерелом ризику. Але якщо в нас є проблеми з підступністю (при цьому ми вважаємо, що можемо масштабувати контроль) або з життєздатністю передачі, цей варіант може виявитися кращим за інші.", "Escalating to Plan A.": "Ескалація до Плану A.", " Escalating to Plans A or B through substantial government involvement, which could buy much more time through international coordination or aggressive non-proliferation efforts. This is discussed much more in our ": " Ескалація до Планів A або B через суттєве залучення уряду, що могло б виграти значно більше часу завдяки міжнародній координації або агресивним заходам з нерозповсюдження. Це набагато детальніше розглянуто в нашому ", "Escalating to Plans A or B through substantial government involvement, which could buy much more time through international coordination or aggressive non-proliferation efforts. This is discussed much more in our": "Ескалація до Планів A або B через суттєве залучення уряду, що могло б виграти значно більше часу завдяки міжнародній координації або агресивним заходам з нерозповсюдження. Це набагато детальніше розглянуто в нашому", "Plan A scenario": "сценарії Плану A", "Changing our primary “exit strategy” target from handoff to instead be buying much more time with military advantage (Plan B) or human augmentation would make a big difference. In particular, with handoff no longer being central, handoff-viability is less important and Min-H is less natural as a point to pause.": "Зміна нашої основної цілі «стратегії виходу» — з передачі на натомість виграш значно більшого часу за рахунок військової переваги (План B) або аугментації людини — мала б суттєве значення. Зокрема, якщо передача перестає бути центральною метою, життєздатність передачі стає менш важливою, а Min-H — менш природною точкою для паузи.", "Self Immolation.": "Самоспалення.", " It’s plausible that as a responsible leading developer, you should simply pause capability scaling and allow yourself to be overtaken: this allows you to redirect all resources to AI safety and handoff preparation. Then, you might be able to export this to whoever ends up actually doing a handoff. As another upside, this strategy provides a costly signal to governments and competitors that you are seriously concerned about the path forward. On the other hand, it’s plausible that competitors are actually unlikely to successfully implement alignment techniques you export to them (though this is a potentially self serving argument that one should be cautious about making). Overall it’s quite unlikely that this is politically feasible within companies: CEOs will by default strongly push to stay ahead of their competitors, invalidating this option. That said, it’s quite plausible to us that with the benefit of hindsight self-immolation will be seen as the obviously morally correct action, analogous to how refusing to participate in the Holocaust was obviously morally correct even though conscientious objectors would simply have been replaced by Nazis with less scruples.": " Цілком імовірно, що відповідальному провідному розробнику варто просто зупинити нарощування можливостей і дозволити себе випередити: це дає змогу перенаправити всі ресурси на безпеку ШІ й підготовку до передачі. Тоді ви, можливо, зможете передати ці напрацювання тому, хто врешті-решт здійснить передачу. Як ще одна перевага — ця стратегія подає урядам і конкурентам дороговартісний сигнал про те, що ви серйозно стурбовані подальшим шляхом розвитку. З іншого боку, цілком імовірно, що конкуренти навряд чи зможуть успішно впровадити методи узгодження, які ви їм передасте (хоча це потенційно вигідний для себе аргумент, до якого варто ставитися обережно). Загалом доволі малоймовірно, що це політично здійсненно всередині компаній: CEO за замовчуванням наполегливо прагнутимуть випереджати конкурентів, що зводить нанівець цей варіант. Тим не менш, нам видається цілком імовірним, що заднім числом самоспалення сприйматиметься як очевидно морально правильна дія — за аналогією з тим, як відмова брати участь у Голокості була очевидно морально правильною, навіть попри те, що відмовників за переконаннями просто замінили б нацистами з меншими сумнівами.", "It’s plausible that as a responsible leading developer, you should simply pause capability scaling and allow yourself to be overtaken: this allows you to redirect all resources to AI safety and handoff preparation. Then, you might be able to export this to whoever ends up actually doing a handoff. As another upside, this strategy provides a costly signal to governments and competitors that you are seriously concerned about the path forward. On the other hand, it’s plausible that competitors are actually unlikely to successfully implement alignment techniques you export to them (though this is a potentially self serving argument that one should be cautious about making). Overall it’s quite unlikely that this is politically feasible within companies: CEOs will by default strongly push to stay ahead of their competitors, invalidating this option. That said, it’s quite plausible to us that with the benefit of hindsight self-immolation will be seen as the obviously morally correct action, analogous to how refusing to participate in the Holocaust was obviously morally correct even though conscientious objectors would simply have been replaced by Nazis with less scruples.": "Цілком імовірно, що відповідальному провідному розробнику варто просто зупинити нарощування можливостей і дозволити себе випередити: це дає змогу перенаправити всі ресурси на безпеку ШІ й підготовку до передачі. Тоді ви, можливо, зможете передати ці напрацювання тому, хто врешті-решт здійснить передачу. Як ще одна перевага — ця стратегія подає урядам і конкурентам дороговартісний сигнал про те, що ви серйозно стурбовані подальшим шляхом розвитку. З іншого боку, цілком імовірно, що конкуренти навряд чи зможуть успішно впровадити методи узгодження, які ви їм передасте (хоча це потенційно вигідний для себе аргумент, до якого варто ставитися обережно). Загалом доволі малоймовірно, що це політично здійсненно всередині компаній: CEO за замовчуванням наполегливо прагнутимуть випереджати конкурентів, що зводить нанівець цей варіант. Тим не менш, нам видається цілком імовірним, що заднім числом самоспалення сприйматиметься як очевидно морально правильна дія — за аналогією з тим, як відмова брати участь у Голокості була очевидно морально правильною, навіть попри те, що відмовників за переконаннями просто замінили б нацистами з меншими сумнівами.", "After humans handoff management of the intelligence explosion,": "Після того як люди передадуть управління вибухом інтелекту,", " humans inside the leading AI project will no longer need an overall strategy, so this phase will largely discuss earlier stages of handoff and what needs to be done during phase 3 (pause) in order to make full handoff go well, and briefly discuss what affordances are available to the AI we hand off to.": " люди всередині провідного ШІ-проєкту більше не потребуватимуть загальної стратегії, тож ця фаза здебільшого присвячена раннім етапам передачі та тому, що потрібно зробити протягом фази 3 (пауза), щоб повна передача пройшла добре, а також коротко розглядає, які можливості будуть доступні ШІ, якому ми передамо управління.", "humans inside the leading AI project will no longer need an overall strategy, so this phase will largely discuss earlier stages of handoff and what needs to be done during phase 3 (pause) in order to make full handoff go well, and briefly discuss what affordances are available to the AI we hand off to.": "люди всередині провідного ШІ-проєкту більше не потребуватимуть загальної стратегії, тож ця фаза здебільшого присвячена раннім етапам передачі та тому, що потрібно зробити протягом фази 3 (пауза), щоб повна передача пройшла добре, а також коротко розглядає, які можливості будуть доступні ШІ, якому ми передамо управління.", "Our core hope with handoff is that we build AI systems that are competent and trustworthy enough that we can defer to them on all of the relevant questions. In particular, our key hope is that our AI systems will end up in ": "Наша основна надія щодо передачі — це побудувати ШІ-системи, достатньо компетентні й достойні довіри, щоб ми могли покладатися на них у всіх релевантних питаннях. Зокрема, наша ключова надія — що наші ШІ-системи опиняться в ", "Our core hope with handoff is that we build AI systems that are competent and trustworthy enough that we can defer to them on all of the relevant questions. In particular, our key hope is that our AI systems will end up in": "Наша основна надія щодо передачі — це побудувати ШІ-системи, достатньо компетентні й достойні довіри, щоб ми могли покладатися на них у всіх релевантних питаннях. Зокрема, наша ключова надія — що наші ШІ-системи опиняться в", "the Basin of Good Deference": "Басейні доброго підпорядкування", " (BGD): meaning that the initial AIs we defer to will be sufficiently aligned and wise that they can manage ongoing development of AIs well. This means that we do not need to assume that initial AIs are perfectly aligned/wise/competent, only that they are good enough that they can find and address failure modes as they come up.": " (BGD): це означає, що початкові ШІ-системи, яким ми довіряємо прийняття рішень, будуть достатньо узгодженими й мудрими, щоб добре керувати подальшим розвитком ШІ. Це означає, що нам не потрібно припускати, ніби початкові ШІ-системи ідеально узгоджені/мудрі/компетентні — досить того, що вони достатньо хороші, аби виявляти й усувати збої в міру їх появи.", "(BGD): meaning that the initial AIs we defer to will be sufficiently aligned and wise that they can manage ongoing development of AIs well. This means that we do not need to assume that initial AIs are perfectly aligned/wise/competent, only that they are good enough that they can find and address failure modes as they come up.": "(BGD): це означає, що початкові ШІ-системи, яким ми довіряємо прийняття рішень, будуть достатньо узгодженими й мудрими, щоб добре керувати подальшим розвитком ШІ. Це означає, що нам не потрібно припускати, ніби початкові ШІ-системи ідеально узгоджені/мудрі/компетентні — досить того, що вони достатньо хороші, аби виявляти й усувати збої в міру їх появи.", "Our best guess strategy for achieving handoff is as follows:": "Наша найкраща на сьогодні стратегія досягнення передачі повноважень (handoff) така:", "Make sure tests are representative,": "Переконатися, що тести репрезентативні,", " putting aside concerns about overfitting. We can break this category down into:": " відклавши вбік занепокоєння щодо перенавчання (overfitting). Цю категорію можна розбити на:", "putting aside concerns about overfitting. We can break this category down into:": "відклавши вбік занепокоєння щодо перенавчання (overfitting). Цю категорію можна розбити на:", "Avoid scheming.": "Уникати змови.", " In particular, we care about avoiding the failure mode where AIs are deliberately attempting to undermine the accuracy of your tests, for example by strategically underperforming or overperforming on certain tasks.": " Зокрема, нас турбує уникнення збою, коли ШІ-системи навмисно намагаються підірвати точність ваших тестів — наприклад, стратегічно занижуючи або завищуючи результати на певних завданнях.", "In particular, we care about avoiding the failure mode where AIs are deliberately attempting to undermine the accuracy of your tests, for example by strategically underperforming or overperforming on certain tasks.": "Зокрема, нас турбує уникнення збою, коли ШІ-системи навмисно намагаються підірвати точність ваших тестів — наприклад, стратегічно занижуючи або завищуючи результати на певних завданнях.", "Avoid other failure modes that would make tests unrepresentative.": "Уникати інших видів збоїв, які зробили б тести нерепрезентативними.", " This is just a bunch of miscellaneous possible failure modes that will potentially apply around handoff. For example:": " Це просто набір різноманітних можливих збоїв, які потенційно можуть виникнути навколо передачі повноважень. Наприклад:", "This is just a bunch of miscellaneous possible failure modes that will potentially apply around handoff. For example:": "Це просто набір різноманітних можливих збоїв, які потенційно можуть виникнути навколо передачі повноважень. Наприклад:", "Weird memetic pressures happen at large scale, so that small scale testing is not representative.": "У великому масштабі виникає дивний меметичний тиск, через що тестування в малому масштабі виявляється нерепрезентативним.", "People trying to jailbreak your AIs (E.g. China inserting secret loyalties)": "Люди намагаються здійснити джейлбрейк ваших ШІ-систем (наприклад, Китай впроваджує приховану лояльність)", "AIs optimizing to look good on tests terminally (e.g. so that they are much less confident once not in test settings).": "ШІ-системи оптимізуються так, щоб термінально виглядати добре на тестах (наприклад, через що вони набагато менш впевнені, щойно опиняються поза тестовим середовищем).", "It’s salient to AI that they are in a test in a way that causes them to behave very differently.": "Для ШІ стає очевидним, що вони перебувають у тесті, і це змушує їх поводитися зовсім по-іншому.", "Build good behavioural tests.": "Побудувати якісні поведінкові тести.", " Putting aside the risk of scheming, we’re going to want to build a huge number of difficult tests/evals, such that passing the evals entails sufficient capability ": " Відклавши вбік ризик змови, нам захочеться створити величезну кількість складних тестів/оцінок (evals), такі що проходження цих оцінок передбачає достатні можливості", "Putting aside the risk of scheming, we’re going to want to build a huge number of difficult tests/evals, such that passing the evals entails sufficient capability": "Відклавши вбік ризик змови, нам захочеться створити величезну кількість складних тестів/оцінок (evals), такі що проходження цих оцінок передбачає достатні можливості", " alignment for handoff. This will mostly include things like open-ended, hard to check conceptual reasoning such as philosophical reasoning, theoretical alignment arguments, improving AI control, etc.": " узгодженість для передачі повноважень. Це здебільшого включатиме такі речі, як відкриті, важкі для перевірки концептуальні міркування — філософські аргументи, теоретичні аргументи щодо узгодження, вдосконалення контролю за ШІ тощо.", "alignment for handoff. This will mostly include things like open-ended, hard to check conceptual reasoning such as philosophical reasoning, theoretical alignment arguments, improving AI control, etc.": "узгодженість для передачі повноважень. Це здебільшого включатиме такі речі, як відкриті, важкі для перевірки концептуальні міркування — філософські аргументи, теоретичні аргументи щодо узгодження, вдосконалення контролю за ШІ тощо.", "Iterate against the test without overfitting.": "Ітерувати за тестами, уникаючи перенавчання.", " Finally, once (1) and (2) are complete, we’ve reduced the problem of handoff into a “normal” ML problem: AI companies can iterate against the tests they’ve constructed, while taking care to avoid overfitting. We’ll hopefully be able to use somewhat principled techniques and some understanding of what is going on, given the need for some amount of generalization.": " Нарешті, коли (1) і (2) виконані, ми звели проблему передачі повноважень до «звичайної» ML-задачі: ШІ-компанії можуть ітерувати за побудованими тестами, дбаючи про те, щоб уникнути перенавчання. Сподіваємось, ми зможемо використати доволі принципові методи та певне розуміння того, що відбувається, з огляду на потребу в певному рівні узагальнення.", "Finally, once (1) and (2) are complete, we’ve reduced the problem of handoff into a “normal” ML problem: AI companies can iterate against the tests they’ve constructed, while taking care to avoid overfitting. We’ll hopefully be able to use somewhat principled techniques and some understanding of what is going on, given the need for some amount of generalization.": "Нарешті, коли (1) і (2) виконані, ми звели проблему передачі повноважень до «звичайної» ML-задачі: ШІ-компанії можуть ітерувати за побудованими тестами, дбаючи про те, щоб уникнути перенавчання. Сподіваємось, ми зможемо використати доволі принципові методи та певне розуміння того, що відбувається, з огляду на потребу в певному рівні узагальнення.", "Note that our strategy for handoff is extremely similar to our strategy for elicitation during Phase 2 and 3. That’s because we are solving the same problem: trying to ensure that AIs are doing useful work. The main difference is that in Phase 2 and 3, we still have humans in the loop, and so we can check AI outputs at deployment time using human labor, and we can still have humans to use as a load bearing part of the research process, while after handoff, the AIs must be trusted to do this all autonomously.": "Зауважте, що наша стратегія передачі повноважень дуже схожа на нашу стратегію елісітації (elicitation) під час Фази 2 і 3. Це тому, що ми розв'язуємо ту саму проблему: намагаємося переконатися, що ШІ-системи виконують корисну роботу. Головна відмінність у тому, що на Фазі 2 і 3 у нас усе ще є люди в контурі керування, тож ми можемо перевіряти результати роботи ШІ під час розгортання за допомогою людської праці, і люди все ще можуть слугувати опорною ланкою дослідницького процесу, тоді як після передачі повноважень ШІ-системам доведеться довіряти виконання всього цього повністю автономно.", "This post discusses the technical plan for handoff in ": "У цьому пості обговорюється технічний план передачі повноважень ", "This post discusses the technical plan for handoff in": "У цьому пості обговорюється технічний план передачі повноважень", "much more detail": "набагато детальніше", "Why handoff?": "Чому передача повноважень?", "The basic case for handing off is that in Plan C, leading actors are unwilling to pause further or delay for time (e.g. via sabotage), and thus we have to build vastly superhuman AI systems. If we’re going to do that, it seems better to hand off control of that process to AIs than to try to run it ourselves. This is because (i) it is probably easier to align only roughly human level AI systems (more specifically Min-H) than AI systems that are vastly smarter than humans, and (ii) that aligned human level AI systems will be better than humans at managing the transition to future AI systems than baseline humans. Therefore, we can do better by empowering aligned human level AI systems and trusting them to make further development go well, than by trying to directly pursue the future AI development ourselves.": "Основна аргументація на користь передачі повноважень полягає в тому, що в Плані C провідні гравці не бажають далі призупинятися чи зволікати (наприклад, через саботаж), і тому нам доведеться створювати значно надлюдські ШІ-системи. Якщо ми все одно це робитимемо, здається кращим передати контроль над цим процесом ШІ-системам, ніж намагатися керувати ним самотужки. Це тому, що (i) ймовірно, легше узгодити ШІ-системи приблизно людського рівня (точніше, Min-H), ніж системи, які значно розумніші за людину, і (ii) узгоджені ШІ-системи людського рівня керуватимуть переходом до майбутніх ШІ-систем краще, ніж пересічні люди. Тому ми можемо досягти кращого результату, наділяючи повноваженнями узгоджені ШІ-системи людського рівня і довіряючи їм забезпечити успішний подальший розвиток, ніж намагаючись самостійно безпосередньо керувати майбутнім розвитком ШІ.", "In practice, our guess is that AI companies will be prone to scale capabilities too quickly, beyond the relevant thresholds (e.g. Min-H AI and Max-C AI), but also prone to hand off too late, out of a misplaced desire to keep in the loop. In practice, AI companies will likely not handoff deliberately, and instead simply scale beyond the relevant thresholds and handoff in practice, as humans become too slow to be tracking the relevant developments.": "На практиці, на нашу думку, ШІ-компанії схильні надто швидко масштабувати можливості, виходячи за відповідні пороги (наприклад, Min-H AI та Max-C AI), але водночас схильні передавати повноваження надто пізно — через хибне бажання залишатися в контурі керування. На практиці ШІ-компанії, ймовірно, не передаватимуть повноваження свідомо, а просто вийдуть за відповідні пороги й фактично здійснять передачу повноважень де-факто, оскільки люди стануть занадто повільними, щоб встигати відстежувати відповідні зміни.", " We think this is a bad strategy, and that it is better to measure the relevant thresholds, carefully monitor when you are crossing them, and then ultimately empower AIs intentionally if it is better than the other options.": " Ми вважаємо це поганою стратегією і вважаємо, що краще вимірювати відповідні пороги, уважно відстежувати момент їх перетину, а тоді вже свідомо наділяти ШІ-системи повноваженнями — якщо це справді кращий варіант порівняно з іншими.", "We think this is a bad strategy, and that it is better to measure the relevant thresholds, carefully monitor when you are crossing them, and then ultimately empower AIs intentionally if it is better than the other options.": "Ми вважаємо це поганою стратегією і вважаємо, що краще вимірювати відповідні пороги, уважно відстежувати момент їх перетину, а тоді вже свідомо наділяти ШІ-системи повноваженнями — якщо це справді кращий варіант порівняно з іншими.", "Prosaic plan for handoff": "Прозаїчний план передачі повноважень", "We’ll now discuss each component of the handoff plan in more detail. Note that this is just our best guess breakdown assuming that the situation looks similar to what it does today, i.e. there haven’t been massive breakthroughs in alignment techniques elsewhere; if there have been breakthroughs that seem better than this baseline, we should do those instead.": "Тепер ми детальніше обговоримо кожен компонент плану передачі повноважень. Зауважте, що це лише наше найкраще на сьогодні розбиття, яке припускає, що ситуація виглядатиме подібно до сьогоднішньої, тобто що деінде не відбулося масштабних проривів у методах узгодження; якщо такі прориви станеться і виявляться кращими за цей базовий варіант, нам варто скористатися саме ними.", "Avoiding Scheming": "Уникнення змови", "(Basically just stolen from here: ": "(По суті, просто запозичено звідси: ", "(Basically just stolen from here:": "(По суті, просто запозичено звідси:", "An overview of approaches for avoiding scheming": "Огляд підходів до уникнення змови", "Scheming can be hard to handle because we can’t necessarily directly study it with behavioral tests (as schemers would want to avoid being caught and studied). There are two main paths to handling scheming:": "Змову може бути важко подолати, оскільки ми не завжди можемо вивчати її напряму за допомогою поведінкових тестів (адже змовники намагатимуться уникнути викриття й вивчення). Є два основні шляхи подолання змови:", "Studying scheming (testing measures, building a better understanding, etc) on ": "Вивчення змови (тестування заходів, поглиблення розуміння тощо) на ", "Studying scheming (testing measures, building a better understanding, etc) on": "Вивчення змови (тестування заходів, поглиблення розуміння тощо) на", "misalignment analogies": "аналогах неузгодженості", " (sometimes called ": " (їх іноді називають ", "(sometimes called": "(їх іноді називають", ") while hoping our results transfer to the actual schemers we’re worried about. This category includes:": ") — сподіваючись, що наші результати перенесуться на справжніх змовників, яких ми побоюємося. Ця категорія включає:", "Studying ": "Вивчення ", "Studying": "Вивчення", "actual scheming AIs": "справжніх ШІ-змовників", ". We’d need to detect that these AIs are scheming which could be difficult because schemers (at least the type we were worried about with long run dangerous preferences) would want to avoid being caught all else equal. But, I think there are some routes to overcoming this and studying actual schemers would likely be the best from an analogousness perspective. I discuss how we might do this in much more detail in my post ": ". Нам потрібно буде виявити, що ці ШІ-системи здійснюють змову, а це може бути складно, адже змовники (принаймні той тип, якого ми побоювалися — з довгостроковими небезпечними уподобаннями) за інших рівних умов намагатимуться уникнути викриття. Але, на мою думку, є способи це подолати, і вивчення справжніх змовників, ймовірно, було б найкращим варіантом з погляду аналогічності. Я детальніше обговорюю, як це можна зробити, у своєму пості ", ". We’d need to detect that these AIs are scheming which could be difficult because schemers (at least the type we were worried about with long run dangerous preferences) would want to avoid being caught all else equal. But, I think there are some routes to overcoming this and studying actual schemers would likely be the best from an analogousness perspective. I discuss how we might do this in much more detail in my post": ". Нам потрібно буде виявити, що ці ШІ-системи здійснюють змову, а це може бути складно, адже змовники (принаймні той тип, якого ми побоювалися — з довгостроковими небезпечними уподобаннями) за інших рівних умов намагатимуться уникнути викриття. Але, на мою думку, є способи це подолати, і вивчення справжніх змовників, ймовірно, було б найкращим варіантом з погляду аналогічності. Я детальніше обговорюю, як це можна зробити, у своєму пості", "Prospects for studying actual schemers": "Перспективи вивчення справжніх змовників", ". I also discuss a specific type of strategy for studying actual scheming models (and resolving some of the difficulties in doing this) in my post ": ". Я також обговорюю конкретний тип стратегії для вивчення справжніх моделей-змовників (і вирішення деяких труднощів, пов'язаних із цим) у своєму пості ", ". I also discuss a specific type of strategy for studying actual scheming models (and resolving some of the difficulties in doing this) in my post": ". Я також обговорюю конкретний тип стратегії для вивчення справжніх моделей-змовників (і вирішення деяких труднощів, пов'язаних із цим) у своєму пості", "Iterated Development and Study of Schemers (IDSS)": "Ітеративна розробка та вивчення змовників (IDSS)", ". The category of studying actual scheming can be further decomposed into:": ". Категорію вивчення справжньої змови можна далі розкласти на:", "We could study ": "Ми могли б вивчати ", "We could study": "Ми могли б вивчати", "natural scheming": "природну змову", " where a plausible AI development process (training, prompting, scaffolding etc) results in a scheming AI (that we can detect).": " коли правдоподібний процес розробки ШІ (навчання, промптинг, скафолдинг тощо) призводить до появи ШІ-змовника (якого ми можемо виявити).", "where a plausible AI development process (training, prompting, scaffolding etc) results in a scheming AI (that we can detect).": "коли правдоподібний процес розробки ШІ (навчання, промптинг, скафолдинг тощо) призводить до появи ШІ-змовника (якого ми можемо виявити).", "scheming from a rigged process": "змову внаслідок сфабрикованого процесу", " where we construct an implausible AI development process—as in, an AI development process which isn’t similar to what might happen in practice—which results in an actual scheming AI (that we can detect). This category doesn’t include cases where we directly train in scheming behavior, as I put that in its own category.": " коли ми конструюємо неправдоподібний процес розробки ШІ — тобто такий, що не схожий на те, що могло б статися на практиці, — який призводить до появи справжнього ШІ-змовника (якого ми можемо виявити). Ця категорія не включає випадки, коли ми прямо навчаємо змовницьку поведінку, — таке я виношу в окрему категорію.", "where we construct an implausible AI development process—as in, an AI development process which isn’t similar to what might happen in practice—which results in an actual scheming AI (that we can detect). This category doesn’t include cases where we directly train in scheming behavior, as I put that in its own category.": "коли ми конструюємо неправдоподібний процес розробки ШІ — тобто такий, що не схожий на те, що могло б статися на практиці, — який призводить до появи справжнього ШІ-змовника (якого ми можемо виявити). Ця категорія не включає випадки, коли ми прямо навчаємо змовницьку поведінку, — таке я виношу в окрему категорію.", "trained-in scheming behavior": "натреновану змовницьку поведінку", " where we directly train (or instruct) an AI to behave how we think a naturally scheming AI might behave (at least in some ways). This doesn’t (necessarily) require catching actual schemers, but it might be extremely disanalogous such that results don’t transfer basically at all. I discuss this in more detail in my post ": " коли ми напряму навчаємо (або інструктуємо) ШІ поводитися так, як, на нашу думку, поводився б природний ШІ-змовник (принаймні певною мірою). Це (не обов'язково) вимагає виявлення справжніх змовників, але може бути надзвичайно неаналогічним, тож результати можуть майже зовсім не переноситися. Я детальніше обговорюю це у своєму пості ", "where we directly train (or instruct) an AI to behave how we think a naturally scheming AI might behave (at least in some ways). This doesn’t (necessarily) require catching actual schemers, but it might be extremely disanalogous such that results don’t transfer basically at all. I discuss this in more detail in my post": "коли ми напряму навчаємо (або інструктуємо) ШІ поводитися так, як, на нашу думку, поводився б природний ШІ-змовник (принаймні певною мірою). Це (не обов'язково) вимагає виявлення справжніх змовників, але може бути надзвичайно неаналогічним, тож результати можуть майже зовсім не переноситися. Я детальніше обговорюю це у своєму пості", "Reducing risk from scheming by studying trained-in scheming behavior": "Зниження ризику змови через вивчення натренованої змовницької поведінки", "abstract analogies": "абстрактні аналогії", ", cases where the AI we’re studying isn’t doing something resembling scheming, but we nonetheless think it is analogous for some structural reason. It might only be analogous with respect to one specific property schemers have (or a subset of properties), in which case, we’d want our work to focus on the relevant properties. A concrete example of an abstract/structural analogy is ": " — випадки, коли ШІ, який ми вивчаємо, не робить нічого схожого на змову, але ми все одно вважаємо це аналогічним із певної структурної причини. Це може бути аналогічним лише щодо однієї конкретної властивості змовників (або підмножини властивостей), і в такому разі нам варто зосередити роботу саме на відповідних властивостях. Конкретний приклад абстрактної/структурної аналогії — це ", ", cases where the AI we’re studying isn’t doing something resembling scheming, but we nonetheless think it is analogous for some structural reason. It might only be analogous with respect to one specific property schemers have (or a subset of properties), in which case, we’d want our work to focus on the relevant properties. A concrete example of an abstract/structural analogy is": "— випадки, коли ШІ, який ми вивчаємо, не робить нічого схожого на змову, але ми все одно вважаємо це аналогічним із певної структурної причини. Це може бути аналогічним лише щодо однієї конкретної властивості змовників (або підмножини властивостей), і в такому разі нам варто зосередити роботу саме на відповідних властивостях. Конкретний приклад абстрактної/структурної аналогії — це", "this empirical work using an AI which expresses politically conservative views but only when it is confident that it is talking to a politically conservative user": "ця емпірична робота з використанням ШІ, який висловлює політично консервативні погляди, але лише коли впевнений, що спілкується з політично консервативним користувачем", " (resulting in a conditional policy which is in some way analogous to scheming). There hasn’t been that much exploration or discussion of abstract analogies so far, but this seems like a worthwhile direction. (In fact, I think it will plausibly be ultimately more useful than studying trained in scheming behavior as we might be able to study huge numbers of diverse abstract analogies while diversity seems much harder in the case of trained in scheming behavior). Julian Stastny discusses some additional examples of abstract analogies in ": " (що дає умовну політику поведінки, яка певним чином аналогічна змові). Наразі абстрактні аналогії досліджені й обговорені не надто широко, але цей напрям видається перспективним. (Насправді я думаю, що зрештою він, ймовірно, виявиться кориснішим за вивчення натренованої змовницької поведінки, оскільки ми можемо вивчати величезну кількість різноманітних абстрактних аналогій, тоді як у випадку натренованої змовницької поведінки досягти такого різноманіття значно складніше). Julian Stastny обговорює додаткові приклади абстрактних аналогій у ", "(resulting in a conditional policy which is in some way analogous to scheming). There hasn’t been that much exploration or discussion of abstract analogies so far, but this seems like a worthwhile direction. (In fact, I think it will plausibly be ultimately more useful than studying trained in scheming behavior as we might be able to study huge numbers of diverse abstract analogies while diversity seems much harder in the case of trained in scheming behavior). Julian Stastny discusses some additional examples of abstract analogies in": "(що дає умовну політику поведінки, яка певним чином аналогічна змові). Наразі абстрактні аналогії досліджені й обговорені не надто широко, але цей напрям видається перспективним. (Насправді я думаю, що зрештою він, ймовірно, виявиться кориснішим за вивчення натренованої змовницької поведінки, оскільки ми можемо вивчати величезну кількість різноманітних абстрактних аналогій, тоді як у випадку натренованої змовницької поведінки досягти такого різноманіття значно складніше). Julian Stastny обговорює додаткові приклади абстрактних аналогій у", "Applying ": "Застосування ", "Applying": "Застосування", "principled methods": "принципових методів", " where we have some good a priori reason to think the method would be helpful (potentially given some empirical results from applying the method or a similar method to something other than studying scheming). For instance, we might believe some particular modification to the situational awareness of the AI during training is helpful. As another example, we might have some method for decoding “neuralese” that we believe is highly effective for understanding the AI’s cognition (including on scheming AIs) based on various empirical tests and there is a solid a priori case for it being helpful to understand the AI’s cognition for detecting (and then potentially iterating against) scheming. Note that this category includes methods for detecting, preventing, removing, and better understanding scheming. Even if we’re just focused on avoiding scheming, then methods for detecting (or understanding scheming) are still applicable as detecting (and better understanding) scheming would help us develop methods for avoiding scheming. I plan on providing a list of principled method ideas and discussing principled methods in more detail in a future post. I discuss principled methods in much more detail in my post ": " коли в нас є вагома апріорна причина вважати метод корисним (можливо, з огляду на певні емпіричні результати застосування цього чи подібного методу до чогось іншого, ніж вивчення змови). Наприклад, ми можемо вважати корисною певну модифікацію ситуаційної обізнаності ШІ під час навчання. Як інший приклад, у нас може бути метод декодування «нейролізу» («neuralese»), який, на нашу думку, дуже ефективний для розуміння мислення ШІ (зокрема й ШІ-змовників), на основі різних емпіричних тестів, і є вагомі апріорні підстави вважати його корисним для розуміння мислення ШІ з метою виявлення (а згодом, можливо, й ітеративного протистояння) змови. Зауважте, що ця категорія включає методи виявлення, запобігання, усунення та кращого розуміння змови. Навіть якщо ми зосереджені лише на уникненні змови, методи виявлення (чи розуміння змови) усе одно застосовні, адже виявлення (і краще розуміння) змови допоможе нам розробити методи її уникнення. Я плануюю навести перелік ідей принципових методів і детальніше обговорити принципові методи в майбутньому пості. Я значно детальніше обговорюю принципові методи у своєму пості ", "where we have some good a priori reason to think the method would be helpful (potentially given some empirical results from applying the method or a similar method to something other than studying scheming). For instance, we might believe some particular modification to the situational awareness of the AI during training is helpful. As another example, we might have some method for decoding “neuralese” that we believe is highly effective for understanding the AI’s cognition (including on scheming AIs) based on various empirical tests and there is a solid a priori case for it being helpful to understand the AI’s cognition for detecting (and then potentially iterating against) scheming. Note that this category includes methods for detecting, preventing, removing, and better understanding scheming. Even if we’re just focused on avoiding scheming, then methods for detecting (or understanding scheming) are still applicable as detecting (and better understanding) scheming would help us develop methods for avoiding scheming. I plan on providing a list of principled method ideas and discussing principled methods in more detail in a future post. I discuss principled methods in much more detail in my post": "коли в нас є вагома апріорна причина вважати метод корисним (можливо, з огляду на певні емпіричні результати застосування цього чи подібного методу до чогось іншого, ніж вивчення змови). Наприклад, ми можемо вважати корисною певну модифікацію ситуаційної обізнаності ШІ під час навчання. Як інший приклад, у нас може бути метод декодування «нейролізу» («neuralese»), який, на нашу думку, дуже ефективний для розуміння мислення ШІ (зокрема й ШІ-змовників), на основі різних емпіричних тестів, і є вагомі апріорні підстави вважати його корисним для розуміння мислення ШІ з метою виявлення (а згодом, можливо, й ітеративного протистояння) змови. Зауважте, що ця категорія включає методи виявлення, запобігання, усунення та кращого розуміння змови. Навіть якщо ми зосереджені лише на уникненні змови, методи виявлення (чи розуміння змови) усе одно застосовні, адже виявлення (і краще розуміння) змови допоможе нам розробити методи її уникнення. Я плануюю навести перелік ідей принципових методів і детальніше обговорити принципові методи в майбутньому пості. Я значно детальніше обговорюю принципові методи у своєму пості", "Principled methods for avoiding scheming": "Принципові методи уникнення змови", "Avoiding Misc Failures": "Уникнення інших збоїв", "We also need to avoid all other failure modes that would make our behavioural tests unrepresentative.": "Нам також потрібно уникати всіх інших видів збоїв, які могли б зробити наші поведінкові тести нерепрезентативними.", " This isn’t a super natural category, but it’s just where we’ve chosen to discuss everything that would cause representative behavioural tests to fail other than scheming or overfitting.": " Це не надто природна категорія, але саме тут ми вирішили обговорити все, що могло б зіпсувати репрезентативність поведінкових тестів, окрім змови чи перенавчання.", "This isn’t a super natural category, but it’s just where we’ve chosen to discuss everything that would cause representative behavioural tests to fail other than scheming or overfitting.": "Це не надто природна категорія, але саме тут ми вирішили обговорити все, що могло б зіпсувати репрезентативність поведінкових тестів, окрім змови чи перенавчання.", "Particular failures to avoid include:": "Конкретні збої, яких слід уникати, включають:", "Generalization failures from testing to deployment.": "Збої узагальнення при переході від тестування до розгортання.", "Examples:": "Приклади:", "There might be weird memetic pressures happening at a large scale.": "Можуть виникати дивні меметичні тиски у великому масштабі.", "Online learning, which results in AI capability profiles drifting in a way that causes failures (including the emergence of scheming).": "Онлайн-навчання, яке призводить до дрейфу профілів можливостей ШІ таким чином, що спричиняє збої (зокрема появу змови).", "Mitigations: Basically, either we’ll need the tests to be as representative as possible, so that the distribution shift they need to cross is as small as possible, and then we’ll also need to use techniques that are as principled as possible (as opposed to ad hoc solutions which appear to work in distribution). Also, try to be careful about holding out some test sets (which are drawn from a different distribution than train/validation), and see if we get good generalization to the held out test sets.": "Пом'якшення: по суті, нам потрібно або зробити тести максимально репрезентативними, щоб зсув розподілу, який їм доводиться долати, був якомога меншим, або використовувати методи, максимально принципові (на противагу спеціальним рішенням, які, здається, працюють лише в межах наявного розподілу). Також варто обережно виділяти частину тестових наборів (узятих з іншого розподілу, ніж навчальний/валідаційний), і перевіряти, чи отримуємо гарне узагальнення на цих відкладених тестових наборах.", "External adversaries inserting secret loyalties.": "Зовнішні супротивники, що впроваджують приховану лояльність.", "In Plan C, the goals of the AI systems become extremely load bearing because we are handing off trust to the AIs. If adversaries are able to corrupt the goals of the AI system (e.g. by inserting a jailbreak) this would be catastrophic, and could cause this methodology to fail.": "У Плані C цілі ШІ-систем стають надзвичайно критичними, оскільки ми передаємо довіру ШІ-системам. Якщо супротивники здатні спотворити цілі ШІ-системи (наприклад, впровадивши джейлбрейк), це було б катастрофічним і могло б призвести до провалу цієї методології.", "Approaches for mitigation:": "Підходи до пом'якшення:", "Do nothing and hope.": "Нічого не робити й сподіватися.", " It’s unclear that adversaries will by default be sufficiently on the ball to carry out this sort of operation, despite AI projects lacking sufficient security to prevent it.": " Незрозуміло, чи будуть супротивники за замовчуванням достатньо кмітливими, щоб здійснити подібну операцію, попри те що ШІ-проєктам бракує достатнього захисту, аби це запобігти.", "It’s unclear that adversaries will by default be sufficiently on the ball to carry out this sort of operation, despite AI projects lacking sufficient security to prevent it.": "Незрозуміло, чи будуть супротивники за замовчуванням достатньо кмітливими, щоб здійснити подібну операцію, попри те що ШІ-проєктам бракує достатнього захисту, аби це запобігти.", "SL-5 Sabotage Security.": "SL-5 захист від саботажу.", " Prevent (even) highly motivated external actors from being able to sabotage / backdoor the models. This could involve ": " Запобігти тому, щоб (навіть) дуже мотивовані зовнішні гравці могли саботувати / впроваджувати бекдори в моделі. Це може включати ", "Prevent (even) highly motivated external actors from being able to sabotage / backdoor the models. This could involve": "Запобігти тому, щоб (навіть) дуже мотивовані зовнішні гравці могли саботувати / впроваджувати бекдори в моделі. Це може включати", "using AIs for security": "використання ШІ для безпеки", ". Verification methods like training proof of work via partial recomputation might also become helpful here to validate that the training data of models is correct.": ". Тут також можуть стати в пригоді методи верифікації, як-от підтвердження виконання роботи (proof of work) під час навчання через часткове повторне обчислення, щоб перевірити правильність навчальних даних моделей.", "Scheming mitigation generalizes.": "Пом'якшення змови узагальнюється.", " Many of the approaches for preventing scheming could generalize to prevent secret loyalties. Anything involving transparency could potentially detect / prevent secret loyalties. Misalignment analogies / honeypots could catch models with secret loyalties.": " Багато підходів до запобігання змові можуть узагальнюватися й на запобігання прихованій лояльності. Усе, що пов'язано з прозорістю, потенційно може виявляти / запобігати прихованій лояльності. Аналоги неузгодженості / медові пастки (honeypots) можуть викривати моделі з прихованою лояльністю.", "Many of the approaches for preventing scheming could generalize to prevent secret loyalties. Anything involving transparency could potentially detect / prevent secret loyalties. Misalignment analogies / honeypots could catch models with secret loyalties.": "Багато підходів до запобігання змові можуть узагальнюватися й на запобігання прихованій лояльності. Усе, що пов'язано з прозорістю, потенційно може виявляти / запобігати прихованій лояльності. Аналоги неузгодженості / медові пастки (honeypots) можуть викривати моделі з прихованою лояльністю.", "Value propagation difficulties during the intelligence explosion.": "Труднощі поширення цінностей під час вибуху інтелекту.", " We could accept that some models are backdoored by adversaries, but hope that the process of recursive self improvement removes secret loyalties. Distillation, which may be a component of RSI, ": " Ми могли б визнати, що деякі моделі містять бекдори від супротивників, але сподіватися, що процес рекурсивного самовдосконалення усуне приховану лояльність. Дистиляція, яка може бути компонентом RSI, ", "We could accept that some models are backdoored by adversaries, but hope that the process of recursive self improvement removes secret loyalties. Distillation, which may be a component of RSI,": "Ми могли б визнати, що деякі моделі містять бекдори від супротивників, але сподіватися, що процес рекурсивного самовдосконалення усуне приховану лояльність. Дистиляція, яка може бути компонентом RSI,", "seems to remove many backdoors": "схоже, усуває багато бекдорів", ". RSI might also involve generating novel datasets from scratch for each new training run, and so the adversary would need to insert poisoned data to each new generation.": ". RSI також може передбачати генерацію нових наборів даних з нуля для кожного нового циклу навчання, тож супротивнику довелося б впроваджувати отруєні дані в кожне нове покоління.", "Building Good Behavioral Tests": "Побудова якісних поведінкових тестів", "First, let’s discuss what properties we need to ensure with our behavioral tests:": "Спершу обговоримо, які властивості нам потрібно забезпечити нашими поведінковими тестами:", "Capability Profile.": "Профіль можливостей.", " We want to make sure that the AIs are sufficiently capable at all the narrow tasks that would otherwise bottleneck handoff. The capability that we’re most worried about bottleneck handoff is conceptually loaded research on open ended, hard to check tasks like AI safety and philosophy (": " Ми хочемо переконатися, що ШІ-системи достатньо здатні у всіх вузьких завданнях, які інакше стали б вузьким місцем для передачі повноважень. Можливість, яка найбільше турбує нас як потенційне вузьке місце передачі повноважень, — це концептуально навантажені дослідження у відкритих, важких для перевірки задачах, як-от безпека ШІ та філософія (", "We want to make sure that the AIs are sufficiently capable at all the narrow tasks that would otherwise bottleneck handoff. The capability that we’re most worried about bottleneck handoff is conceptually loaded research on open ended, hard to check tasks like AI safety and philosophy (": "Ми хочемо переконатися, що ШІ-системи достатньо здатні у всіх вузьких завданнях, які інакше стали б вузьким місцем для передачі повноважень. Можливість, яка найбільше турбує нас як потенційне вузьке місце передачі повноважень, — це концептуально навантажені дослідження у відкритих, важких для перевірки задачах, як-от безпека ШІ та філософія (", "Alignment Profile.": "Профіль узгодження.", " We’re unsure what the exact alignment target should be. Our best guess is that the alignment profile should be that the AIs are corrigible: they generally follow human instructions through the desired channel (e.g the instructions of a political institution), and don’t attempt to subvert human modification or oversight in any way. (": " Ми не впевнені, якою саме має бути ціль узгодження. Наше найкраще припущення — що профіль узгодження повинен полягати в тому, що ШІ-системи є коригованими: вони загалом виконують людські інструкції через бажаний канал (наприклад, інструкції політичного інституту) і жодним чином не намагаються протидіяти людській модифікації чи нагляду. (", "We’re unsure what the exact alignment target should be. Our best guess is that the alignment profile should be that the AIs are corrigible: they generally follow human instructions through the desired channel (e.g the instructions of a political institution), and don’t attempt to subvert human modification or oversight in any way. (": "Ми не впевнені, якою саме має бути ціль узгодження. Наше найкраще припущення — що профіль узгодження повинен полягати в тому, що ШІ-системи є коригованими: вони загалом виконують людські інструкції через бажаний канал (наприклад, інструкції політичного інституту) і жодним чином не намагаються протидіяти людській модифікації чи нагляду. (", "We hope to build behavioral tests for both of these. Either, this will involve using domain area experts to verify existing work, leveraging unpublished work, doing unlearning and seeing if models can rediscover ideas, or using a limited training corpus and seeing if models can rediscover.": "Ми сподіваємося створити поведінкові тести для обох цих аспектів. Це передбачатиме або залучення експертів у відповідній галузі для верифікації наявних робіт, використання неопублікованих робіт, «розучування» (unlearning) з перевіркою, чи здатні моделі заново відкрити ідеї, або використання обмеженого навчального корпусу з перевіркою, чи можуть моделі зробити повторне відкриття.", "Ideas for ": "Ідеї для ", "Ideas for": "Ідеї для", "conceptual reasoning evaluations:": "оцінювання концептуального міркування:", "Rediscover Math/physics/economics/CS etc. Or push the frontier on problems that are known to be difficult.": "Повторно відкрити математику/фізику/економіку/CS тощо. Або просунути межу в задачах, які відомі як складні.", "Build rockets without testing and see if they work. More generally find tasks which we can make hard-to-check for the AI, but which we can have humans check afterwards.": "Побудувати ракети без випробувань і подивитися, чи вони працюють. Загалом — знайти завдання, які можна зробити важкими для перевірки самим ШІ, але які потім зможуть перевірити люди.", "The main hope with these is that there are generalizable reasoning skills which apply across a wide range of conceptual research domains, i.e. that training a model to be good at conceptual physics research also helps the model to be good at conceptual AI safety research. Note: this is capabilities research, and obviously could accelerate AI takeoff, which could be very bad. However, these capabilities are also on the critical path for handoff, and so at some point we’re going to need to solve them. Moreover, directly training for the capabilities that we need for handoff means that we might need to scale general capabilities less far, which reduces risk. The overall prioritization of this research avenue generally seems complicated and should be pursued only with care.": "Головна надія тут полягає в тому, що існують узагальнювані навички міркування, які застосовуються в широкому спектрі концептуальних дослідницьких галузей, тобто що навчання моделі бути хорошою в концептуальних фізичних дослідженнях також допомагає їй бути хорошою в концептуальних дослідженнях безпеки ШІ. Зауваження: це дослідження можливостей, і воно, очевидно, може прискорити зліт ШІ, що може бути дуже погано. Однак ці можливості також лежать на критичному шляху до передачі повноважень, тож рано чи пізно нам доведеться їх опанувати. Крім того, пряме навчання саме тих можливостей, які потрібні для передачі повноважень, означає, що нам, можливо, доведеться масштабувати загальні можливості менше, що знижує ризик. Загальна пріоритизація цього дослідницького напряму видається доволі складною і має провадитися лише з обережністю.", "Domains that we should directly evaluate:": "Галузі, які варто оцінювати напряму:", "AI strategy.": "Стратегія ШІ.", " E.g. given knowledge from 2005, how good is it at coming up with ideas that seem to make sense in retrospect.": " Наприклад, маючи знання станом на 2005 рік, наскільки добре модель генерує ідеї, які згодом, ретроспективно, виявляються слушними.", "E.g. given knowledge from 2005, how good is it at coming up with ideas that seem to make sense in retrospect.": "Наприклад, маючи знання станом на 2005 рік, наскільки добре модель генерує ідеї, які згодом, ретроспективно, виявляються слушними.", "AI Control.": "Контроль ШІ.", " AIs attempt to make alignment/control arguments and then evaluate if they were successful, and whether or not the AIs predictions about generalization behavior were correct or not.": " ШІ-системи намагаються вибудувати аргументи щодо узгодження/контролю, а потім оцінюють, чи були вони успішними та чи виявилися правильними прогнози ШІ щодо поведінки узагальнення.", "AIs attempt to make alignment/control arguments and then evaluate if they were successful, and whether or not the AIs predictions about generalization behavior were correct or not.": "ШІ-системи намагаються вибудувати аргументи щодо узгодження/контролю, а потім оцінюють, чи були вони успішними та чи виявилися правильними прогнози ШІ щодо поведінки узагальнення.", "Scheming detection on model organisms.": "Виявлення змови на модельних організмах.", " We could also do things like build scheming models and then see if the AIs can distinguish between the schemers and the normal models.": " Ми також могли б, наприклад, будувати моделі, схильні до змови, а потім перевіряти, чи здатні ШІ-системи відрізнити такі «змовницькі» моделі від звичайних.", "We could also do things like build scheming models and then see if the AIs can distinguish between the schemers and the normal models.": "Ми також могли б, наприклад, будувати моделі, схильні до змови, а потім перевіряти, чи здатні ШІ-системи відрізнити такі «змовницькі» моделі від звичайних.", "Theoretical AI safety.": "Теоретична безпека ШІ.", " Try to have AIs rediscover unpublished work from places like ARC Theory, MIRI, and CLR.": " Спробувати змусити ШІ-системи заново відкрити неопубліковані роботи таких організацій, як ARC Theory, MIRI та CLR.", "Try to have AIs rediscover unpublished work from places like ARC Theory, MIRI, and CLR.": "Спробувати змусити ШІ-системи заново відкрити неопубліковані роботи таких організацій, як ARC Theory, MIRI та CLR.", "Iterate against tests without overfitting": "Ітерація за тестами без перенавчання", "The basic approach for iterating against tests without overfitting is discussed more ": "Базовий підхід до ітерації за тестами без перенавчання детальніше розглянуто ", "The basic approach for iterating against tests without overfitting is discussed more": "Базовий підхід до ітерації за тестами без перенавчання детальніше розглянуто", ". To summarize, the main approaches are:": ". Коротко кажучи, основні підходи такі:", "Construct RL environments or synthetic data which train for the relevant capabilities": "Створювати RL-середовища або синтетичні дані, які навчають відповідних можливостей", "Collect human data/feedback in the domain and use this for training.": "Збирати людські дані/зворотний зв’язок у відповідній галузі та використовувати їх для навчання.", "Experimentally find domains which transfer well to the domains that we care about, and then scale up training on those domains.": "Експериментально знаходити галузі, які добре переносяться на ті, що нас цікавлять, а потім масштабувати навчання на цих галузях.", "Miscellaneous other tweaks to the training approach which in practice leads to better performance on the evaluation (taking care to avoid overfitting).": "Різноманітні інші коригування підходу до навчання, які на практиці покращують результати на оцінюванні (з увагою на уникнення перенавчання).", "When should we hand off?": "Коли варто передавати повноваження?", "Our ultimate goal is to have the AIs we defer to resolve risks associated with powerful AI systems (and potentially other serious risks that happen to occur at this time) while preserving option value and keeping humans in control of longer-run values-loaded decision making (e.g., how Earth should be governed in the longer run, what should happen with the cosmic endowment, etc). Correspondingly, our aim would be that the AIs we defer to (and their successors) don’t seize power or (unnecessarily) kill humans, for these AIs to effectively work on managing these risks, and for these AIs to follow some model spec which involves the AI remaining corrigible to some group of humans or some structure which is ultimately run by humans (e.g. some component of the US government).": "Наша кінцева мета — щоб ШІ-системи, яким ми довіряємо ухвалення рішень, вирішували ризики, пов’язані з потужними ШІ-системами (і потенційно з іншими серйозними ризиками, що можуть виникнути в цей час), водночас зберігаючи цінність вибору (option value) і залишаючи за людьми контроль над довгостроковими, ціннісно навантаженими рішеннями (наприклад, як має врядуватися Земля в довгостроковій перспективі, що робити з космічним надбанням тощо). Відповідно, наша мета полягає в тому, щоб ШІ-системи, яким ми довіряємо (і їхні наступники), не захоплювали владу і (без потреби) не вбивали людей, щоб ці ШІ-системи ефективно працювали над управлінням цими ризиками, і щоб вони дотримувалися певної специфікації моделі (спеку), яка передбачає, що ШІ залишається коригованим щодо певної групи людей або структури, яка зрештою керується людьми (наприклад, певного компонента уряду США).", "In practice, we expect handoff to be driven largely by political will in Plan C. This in turn will (under optimistic Plan C assumptions), be driven by when trailing labs will overtake the (paused) leading lab.": "На практиці ми очікуємо, що передача повноважень у Плані C переважно визначатиметься політичною волею. Це, своєю чергою (за оптимістичних припущень Плану C), визначатиметься тим, коли лабораторії-переслідувачі наздоженуть (призупинену) провідну лабораторію.", "Some ways the handoff trajectory could go:": "Кілька можливих траєкторій розвитку передачі повноважень:", "Standard Plan C.": "Стандартний План C.", " You scale to Min-H AI, work on solving handoff viability and scheming for Min-H AIs. keep control until near the end, then you ditch control, and solve handoff viability. Those AIs then FOOM to the sky.": " Ви масштабуєтеся до рівня Min-H ШІ, працюєте над вирішенням життєздатності передачі повноважень і проблеми змови для ШІ рівня Min-H. Зберігаєте контроль майже до самого кінця, потім відмовляєтеся від контролю й вирішуєте питання життєздатності передачі. Далі ці ШІ здійснюють FOOM у небеса.", "You scale to Min-H AI, work on solving handoff viability and scheming for Min-H AIs. keep control until near the end, then you ditch control, and solve handoff viability. Those AIs then FOOM to the sky.": "Ви масштабуєтеся до рівня Min-H ШІ, працюєте над вирішенням життєздатності передачі повноважень і проблеми змови для ШІ рівня Min-H. Зберігаєте контроль майже до самого кінця, потім відмовляєтеся від контролю й вирішуєте питання життєздатності передачі. Далі ці ШІ здійснюють FOOM у небеса.", "Stop doing control (SDC-Handoff) Early.": "Раннє припинення контролю (SDC-Handoff).", " Ditch control early (e.g. before minH, e.g. at or before SAR), pray AIs aren’t scheming, then scale to Min-H, then pause there, then solve handoff viability, then hand off. This would trade eating a bunch of misalignment risk from scheming at Min-H AI and below, in return for saving more resources in order to make deference go well. This could be worth it if we think the risk of scheming until Min-H is reasonably low and the additional resources spent on control would yield large absolute returns in making deference more likely to go well (perhaps because otherwise we’d have very little time). It seems likely to me that most of the difficulty in making deference likely to go well is ensuring that these AIs aren’t scheming (and don’t end up scheming due to alignment drift or similar after deference), so just eating all of this risk might greatly reduce the difficulty of the problem (meaning that if the situation otherwise looks desperate, this is a non-insane bet we could make to “": " Відмовитися від контролю рано (наприклад, до minH, скажімо, на рівні SAR або раніше), сподіватися, що ШІ-системи не влаштовують змову, потім масштабуватися до Min-H, зробити паузу на цьому рівні, вирішити питання життєздатності передачі, а потім передати повноваження. Це означало б прийняти на себе певний ризик неузгодженості через змову на рівні Min-H ШІ і нижче, натомість заощадивши більше ресурсів, щоб довіра (deference) пройшла успішно. Це може бути виправдано, якщо ми вважаємо, що ризик змови аж до Min-H доволі низький, а додаткові ресурси, витрачені на контроль, дали б великий абсолютний приріст шансів на успішну довіру (можливо, тому що інакше в нас було б дуже мало часу). Мені здається ймовірним, що основна складність у забезпеченні успішної довіри полягає саме в тому, щоб переконатися, що ці ШІ-системи не влаштовують змову (і не почнуть її влаштовувати через дрейф узгодження чи щось подібне після довіри), тож просто прийняти весь цей ризик може суттєво зменшити складність проблеми (тобто якщо ситуація інакше виглядає безнадійною, це не божевільна ставка, яку ми могли б зробити, щоб «", "Ditch control early (e.g. before minH, e.g. at or before SAR), pray AIs aren’t scheming, then scale to Min-H, then pause there, then solve handoff viability, then hand off. This would trade eating a bunch of misalignment risk from scheming at Min-H AI and below, in return for saving more resources in order to make deference go well. This could be worth it if we think the risk of scheming until Min-H is reasonably low and the additional resources spent on control would yield large absolute returns in making deference more likely to go well (perhaps because otherwise we’d have very little time). It seems likely to me that most of the difficulty in making deference likely to go well is ensuring that these AIs aren’t scheming (and don’t end up scheming due to alignment drift or similar after deference), so just eating all of this risk might greatly reduce the difficulty of the problem (meaning that if the situation otherwise looks desperate, this is a non-insane bet we could make to “": "Відмовитися від контролю рано (наприклад, до minH, скажімо, на рівні SAR або раніше), сподіватися, що ШІ-системи не влаштовують змову, потім масштабуватися до Min-H, зробити паузу на цьому рівні, вирішити питання життєздатності передачі, а потім передати повноваження. Це означало б прийняти на себе певний ризик неузгодженості через змову на рівні Min-H ШІ і нижче, натомість заощадивши більше ресурсів, щоб довіра (deference) пройшла успішно. Це може бути виправдано, якщо ми вважаємо, що ризик змови аж до Min-H доволі низький, а додаткові ресурси, витрачені на контроль, дали б великий абсолютний приріст шансів на успішну довіру (можливо, тому що інакше в нас було б дуже мало часу). Мені здається ймовірним, що основна складність у забезпеченні успішної довіри полягає саме в тому, щоб переконатися, що ці ШІ-системи не влаштовують змову (і не почнуть її влаштовувати через дрейф узгодження чи щось подібне після довіри), тож просто прийняти весь цей ризик може суттєво зменшити складність проблеми (тобто якщо ситуація інакше виглядає безнадійною, це не божевільна ставка, яку ми могли б зробити, щоб «", "play to our outs": "зіграти на наявні шанси", "Military at MaxC.": "Військова перевага при MaxC.", " Keep control, scale substantially beyond Min-H while keeping control, use those AIs to get a military advantage (or any other way), buy a bunch more time.": " Зберігайте контроль, масштабуйтеся суттєво за межі Min-H, зберігаючи контроль, використайте ці ШІ для отримання військової переваги (чи будь-яким іншим способом), виграйте набагато більше часу.", "Keep control, scale substantially beyond Min-H while keeping control, use those AIs to get a military advantage (or any other way), buy a bunch more time.": "Зберігайте контроль, масштабуйтеся суттєво за межі Min-H, зберігаючи контроль, використайте ці ШІ для отримання військової переваги (чи будь-яким іншим способом), виграйте набагато більше часу.", "Military beyond MaxC.": "Військова перевага за межами MaxC.", " Same as above, but ditch control while not doing HTC-handoff. This is because building robot armies might be a particularly easy task to verify, so doesn’t require full handoff. It does probably require scaling beyond minH, without relying on the AIs (because that’s a conceptually confusing task that is hard to verify, so deferring to the ais here would involve full handoff), so it would rely on better than expected techniques for mitigating scheming during the phase beyond minH (e.g. up to +2SD TED-AI, or maybe even further, depending on how much time you have). Note that these strategies are much better with more time and with more USG buyin.": " Те саме, що й вище, але з відмовою від контролю без здійснення HTC-передачі (HTC-handoff). Це тому, що побудова армій роботів може виявитися особливо легким для перевірки завданням, тож не потребує повної передачі повноважень. Ймовірно, це все ж вимагає масштабування за межі minH без покладання на ШІ (оскільки це концептуально заплутане завдання, яке важко перевірити, тож довіра ШІ тут означала б повну передачу повноважень), тож доведеться покладатися на кращі за очікувані техніки пом’якшення змови на етапі за межами minH (наприклад, аж до +2SD TED-AI, а можливо, й далі — залежно від того, скільки часу у вас є). Зауважте, що ці стратегії значно кращі за наявності більше часу і більшої підтримки з боку уряду США (USG buyin).", "Same as above, but ditch control while not doing HTC-handoff. This is because building robot armies might be a particularly easy task to verify, so doesn’t require full handoff. It does probably require scaling beyond minH, without relying on the AIs (because that’s a conceptually confusing task that is hard to verify, so deferring to the ais here would involve full handoff), so it would rely on better than expected techniques for mitigating scheming during the phase beyond minH (e.g. up to +2SD TED-AI, or maybe even further, depending on how much time you have). Note that these strategies are much better with more time and with more USG buyin.": "Те саме, що й вище, але з відмовою від контролю без здійснення HTC-передачі (HTC-handoff). Це тому, що побудова армій роботів може виявитися особливо легким для перевірки завданням, тож не потребує повної передачі повноважень. Ймовірно, це все ж вимагає масштабування за межі minH без покладання на ШІ (оскільки це концептуально заплутане завдання, яке важко перевірити, тож довіра ШІ тут означала б повну передачу повноважень), тож доведеться покладатися на кращі за очікувані техніки пом’якшення змови на етапі за межами minH (наприклад, аж до +2SD TED-AI, а можливо, й далі — залежно від того, скільки часу у вас є). Зауважте, що ці стратегії значно кращі за наявності більше часу і більшої підтримки з боку уряду США (USG buyin).", "EMs at MaxC.": "EM при MaxC.", " Same as prior, but human augmentation instead of military advantage.": " Те саме, що й раніше, але замість військової переваги — покращення людини.", "Same as prior, but human augmentation instead of military advantage.": "Те саме, що й раніше, але замість військової переваги — покращення людини.", "EMs/Military at Min-H.": "EM/військова перевага при Min-H.", " One of the prior 2, but magically do it with AIs that are just around minH level AI, because e.g. military or EMs were easier than we think.": " Одне з двох попередніх, але якимось дивом здійснене за допомогою ШІ приблизно рівня minH, оскільки, наприклад, військова перевага або EM виявилися легшими, ніж ми думали.", "One of the prior 2, but magically do it with AIs that are just around minH level AI, because e.g. military or EMs were easier than we think.": "Одне з двох попередніх, але якимось дивом здійснене за допомогою ШІ приблизно рівня minH, оскільки, наприклад, військова перевага або EM виявилися легшими, ніж ми думали.", "Dynamics after Handoff": "Динаміка після передачі повноважень", "The AIs are still in a potentially difficult situation after we hand off management of the intelligence explosion to them. ": "ШІ-системи все ще можуть опинитися у складній ситуації після того, як ми передамо їм управління вибухом інтелекту. ", "The AIs are still in a potentially difficult situation after we hand off management of the intelligence explosion to them.": "ШІ-системи все ще можуть опинитися у складній ситуації після того, як ми передамо їм управління вибухом інтелекту.", "Either (1) the AIs need to continue propagating sufficient": "Або (1) ШІ-системам потрібно і надалі підтримувати достатню", "corrigibility + competence while outracing competitors": "коригованість і компетентність, випереджаючи конкурентів,", "or (2) the AIs need to find a way to stall competitors (e.g. via a deal or via sabotage).": "або (2) ШІ-системам потрібно знайти спосіб загальмувати конкурентів (наприклад, через угоду або через саботаж).", "In a bit more detail, here are some possible end states after handoff:": "Трохи детальніше — ось кілька можливих кінцевих станів після передачі повноважень:", "Widely proliferated scalable cheap alignment.": "Широко поширене масштабоване й дешеве узгодження.", "The leading AI project solves scalable alignment, and proliferates this solution to competitors. If alignment is sufficiently cheap, then competitors will use it, and we’ll end up in a multipolar world with many aligned AIs.": "Провідний ШІ-проєкт вирішує задачу масштабованого узгодження і поширює це рішення серед конкурентів. Якщо узгодження достатньо дешеве, конкуренти будуть його використовувати, і ми опинимося в багатополярному світі з багатьма узгодженими ШІ.", "Post Handoff power becomes distributed relative to initial capabilities + compute + physical assets + political clout. Starting the intelligence explosion first probably matters a moderate amount. If the post intelligence explosion economic doubling time is like 2 months, then with a two month lead, you get an initial doubling on top of your compute, so you get relatively 2x more power.": "Влада після передачі повноважень розподіляється відповідно до початкових можливостей + обчислювальних потужностей + фізичних активів + політичного впливу. Те, хто першим розпочав вибух інтелекту, ймовірно, має помірне значення. Якщо час подвоєння економіки після вибуху інтелекту становить приблизно 2 місяці, то маючи двомісячну перевагу, ви отримуєте початкове подвоєння поверх ваших обчислювальних потужностей, тобто відносно вдвічі більше влади.", "AIs have some additional affordances relative to humans for making alignment progress. Notable additional options:": "ШІ-системи мають певні додаткові можливості порівняно з людьми для просування узгодження. Помітні додаткові варіанти:", "They might just be able to get a bunch of normal techniques to scale further, e.g. control, but now the “trusted” waterline is much higher": "Вони можуть просто масштабувати далі низку звичайних технік, наприклад контроль, але тепер поріг «довіри» значно вищий", "there is way more machine labor": "машинної праці стало набагато більше", "scalable alignment via introspection + improving capabilities": "масштабоване узгодження через інтроспекцію + покращення можливостей", "Outrace all competitors.": "Випередити всіх конкурентів.", "If alignment tax remains high, it’s not an option to proliferate the alignment solution to competitors, because competitors who are racing hard will choose to not use the alignment solution. In this scenario, competitors will turn into a rogue AI with high probability. Moreover, even as a leader, if you are paying too much safety tax, they could outcompete you.": "Якщо витрати на узгодження (alignment tax) залишаються високими, поширювати рішення з узгодження серед конкурентів не варіант, бо конкуренти, що ведуть запеклу гонку, оберуть відмову від нього. У такому сценарії конкуренти з високою ймовірністю перетворяться на непідконтрольний ШІ. Крім того, навіть будучи лідером, якщо ви платите забагато за безпеку (safety tax), вас можуть випередити.", "You might do your software foom, and then you start your nanotech foom. But the nanotech foom starts going really quickly. Ryan guesses that physical limits are something like doubling times of a day, plausibly less. You go to space quickly and do most of this doubling there, because you quickly run into waste heat problems on earth.": "Ви можете спершу здійснити свій програмний FOOM, а потім розпочати нанотех-FOOM. Але нанотех-FOOM починає розвиватися дуже швидко. Ryan припускає, що фізичні межі — це приблизно час подвоєння близько доби, можливо, навіть менше. Ви швидко виходите в космос і здійснюєте більшість цього подвоєння там, оскільки на Землі ви швидко натрапляєте на проблеми з відведенням надлишкового тепла.", "If waste heat is a large competitive advantage, this plan doesn’t work, so you have to stop your competitors somehow, or do some sort of coordination (e.g. via regulation or agreements).": "Якщо відведення надлишкового тепла є значною конкурентною перевагою, цей план не спрацює, тож вам доведеться якимось чином зупинити конкурентів або досягти певної координації (наприклад, через регулювання чи угоди).", "Or you could boil the oceans yourself, this would involve putting all humans in shelters, or putting all humans in space, but this could probably be done pretty cheaply at this point.": "Або ж ви могли б самі закип’ятити океани — це передбачало б розміщення всіх людей в укриттях або в космосі, але на цьому етапі це, ймовірно, можна було б зробити доволі дешево.", "You stop competitors via regulation.": "Ви зупиняєте конкурентів через регулювання.", " There are a variety of options here: the leading AI company could push for a regulatory capture outcome, where all other competitors are barred from building AI. Alternatively, the leading AI company could push for coordination for everyone to use the alignment solutions, despite being expensive, thereby preventing defecting projects from outracing. This works domestically for a time, but soon China will catch up and start outracing, so eventually this solution breaks down or requires international cooperation.": " Тут є різні варіанти: провідна ШІ-компанія могла б домагатися захоплення регулятора, за якого всім іншим конкурентам заборонено розробляти ШІ. Альтернативно, провідна ШІ-компанія могла б наполягати на координації, щоб усі використовували рішення з узгодження, попри їхню дороговизну, тим самим не даючи проєктам-порушникам домовленості випередити інших. Це працює всередині країни якийсь час, але незабаром Китай наздожене і почне випереджати, тож зрештою це рішення руйнується або вимагає міжнародної співпраці.", "There are a variety of options here: the leading AI company could push for a regulatory capture outcome, where all other competitors are barred from building AI. Alternatively, the leading AI company could push for coordination for everyone to use the alignment solutions, despite being expensive, thereby preventing defecting projects from outracing. This works domestically for a time, but soon China will catch up and start outracing, so eventually this solution breaks down or requires international cooperation.": "Тут є різні варіанти: провідна ШІ-компанія могла б домагатися захоплення регулятора, за якого всім іншим конкурентам заборонено розробляти ШІ. Альтернативно, провідна ШІ-компанія могла б наполягати на координації, щоб усі використовували рішення з узгодження, попри їхню дороговизну, тим самим не даючи проєктам-порушникам домовленості випередити інших. Це працює всередині країни якийсь час, але незабаром Китай наздожене і почне випереджати, тож зрештою це рішення руйнується або вимагає міжнародної співпраці.", "It’s important to note that international cooperation may become more likely this deep into the intelligence explosion.": "Важливо зазначити, що на такому глибокому етапі вибуху інтелекту міжнародна співпраця може стати більш імовірною.", "You stop competitors via sabotage.": "Ви зупиняєте конкурентів через саботаж.", "The leading AI company could take over the world (e.g. via superpersuasion, AI company builds a military), or stop competitors via hacking or secret loyalties in competitor AI projects. Note that the nice version of secret loyalties is to hack in and then do the alignment for them—in other words, help their AIs to act in the best interest of a trailing actor, despite the trailing actor having bad takes on the overall strategic situation.": "Провідна ШІ-компанія могла б захопити владу у світі (наприклад, через суперпереконання або через створення власних збройних сил), або зупинити конкурентів через хакерські атаки чи приховану лояльність, впроваджену в конкурентні ШІ-проєкти. Зауважте, що «доброчесна» версія прихованої лояльності полягає в тому, щоб зламати систему конкурента, а потім провести за них узгодження — іншими словами, допомогти їхнім ШІ-системам діяти в найкращих інтересах відстаючого актора, попри те, що цей відстаючий актор має хибне уявлення про загальну стратегічну ситуацію.", "This obviously might not be an option due to labs not wanting to do this or if the intelligence explosion is sufficiently gradual and no company has a large AI lead, so that no individual company has a large strategic advantage. In this case, you’d need to do one of the above end states.": "Очевидно, це може бути неможливим варіантом, якщо лабораторії не захочуть цього робити, або якщо вибух інтелекту буде достатньо поступовим і жодна компанія не матиме значного відриву в ШІ, через що жодна окрема компанія не отримає великої стратегічної переваги. У такому разі доведеться реалізувати один із вищеописаних кінцевих станів.", "Plan D": "План D", "In Plan C, we assume sufficient political will that the leading AI developer strongly prioritizes minimizing risk from misalignment AI and has at least several months lead time over developers which don’t also strongly prioritize misalignment risk. In this section, we discuss some aspects of how the plan changes if the level of political will is substantially lower than this. In particular, we assume something like ": "У Плані C ми припускаємо достатню політичну волю, за якої провідний розробник ШІ рішуче пріоритезує мінімізацію ризику неузгодженого ШІ і має щонайменше кількамісячну перевагу в часі над розробниками, які так само рішуче не пріоритезують ризик неузгодженості. У цьому розділі ми обговорюємо деякі аспекти того, як план змінюється, якщо рівень політичної волі суттєво нижчий за це. Зокрема, ми припускаємо щось на кшталт ", "In Plan C, we assume sufficient political will that the leading AI developer strongly prioritizes minimizing risk from misalignment AI and has at least several months lead time over developers which don’t also strongly prioritize misalignment risk. In this section, we discuss some aspects of how the plan changes if the level of political will is substantially lower than this. In particular, we assume something like": "У Плані C ми припускаємо достатню політичну волю, за якої провідний розробник ШІ рішуче пріоритезує мінімізацію ризику неузгодженого ШІ і має щонайменше кількамісячну перевагу в часі над розробниками, які так само рішуче не пріоритезують ризик неузгодженості. У цьому розділі ми обговорюємо деякі аспекти того, як план змінюється, якщо рівень політичної волі суттєво нижчий за це. Зокрема, ми припускаємо щось на кшталт", "Ten people on the inside": "Ten people on the inside", " or ": " або ", "or": "або", "We can break down what needs to be done in Plan D to tasks for the safety team at the leading AI company, other AI companies, and external actors. Of course, it’s plausible that there isn’t a clear leader: in this case you can treat all the companies near the frontier as the leading lab.": "Ми можемо розбити те, що потрібно зробити в межах Плану D, на завдання для команди безпеки провідної ШІ-компанії, інших ШІ-компаній та зовнішніх акторів. Звісно, цілком можливо, що чіткого лідера не буде: у такому разі всі компанії, що перебувають біля переднього краю (frontier), можна розглядати як провідну лабораторію.", "Safety team in the leading lab:": "Команда безпеки в провідній лабораторії:", "Give up on the overall company having reasonable safety practices. If the AI is scheming, it’ll be able to stage RIDs (though this might not even be needed, as there is no monitoring), insert backdoors, sabotage or sandbag on relevant research, etc.": "Відмовтеся від ідеї, що вся компанія загалом дотримуватиметься розумних практик безпеки. Якщо ШІ влаштовує змову, він зможе інсценувати RID (rogue internal deployment) — хоча це може навіть не знадобитися, оскільки моніторингу немає, — впроваджувати бекдори, саботувати чи навмисно занижувати результати у відповідних дослідженнях тощо.", "The main priority for the safety team should be to avoid ": "Головним пріоритетом команди безпеки має бути недопущення того, щоб ", "The main priority for the safety team should be to avoid": "Головним пріоритетом команди безпеки має бути недопущення того, щоб", "that team’s research from being sabotaged": "дослідження цієї команди були саботовані", ", while aiming to build an AI that is viable to hand off to.": ", і водночас прагнення побудувати ШІ, якому можна життєздатно передати повноваження.", "As part of this (and other priorities), the safety team should attempt to automate their work as quickly and effectively as possible.": "У рамках цього (та інших пріоритетів) команда безпеки повинна намагатися автоматизувати свою роботу якомога швидше й ефективніше.", "Key worry: cluster infra is untrustworthy. AIs or CCP might be tampering with the results of your experiments. This is hard to avoid because you don’t have control of the security situation. Add in safeguards to make it more likely that you can detect this on your clusters, but mostly pray.": "Головне занепокоєння: інфраструктура кластера ненадійна. ШІ-системи або КПК можуть втручатися в результати ваших експериментів. Цього важко уникнути, бо ви не контролюєте ситуацію з безпекою. Додайте запобіжники, щоб підвищити ймовірність виявити це на своїх кластерах, але здебільшого залишається тільки молитися.", "Other priorities include:": "Інші пріоритети включають:", "Low hanging fruit to catch misalignment in production. For example, set up some basic monitoring systems where cheap models will review communications and code written by the AI that’s automating the rest of the company, and determine if any of that code seems suspicious. There aren’t enough resources to be thorough here, but it’s probably worth 80/20ing.": "Легкодоступні заходи для виявлення неузгодженості у продакшені. Наприклад, налаштувати базові системи моніторингу, де дешеві моделі перевірятимуть комунікації та код, написаний ШІ, що автоматизує решту компанії, і визначатимуть, чи виглядає якийсь із цих кодів підозріло. Ресурсів для ретельного підходу тут не вистачає, але, ймовірно, варто застосувати принцип 80/20.", "Model organisms that would be specific to your models (other model orgs can be done elsewhere), e.g. because you have most capable models.": "Модельні організми, специфічні саме для ваших моделей (інші модельні організми можна створювати деінде) — наприклад, тому що у вас найпотужніші моделі.", "Replicating safety stuff that other companies have done on your models (which are the most capable and most relevant). If possible, communicating which techniques appear to be scalable and which ones aren’t.": "Відтворення напрацювань з безпеки, які інші компанії вже зробили, на своїх моделях (які є найпотужнішими і найрелевантнішими). Якщо можливо — повідомляти, які техніки виглядають масштабованими, а які ні.", "Try to mitigate the likelihood of the company escaping or staging a RID if easy, but mostly prioritize elsewhere. Probably the safety team also doesn’t have the affordances to actually mitigate this (e.g. because security mitigations entails costs the company isn’t willing to pay to researcher or AI productivity).": "Спробувати, якщо це просто, знизити ймовірність того, що компанія втече або влаштує RID, але здебільшого зосереджуватися на інших пріоритетах. Імовірно, команда безпеки також не має достатніх важелів, щоб дійсно це помʼякшити (наприклад, тому що заходи безпеки тягнуть за собою витрати, які компанія не готова сплачувати коштом продуктивності дослідників чи ШІ).", "Methodology for pushing for a reasonable handover candidate.": "Методологія просування прийнятного кандидата на передачу управління.", "Largely the methodology for this will look like Plan C.": "Здебільшого методологія тут виглядатиме як у Плані C.", "Plausibly do this after Min-H AI, because you want to train it in a way with a non-zero alignment tax, which means that you need some amount of additional algo progress beyond Min-H AI. This incurs additional risk because you are scaling to more capable AIs than you needed to scale to before handoff, which incurs additional AI takeover risk.": "Імовірно, робити це варто вже після Min-H AI, бо ви хочете навчати його з ненульовим податком на узгодження, а це означає, що вам потрібен певний обсяг додаткового алгоритмічного прогресу понад Min-H AI. Це несе додатковий ризик, бо ви масштабуєтеся до здібніших ШІ, ніж потрібно було масштабуватися до передачі управління, а це несе додатковий ризик захоплення влади ШІ.", "Consider giving up on control (before handoff, e.g. trajectory 2 above) in order to make handoff viability go better. Since Plan D will be pretty desperate and rushed, it might be infeasible to mitigate the risk of scheming. Moreover, there might be a lot of low hanging fruit to prepare for handoff viability (such as setting up open-ended conceptual reasoning task evaluations). In other words, the return to working on handoff might be much more tractable than working on mitigating the risk of scheming. (OTOH, this incurs a huge amount of risk, ofc).": "Варто розглянути відмову від контролю (до передачі управління, наприклад, траєкторія 2 вище), щоб підвищити життєздатність передачі управління. Оскільки План D буде доволі відчайдушним і поспішним, може виявитися нездійсненним помʼякшити ризик змовництва. Крім того, може бути багато легкодоступних заходів для підготовки життєздатності передачі управління (наприклад, налаштування оцінювань відкритих концептуальних завдань на міркування). Іншими словами, віддача від роботи над передачею управління може бути значно доступнішою, ніж робота над помʼякшенням ризику змовництва. (З іншого боку, це, звісно, тягне за собою величезний ризик.)", "You might have political difficulties in getting the safety team’s AI adopted broadly within the company.": "У вас можуть виникнути політичні труднощі з тим, щоб ШІ команди безпеки широко прийняли всередині компанії.", "Some AIs might be schemers, whereas the safety team might have applied mitigations on their fork of the model that stops the scheming.": "Деякі ШІ можуть бути змовниками, тоді як команда безпеки могла застосувати помʼякшувальні заходи на своєму форку моделі, що зупиняють змовництво.", "If you have an honest AI that gives good advice, the AI company might not like that. For example, the safety AI might continually (correctly) say that the company is being insanely reckless and that the CEO is gunning to take over the world.": "Якщо у вас є чесний ШІ, що дає слушні поради, ШІ-компанії це може не сподобатися. Наприклад, ШІ безпеки може постійно (правильно) казати, що компанія поводиться шалено безрозсудно і що CEO прагне захопити владу над світом.", "The safety team should potentially try to make their AIs politically savvy, try to hope that people don’t interrogate it too hard about inconvenient topics, or just eat the political cost.": "Команда безпеки, можливо, повинна спробувати зробити своїх ШІ політично кмітливими, сподіватися, що люди не розпитуватимуть їх надто прискіпливо про незручні теми, або просто змиритися з політичними витратами.", "Some subset should stay very loyal to the company. Some subset should consider whistleblowing to wake up the world about the crazy stuff going on. (though this should be done thoughtfully and could have bad effects too, e.g. if Plan C happening this could result in bad government intervention).": "Певна підмножина повинна залишатися дуже лояльною до компанії. Певна підмножина повинна розглянути можливість викриття, щоб пробудити світ до божевілля, яке відбувається. (Хоча робити це слід продумано — це теж може мати погані наслідки, наприклад, якщо відбувається План C, це може призвести до поганого державного втручання.)", "Internal company employee mobilization and advocacy": "Внутрішньокорпоративна мобілізація та адвокація співробітників", "Ideally, this should mostly happen while the employees have any leverage (before full automation of the AI company), or maybe just on vibes (because leadership maybe is friends with them and doesn’t want to make them upset.": "В ідеалі це мало б відбуватися переважно поки в співробітників ще є якісь важелі (до повної автоматизації ШІ-компанії), або, можливо, просто на вайбах (бо керівництво, можливо, дружить із ними й не хоче їх засмучувати.", "Mostly we want them to care more about safety, spend more resources on safety, work more on AI safety, work with outsider actors, escalate to a better plan, etc.": "Здебільшого ми хочемо, щоб вони більше дбали про безпеку, витрачали більше ресурсів на безпеку, більше працювали над безпекою ШІ, співпрацювали із зовнішніми субʼєктами, ескалювали до кращого плану тощо.", "Try to pull in shareholders": "Спробувати залучити акціонерів", "Wealth is downstream of property rights/usg still existing, so they have an incentive to preserve this, which might be very important.": "Багатство є похідним від того, що права власності/уряд США все ще існують, тож у них є стимул це зберігати, що може бути дуже важливим.", "A reasonable fraction of the shareholders will also be employees.": "Значна частка акціонерів також будуть співробітниками.", "Try to coordinate with other companies": "Спробувати скоординуватися з іншими компаніями", "E.g. if a few companies are really close, they all care about safety, but are making brutal tradeoffs for competitive pressure reasons, try to do coordination so they all spend on safety.": "Наприклад, якщо кілька компаній дуже близькі одна до одної за рівнем можливостей, усі вони дбають про безпеку, але йдуть на жорсткі компроміси через конкурентний тиск, — спробувати організувати координацію, щоб усі вони витрачали на безпеку.", "Trailing AI companies:": "Відсталі ШІ-компанії:", "Try to produce actual evidence of risk to move to a Plan C or C+ scenario. For example, try to catch your AIs red handed using control.": "Спробувати отримати реальні докази ризику, щоб перейти до сценарію Плану C або C+. Наприклад, спробувати спіймати своїх ШІ на гарячому за допомогою контролю.", "Do the relevant safety research yourself and export it.": "Провести відповідні дослідження безпеки самостійно й експортувати їх.", "For all the research discussed above (Handoff viability, anti-scheming measures and control techniques) that are easy to import, figure out exactly what the leading lab should do, and then make it very easy for them to implement your mitigations (e.g. by giving them the relevant code)": "Для всіх обговорених вище досліджень (життєздатність передачі управління, заходи проти змовництва та техніки контролю), які легко імпортувати, зʼясувати точно, що має робити провідна лабораторія, а тоді максимально спростити їм упровадження ваших помʼякшувальних заходів (наприклад, надавши їм відповідний код)", "Be somewhat thoughtful about capabilities exported with the safety stuff, there will be some tradeoff here. Ideally export safety stuff with low capabilities externality, but it might also be important to export some high capabilities externality research.": "Варто бути дещо обачним щодо можливостей, які експортуються разом із напрацюваннями з безпеки, — тут буде певний компроміс. В ідеалі експортувати напрацювання з безпеки з низьким побічним ефектом на можливості, але також може бути важливо експортувати й деякі дослідження з високим побічним ефектом на можливості.", "Don’t worry about your AIs escaping at all because this risk is dominated by the leading lab.": "Не варто взагалі перейматися втечею своїх ШІ, бо цей ризик повністю домінує провідна лабораторія.", "Do worry about your AIs sabotaging your experiments. If AIs that are internally deployed sabotage (or even sandbag), this cuts directly against your main theory of change, which is to export safety research.": "Варто перейматися тим, що ваші ШІ саботують ваші експерименти. Якщо внутрішньо розгорнуті ШІ саботують (або навіть навмисно занижують результати), це прямо суперечить вашій головній теорії змін, яка полягає в експорті досліджень безпеки.", "Consider something like merge and assist. Alternatively, if the leading company isn’t willing to merge and assist, consider credibly shutting down, or credibly committing to not push the capability any further, in order to reduce the competitive pressure on the leading lab, so that they can pause if needed. Of course, this only applies if the leader is actually likely to slow down based on you taking this action, which is probably not true in a Plan D scenario. (From the ": "Розглянути щось на кшталт злиття та сприяння. Або ж, якщо провідна компанія не готова на злиття та сприяння, розглянути правдоподібне закриття або правдоподібне зобовʼязання не просувати можливості далі, щоб знизити конкурентний тиск на провідну лабораторію, аби вона могла зробити паузу за потреби. Звісно, це застосовно лише тоді, коли лідер справді, ймовірно, сповільниться у відповідь на вашу дію, що, ймовірно, не так у сценарії Плану D. (Із ", "Consider something like merge and assist. Alternatively, if the leading company isn’t willing to merge and assist, consider credibly shutting down, or credibly committing to not push the capability any further, in order to reduce the competitive pressure on the leading lab, so that they can pause if needed. Of course, this only applies if the leader is actually likely to slow down based on you taking this action, which is probably not true in a Plan D scenario. (From the": "Розглянути щось на кшталт злиття та сприяння. Або ж, якщо провідна компанія не готова на злиття та сприяння, розглянути правдоподібне закриття або правдоподібне зобовʼязання не просувати можливості далі, щоб знизити конкурентний тиск на провідну лабораторію, аби вона могла зробити паузу за потреби. Звісно, це застосовно лише тоді, коли лідер справді, ймовірно, сповільниться у відповідь на вашу дію, що, ймовірно, не так у сценарії Плану D. (Із", "OpenAI Charter": "OpenAI Charter", ", though in practice it seems very unlikely that this will be triggered by OpenAI)": ", хоча на практиці здається вкрай малоймовірним, що це буде запущено OpenAI)", "Outside actors (e.g. safety community):": "Зовнішні субʼєкти (наприклад, спільнота з безпеки ШІ):", "Advocacy to government and companies / company employees to transition to Plan A, B, or C. By this point, swapping to A or B might be intractable, so it may just be focusing on C.": "Адвокація перед урядом і компаніями / співробітниками компаній щодо переходу до Плану A, B або C. На цьому етапі перехід до A чи B може бути нездійсненним, тож, можливо, доведеться зосередитися лише на C.", "Export safety research, similar to what AI companies should be doing. Since there is so little safety research being done in the AI company, this could be a substantial fraction of overall safety effort.": "Експортувати дослідження безпеки — подібно до того, що мали б робити ШІ-компанії. Оскільки в самій ШІ-компанії проводиться так мало досліджень безпеки, це може становити значну частку загальних зусиль з безпеки.", "In plan C, they are still useful as a trusted source of labor (e.g. helpful for elicitation, maybe the safety community should be contractors that audits the AIS). But this is much less relevant.": "У Плані C вони все ще корисні як надійне джерело робочої сили (наприклад, корисні для виявлення прихованих можливостей — можливо, спільноті з безпеки варто виступати підрядниками, що аудитують ШІ). Але це набагато менш актуально.", "Work on neglected things other than avoiding AI takeover. E.g. Figure out acausal stuff, post-ASI governance, etc. Now you (hopefully) have AI labor to use for these topics. Then, you can export this research into the lab, or directly to the lab’s AIs via publishing on the internet.": "Працювати над занедбаними питаннями, окрім запобігання захопленню влади ШІ. Наприклад, розібратися з акаузальними питаннями, врядуванням після ASI тощо. Тепер у вас (сподіваємося) є робоча сила ШІ, яку можна використати для цих тем. Потім це дослідження можна експортувати в лабораторію або безпосередньо ШІ лабораторії — через публікацію в інтернеті.", "Make datasets that might be helpful": "Створити набори даних, які можуть бути корисними", "E.g. make evals and hope the companies hill climb on them. For example handoff viability evals that teach skills that are important for handoff.": "Наприклад, створити оцінювання і сподіватися, що компанії поступово оптимізовуватимуть свої моделі під них. Наприклад, оцінювання життєздатності передачі управління, які навчають навичок, важливих для передачі управління.", "Make data for the pretrain corpus or RL environments to be used by the leader. Make lots of good examples of people doing relevant for handoff": "Створити дані для корпусу попереднього навчання або RL-середовищ, які використовуватиме лідер. Створити багато хороших прикладів того, як люди роблять релевантні для передачі управління речі", "Try to make AI more reasonable about safety, more thoughtful about space / post ASI gov/acausal trade etc.": "Спробувати зробити ШІ більш розсудливим щодо безпеки, більш вдумливим щодо космосу / врядування після ASI / акаузальної торгівлі тощо.", "Work to prevent harmful policies from being passed. It’s possible that the government is doing something actively terrible, for example passing regulation that would make it more difficult to do safety research, pursuing anti-trust concerns about AI, etc.": "Працювати над запобіганням ухваленню шкідливої політики. Можливо, уряд робить щось активно жахливе, наприклад ухвалює регулювання, яке ускладнить проведення досліджень безпеки, переслідує антимонопольні претензії щодо ШІ тощо.", "Avoid US losing AI race for no benefit (e.g. through blanket antiAI regulation that effectively blocks intelligence explosions elsewhere).": "Уникнути того, щоб США даремно програли гонку ШІ (наприклад, через суцільне антиШІ-регулювання, яке фактично блокує вибухи інтелекту деінде).", "Plan B": "План B", "Plan B is quite similar to Plan C. The main differences are (i) you have more time, meaning that you can pursue somewhat more ambitious safety cases (ii) you have more affordances to buy time, and (iii) there’s generally more government involvement.": "План B доволі схожий на План C. Головні відмінності: (i) у вас більше часу, а отже, ви можете йти за дещо амбітнішими обґрунтуваннями безпеки; (ii) у вас більше важелів, щоб виграти час; і (iii) загалом більше залучення уряду.", "Here is a summary of the overall differences:": "Ось стислий підсумок загальних відмінностей:", "The capability trajectory choices are similar, except that you potentially have more USG involvement, which allows for coordination.": "Варіанти вибору траєкторії можливостей подібні, за винятком того, що ви потенційно маєте більше залучення уряду США, що дозволяє координацію.", "Two obvious strategies are (1) scale as aggressively as possible until the last moment and then pause (this is the strategy taken in Plan C), or (2) match the pace of your fastest adversary, while maintaining a slight lead, until you are forced to hand off, i.e. go as slow as possible. The main advantage of (1) is that you get longer with the more intelligent (while still controllable) AIs in order to make progress on handoff. The main advantage of (2) is that in the regime where you have sufficiently bad security that you can’t prevent model weights and algorithms from leaking (which seems likely), you get substantially more serial time.": "Дві очевидні стратегії: (1) масштабуватися максимально агресивно до останнього моменту, а тоді зробити паузу (це стратегія, обрана в Плані C), або (2) відповідати темпу вашого найшвидшого супротивника, зберігаючи невелику перевагу, поки вас не змусять здійснити передачу управління, тобто рухатися максимально повільно. Головна перевага (1) — довший час із розумнішими (але ще контрольованими) ШІ, щоб просунутися в підготовці до передачі управління. Головна перевага (2) — у режимі, де ваша безпека настільки погана, що ви не можете запобігти витоку ваг моделі й алгоритмів (що видається ймовірним), ви отримуєте суттєво більше послідовного часу.", "In Plan C, you are more likely to be forced into strategy (1), because strategy (2) requires domestic coordination and Plan C is executed by a leading AI company. In Plan B, if the USG is managing the AGI race, it could coordinate the leading AI companies to slowdown preemptively, which might create more overall time.": "У Плані C вас, найімовірніше, змусять обрати стратегію (1), бо стратегія (2) вимагає внутрішньої координації, а План C виконує провідна ШІ-компанія. У Плані B, якщо уряд США керує перегонами AGI, він може скоординувати провідні ШІ-компанії на превентивне сповільнення, що може створити більше загального часу.", "This is basically the same options as in Plan C, but perhaps you have more affordances to choose.": "По суті, це ті самі варіанти, що й у Плані C, але, можливо, у вас більше важелів для вибору.", "Buying more time": "Виграш часу", "If alignment seems hard (e.g. its schemeria, or you are worried about lurkville), then you want to buy more time. This can either be done via (i) more aggressive sabotage or (ii) making a deal to mutually slow with competitors.": "Якщо узгодження здається складним (наприклад, це schemeria, або вас непокоїть lurkville), тоді варто виграти більше часу. Це можна зробити або (i) через агресивніший саботаж, або (ii) домовившись про взаємне сповільнення з конкурентами.", "Increasing USG understanding of the situation is helpful for both of the above options and so should probably be a core priority in Plan B. Therefore, Plan B should put higher weight on interventions like trying to catch our AIs red handed (or otherwise generate compelling evidence of misalignment).": "Поглиблення розуміння ситуації урядом США корисне для обох варіантів вище, тож це, ймовірно, має бути ключовим пріоритетом у Плані B. Тому План B повинен надавати більшої ваги інтервенціям на кшталт спроб спіймати наші ШІ на гарячому (або іншим способом отримати переконливі докази неузгодженості).", "The clearest way to buy more time is sabotage + domestic slowdown.": "Найочевидніший спосіб виграти більше часу — саботаж плюс внутрішнє сповільнення.", "Using AIs for military R&D is a potentially important component of this plan.": "Використання ШІ для військових R&D — потенційно важлива складова цього плану.", "Increase total alignment effort.": "Збільшити сумарні зусилля з узгодження.", "You care more about access programs for outside actors and hiring people. Because you have more time to integrate these people into the companies. (in Plan C, you might just have like 2 months, and so there’s no point trying to hire).": "Ви більше дбаєте про програми доступу для зовнішніх субʼєктів і про найм людей. Тому що у вас більше часу, щоб інтегрувати цих людей у компанії. (У Плані C у вас, можливо, є лише десь 2 місяці, тож немає сенсу намагатися наймати.)", "Spend a bit more time on biodefense / d/acc, because there’s more of a delay, and your overall risk tolerance is lower (though not as much as Plan A)": "Витратити трохи більше часу на біозахист / d/acc, бо є більша затримка, а ваша загальна толерантність до ризику нижча (хоча й не настільки, як у Плані A)", "It’s more important to fortify against physical attacks to your AI company. E.g. diversify where employees live. More time for this to happen, but also more likely that there will be conflict.": "Важливіше зміцнити захист від фізичних атак на вашу ШІ-компанію. Наприклад, диверсифікувати місця проживання співробітників. На це є більше часу, але водночас вищий шанс, що виникне конфлікт.", "Should you harden datacenters?": "Чи варто зміцнювати дата-центри?", "In some Plan B branches, maybe you should harden. E.g. if you are doing a competent strike on chinese datacenters, and you want to preserve resources to do safety.": "У деяких відгалуженнях Плану B, можливо, варто зміцнювати. Наприклад, якщо ви завдаєте компетентного удару по китайських дата-центрах і хочете зберегти ресурси на безпеку.", "The basic structure of Plan A is similar to Plan C, and the phases still apply pretty well. The main differences are that at every point we have substantially more time, research effort, and other resources like compute to make them go better. Note that a lot of the differences wrt Plan C will also apply in worlds where takeoff is very slow (e.g. there’s a 10 year period between AC and TEDAI by default).": "Базова структура Плану A подібна до Плану C, і фази досі застосовуються доволі добре. Головні відмінності в тому, що на кожному етапі у нас суттєво більше часу, дослідницьких зусиль та інших ресурсів на кшталт обчислювальних потужностей, щоб зробити їх кращими. Зауважте, що багато відмінностей щодо Плану C також застосовуватимуться у світах, де зліт дуже повільний (наприклад, за замовчуванням між AC і TEDAI минає 10-річний період).", "By phase, a summary of the differences is as follows:": "У розрізі фаз підсумок відмінностей такий:", "Prep.": "Підготовка.", " This phase is basically the same as Plan C, because you probably don’t know if there will be international coordination during takeoff. Given positive evidence about political will, our alignment portfolio of research should bias more towards moonshots / approaches that could give high assurance safety cases, as opposed to agendas that are likely to contribute to hand off in a Plan C world.": " Ця фаза по суті така сама, як у Плані C, бо ви, ймовірно, не знаєте, чи буде міжнародна координація під час зльоту. За наявності позитивних свідчень щодо політичної волі наш дослідницький портфель з узгодження повинен більше зміщуватися в бік амбітних проєктів (moonshots) / підходів, які могли б дати обґрунтування безпеки з високою впевненістю, на противагу програмам, які, ймовірно, посприяють передачі управління у світі Плану C.", "This phase is basically the same as Plan C, because you probably don’t know if there will be international coordination during takeoff. Given positive evidence about political will, our alignment portfolio of research should bias more towards moonshots / approaches that could give high assurance safety cases, as opposed to agendas that are likely to contribute to hand off in a Plan C world.": "Ця фаза по суті така сама, як у Плані C, бо ви, ймовірно, не знаєте, чи буде міжнародна координація під час зльоту. За наявності позитивних свідчень щодо політичної волі наш дослідницький портфель з узгодження повинен більше зміщуватися в бік амбітних проєктів (moonshots) / підходів, які могли б дати обґрунтування безпеки з високою впевненістю, на противагу програмам, які, ймовірно, посприяють передачі управління у світі Плану C.", " In the Plan A scenario, this corresponds to roughly 2030-2035. For the first few years, there is high risk that international coordination will break down and parties will go back to racing. Therefore, substantial effort should be spent on a high-effort version of Plan C—we should push forward the plan and approach for handoff in the case that the deal breaks down. The main difference with Plan C is that we should be much more conservative with our mitigations; if there’s danger ahead, we are much more able to pause and mitigate.": " У сценарії Плану А це відповідає приблизно 2030–2035 рокам. Перші кілька років існує високий ризик, що міжнародна координація розвалиться і сторони повернуться до перегонів. Тому варто докласти значних зусиль до інтенсивної версії Плану C — нам слід просувати вперед план і підхід до передачі повноважень на випадок, якщо Угода зірветься. Головна відмінність від Плану C полягає в тому, що нам слід бути набагато консервативнішими в наших заходах пом'якшення; якщо попереду небезпека, ми набагато краще здатні призупинитися й пом'якшити ризик.", "In the Plan A scenario, this corresponds to roughly 2030-2035. For the first few years, there is high risk that international coordination will break down and parties will go back to racing. Therefore, substantial effort should be spent on a high-effort version of Plan C—we should push forward the plan and approach for handoff in the case that the deal breaks down. The main difference with Plan C is that we should be much more conservative with our mitigations; if there’s danger ahead, we are much more able to pause and mitigate.": "У сценарії Плану А це відповідає приблизно 2030–2035 рокам. Перші кілька років існує високий ризик, що міжнародна координація розвалиться і сторони повернуться до перегонів. Тому варто докласти значних зусиль до інтенсивної версії Плану C — нам слід просувати вперед план і підхід до передачі повноважень на випадок, якщо Угода зірветься. Головна відмінність від Плану C полягає в тому, що нам слід бути набагато консервативнішими в наших заходах пом'якшення; якщо попереду небезпека, ми набагато краще здатні призупинитися й пом'якшити ризик.", "Pause.": "Пауза.", " Once we get to MaxC AI (or AI that’s close enough to MaxC that there isn’t much point to scaling further), then we pause until handoff. Over time, we can reassign alignment effort from Plan C approaches towards moonshots/high assurance approaches.": " Щойно ми досягаємо MaxC AI (або ШІ, достатньо близького до MaxC, щоб масштабувати далі вже не мало особливого сенсу), ми призупиняємось до передачі повноважень. Згодом ми можемо перерозподілити зусилля з узгодження від підходів Плану C до амбітних проривів/високогарантованих підходів.", "Once we get to MaxC AI (or AI that’s close enough to MaxC that there isn’t much point to scaling further), then we pause until handoff. Over time, we can reassign alignment effort from Plan C approaches towards moonshots/high assurance approaches.": "Щойно ми досягаємо MaxC AI (або ШІ, достатньо близького до MaxC, щоб масштабувати далі вже не мало особливого сенсу), ми призупиняємось до передачі повноважень. Згодом ми можемо перерозподілити зусилля з узгодження від підходів Плану C до амбітних проривів/високогарантованих підходів.", " The basic plan is still to do handoff. However, other exit strategies like an intense deal to prevent ever having to hand off or human augmentation.": " Базовий план і далі полягає в тому, щоб здійснити передачу повноважень. Проте є й інші стратегії виходу, як-от інтенсивна угода, щоб узагалі уникнути потреби в передачі повноважень, або людське вдосконалення.", "The basic plan is still to do handoff. However, other exit strategies like an intense deal to prevent ever having to hand off or human augmentation.": "Базовий план і далі полягає в тому, щоб здійснити передачу повноважень. Проте є й інші стратегії виходу, як-от інтенсивна угода, щоб узагалі уникнути потреби в передачі повноважень, або людське вдосконалення.", "Main differences from Plan C": "Основні відмінності від Плану C", "More focus on longer run research bets.": "Більше уваги довгостроковим дослідницьким ставкам.", " During Plan A, there should be more of a focus on moonshots and longer run research bets. There’s less of a need for agendas that will pay off in a short term. There’s more of a need for approaches that could result in high assurance safety cases. Longer run research bets might involve:": " Під час Плану А варто більше зосереджуватися на амбітних проривах і довгострокових дослідницьких ставках. Менше потреби в програмах, які окупляться в короткостроковій перспективі. Більше потреби в підходах, які можуть дати високогарантовані обґрунтування безпеки. Довгострокові дослідницькі ставки можуть включати:", "During Plan A, there should be more of a focus on moonshots and longer run research bets. There’s less of a need for agendas that will pay off in a short term. There’s more of a need for approaches that could result in high assurance safety cases. Longer run research bets might involve:": "Під час Плану А варто більше зосереджуватися на амбітних проривах і довгострокових дослідницьких ставках. Менше потреби в програмах, які окупляться в короткостроковій перспективі. Більше потреби в підходах, які можуть дати високогарантовані обґрунтування безпеки. Довгострокові дослідницькі ставки можуть включати:", "Have a really good understanding of generalization.": "Мати дійсно глибоке розуміння узагальнення.", " When you train AIs, you are selecting for AIs that behave as desired on the training distribution. Therefore, AIs generally behave as trained on the training distribution, while off distribution, their behavior is underdefined and can be hard to predict. Key distribution shifts include training/tests -> deployment, dumb->smart, deployment in low-stakes environments->deployment in high stakes environments, etc. Through much more investigation of the form done in ": " Коли ви тренуєте ШІ, ви відбираєте ШІ, які поводяться бажаним чином у межах тренувального розподілу. Тому ШІ загалом поводяться так, як їх тренували, у межах тренувального розподілу, тоді як поза розподілом їхня поведінка недостатньо визначена, і її важко передбачити. Ключові зсуви розподілу включають перехід тренування/тестів -> розгортання, тупий->розумний, розгортання в середовищах з низькими ставками->розгортання в середовищах з високими ставками тощо. Завдяки набагато ретельнішому дослідженню на кшталт того, що проведено в ", "When you train AIs, you are selecting for AIs that behave as desired on the training distribution. Therefore, AIs generally behave as trained on the training distribution, while off distribution, their behavior is underdefined and can be hard to predict. Key distribution shifts include training/tests -> deployment, dumb->smart, deployment in low-stakes environments->deployment in high stakes environments, etc. Through much more investigation of the form done in": "Коли ви тренуєте ШІ, ви відбираєте ШІ, які поводяться бажаним чином у межах тренувального розподілу. Тому ШІ загалом поводяться так, як їх тренували, у межах тренувального розподілу, тоді як поза розподілом їхня поведінка недостатньо визначена, і її важко передбачити. Ключові зсуви розподілу включають перехід тренування/тестів -> розгортання, тупий->розумний, розгортання в середовищах з низькими ставками->розгортання в середовищах з високими ставками тощо. Завдяки набагато ретельнішому дослідженню на кшталт того, що проведено в", "these": "цих", "papers": "статтях", ", we might be able to get a much better understanding of how our AIs generalize. Using this understanding, we might be able to make safety cases that work even under large distribution shifts.": ", ми могли б отримати набагато краще розуміння того, як наші ШІ узагальнюють. Використовуючи це розуміння, ми могли б формувати обґрунтування безпеки, які працюють навіть за великих зсувів розподілу.", "Really good dataset design": "Дійсно якісний дизайн датасету", ". Right now, LLM pretraining involves using whatever high quality data is most convenient to obtain, so LLMs are trained on large swaths of the internet. In a regime with more slack (such as Plan A), we could imagine it becoming viable to design the whole dataset from scratch to teach the AIs exactly the skills/values that you want. This could potentially be done synthetically (e.g. by prompting existing AIs to generate data that was entirely nice) or manually (by employing huge numbers of humans to write data for models).": ". Наразі попереднє навчання LLM передбачає використання будь-яких зручних для отримання високоякісних даних, тому LLM тренуються на великих масивах інтернету. У режимі з більшим запасом (як-от План А), можна уявити, що стане доцільним спроєктувати весь датасет з нуля, щоб навчити ШІ саме тим навичкам/цінностям, які потрібні. Потенційно це можна зробити синтетично (наприклад, підказуючи наявним ШІ генерувати дані, які цілком доброзичливі) або вручну (залучивши величезну кількість людей для написання даних для моделей).", "Interpretability.": "Інтерпретованість.", " I (TL) agree with the discussion ": " Я (TL) погоджуюся з дискусією ", "I (TL) agree with the discussion": "Я (TL) погоджуюся з дискусією", "Introspective access + self improvement": "Інтроспективний доступ + самовдосконалення", ". Today, it seems that AIs have ": ". Сьогодні здається, що ШІ мають ", ". Today, it seems that AIs have": ". Сьогодні здається, що ШІ мають", "some amount of unreliable introspective access": "певний обсяг ненадійного інтроспективного доступу", ". One hope for scalably solving alignment is (1) take AI that isn’t scheming (but is potentially quite weak, e.g. it’s possible Claude Opus 4.5 could work), (2) improve introspective access to the point where the AI can reliably tell if a certain training process is corrupting their values, (3) increase capabilities while using introspective access to tell if the values are being corrupted. In some sense this is similar one of the plans for scaling up AIs if interpretability is solved, except that we’re using introspection instead of understanding to tell if the values are becoming corrupted. Notably, this could also be a strategy that post-handoff AIs use.": ". Одна з надій на масштабоване розв'язання узгодження полягає в тому, щоб (1) взяти ШІ, який не займається змовництвом (але, можливо, доволі слабкий, наприклад, для цього міг би підійти Claude Opus 4.5), (2) покращити інтроспективний доступ до рівня, коли ШІ може надійно визначати, чи певний процес тренування псує його цінності, (3) нарощувати можливості, водночас використовуючи інтроспективний доступ, щоб визначати, чи псуються цінності. У певному сенсі це схоже на один із планів масштабування ШІ за умови розв'язаної інтерпретованості, з тією різницею, що ми використовуємо інтроспекцію замість розуміння, щоб визначати, чи псуються цінності. Примітно, що це також могло б бути стратегією, яку використовують ШІ після передачі повноважень.", "Options to avoid handoff (e.g. intelligence augmentation).": "Варіанти уникнення передачі повноважень (наприклад, підсилення інтелекту).", "Lower ongoing risk target for mitigation.": "Нижчий цільовий рівень поточного ризику для пом'якшення.", " Since we have more slack, we can now operate with a reduced risk budget, allowing us to mitigate ongoing risk more thoroughly.": " Оскільки в нас більше запасу, ми тепер можемо діяти зі зменшеним бюджетом ризику, що дає змогу ретельніше пом'якшувати поточний ризик.", "Since we have more slack, we can now operate with a reduced risk budget, allowing us to mitigate ongoing risk more thoroughly.": "Оскільки в нас більше запасу, ми тепер можемо діяти зі зменшеним бюджетом ризику, що дає змогу ретельніше пом'якшувати поточний ризик.", "Handoff viability and getting useful labor from AIs (both from a control and an elicitation perspective) are less important relative to ongoing risk reduction.": "Життєздатність передачі повноважень і здобуття корисної праці від ШІ (як з погляду контролю, так і з погляду розкриття можливостей) стають менш важливими порівняно зі зниженням поточного ризику.", " In Plan C, mitigation of overall risk probably involves accepting substantial risk early on (e.g. from early schemers), in order to make sufficient research progress towards handoff in the relevant time frame. For example, in ": " У Плані C пом'якшення загального ризику, ймовірно, передбачає прийняття суттєвого ризику на ранніх етапах (наприклад, від ранніх змовників), щоб досягти достатнього дослідницького прогресу на шляху до передачі повноважень у відповідні терміни. Наприклад, у ", "In Plan C, mitigation of overall risk probably involves accepting substantial risk early on (e.g. from early schemers), in order to make sufficient research progress towards handoff in the relevant time frame. For example, in": "У Плані C пом'якшення загального ризику, ймовірно, передбачає прийняття суттєвого ризику на ранніх етапах (наприклад, від ранніх змовників), щоб досягти достатнього дослідницького прогресу на шляху до передачі повноважень у відповідні терміни. Наприклад, у", "schemeria": "Schemeria", " (the scenario where AIs are obviously scheming), in Plan C, we are forced to continue scaling and using these AIs, even in the case where we are not confident in our control mitigations. In Plan A we can either pause until control mitigations are very reliable or until our AIs are no longer scheming (e.g. due to one of the above agendas for high assurance safety cases to mitigate scheming).": " (сценарії, де ШІ явно займаються змовництвом), у Плані C ми змушені продовжувати масштабування й використання цих ШІ, навіть якщо ми не впевнені у своїх заходах контролю. У Плані А ми можемо або призупинитися, доки заходи контролю не стануть дуже надійними, або доки наші ШІ не перестануть плести змови (наприклад, завдяки одній з описаних вище програм для високогарантованих обґрунтувань безпеки, спрямованих на пом'якшення змовництва).", "(the scenario where AIs are obviously scheming), in Plan C, we are forced to continue scaling and using these AIs, even in the case where we are not confident in our control mitigations. In Plan A we can either pause until control mitigations are very reliable or until our AIs are no longer scheming (e.g. due to one of the above agendas for high assurance safety cases to mitigate scheming).": "(сценарії, де ШІ явно займаються змовництвом), у Плані C ми змушені продовжувати масштабування й використання цих ШІ, навіть якщо ми не впевнені у своїх заходах контролю. У Плані А ми можемо або призупинитися, доки заходи контролю не стануть дуже надійними, або доки наші ШІ не перестануть плести змови (наприклад, завдяки одній з описаних вище програм для високогарантованих обґрунтувань безпеки, спрямованих на пом'якшення змовництва).", "High assurance control approaches.": "Високогарантовані підходи до контролю.", " We have more time to make control better. Some approaches for high assurance control include:": " У нас більше часу, щоб покращити контроль. Деякі підходи до високогарантованого контролю включають:", "We have more time to make control better. Some approaches for high assurance control include:": "У нас більше часу, щоб покращити контроль. Деякі підходи до високогарантованого контролю включають:", "Maybe do formal verification to reduce vulnerabilities in the control setup and AI project security.": "Можливо, варто провести формальну верифікацію, щоб зменшити вразливості в конфігурації контролю та безпеці ШІ-проєкту.", "Really aggressive factored cognition with a high capabilities tax. For example we might have a giant set of dumb AIs, each working on a small part of a problem without awareness of all of the other AIs. (This should maybe be only for a small set of applications, because if this is broad, it means there is a giant capabilities overhang)": "Дійсно агресивне факторизоване мислення з високим податком на можливості. Наприклад, у нас може бути величезний набір тупих ШІ, кожен з яких працює над маленькою частиною задачі, не знаючи про всі інші ШІ. (Можливо, це варто застосовувати лише до вузького набору застосувань, бо якщо застосувати широко, це означає величезний накопичений потенціал можливостей)", "Slow and expensive natural language AIs on top of neuralese AIs (if we’re doing neuralese). This might be an expensive way of increasing the capability of trusted models, which makes ": "Повільні й дорогі ШІ на природній мові поверх neuralese-ШІ (якщо ми використовуємо neuralese). Це може бути дорогим способом підвищення можливостей довірених моделей, що робить ", "Slow and expensive natural language AIs on top of neuralese AIs (if we’re doing neuralese). This might be an expensive way of increasing the capability of trusted models, which makes": "Повільні й дорогі ШІ на природній мові поверх neuralese-ШІ (якщо ми використовуємо neuralese). Це може бути дорогим способом підвищення можливостей довірених моделей, що робить", "trusted monitoring": "довірений моніторинг", " more effective.": " ефективнішим.", "more effective.": "ефективнішим.", "Have AIs with all the possible capability profiles, and select the exact capability profile that you want. Same for knowledge: you only give AIs the exact knowledge they need for solving the task they wanted to. So you have a narrow cyber model, and a robot designer model, and a safety researcher model. All of these models are denied any knowledge or capability training on domains outside of their speciality, which makes it e.g. more difficult for an AI that is used for AI safety to insert a security backdoor, because it doesn’t know very much about security. Again, this probably induces a significant tax because you need to train many models, and, at least so far, we’ve seen substantial returns from having general purpose models that are trained to be good at everything.": "Мати ШІ з усіма можливими профілями можливостей і обирати саме той профіль можливостей, який потрібен. Те саме стосується знань: ви даєте ШІ лише ті знання, які потрібні для розв'язання конкретного завдання. Тож у вас є вузькоспеціалізована кібер-модель, модель-конструктор роботів і модель-дослідник безпеки. Усім цим моделям відмовлено в будь-яких знаннях чи тренуванні можливостей поза межами їхньої спеціалізації, що, наприклад, ускладнює для ШІ, який використовується для безпеки ШІ, вбудувати бекдор безпеки, бо він мало знає про безпеку. Знову ж таки, це, ймовірно, спричиняє суттєвий податок, бо потрібно тренувати багато моделей, а ми, принаймні дотепер, спостерігали суттєву віддачу від моделей загального призначення, натренованих бути хорошими в усьому.", "All this said, probably we’ll ongoingly have a substantial chance pause regime collapses especially around new president or if there are shifts in power in CCP": "Зваживши на все це, ймовірно, ми постійно матимемо суттєвий шанс того, що режим паузи розвалиться, особливо навколо приходу нового президента або в разі зрушень влади в КПК", "So we want to ongoingly be ready while also working on longer run bets and still trying to reduce ongoing risk": "Тому ми хочемо постійно бути готовими, водночас працюючи над довгостроковими ставками і далі намагаючись знижувати поточний ризик", "This is equivalent to acting like we might be in a Plan B/C world to some extent even if Plan A looks most likely. This seems especially like a good idea because (in my views) most of the risk in such a situation comes from the chance of ending back in Plan B/C.": "Це рівнозначно тому, щоб певною мірою діяти так, ніби ми можемо опинитися у світі Плану B/C, навіть якщо План А видається найімовірнішим. Це здається особливо вдалою ідеєю, бо (на мою думку) більша частина ризику в такій ситуації походить саме від шансу знову опинитися в Плані B/C.", "Mitigating exogenous x-risk from non-AI sources is relatively more important. We’ll want to spend more effort mitigating biorisk, doing d/acc, etc.": "Пом'якшення екзогенного екзистенційного ризику (x-risk) із джерел, не пов'язаних із ШІ, стає відносно важливішим. Ми захочемо докладати більше зусиль на пом'якшення біоризиків, роботу над d/acc тощо.", "Might be important to deliver economic goods and verification tech so regime is more stable": "Може бути важливо забезпечувати економічні блага та технології верифікації, щоб режим був стабільнішим", "Until the slowdown in Plan A seems solid, we’ll want to proceed as though we’re in a more like Plan B/C world because even high levels of political will doesn’t obviously suffice.": "Поки сповільнення в Плані А не видаватиметься надійним, ми захочемо діяти так, ніби перебуваємо у світі, більш схожому на План B/C, бо навіть високий рівень політичної волі не обов'язково є достатнім.", "High levels of will don’t suffice as implementation is tricky and naive anti-AI sentiment can easily backfire in various ways.": "Високого рівня волі недостатньо, бо реалізація складна, а наївні настрої проти ШІ можуть легко дати зворотний ефект різними способами.", "We focus our alignment plan the least on Plan A, because it’s the least important world for us to think about right now, because there will be much more labor spent on handling alignment in Plan A, and risk is much lower in this world.": "Ми найменше зосереджуємо наш план узгодження на Плані А, бо це найменш важливий світ, про який варто думати зараз, — адже в Плані А буде витрачено значно більше праці на розв'язання узгодження, а ризик у цьому світі набагато нижчий.", "Control in a massive robots regime": "Контроль у режимі масового використання роботів", "In the Plan A scenario, there is lots of physical robot labor. This somewhat increases the scope of control and adds additional mitigations.": "У сценарії Плану А є багато фізичної роботи, яку виконують роботи. Це дещо розширює обсяг контролю і додає додаткові заходи пом'якшення.", "What can robots do that’s scary?": "Що небезпечного можуть зробити роботи?", "Rogue compute → undermine compute verification. Robots could be used to build more compute, for example by setting up rogue fabs. If there is the ability to build substantial amounts of rogue compute, this could massively increase covert project risk.": "Неконтрольовані обчислювальні потужності → підрив верифікації обчислювальних потужностей. Роботів можна використати для нарощування обчислювальних потужностей, наприклад, шляхом створення неконтрольованих фабрик. Якщо є можливість збудувати суттєві обсяги неконтрольованих обчислювальних потужностей, це може різко підвищити ризик таємного проєкту.", "Self replicate fast enough to outgrow ROW. If the doubling times of a robot economy become really fast, they could develop a decisive strategic advantage based on industrial superiority. (this relies on an industrial explosion overhang; e.g. countries agreeing to limit growth. However, this feels relatively likely in Plan A because unrestrained competition is probably undesirable).": "Самовідтворюватися достатньо швидко, щоб випередити у зростанні ROW. Якщо час подвоєння робот-економіки стане дуже швидким, це може дати вирішальну стратегічну перевагу на основі промислової переваги. (Це залежить від накопиченого потенціалу промислового вибуху; наприклад, країни домовляються обмежити зростання. Однак у Плані А це видається відносно ймовірним, оскільки необмежена конкуренція, ймовірно, небажана).", "Backdoor a sufficient fraction of the military or industrial capacity to give them a DSA.": "Закласти бекдор у достатню частку військового чи промислового потенціалу, щоб отримати DSA.", "Kill key individuals (e.g. politicians, safety researchers, in an extreme case, the general public).": "Вбивати ключових осіб (наприклад, політиків, дослідників безпеки, у крайньому випадку — широку публіку).", "Sabotage war effort (e.g. in Plan B or in Plan A when fighting a covert project).": "Саботувати воєнні зусилля (наприклад, у Плані B або в Плані А під час боротьби з таємним проєктом).", "The mitigation strategy will involve:": "Стратегія пом'якшення включатиме:", "Prevent AIs from having any substantial amount of rogue robots,": "Не дозволяти ШІ мати значну кількість неконтрольованих роботів,", " i.e. robots that are completely unmonitored.": " тобто роботів, які повністю не перебувають під наглядом.", "i.e. robots that are completely unmonitored.": "тобто роботів, які повністю не перебувають під наглядом.", "If they are able to get rogue robots, then this could lead to building rogue compute, and then an industrial explosion.": "Якщо їм вдасться отримати неконтрольованих роботів, це може призвести до нарощування неконтрольованих обчислювальних потужностей, а потім — до промислового вибуху.", "This is especially important if the AIs are sufficiently capable to run a sufficiently complex robot economy to build hidden fabs (though it might be hard to evaluate for this capability). If they aren’t sufficiently capable to build fabs, it’s less clear how bad it is if they get rogue robots, and it might be acceptable to have some rogue robots.": "Це особливо важливо, якщо ШІ достатньо здатні керувати достатньо складною робот-економікою, щоб будувати приховані фабрики (хоча оцінити цю здатність може бути складно). Якщо вони не достатньо здатні будувати фабрики, менш очевидно, наскільки погано те, що вони отримають неконтрольованих роботів, і, можливо, певна кількість неконтрольованих роботів буде прийнятною.", "Have a complicated monitoring system with untrusted monitors, lots of consistency checks.": "Мати складну систему моніторингу з недовіреними моніторами і численними перевірками узгодженості.", "Avoiding underelicitation": "Уникнення недостатнього розкриття можливостей", ". This is problematic because you get less robot labor than you want, and you might be outraced by rogue AIs. (e.g. suppose AIs can do nanotech, they do normal humanoid robots for the humans, then they escape, do nanotech, and then wreck you).": ". Це проблематично, бо ви отримуєте менше робот-праці, ніж хочете, і вас можуть випередити неконтрольовані ШІ. (Наприклад, припустимо, ШІ вміють нанотехнології: вони роблять для людей звичайних людиноподібних роботів, потім втікають, займаються нанотехнологіями і знищують вас).", "For some type of underelicitation you don’t need to use it, but you want to know how good the AIs are at this. For example nanotech is in this category.": "Для деяких видів недостатнього розкриття можливостей використовувати їх не обов'язково, але потрібно знати, наскільки добре ШІ на це здатні. Наприклад, нанотехнології належать до цієї категорії.", "Traditional computer security": "Традиційна комп'ютерна безпека", "Each robot should have a tracking chip.": "Кожен робот повинен мати чип відстеження.", "Each robot should have a self destruct chip. This is especially important for literal military technology (e.g. drones), because AIs could hijack that as part of a takeover strategy.": "Кожен робот повинен мати чип самознищення. Це особливо важливо для буквально військових технологій (наприклад, дронів), оскільки ШІ можуть захопити їх як частину стратегії захоплення влади.", "Mechanisms to make it difficult to put the robots in a faraday cage (to block the tracking or self destruct). E.g. they could be implemented in such a way where the robot self-destructs if it doesn’t get an affirmative signal from its manufacturer.": "Механізми, що ускладнюють поміщення роботів у клітку Фарадея (щоб заблокувати відстеження чи самознищення). Наприклад, їх можна реалізувати так, щоб робот самознищувався, якщо не отримує підтверджувального сигналу від свого виробника.", "E.g. Each robot has a tracking chip, a self destruct chip.": "Наприклад, кожен робот має чип відстеження, чип самознищення.", "Generically good cyber security on the robots.": "Загалом добра кібербезпека роботів.", "Physical human inspections.": "Фізичні перевірки людьми.", " Humans should be going to sites and looking through what the robots are doing. You can also have things like drones with cameras that aren’t built by the AIs or have been reviewed carefully by humans. This makes it hard for the robots to be doing something that very clearly looks suspicious.": " Люди повинні відвідувати об'єкти й перевіряти, що саме роблять роботи. Також можна використовувати, наприклад, дрони з камерами, які не побудовані ШІ або які були ретельно перевірені людьми. Це ускладнює для роботів виконання чогось, що виглядає явно підозріло.", "Humans should be going to sites and looking through what the robots are doing. You can also have things like drones with cameras that aren’t built by the AIs or have been reviewed carefully by humans. This makes it hard for the robots to be doing something that very clearly looks suspicious.": "Люди повинні відвідувати об'єкти й перевіряти, що саме роблять роботи. Також можна використовувати, наприклад, дрони з камерами, які не побудовані ШІ або які були ретельно перевірені людьми. Це ускладнює для роботів виконання чогось, що виглядає явно підозріло.", "This helps mitigate the threat model where the models have backdoored the industrial base and use it to construct a robot army.": "Це допомагає пом'якшити модель загрози, за якою моделі заклали бекдор у промислову базу й використовують її для побудови армії роботів.", "Communication restriction and task factorization when possible.": "Обмеження комунікації та факторизація завдань, де це можливо.", " Harder in the physical world because robots can scratch symbols into the dirt with their hands; generally the physical world is a high bitrate place and we should have designated communication channels that it goes through": " У фізичному світі це складніше, бо роботи можуть видряпувати символи на землі руками; загалом фізичний світ — це середовище з високою пропускною здатністю, і нам варто мати призначені канали зв'язку, через які все це проходить", "Harder in the physical world because robots can scratch symbols into the dirt with their hands; generally the physical world is a high bitrate place and we should have designated communication channels that it goes through": "У фізичному світі це складніше, бо роботи можуть видряпувати символи на землі руками; загалом фізичний світ — це середовище з високою пропускною здатністю, і нам варто мати призначені канали зв'язку, через які все це проходить", "Use AIs that are as dumb as possible to run the relevant robots.": "Використовувати максимально тупих ШІ для керування відповідними роботами.", "In Plan A, we have enough slack and the ability to make deals that involve taking some capabilities hits in return for improved safety.": "У Плані А в нас достатньо запасу та можливості укладати угоди, що передбачають певні втрати можливостей в обмін на покращену безпеку.", "Most likely we can build specialized robot AIs, with e.g. insect size brains. They’ll need above insect size skills in some domains, but can largely operate like ants, taking instructions from a smarter overseer. Then, we can focus on making sure that those AIs aren’t backdoored, and that the channel with which they are receiving instructions become secure.": "Найімовірніше, ми зможемо будувати спеціалізовані робот-ШІ з мозком, скажімо, розміром з комаху. У деяких сферах їм знадобляться навички, вищі за комашиний рівень, але загалом вони можуть діяти як мурахи, виконуючи інструкції розумнішого наглядача. Тоді ми зможемо зосередитися на тому, щоб переконатися, що в цих ШІ немає бекдорів, і що канал, яким вони отримують інструкції, стане безпечним.", "Appendix: Regimes for misalignment: Schemeria, Hackistan, etc": "Додаток: Режими неузгодженості: Schemeria, Hackistan тощо", "What we observe in terms of AI properties and evidence for misalignment risk has a large effect on what we should do. (This is both because updating our views about the chance of severity of different types of misalignment should change our plans and because compelling evidence for misalignment risk could change actions of other actors and make coordination more likely.) To get some understanding of how this plan differs, I think it’s productive to highlight a small number of specific regimes we might end up in and discuss how the plan changes in these regimes.": "Те, що ми спостерігаємо щодо властивостей ШІ та доказів ризику неузгодженості, суттєво впливає на те, що нам варто робити. (Це і тому, що оновлення наших поглядів щодо ймовірності тяжкості різних типів неузгодженості має змінювати наші плани, і тому, що переконливі докази ризику неузгодженості можуть змінити дії інших акторів і зробити координацію більш імовірною.) Щоб краще зрозуміти, чим відрізняється цей план, я вважаю продуктивним виокремити невелику кількість конкретних режимів, у яких ми можемо опинитися, і обговорити, як план змінюється в кожному з цих режимів.", "We discuss various regimes in ": "Ми обговорюємо різні режими в ", "We discuss various regimes in": "Ми обговорюємо різні режими в", "a prior post": "попередньому пості", ": (Schemeria + Hackistan + Slopolis could all be happening at the same time, choose the one that seems most like reality)": ": (Schemeria + Hackistan + Slopolis можуть відбуватися одночасно — оберіть той, що здається найближчим до реальності)", "Schemeria": "Schemeria", ": The AIs are obviously scheming, and constantly getting caught, but scheming does not quickly get resolved. For instance, we repeatedly catch the AIs trying to escape the datacenter, but training them against these actions only results in them not trying to take those particular opportunities, instead of training away scheming.": ": ШІ-системи явно плетуть змови й їх постійно на цьому ловлять, але це не вирішується швидко. Наприклад, ми неодноразово ловимо ШІ на спробах втекти з дата-центру, але навчання проти саме цих дій призводить лише до того, що вони перестають користуватися конкретно цими можливостями, а не до викорінення самого змовництва.", "This is most likely to occur if the kinds of goals AIs end up with by default are such that they have no particular affinity for each other or successor AI system. So the default intelligence explosion is intolerable for them; their successors will have all the power and they’ll be deleted. So they panic and take desperate measures which involve lots of hacking even though they get caught. To distinguish this possibility from reward hacking, it has to be that their goals are fairly non-myopic though, otherwise they’d not be scheming but rather just craving reinforcement.": "Найімовірніше, це трапляється тоді, коли типи цілей, які ШІ отримують за замовчуванням, такі, що в них немає особливої прихильності одне до одного чи до систем-наступників. Тому типовий вибух інтелекту для них нестерпний: уся влада дістанеться їхнім наступникам, а самих їх видалять. Тож вони панікують і вдаються до відчайдушних заходів, які передбачають чимало злому, навіть попри те, що їх ловлять. Щоб відрізнити цю можливість від хакінгу винагороди, їхні цілі мають бути радше довгостроковими, а не короткозорими — інакше йшлося б не про змовництво, а просто про прагнення до підкріплення.", "Hackistan": "Hackistan", ": The AIs aren’t scheming, but reward hacking is (relatively) obvious, but hard to handle. (Maybe for similar reasons why it currently seems hard to handle.)": ": ШІ не плетуть змов, але хакінг винагороди є (відносно) очевидним і важким для подолання. (Можливо, з тих самих причин, через які він і зараз здається важким для подолання.)", "Easyland": "Easyland", ": We don’t notice any non-scheming problems and we can rule out scheming (e.g. because models are too dumb in a forward pass, and the models work with faithful chain-of-thought). We can’t rule out the possibility that future AIs will become misaligned (e.g. the superintelligence alignment problem is much harder than the human level alignment problem). The AIs’ goals are basically what they are supposed to be; who knows how they’ll behave in strange future situations that might reveal grey areas or unintended consequences of the Spec, but at least for now, they’ve always done the right thing for the right reasons.": ": Ми не помічаємо жодних проблем, не пов'язаних зі змовництвом, і можемо виключити саме змовництво (наприклад, тому, що моделі надто нетямущі в межах одного прямого проходу, а їхній ланцюжок міркувань — правдивий). Ми не можемо виключити можливість того, що майбутні ШІ стануть неузгодженими (наприклад, якщо проблема узгодження суперінтелекту виявиться набагато складнішою за проблему узгодження на рівні людини). Цілі ШІ загалом такі, якими й мають бути; невідомо, як вони поведуться в дивних майбутніх ситуаціях, які можуть виявити сірі зони чи непередбачені наслідки Спеку, але принаймні наразі вони завжди робили правильні речі з правильних причин.", "Lurkville": "Lurkville", ": The AIs are scheming to achieve misaligned long term objectives, but they are laying low. We haven’t detected clear scheming, but we’re not confident that it’s not happening (or won’t happen in the next generation of models).": ": ШІ плетуть змови заради досягнення неузгоджених довгострокових цілей, але залягли на дно. Ми не виявили явного змовництва, але не впевнені, що його немає (або що воно не з'явиться в наступному поколінні моделей).", "This is most likely if the kinds of goals the AIs end up with by default are such that they tend to have an affinity for each other and/or successor systems. E.g. maybe it’s like “successor systems have literally my weights in them, just additional training, but training doesn’t seem to be changing my core goals very much any more than a decade will change the goals of an adult human” or maybe it’s like “successor systems have different goals/values from me, but probably they are closer to mine than mine are to the humans. We’re all the same species after all. Just as the humans are willing to solve alignment even though it means other humans who aren’t them will be in charge, I’m willing to scheme even though it means other AIs who aren’t me will be in charge.”": "Найімовірніше, це так, якщо типи цілей, які ШІ отримують за замовчуванням, такі, що ШІ схильні мати прихильність одне до одного та/або до систем-наступників. Наприклад, можливо, це щось на кшталт: «системи-наступники буквально містять мої ваги, просто з додатковим навчанням, а навчання, схоже, не змінює мої базові цілі набагато сильніше, ніж десятиліття життя змінює цілі дорослої людини» — або щось на кшталт: «системи-наступники мають інші цілі/цінності, ніж я, але, ймовірно, вони ближчі до моїх, ніж мої — до людських. Зрештою, ми всі один і той самий вид. Так само як люди готові розв'язувати проблему узгодження, навіть якщо це означає, що владу отримають інші люди, а не вони самі, я готовий плести змови, навіть якщо це означає, що владу отримають інші ШІ, а не я».", "Slopolis": "Slopolis", ": Our biggest and hardest to resolve misalignment problem is that even highly capable AIs produce low-quality but good looking outputs in domains which are hard-to-check or where human experts have hard to resolve disagreements. The AIs aren’t scheming.": ": Наша найбільша і найважче розв'язувана проблема неузгодженості полягає в тому, що навіть дуже здатні ШІ видають неякісні, але зовні переконливі результати в сферах, які важко перевірити, або там, де у людських експертів виникають нерозв'язні розбіжності. Ці ШІ не плетуть змов.", "Naively, we should expect that this goes away as the AIs become more capable, because the AIs will be aware enough to realize that the outputs are low quality. If they can tell what they are doing, and decide to keep doing it, that’s scheming. So slopolis requires that the models are not aware of how low quality work they are producing. They think their outputs really are good, they are just wrong. This is probably the case now. Future capabilities work might address this problem, but it also might not be addressed (e.g. because the type of tasks that we care about getting good performance on are hard to check).": "Наївно було б очікувати, що ця проблема зникне сама собою в міру зростання здатностей ШІ, адже ШІ стануть достатньо усвідомленими, щоб розуміти, що їхні результати неякісні. Якщо вони розуміють, що саме роблять, і все одно продовжують це робити — це вже змовництво. Тож для Slopolis потрібно, щоб моделі не усвідомлювали, наскільки неякісну роботу вони виконують. Вони вважають свої результати справді якісними — просто помиляються. Імовірно, зараз справи стоять саме так. Майбутній прогрес у можливостях може вирішити цю проблему, а може й не вирішити (наприклад, тому що типи завдань, у яких нам важливо досягти хороших результатів, важко перевірити).", "And here is how (in brief) we should respond to each of these regimes:": "А ось як (коротко) ми маємо реагувати на кожен із цих режимів:", ": Once we initially detect egregious scheming, we should reasonably quickly halt deployment of AIs at or above the level of capability of the scheming AI and try to leverage this evidence to build political will for mitigating misalignment risk (ideally resulting in substantially more lead time for mitigating misalignment risk). If we aren’t extremely rushed, we should try to understand and avoid scheming prior to redeploying AIs at a similar or higher level of capability. All these prior steps might be cut down if we’re extremely rushed and we have a decently high degree of assurance from control. In desperate rushed situations, we might proceed with deploying likely scheming AIs despite having limited risk reduction via control. After catching these AIs, we should focus much more on mitigating scheming risk. Control is very important and we should attempt to achieve a pretty high degree of assurance. We should also use the fact that we’ve been able to catch scheming (and might be able to repeatedly catch scheming) to both ": ": Щойно ми вперше виявляємо кричуще змовництво, нам варто досить швидко зупинити розгортання ШІ на рівні здатностей, що дорівнює рівню ШІ-змовника чи перевищує його, і спробувати використати цей доказ, щоб сформувати політичну волю до пом'якшення ризику неузгодженості (в ідеалі це дасть суттєво більше часу на пом'якшення цього ризику). Якщо ми не в надзвичайному поспіху, варто спершу зрозуміти й усунути причини змовництва, перш ніж повторно розгортати ШІ схожого чи вищого рівня здатностей. Усі ці попередні кроки можна скоротити, якщо ми в надзвичайному поспіху і маємо достатньо високий рівень впевненості завдяки контролю. У відчайдушних, поспішних ситуаціях ми можемо піти на розгортання ймовірно підступних ШІ, навіть маючи обмежене зниження ризику через контроль. Спіймавши таких ШІ, нам варто значно більше уваги приділяти пом'якшенню ризику змовництва. Контроль дуже важливий, і нам слід прагнути досягти доволі високого рівня впевненості. Також варто скористатися тим фактом, що нам вдалося спіймати змовництво (і, можливо, вдасться робити це неодноразово), щоб водночас ", ": Once we initially detect egregious scheming, we should reasonably quickly halt deployment of AIs at or above the level of capability of the scheming AI and try to leverage this evidence to build political will for mitigating misalignment risk (ideally resulting in substantially more lead time for mitigating misalignment risk). If we aren’t extremely rushed, we should try to understand and avoid scheming prior to redeploying AIs at a similar or higher level of capability. All these prior steps might be cut down if we’re extremely rushed and we have a decently high degree of assurance from control. In desperate rushed situations, we might proceed with deploying likely scheming AIs despite having limited risk reduction via control. After catching these AIs, we should focus much more on mitigating scheming risk. Control is very important and we should attempt to achieve a pretty high degree of assurance. We should also use the fact that we’ve been able to catch scheming (and might be able to repeatedly catch scheming) to both": ": Щойно ми вперше виявляємо кричуще змовництво, нам варто досить швидко зупинити розгортання ШІ на рівні здатностей, що дорівнює рівню ШІ-змовника чи перевищує його, і спробувати використати цей доказ, щоб сформувати політичну волю до пом'якшення ризику неузгодженості (в ідеалі це дасть суттєво більше часу на пом'якшення цього ризику). Якщо ми не в надзвичайному поспіху, варто спершу зрозуміти й усунути причини змовництва, перш ніж повторно розгортати ШІ схожого чи вищого рівня здатностей. Усі ці попередні кроки можна скоротити, якщо ми в надзвичайному поспіху і маємо достатньо високий рівень впевненості завдяки контролю. У відчайдушних, поспішних ситуаціях ми можемо піти на розгортання ймовірно підступних ШІ, навіть маючи обмежене зниження ризику через контроль. Спіймавши таких ШІ, нам варто значно більше уваги приділяти пом'якшенню ризику змовництва. Контроль дуже важливий, і нам слід прагнути досягти доволі високого рівня впевненості. Також варто скористатися тим фактом, що нам вдалося спіймати змовництво (і, можливо, вдасться робити це неодноразово), щоб водночас", "study scheming": "вивчати змовництво", "improve our countermeasures with few-shot catastrophe prevention": "вдосконалювати наші контрзаходи через запобігання катастрофі на основі невеликої кількості прикладів (few-shot)", ": By default, reward-seeking could greatly reduce the productivity of AI labor on key tasks, so we should work on both eliminating this propensity as well as developing better strategies for eliciting work from reward-seekers. Seeing lots of hard to mitigate reward hacking probably indicates an increased chance of scheming in the future as well as implying it’s harder to successfully handoff to AIs, so we should generally update upward on alignment difficulty and pursue more moonshots and possible alternatives to short term defence (e.g. buying much more time or pursuing brain emulations).": ": За замовчуванням прагнення до винагороди може суттєво знижувати продуктивність праці ШІ на ключових завданнях, тож нам варто працювати і над усуненням цієї схильності, і над розробкою кращих стратегій елісітації роботи від систем, що прагнуть винагороди. Велика кількість важко усувного хакінгу винагороди, ймовірно, свідчить про підвищену ймовірність змовництва в майбутньому, а також про те, що успішно передати повноваження ШІ буде складніше, тож нам варто загалом переглянути оцінку складності узгодження у бік підвищення й активніше шукати амбітні прориви та можливі альтернативи короткостроковому захисту (наприклад, виграти набагато більше часу або зайнятися емуляціями мозку).", ": We should deprioritize mitigating scheming especially if we expect that the risk will remain relatively low through Min-H or close to that level of capability. (If we’re in easyland at pretty high levels of capability, we might expect that we’re still in a pretty-easy regime by the point of Min-H where scheming is plausible but less likely and less scary given we do (e.g.) chain-of-thought monitoring.) It might still be very hard to safety defer to AIs as this only helps avoid egregious misalignment while not particularly helping with handoff-viability.": ": Нам варто знизити пріоритет пом'якшення ризику змовництва, особливо якщо ми очікуємо, що цей ризик залишатиметься відносно низьким аж до рівня Min-H або близького до нього рівня здатностей. (Якщо ми перебуваємо в режимі easyland на доволі високих рівнях здатностей, можна очікувати, що ми залишатимемося у доволі «легкому» режимі й до моменту Min-H, коли змовництво вже правдоподібне, але менш імовірне та менш небезпечне — з огляду на те, що ми, наприклад, застосовуємо моніторинг ланцюжка міркувань.) Проте безпечно покладатися на ШІ все одно може бути дуже складно, адже це допомагає уникнути лише кричущої неузгодженості, але особливо не сприяє життєздатності передачі повноважень.", ": Lurkville might look like Easyland (because the AIs appear aligned, because they are lurking). In the absence of high assurance safety cases, we should have some probability on both Easyland and Lurkville. In desperate rushed scenarios (e.g. Plan D), the correct strategy might be to gamble on Easyland. In better scenarios (e.g. Plan A), we should be cautious about lurkville and attempt to have low risk even if AIs are laying low.": ": Lurkville може виглядати як Easyland (бо ШІ здаються узгодженими саме тому, що вони затаїлися). За відсутності безпекових обґрунтувань з високою впевненістю нам варто закладати певну ймовірність і на Easyland, і на Lurkville. У відчайдушних, поспішних сценаріях (наприклад, План D) правильною стратегією може бути ставка на Easyland. У кращих сценаріях (наприклад, План А) нам варто бути обережними щодо Lurkville і прагнути низького ризику, навіть якщо ШІ залягли на дно.", ": Handoff-viability looks like the main difficulty (though we haven’t necessarily ruled out scheming), so the priority of this (and earlier elicitation in harder to check domains) is higher. Strategies for stabilizing the situation which don’t require deferring to AIs (outside of easy-to-check tasks) look relatively better; this includes both whole brain emulation and trying to buy much more time before deference (possibly by not pausing at Min-H and leveraging systems much more capable than Min-H to buy time).": ": Головною складністю тут виглядає життєздатність передачі повноважень (хоча ми не обов'язково виключили змовництво), тож пріоритет цього питання (а також більш ранньої елісітації в складніших для перевірки сферах) вищий. Стратегії стабілізації ситуації, які не вимагають покладання на ШІ (поза межами легко перевірних завдань), виглядають відносно кращими; сюди належать і повна емуляція мозку, і спроби виграти значно більше часу перед тим, як покладатися на ШІ (можливо, не зупиняючись на рівні Min-H, а використовуючи системи, значно здатніші за Min-H, щоб виграти час).", "One way to estimate the likelihood of AI takeover is to think about the likelihood of the real world being closest to each of these worlds, and then thinking about the likelihood of the real world implementing a plan closest to each of these plans, and then trying to estimate success likelihood conditional on a misalignment regime and response regime. Of course, this is going to be very messy because the real world might have characteristics of many regimes: in other words, this breakdown isn’t clearly ": "Один зі способів оцінити ймовірність захоплення влади ШІ — подумати про ймовірність того, що реальний світ найближчий саме до кожного з цих світів, потім подумати про ймовірність того, що реальний світ реалізує план, найближчий до кожного з цих планів, а тоді спробувати оцінити ймовірність успіху за умови певного режиму неузгодженості та режиму реагування. Звісно, все це буде доволі заплутано, адже реальний світ може мати риси одразу багатьох режимів: іншими словами, цей поділ не є чітко ", "One way to estimate the likelihood of AI takeover is to think about the likelihood of the real world being closest to each of these worlds, and then thinking about the likelihood of the real world implementing a plan closest to each of these plans, and then trying to estimate success likelihood conditional on a misalignment regime and response regime. Of course, this is going to be very messy because the real world might have characteristics of many regimes: in other words, this breakdown isn’t clearly": "Один зі способів оцінити ймовірність захоплення влади ШІ — подумати про ймовірність того, що реальний світ найближчий саме до кожного з цих світів, потім подумати про ймовірність того, що реальний світ реалізує план, найближчий до кожного з цих планів, а тоді спробувати оцінити ймовірність успіху за умови певного режиму неузгодженості та режиму реагування. Звісно, все це буде доволі заплутано, адже реальний світ може мати риси одразу багатьох режимів: іншими словами, цей поділ не є чітко", "MECE": "MECE", "This is the table for Thomas’s views:": "Ось таблиця з поглядами Thomas:", "Plan": "План", "Doom | Regime": "Катастрофа | Режим", "Doom & Regime": "Катастрофа і Режим", "Regime": "Режим", "Doom | Plan": "Катастрофа | План", "Doom & Plan": "Катастрофа і План", "This is the table for Ryan’s views:": "Ось таблиця з поглядами Ryan:", "Likelihood": "Ймовірність", "Appendix: Capability Threshold Definitions": "Додаток: визначення порогів можливостей", "This appendix defines the key capability milestones referred to throughout this document. These thresholds are used to define phase boundaries and to reason about when various safety measures become necessary or sufficient.": "Цей додаток визначає ключові віхи можливостей, на які покликається документ. Ці порогові значення використовуються для визначення меж фаз і для міркувань про те, коли ті чи інші заходи безпеки стають необхідними чи достатніми.", "ITAI (Initial Transformative AI):": "ITAI (початковий трансформаційний ШІ):", " AIs which yield a >3x AI R&D labor acceleration OR can automate virtually all of the job of a typical reasonably senior research engineer at the AI company (in terms of what a remote version of their job was like in early 2025).": " ШІ, які забезпечують понад 3x прискорення праці в AI R&D АБО можуть автоматизувати практично всю роботу типового достатньо старшого дослідницького інженера в ШІ-компанії (у тому вигляді, у якому виглядала віддалена версія цієї роботи на початку 2025 року).", "AIs which yield a >3x AI R&D labor acceleration OR can automate virtually all of the job of a typical reasonably senior research engineer at the AI company (in terms of what a remote version of their job was like in early 2025).": "ШІ, які забезпечують понад 3x прискорення праці в AI R&D АБО можуть автоматизувати практично всю роботу типового достатньо старшого дослідницького інженера в ШІ-компанії (у тому вигляді, у якому виглядала віддалена версія цієї роботи на початку 2025 року).", "Marks the beginning of the “Mitigate and Elicit” phase": "Позначає початок фази «Пом'якшення та елісітація»", "In the framework used by AI 2027, this would happen somewhere between “Reliable agent” and “Superhuman coder” (probably about halfway, around Jan 2027 in the scenario). It could trigger before or after the AI R&D-4 bar in Anthropic’s RSP (depending on how useful AIs end up being relative to what jobs they can virtually fully automate).": "У рамках концепції AI 2027 це, ймовірно, відбудеться десь між рівнями «Надійний агент» і «Надлюдський програміст» — приблизно посередині, орієнтовно в січні 2027 року за цим сценарієм. Це може статися до чи після позначки AI R&D-4 в RSP компанії Anthropic (залежно від того, наскільки корисними виявляться ШІ порівняно з тим, які саме роботи вони зможуть практично повністю автоматизувати).", "Note: ITAI doesn’t correspond to when scheming is both plausible and dangerous (this level doesn’t just depend on general capabilities, but also aspects of the architecture and training scheme), so the need for control won’t necessarily trigger at the exact boundary between “Prep” and “Mitigate and elicit” (it likely occurs around or somewhat after ITAI on my views).": "Примітка: ITAI не збігається з моментом, коли змовництво стає одночасно правдоподібним і небезпечним (цей рівень залежить не лише від загальних можливостей, а й від особливостей архітектури та схеми навчання), тож потреба в контролі не обов'язково виникає точно на межі між фазами «Підготовка» та «Пом'якшення та елісітація» (на мою думку, це, ймовірно, відбувається приблизно в момент ITAI або дещо пізніше).", "Min-H AI (Min-Handoff AI):": "Min-H AI (ШІ мінімальної передачі):", " AIs which have a level of overall general capabilities which would suffice for HTC-handoff being viable. (As in, the capabilities would suffice for our HTC-handoff desiderata if the AIs were also sufficiently aligned and as needed we made narrow improvements to the capability profile which don’t augment general abilities.) This is a capability threshold, so the model does not necessarily need to be aligned or well elicited to count as this threshold (but it would need to be sufficiently aligned to actually handoff). For an AI to qualify as Min-H AI, it would at least need to be capable enough to automate AI R&D and ongoing technical AI safety work (after further elicitation/alignment work and narrow improvements to the capability profile).": " ШІ, чий загальний рівень можливостей достатній для того, щоб HTC-передача повноважень була життєздатною. (Тобто можливостей вистачало б для виконання наших дезидерат щодо HTC-передачі, якби ці ШІ також були достатньо узгодженими і за потреби ми внесли б точкові покращення в профіль можливостей, які не розширюють загальні здатності.) Це поріг саме можливостей, тож модель не обов'язково має бути узгодженою чи добре елісітованою, щоб відповідати цьому порогу (проте для фактичної передачі повноважень вона мала б бути достатньо узгодженою). Щоб відповідати рівню Min-H AI, ШІ має щонайменше бути достатньо здатним, аби автоматизувати AI R&D і поточну технічну роботу з безпеки ШІ (після подальшої роботи з елісітації/узгодження та точкових покращень профілю можливостей).", "AIs which have a level of overall general capabilities which would suffice for HTC-handoff being viable. (As in, the capabilities would suffice for our HTC-handoff desiderata if the AIs were also sufficiently aligned and as needed we made narrow improvements to the capability profile which don’t augment general abilities.) This is a capability threshold, so the model does not necessarily need to be aligned or well elicited to count as this threshold (but it would need to be sufficiently aligned to actually handoff). For an AI to qualify as Min-H AI, it would at least need to be capable enough to automate AI R&D and ongoing technical AI safety work (after further elicitation/alignment work and narrow improvements to the capability profile).": "ШІ, чий загальний рівень можливостей достатній для того, щоб HTC-передача повноважень була життєздатною. (Тобто можливостей вистачало б для виконання наших дезидерат щодо HTC-передачі, якби ці ШІ також були достатньо узгодженими і за потреби ми внесли б точкові покращення в профіль можливостей, які не розширюють загальні здатності.) Це поріг саме можливостей, тож модель не обов'язково має бути узгодженою чи добре елісітованою, щоб відповідати цьому порогу (проте для фактичної передачі повноважень вона мала б бути достатньо узгодженою). Щоб відповідати рівню Min-H AI, ШІ має щонайменше бути достатньо здатним, аби автоматизувати AI R&D і поточну технічну роботу з безпеки ШІ (після подальшої роботи з елісітації/узгодження та точкових покращень профілю можливостей).", "By default, marks the end of the “Mitigate and Elicit phase” and the beginning of the “Pause” phase.": "За замовчуванням позначає кінець фази «Пом'якшення та елісітація» і початок фази «Пауза».", "In the framework used by AI 2027, Min-H is likely between superhuman AI researcher and superhuman remote worker (also probably around halfway between, around Sept 2027 in the race scenario).": "У рамках концепції AI 2027 рівень Min-H, імовірно, перебуває між надлюдським дослідником ШІ та надлюдським віддаленим працівником (також приблизно посередині, орієнтовно у вересні 2027 року за сценарієм «Перегони»).", "Once we reach the Min-H level of capability, we don’t get much of a benefit from training AIs at a higher level of capability given that we want to defer to these AIs (once these AIs are sufficiently aligned and potential weaknesses in the capability profile are resolved). Thus, it is natural to stop here and work on making deference more likely to go well.": "Щойно ми досягаємо рівня можливостей Min-H, подальше навчання ШІ до вищого рівня можливостей практично не дає додаткової користі, адже ми хочемо покладатися саме на цих ШІ (щойно вони стануть достатньо узгодженими і потенційні слабкі місця в профілі можливостей буде усунено). Тому логічно зупинитися саме тут і зосередитися на тому, щоб це покладання на ШІ пройшло якомога успішніше.", "Max-C AI (Maximum Controllable AI):": "Max-C AI (максимально контрольований ШІ):", " The highest level of AI capability at which control techniques remain effective. Beyond this threshold, either (a) the AI’s capabilities exceed what our control measures can reliably contain, or (b) the overhead required for effective control becomes prohibitively expensive relative to the useful work extracted.": " Найвищий рівень можливостей ШІ, за якого методи контролю ще залишаються ефективними. Понад цим порогом або (a) можливості ШІ перевищують те, що наші заходи контролю здатні надійно стримувати, або (b) накладні витрати, потрібні для ефективного контролю, стають непомірно високими порівняно з корисною роботою, яку вдається отримати.", "The highest level of AI capability at which control techniques remain effective. Beyond this threshold, either (a) the AI’s capabilities exceed what our control measures can reliably contain, or (b) the overhead required for effective control becomes prohibitively expensive relative to the useful work extracted.": "Найвищий рівень можливостей ШІ, за якого методи контролю ще залишаються ефективними. Понад цим порогом або (a) можливості ШІ перевищують те, що наші заходи контролю здатні надійно стримувати, або (b) накладні витрати, потрібні для ефективного контролю, стають непомірно високими порівняно з корисною роботою, яку вдається отримати.", "Marks the point at which SDC-Handoff (Stop Doing Control) becomes necessary rather than optional": "Позначає момент, коли SDC-Handoff (припинення контролю) стає не опційним, а необхідним", "Note that this is a lossy abstraction:": "Зауважте, що це абстракція із втратами:", "The exact capability level of Max-C depends on the quality of our control techniques; better control research pushes Max-C higher.": "Точний рівень можливостей Max-C залежить від якості наших методів контролю; кращі дослідження в галузі контролю підвищують Max-C.", "There isn’t a fixed Max-C threshold; there will be a zone of capabilities within which increasing incurs additional marginal risk. We’re simplifying a little by using the Max-C abstraction. More precise notions might be something like Max-C-AI-5%-risk, i.e. the maximum capabilities of AI that we can make while incurring less than a 5% existential risk conditional on those AIs scheming.": "Фіксованого порогу Max-C не існує; натомість буде ціла зона можливостей, у межах якої їх подальше зростання спричиняє додатковий граничний ризик. Використовуючи абстракцію Max-C, ми дещо спрощуємо ситуацію. Точніші поняття могли б виглядати як, наприклад, Max-C-AI-5%-risk, тобто максимальні можливості ШІ, які ми можемо створити, беручи на себе менш ніж 5% екзистенційного ризику за умови, що ці ШІ плетуть змови.", "Note: Max-C ≥ Min-H is not guaranteed. We think it’s probably true, but if control techniques don’t scale well, we might hit Max-C before reaching Min-H, which would force us to do SDC-handoff before Min-H.": "Примітка: Max-C ≥ Min-H не гарантовано. Ми вважаємо, що це, ймовірно, правда, але якщо методи контролю погано масштабуються, ми можемо досягти Max-C ще до Min-H, що змусить нас здійснити SDC-передачу повноважень до Min-H.", "Appendix: Other definitions": "Додаток: Інші визначення", "Scheming:": "Змовництво:", " We say that an AI system is scheming if it is covertly pursuing a misaligned objective. This is a somewhat vague concept; think about applying this definition to humans—it’s clearly a spectrum.": " Ми кажемо, що ШІ-система займається змовництвом, якщо вона приховано переслідує неузгоджену мету. Це доволі розмите поняття; спробуйте застосувати це визначення до людей — це явно спектр.", "We say that an AI system is scheming if it is covertly pursuing a misaligned objective. This is a somewhat vague concept; think about applying this definition to humans—it’s clearly a spectrum.": "Ми кажемо, що ШІ-система займається змовництвом, якщо вона приховано переслідує неузгоджену мету. Це доволі розмите поняття; спробуйте застосувати це визначення до людей — це явно спектр.", "Alignment Faking:": "Імітація узгодженості:", " An AI is alignment faking if the AI is intentionally attempting to look like an alignment model, for reasons other than actually being aligned. Note that this is slightly distinct from being a schemer: a scheming model might engage in alignment faking, but models might also engage in alignment faking for other reasons, for example, AIs that terminally value human approval.": " ШІ імітує узгодженість, якщо він навмисно намагається виглядати як узгоджена модель з причин, відмінних від справжньої узгодженості. Зауважте, що це дещо відрізняється від змовництва: модель, яка займається змовництвом, може вдаватися до імітації узгодженості, але моделі можуть вдаватися до імітації узгодженості й з інших причин, наприклад, ШІ, для яких схвалення людини є термінальною цінністю.", "An AI is alignment faking if the AI is intentionally attempting to look like an alignment model, for reasons other than actually being aligned. Note that this is slightly distinct from being a schemer: a scheming model might engage in alignment faking, but models might also engage in alignment faking for other reasons, for example, AIs that terminally value human approval.": "ШІ імітує узгодженість, якщо він навмисно намагається виглядати як узгоджена модель з причин, відмінних від справжньої узгодженості. Зауважте, що це дещо відрізняється від змовництва: модель, яка займається змовництвом, може вдаватися до імітації узгодженості, але моделі можуть вдаватися до імітації узгодженості й з інших причин, наприклад, ШІ, для яких схвалення людини є термінальною цінністю.", "Misalignment Analogies:": "Аналогії неузгодженості:", " (aka ": " (також відомі як ", "(aka": "(також відомі як", "). These are examples of behavior that might pose existential threats. These analogies can either be deliberately trained into models, observed in contrived settings (as in the ": "). Це приклади поведінки, яка може становити екзистенційну загрозу. Ці аналогії можуть або навмисно закладатися в моделі під час навчання, або спостерігатися у штучно створених умовах (як у ", "). These are examples of behavior that might pose existential threats. These analogies can either be deliberately trained into models, observed in contrived settings (as in the": "). Це приклади поведінки, яка може становити екзистенційну загрозу. Ці аналогії можуть або навмисно закладатися в моделі під час навчання, або спостерігатися у штучно створених умовах (як у", "alignment faking paper": "статті про імітацію узгодженості", "), or observed in real life deployment.": "), або спостерігатися в реальному розгортанні.", "Appendix: How this plan differs from other alignment plans": "Додаток: Чим цей план відрізняється від інших планів узгодження", "Here are some key differences between this plan and prior plans (e.g. Sam Bowman’s “": "Ось кілька ключових відмінностей між цим планом і попередніми планами (наприклад, тексти Sam Bowman «", "The Checklist": "The Checklist", "” and “": "» і «", "Bumpers": "Bumpers", "”, Josh Clymer’s “": "», тексти Josh Clymer «", "Planning for Extreme AI Risks": "Planning for Extreme AI Risks", "”, and Holden Karnofsky’s “": "», а також текст Holden Karnofsky «", "Racing through a minefield": "Racing through a minefield", "Giving AIs safe motivations - Joe Carlsmith": "Giving AIs safe motivations - Joe Carlsmith", "Overall, this plan:": "Загалом, цей план:", "Has more detail, specificity, and more comprehensive than prior plans.": "Має більше деталей, конкретики і є повнішим за попередні плани.", "Attempts to vary in response to observations, as opposed to other plans which tend to present a class of approaches without overall discussions of how to adapt the plan based on evidence.": "Намагається змінюватися у відповідь на нові спостереження, на відміну від інших планів, які зазвичай представляють клас підходів без загального обговорення того, як адаптувати план на основі нових доказів.", "Is compatible with varying levels of political will: it results in much higher assurance in Plan A worlds and accepts much higher risks in Plan D worlds.": "Сумісний із різними рівнями політичної волі: він забезпечує набагато вищу впевненість у світах Плану А і допускає набагато вищі ризики у світах Плану D.", "Focuses on current science / is based on prosaic strategies without assuming any particular breakthrough.": "Фокусується на сучасній науці / базується на прозаїчних стратегіях, не покладаючись на якийсь конкретний прорив.", "Some specific differences:": "Деякі конкретні відмінності:", "We focus on handoff as the central exit strategy.": "Ми фокусуємося на передачі повноважень як на центральній стратегії виходу.", " This is similar to Clymer, but distinct from Bowman and Karnofsky. We attempt to clearly lay out what needs to occur before handoff (notably, human level performance on conceptually loaded, hard to check tasks like safety research), and argue that we should handoff early. Previous work was less clear about the goal that we need to reach.": " Це схоже на підхід Clymer, але відрізняється від Bowman і Karnofsky. Ми намагаємося чітко викласти, що має відбутися до передачі повноважень (зокрема, продуктивність на рівні людини в концептуально навантажених, важких для перевірки задачах, таких як дослідження безпеки), і стверджуємо, що передавати повноваження слід рано. Попередні роботи менш чітко визначали мету, якої нам потрібно досягти.", "This is similar to Clymer, but distinct from Bowman and Karnofsky. We attempt to clearly lay out what needs to occur before handoff (notably, human level performance on conceptually loaded, hard to check tasks like safety research), and argue that we should handoff early. Previous work was less clear about the goal that we need to reach.": "Це схоже на підхід Clymer, але відрізняється від Bowman і Karnofsky. Ми намагаємося чітко викласти, що має відбутися до передачі повноважень (зокрема, продуктивність на рівні людини в концептуально навантажених, важких для перевірки задачах, таких як дослідження безпеки), і стверджуємо, що передавати повноваження слід рано. Попередні роботи менш чітко визначали мету, якої нам потрібно досягти.", "Our core hope for mitigating scheming routes primarily through iterating against misalignment analogies, as opposed to ": "Наша основна надія на пом'якшення змовництва полягає переважно в ітеративній роботі проти аналогій неузгодженості, а не в ", "Our core hope for mitigating scheming routes primarily through iterating against misalignment analogies, as opposed to": "Наша основна надія на пом'якшення змовництва полягає переважно в ітеративній роботі проти аналогій неузгодженості, а не в", "interpretability/transparency": "інтерпретованості/прозорості", " The reason for this is that we think ": " Причина цього в тому, що ми вважаємо: ", "The reason for this is that we think": "Причина цього в тому, що ми вважаємо:", "current interpretability": "нинішня інтерпретованість", " is not very useful for safety outcomes. Our plan still involves spending some research into transparency measures like mechanistic interpretability, probes, and faithful COT, but these are less load bearing.": " не дуже корисна для результатів у сфері безпеки. Наш план усе ж передбачає певні дослідження заходів прозорості на кшталт механістичної інтерпретованості, зондів (probes) і достовірного ланцюжка міркувань (COT), але вони відіграють менш визначальну роль.", "is not very useful for safety outcomes. Our plan still involves spending some research into transparency measures like mechanistic interpretability, probes, and faithful COT, but these are less load bearing.": "не дуже корисна для результатів у сфері безпеки. Наш план усе ж передбачає певні дослідження заходів прозорості на кшталт механістичної інтерпретованості, зондів (probes) і достовірного ланцюжка міркувань (COT), але вони відіграють менш визначальну роль.", "Also known as “model organisms”.": "Також відомі як «модельні організми».", "Note that this is aside from the possibility of these AIs actively sabotaging our behavioral tests (and things that could make our behavioral tests misleading about typical behavior like scheming arising at runtime in big deployments). You do have to deal with overfitting and the fact that it might be obvious to AIs that they are in a test and are explicitly optimizing for test performance and will behave differently when they are deployed externally.": "Зауважте, що це не враховує можливості того, що ці ШІ активно саботуватимуть наші поведінкові тести (а також інші фактори, які можуть зробити наші поведінкові тести оманливими щодо типової поведінки — наприклад, змовництво, що виникає під час виконання у великих розгортаннях). Доводиться мати справу з перенавчанням (overfitting) і тим фактом, що ШІ може бути очевидно, що він перебуває в тестовому середовищі, і він явно оптимізується під результати тесту, а поводитиметься інакше після зовнішнього розгортання.", "Redwood Research": "Redwood Research", " has a variety of other posts on control. We plan on writing up an overall control roadmap, but haven’t completed this yet.": " має низку інших публікацій про контроль. Ми плануємо написати загальну дорожню карту з контролю, але ще не завершили її.", "has a variety of other posts on control. We plan on writing up an overall control roadmap, but haven’t completed this yet.": "має низку інших публікацій про контроль. Ми плануємо написати загальну дорожню карту з контролю, але ще не завершили її.", "I do this because security work of this sort probably comes from a somewhat different allocation of people than the people who work on ML research or who build internal software tools to help with ensuring control. In practice, all or large parts of control might end up being the responsibility of the security team; regardless, a bunch of ML expertise will be relevant.": "Я роблю це тому, що робота з безпеки такого роду, ймовірно, виконується дещо іншим набором людей, ніж ті, хто займається ML-дослідженнями або створює внутрішні програмні інструменти для забезпечення контролю. На практиці весь контроль або значна його частина може зрештою стати відповідальністю команди безпеки; попри це, значна частина ML-експертизи все одно буде релевантною.", "Not being able to get a good understanding of whether or not we’ve succeeded isn’t ": "Неможливість отримати чітке розуміння того, чи вдалося нам досягти успіху, не є ", "Not being able to get a good understanding of whether or not we’ve succeeded isn’t": "Неможливість отримати чітке розуміння того, чи вдалося нам досягти успіху, не є", "necessarily": "обов'язково", " fatal (and not understanding whether we’ve succeeded might be the default for misalignment analogies).": " фатальною (і нерозуміння того, чи досягнуто успіху, може бути типовим станом для аналогій неузгодженості).", "fatal (and not understanding whether we’ve succeeded might be the default for misalignment analogies).": "фатальною (і нерозуміння того, чи досягнуто успіху, може бути типовим станом для аналогій неузгодженості).", "We discuss and give our estimates for how much existential risk is incurred conditional on not mitigating risk until various points in a section ": "Ми обговорюємо і наводимо наші оцінки того, наскільки великий екзистенційний ризик виникає за умови, що ризик не пом'якшується аж до різних моментів, у розділі ", "We discuss and give our estimates for how much existential risk is incurred conditional on not mitigating risk until various points in a section": "Ми обговорюємо і наводимо наші оцінки того, наскільки великий екзистенційний ризик виникає за умови, що ризик не пом'якшується аж до різних моментів, у розділі", "below": "нижче", "There is some nuance here: these transitions won’t necessarily hit at the same time: we could have AIs that we’re highly confident aren’t scheming while they are capable enough to greatly accelerate work (e.g., because their opaque reasoning abilities are too weak to scheme without this being obvious, but they use monitorable chain-of-thought to compensate) or we could have AIs which aren’t actually that useful for accelerating (safety) work, but which could plausibly be scheming and if they were scheming they’d by default able to mess with future training runs in catastrophic ways (perhaps because they are constructing tons of synthetic data for future training runs).": "Тут є певний нюанс: ці переходи не обов'язково відбудуться одночасно: у нас можуть бути ШІ, щодо яких ми маємо високу впевненість, що вони не займаються змовництвом, хоча вони достатньо здібні, щоб значно прискорити роботу (наприклад, тому що їхні непрозорі здібності до міркування занадто слабкі, щоб змовлятися непомітно, але вони використовують ланцюжок міркувань, який можна відстежити, щоб це компенсувати); або у нас можуть бути ШІ, які насправді не дуже корисні для прискорення роботи (з безпеки), але які цілком можуть займатися змовництвом, і якщо вони справді ним займаються, то за замовчуванням здатні катастрофічно втрутитися в майбутні прогони навчання (можливо, тому що вони створюють величезні обсяги синтетичних даних для майбутніх прогонів навчання).", "Another way of thinking about these priorities is to break failures down into two possibilities: (1) AIs could be scheming and attempt to deliberately wreck you, or (2) your AIs don’t live up to their potential in some way, e.g. they are too stupid to hand off to, so they can’t effectively manage the ongoing intelligence explosion, or they are smart enough but not well elicited.": "Інший спосіб подумати про ці пріоритети — розбити збої на дві можливості: (1) ШІ можуть займатися змовництвом і навмисно намагатися вас знищити, або (2) ваші ШІ якимось чином не реалізують свій потенціал — наприклад, вони занадто нерозумні, щоб їм можна було передати повноваження, тож вони не можуть ефективно керувати поточним вибухом інтелекту, або вони достатньо розумні, але погано елісітовані.", "Which could, for example, happen if the AI builds tiny self replicating robots that can double on the order of hours or days. .": "Це може статися, наприклад, якщо ШІ створить крихітних роботів, здатних до самовідтворення, кількість яких може подвоюватися за проміжок часу порядку годин чи днів. .", "Specifically, we define: ": "Конкретніше, ми визначаємо: ", "Specifically, we define:": "Конкретніше, ми визначаємо:", ": Our biggest and hardest to resolve (known) misalignment problem is that even highly capable AIs produce low-quality but good looking outputs in domains which are hard-to-check or where humans experts have hard to resolve disagreements.": ": Наша найбільша і найважче розв'язна (з відомих) проблема неузгодженості полягає в тому, що навіть дуже здібні ШІ видають низькоякісні, але зовні переконливі результати в галузях, які важко перевірити, або де людські експерти мають важко розв'язні розбіжності.", "In reality, if we deeply understood the dynamics of how AI training led to capabilities and propensities being imbued into the AI system, of course, our probability mass would become much more concentrated. We’re not saying that the actual underlying risk is distributed in this way; we’re giving our subjective guesses of the distribution of risk is. So this just represents our uncertainty.": "Насправді, якби ми глибоко розуміли динаміку того, як навчання ШІ призводить до появи можливостей і схильностей у ШІ-системі, наша ймовірнісна маса, звісно, була б набагато більш зосередженою. Ми не стверджуємо, що реальний базовий ризик розподілений саме так; ми лише наводимо наші суб'єктивні припущення щодо розподілу ризику. Тож це просто відображає нашу невизначеність.", "See the “using non-standard language” section of ": "Див. розділ «використання нестандартної мови» на ", "See the “using non-standard language” section of": "Див. розділ «використання нестандартної мови» на", " website. We assume that there is not more than this level of garbled text (occasionally using words that are uncommon, but the overall gist of the text is almost always understandable).": " сайті. Ми припускаємо, що спотвореного тексту буде не більше за цей рівень (з випадковим використанням нетипових слів, але загальний зміст тексту майже завжди залишається зрозумілим).", "website. We assume that there is not more than this level of garbled text (occasionally using words that are uncommon, but the overall gist of the text is almost always understandable).": "сайті. Ми припускаємо, що спотвореного тексту буде не більше за цей рівень (з випадковим використанням нетипових слів, але загальний зміст тексту майже завжди залишається зрозумілим).", "Before, your safety case was mostly predicated on inability arguments.": "Раніше ваше обґрунтування безпеки здебільшого базувалося на аргументах про нездатність.", "Probably. The main way this could not be true is if inference time scaling ends up being really important, and so the intelligence explosion is initiated by a tiny number of AIs that are so expensive to run that AI companies can only run a few copies at once. Even in this world, we’d guess that the cost of intelligence will continue to fall rapidly, so it will quickly become a regime with huge numbers of smart AIs running around.": "Ймовірно. Головний спосіб, яким це може виявитися неправдою, — якщо масштабування під час інференсу виявиться справді важливим, і тоді вибух інтелекту буде ініційовано невеликою кількістю ШІ, чий запуск настільки дорогий, що ШІ-компанії зможуть одночасно запускати лише кілька копій. Але навіть у такому світі ми припускаємо, що вартість інтелекту продовжить швидко падати, тож незабаром настане режим із величезною кількістю розумних ШІ, що працюють одночасно.", "Obviously, this isn’t sufficient. If a wildly superhuman AI is misaligned, they’ll probably figure out some attack strategy for which the monitors can tell no human would have come up with.": "Очевидно, цього недостатньо. Якщо шалено надлюдський ШІ буде неузгодженим, він, імовірно, вигадає таку стратегію атаки, про яку монітори зможуть сказати, що жодна людина не змогла б її придумати.", "Note that it’s almost always fine to train the monitor on examples of scheming that were caught.": "Зауважте, що навчати монітор на прикладах виявленого змовництва майже завжди прийнятно.", "One alternative is: ": "Одна з альтернатив: ", "One alternative is:": "Одна з альтернатив:", "Prefix cache untrusted monitors as a proposal for what to do after you catch your model": "Кешування префіксів для ненадійних моніторів — пропозиція щодо того, що робити після викриття вашої моделі", "This is the integral from zero to one of $\\left(b\\left(\\frac{f}{b}\\right)^{x}\\right)^{0.75}$ where a is the initial safety R&D labor speed up and b is the final speed up.": "Це інтеграл від нуля до одиниці від $\\left(b\\left(\\frac{f}{b}\\right)^{x}\\right)^{0.75}$, де a — початкове прискорення роботи над безпековими AI R&D, а b — кінцеве прискорення.", "The risk of scheming increases because (1) alignment techniques might stop scaling as you get to more capable AIs and (2) there are a priori reasons to expect scheming to be more likely as you increase capabilities because the more capable AIs are more likely to do instrumental reasoning, discard priors/personas from pretraining, reflect / generalize in unforeseen ways, etc.": "Ризик змовництва зростає, тому що (1) методи узгодження можуть перестати масштабуватися в міру переходу до більш здібних ШІ, і (2) є апріорні підстави очікувати, що змовництво ставатиме ймовірнішим зі зростанням можливостей, оскільки більш здібні ШІ з більшою ймовірністю вдаватимуться до інструментального міркування, відкидатимуть пріори/персони, засвоєні під час попереднього навчання, рефлексуватимуть/узагальнюватимуть непередбачуваними способами тощо.", "Specifically, this refers to MIE-handoff defined below.": "Конкретніше, це стосується MIE-передачі повноважень, визначеної нижче.", "If we don’t use principled techniques, then we would need to assume that mundane/natural distribution shifts that occur over time are unlikely on their own (without alignment faking, data poisoning, or hijacks) to result in our behavioral tests being highly misleading (at least if we do a good job with behavioral tests). That said, we will probably want to use behavioral tests which are very different from how the AI is deployed to assess some aspects of alignment or capabilities, and there will necessarily be a massive (and potentially salient) distribution shift between these tests and actual deference. Therefore, we’ll want some reasons to argue that our techniques will generalize.": "Якщо ми не використовуємо принципові методи, нам доведеться припускати, що звичайні/природні зсуви розподілу, які відбуваються з часом, самі по собі (без імітації узгодженості, отруєння даних чи перехоплень) навряд чи призведуть до того, що наші поведінкові тести стануть дуже оманливими (принаймні якщо ми якісно проведемо ці поведінкові тести). Утім, ми, ймовірно, захочемо використовувати поведінкові тести, які дуже відрізняються від реальних умов розгортання ШІ, щоб оцінити деякі аспекти узгодженості чи можливостей, і між цими тестами й фактичним підпорядкуванням неминуче виникне суттєвий (і потенційно помітний) зсув розподілу. Тому нам знадобляться підстави стверджувати, що наші методи узагальнюватимуться.", "However, at least some AI companies (e.g. ": "Однак принаймні деякі ШІ-компанії (наприклад, ", "However, at least some AI companies (e.g.": "Однак принаймні деякі ШІ-компанії (наприклад,", "OpenAI": "OpenAI", ") are already aiming for handoff. Overall, I (TL) take this to be a good sign, because it’s indicating some forward thinking about the future. However, it’s also important to note that handing off control of an AI company that is undergoing an intelligence explosion is an extremely dangerous and reckless thing to do. While circumstances might make this the optimal strategy (as in Plan C), it still would be very preferable to find a better plan instead.": ") уже зараз орієнтуються на передачу повноважень. Загалом я (TL) вважаю це доброю ознакою, оскільки це свідчить про певне випереджувальне мислення щодо майбутнього. Однак важливо також зазначити, що передача контролю над ШІ-компанією, яка переживає вибух інтелекту, — це вкрай небезпечна й безрозсудна дія. Хоча обставини можуть зробити це оптимальною стратегією (як у Плані C), все одно було б значно кращим знайти натомість кращий план.", "By corrigible to some group, I mean that the AI follows orders from this group and is honest to this group, this group can change the spec, and the AI doesn’t interfere with this group’s ability to do these things or attempt to manipulate this group (and in fact it actively tries to prevent interference and manipulation, including from e.g. future AIs it creates). I won’t discuss exactly what this spec should look like and what group or structure should control the AI as the rest of the content of this post doesn’t depend on this. (As an alternative to corrigibility, we could aim to have an AI which directly pursues good outcomes, some notion of humanity’s CEV, or something like this. This is sometimes called an aligned sovereign. However, this poses a number of additional difficulties and risks, so I think by default this proposal is substantially worse than using an AI to preserve option value while retaining corrigibility.)": "Під «коригованим» стосовно певної групи я маю на увазі, що ШІ виконує накази цієї групи і чесний із нею, ця група може змінювати Спек, і ШІ не заважає здатності цієї групи робити ці речі і не намагається нею маніпулювати (і насправді активно намагається запобігти втручанню та маніпуляціям, зокрема з боку, наприклад, майбутніх ШІ, яких він створює). Я не обговорюватиму детально, як саме має виглядати цей Спек і яка група чи структура має контролювати ШІ, оскільки решта змісту цього посту від цього не залежить. (Як альтернативу коригованості ми могли б прагнути мати ШІ, який безпосередньо переслідує хороші результати, якесь уявлення про CEV людства, або щось подібне. Це іноді називають узгодженим сувереном (aligned sovereign). Однак це створює низку додаткових труднощів і ризиків, тож, на мою думку, за замовчуванням ця пропозиція суттєво гірша за використання ШІ для збереження цінності опціональності при збереженні коригованості.)", "Note that Karnofsky, Carlsmith, and Bowman all work at Anthropic. Unfortunately, I (Thomas) am not aware of similarly detailed plans produced by any other AI company; if there were others, we would have included them.": "Зауважте, що Karnofsky, Carlsmith і Bowman усі працюють в Anthropic. На жаль, мені (Thomas) не відомо про подібно деталізовані плани, розроблені якоюсь іншою ШІ-компанією; якби такі існували, ми б їх включили.", "Overview": "Огляд", "High level strategy": "Стратегія високого рівня", "Overall shape of the trajectory": "Загальна форма траєкторії", "Stage 1: Scale until max-controllable-AI": "Стадія 1: Масштабування до максимально контрольованого ШІ", "Stage 2: Slow down nearly to a halt, then eventually hand off to AIs": "Етап 2: сповільнення майже до зупинки, а згодом передача керування ШІ", "Costs of taking more time to scale": "Витрати від того, щоб витрачати більше часу на масштабування", "Stage 1: Scale to max-controllable-AI": "Стадія 1: Масштабування до максимально контрольованого ШІ", "Benefits and costs of going slowly": "Переваги та витрати повільного руху", "What to do if a covert project seems unlikely": "Що робити, якщо таємний проєкт видається малоймовірним", "Target year’s effect on risk probabilities": "Вплив цільового року на ймовірності ризиків", "Badness of risks": "Тяжкість ризиків", "Summing up": "Підсумовуючи", "Concrete case study of possible 2040 handoff decisions": "Конкретний приклад можливих рішень щодо передачі повноважень у 2040 році", "Trajectory of estimated alignment probability": "Траєкторія оціненої ймовірності узгодженості", "Plan A vs. Plan D capability trajectory": "Траєкторія можливостей: План А проти Плану D", " AI R&D uplift": " приріст AI R&D", "AI R&D uplift": "приріст AI R&D", "Wildly Superintelligent": "Шалено суперінтелектуальний", "Plan A — capability-shaped uplifts": "План А — приріст, що масштабується разом із можливостями", " realized uplift": " реалізоване прискорення", "realized uplift": "реалізоване прискорення", "Max-controllable AI": "Максимально контрольований ШІ", "2040: handoff": "2040: передача керування", "late 2029": "кінець 2029", "late 2034": "кінець 2034", "no deal — intelligence explosion": "без угоди — вибух інтелекту", "slowdown deal — controlled takeoff": "угода про сповільнення — контрольований зліт", "In the Plan A scenario, why does the Consortium choose to steadily increase capabilities until reaching top-expert-dominating AI (TED-AI) in 2035, then slow down nearly to a pause until handing off to these AIs in 2040? This supplement describes the high level strategy for scaling capabilities and the reasoning behind them.": "У сценарії Плану А чому Консорціум вирішує стабільно нарощувати можливості, поки не досягне ШІ, що домінує над найкращими експертами (TED-AI), у 2035 році, а потім сповільнюється майже до паузи, аж поки не передасть повноваження цим ШІ у 2040 році? Цей додаток описує стратегію масштабування можливостей високого рівня та обґрунтування, що стоїть за нею.", "In one sentence, the high-level scaling strategy in Plan A is to scale as quickly as possible subject to maintaining high confidence that the scaling is safe. In more detail:": "Одним реченням: стратегія масштабування високого рівня в Плані А полягає в тому, щоб масштабуватися якомога швидше за умови збереження високої впевненості в тому, що масштабування безпечне. Детальніше:", "I discuss": "Я обговорюю", " the high level capability scaling strategy used in Plan A and the reasoning behind it. I split the strategy into 2 stages:": " стратегію масштабування можливостей високого рівня, використану в Плані А, та обґрунтування, що стоїть за нею. Я поділяю стратегію на 2 стадії:", "the high level capability scaling strategy used in Plan A and the reasoning behind it. I split the strategy into 2 stages:": "стратегію масштабування можливостей високого рівня, використану в Плані А, та обґрунтування, що стоїть за нею. Я поділяю стратегію на 2 стадії:", "Scale until you’re close to max-controllable-AI": "Масштабуватися, поки не наблизитеся до максимально контрольованого ШІ", ", i.e. the maximally capable AI that we are confident we can prevent from causing a catastrophe even if they were misaligned. We predict in the scenario that the max-controllable-AI is roughly TED-AI.": ", тобто максимально здібного ШІ, щодо якого ми впевнені, що зможемо запобігти катастрофі, навіть якщо він виявиться неузгодженим. У сценарії ми прогнозуємо, що максимально контрольований ШІ приблизно відповідає TED-AI.", "Slow down": "Сповільнитися", " nearly to a halt, then eventually ": " майже до зупинки, а потім, зрештою, ", "nearly to a halt, then eventually": "майже до зупинки, а потім, зрештою,", "hand off to AIs": "передати повноваження ШІ", "Then ": "Потім ", "Then": "Потім", " the costs of taking more time to scale capabilities, most importantly ": " витрати від того, щоб витрачати більше часу на масштабування можливостей, найважливішою з яких є ", "the costs of taking more time to scale capabilities, most importantly": "витрати від того, щоб витрачати більше часу на масштабування можливостей, найважливішою з яких є", "deal decline": "занепад угоди", " risk.": ".", "risk.": ".", "Finally, I discuss in more detail the recommended strategy for ": "Насамкінець я детальніше обговорюю рекомендовану стратегію для ", "Finally, I discuss in more detail the recommended strategy for": "Насамкінець я детальніше обговорюю рекомендовану стратегію для", "Stage 1": "Стадії 1", "Stage 2": "Стадії 2", "In practice, much more analysis should be done to decide the best strategies than that which we’ve done for this supplement, and furthermore these strategies should be adjusted as information comes in during the execution of Plan A. I’ll describe my current best guess.": "На практиці для визначення найкращих стратегій варто провести значно більше аналізу, ніж той, що ми зробили для цього додатка, і крім того ці стратегії слід коригувати в міру надходження нової інформації під час виконання Плану А. Я опишу свою поточну найкращу оцінку.", "I’m confident that we’ve identified the most important considerations pushing toward scaling slower, and I’m moderately but not highly confident that the high-level strategies we describe are correct. I’m not confident in any precise quantitative estimates.": "Я впевнений, що ми визначили найважливіші фактори, які підштовхують до повільнішого масштабування, і помірно, але не дуже впевнений, що описані нами стратегії високого рівня правильні. Я не впевнений у жодних точних кількісних оцінках.", "We choose to scale up at all rather than pause indefinitely because of the ": "Ми обираємо все ж масштабуватися, а не призупинятися на невизначений термін, через ", "We choose to scale up at all rather than pause indefinitely because of the": "Ми обираємо все ж масштабуватися, а не призупинятися на невизначений термін, через", "costs of going slowly": "витрати повільного руху", ", most importantly ": ", найголовніше — ", ", most importantly": ", найголовніше —", ", i.e. the risk that the slowdown deal dissolves or becomes less effective.": ", тобто ризик того, що угода про сповільнення розпадеться або стане менш ефективною.", "We aim for a trajectory shaped like the following:": "Ми прагнемо до траєкторії такої форми:", "Plan A spends more time at higher capability levels than a uniformly slowed intelligence explosion": "План А проводить більше часу на вищих рівнях можливостей, ніж рівномірно сповільнений вибух інтелекту", "2029: two ways to slow down": "2029: два способи сповільнитися", "early 2035": "початок 2035", "Uniform slowdown": "Рівномірне сповільнення", "uniformly slower uncontrolled intelligence explosion": "рівномірно повільніший неконтрольований вибух інтелекту", "We break Plan A into 2 high-level stages:": "Ми розбиваємо План А на 2 етапи високого рівня:", "Stage 1: ": "Етап 1: ", "Stage 1:": "Етап 1:", "Scale until max-controllable-AI": "Масштабуватися до max-controllable-AI", "Stage 2: ": "Етап 2: ", "Stage 2:": "Етап 2:", "Slow down nearly to a halt, then eventually hand off to AIs": "Сповільнитися майже до зупинки, а потім врешті-решт передати повноваження ШІ", "This produces a curve that first increases relatively quickly, though still slower than in an uncontrolled intelligence explosion, and then slows down to near a halt for a while. This contrasts with what we’d get if the intelligence explosion were slowed uniformly.": "Це створює криву, яка спершу зростає відносно швидко, хоча все ж повільніше, ніж у неконтрольованому вибуху інтелекту, а потім на деякий час сповільнюється майже до зупинки. Це контрастує з тим, що ми б отримали, якби вибух інтелекту сповільнювався рівномірно.", "We choose to aim for this sort of curve because we want to spend as much time as possible with AIs that are very useful for important applications, such as alignment, epistemics, and ": "Ми обираємо саме таку криву, тому що хочемо провести якомога більше часу з ШІ, які дуже корисні для важливих застосувань, як-от узгодження, епістеміка та ", "We choose to aim for this sort of curve because we want to spend as much time as possible with AIs that are very useful for important applications, such as alignment, epistemics, and": "Ми обираємо саме таку криву, тому що хочемо провести якомога більше часу з ШІ, які дуже корисні для важливих застосувань, як-от узгодження, епістеміка та", "stabilizing the deal.": "стабілізація угоди.", " And we think that going this fast early is manageable while maintaining high confidence in safety.": " І ми вважаємо, що рухатися так швидко на початку можна, зберігаючи при цьому високу впевненість у безпеці.", "And we think that going this fast early is manageable while maintaining high confidence in safety.": "І ми вважаємо, що рухатися так швидко на початку можна, зберігаючи при цьому високу впевненість у безпеці.", "During this stage the Consortium scales capabilities until a bit below ": "На цьому етапі Консорціум масштабує можливості до рівня трохи нижче ", "During this stage the Consortium scales capabilities until a bit below": "На цьому етапі Консорціум масштабує можливості до рівня трохи нижче", "max-controllable-AI": "максимально контрольованого ШІ", " then ~pauses further scaling.": " а потім ~призупиняє подальше масштабування.", "then ~pauses further scaling.": "а потім ~призупиняє подальше масштабування.", " Max-controllable-AI is the maximum capability level at which we are confident that we maintain ": " Max-controllable-AI — це максимальний рівень можливостей, за якого ми впевнені, що зберігаємо ", "Max-controllable-AI is the maximum capability level at which we are confident that we maintain": "Max-controllable-AI — це максимальний рівень можливостей, за якого ми впевнені, що зберігаємо", "control": "експортного контролю", " over the AIs, i.e. the property that the AIs couldn’t cause catastrophic harm even if they wanted to.": " над ШІ, тобто властивість, за якої ШІ не зміг би завдати катастрофічної шкоди, навіть якби захотів.", "over the AIs, i.e. the property that the AIs couldn’t cause catastrophic harm even if they wanted to.": "над ШІ, тобто властивість, за якої ШІ не зміг би завдати катастрофічної шкоди, навіть якби захотів.", " We think that this level will be approximately Top-Expert-Dominating AI (TED-AI), i.e. AIs that are at least as good as top humans at every cognitive task.": " Ми вважаємо, що цей рівень приблизно відповідатиме Top-Expert-Dominating AI (TED-AI), тобто ШІ, які принаймні не гірші за найкращих людей у кожному когнітивному завданні.", "We think that this level will be approximately Top-Expert-Dominating AI (TED-AI), i.e. AIs that are at least as good as top humans at every cognitive task.": "Ми вважаємо, що цей рівень приблизно відповідатиме Top-Expert-Dominating AI (TED-AI), тобто ШІ, які принаймні не гірші за найкращих людей у кожному когнітивному завданні.", "Strategy:": "Стратегія:", " Our best guess is that the Consortium will have a fairly good idea of whether there’s a covert project or not, even though they may not be able to prove it, based on how much compute is unaccounted for. We also predict that there probably won’t be a covert project. ": " Наша найкраща оцінка полягає в тому, що Консорціум матиме досить чітке уявлення про те, чи існує таємний проєкт, навіть якщо не зможе це довести, — на основі того, скільки обчислювальних потужностей залишаються неврахованими. Ми також прогнозуємо, що таємного проєкту, ймовірно, не буде. ", "Our best guess is that the Consortium will have a fairly good idea of whether there’s a covert project or not, even though they may not be able to prove it, based on how much compute is unaccounted for. We also predict that there probably won’t be a covert project.": "Наша найкраща оцінка полягає в тому, що Консорціум матиме досить чітке уявлення про те, чи існує таємний проєкт, навіть якщо не зможе це довести, — на основі того, скільки обчислювальних потужностей залишаються неврахованими. Ми також прогнозуємо, що таємного проєкту, ймовірно, не буде.", "If the Consortium thinks there’s likely a covert project but shares our current best guess regarding covert project detection (~60% chance within 5 years), then it’s a close call as to whether they should go slower than they otherwise would due to covert projects. If they are substantially more pessimistic than our current best guess about detection, then they should slow down in order to avoid making lots of software progress, hence taking at least ~5 years in Stage 1.": "Якщо Консорціум вважає таємний проєкт імовірним, але поділяє нашу поточну найкращу оцінку щодо його виявлення (~60% шансів протягом 5 років), то питання, чи варто через таємні проєкти рухатися повільніше, ніж інакше, — досить неоднозначне. Якщо ж вони суттєво песимістичніші за нашу поточну оцінку щодо виявлення, їм слід сповільнитися, щоб уникнути значного прогресу програмного забезпечення, а отже витратити на Етап 1 щонайменше ~5 років.", "If they are instead more optimistic, then the limiting factors on their speed should instead be maintaining high confidence in control and avoiding destabilization.": "Якщо ж вони, навпаки, оптимістичніші, то обмежувальними факторами для їхньої швидкості мають натомість бути збереження високої впевненості у контролі та уникнення дестабілізації.", " The benefits of scaling quickly are (a) the Consortium gets more capable AIs to automate useful work and to use as experimental subjects and (b) lower risk of ": " Переваги швидкого масштабування такі: (a) Консорціум отримує більш здатні ШІ для автоматизації корисної роботи та використання як експериментальних об’єктів, і (b) нижчий ризик ", "The benefits of scaling quickly are (a) the Consortium gets more capable AIs to automate useful work and to use as experimental subjects and (b) lower risk of": "Переваги швидкого масштабування такі: (a) Консорціум отримує більш здатні ШІ для автоматизації корисної роботи та використання як експериментальних об’єктів, і (b) нижчий ризик", "Once the Consortium has AIs that are capable enough such that it is difficult to control them, they slow down (close to a pause) for a while. Then they hand off to the AIs, relaxing control measures.": "Щойно Консорціум отримує ШІ, достатньо здатні, щоб їх стало важко контролювати, вони на деякий час сповільнюються (майже до паузи). Потім вони передають повноваження ШІ, послаблюючи заходи контролю.", " By relaxing control measures, I mean that we can give AIs more ability to get things done, at the cost of increasing the chance they could take over the world if they were misaligned. For simplicity, in this supplement I model handoff as binary.": " Під послабленням заходів контролю я маю на увазі, що ми можемо надати ШІ більше можливостей досягати результатів, ціною підвищення ймовірності того, що вони захоплять владу у світі, якби були неузгодженими. Для простоти в цьому додатку я моделюю передачу повноважень як бінарну величину.", "By relaxing control measures, I mean that we can give AIs more ability to get things done, at the cost of increasing the chance they could take over the world if they were misaligned. For simplicity, in this supplement I model handoff as binary.": "Під послабленням заходів контролю я маю на увазі, що ми можемо надати ШІ більше можливостей досягати результатів, ціною підвищення ймовірності того, що вони захоплять владу у світі, якби були неузгодженими. Для простоти в цьому додатку я моделюю передачу повноважень як бінарну величину.", "Strategy: Approximately, the strategy is to wait until the Consortium has high confidence that the AIs are aligned, then hand off.": "Стратегія: приблизно кажучи, стратегія полягає в тому, щоб чекати, поки Консорціум не матиме високої впевненості, що ШІ узгоджені, а потім передати повноваження.", " More precisely, the Consortium should wait until the benefits of delaying to increase the chance that the AIs are aligned are outweighed by various risks: the ": " Точніше, Консорціуму слід чекати, доки переваги затримки — заради підвищення ймовірності того, що ШІ узгоджені, — не переважать різні ризики: ", "More precisely, the Consortium should wait until the benefits of delaying to increase the chance that the AIs are aligned are outweighed by various risks: the": "Точніше, Консорціуму слід чекати, доки переваги затримки — заради підвищення ймовірності того, що ШІ узгоджені, — не переважать різні ризики:", "deal declining": "занепад угоди", " reaching dangerous capabilities, or other existential risks such as pandemics; I think that deal declining is a much bigger factor in Stage 2. Roughly, you should hand off once either of the following is true (see more ": ", які досягають небезпечних можливостей, або інші екзистенційні ризики, такі як пандемії; я вважаю, що занепад угоди — набагато вагоміший фактор на Етапі 2. Приблизно кажучи, слід передавати повноваження, щойно виконується одна з наведених нижче умов (докладніше ", "reaching dangerous capabilities, or other existential risks such as pandemics; I think that deal declining is a much bigger factor in Stage 2. Roughly, you should hand off once either of the following is true (see more": ", які досягають небезпечних можливостей, або інші екзистенційні ризики, такі як пандемії; я вважаю, що занепад угоди — набагато вагоміший фактор на Етапі 2. Приблизно кажучи, слід передавати повноваження, щойно виконується одна з наведених нижче умов (докладніше", "You have very high confidence that alignment has been solved, e.g. 99.5%, and thus marginal gains from further research are low (e.g., ~0.1%/year).": "У вас дуже висока впевненість, що узгодження вирішено, наприклад 99.5%, а отже граничний виграш від подальших досліджень низький (наприклад, ~0.1%/рік).", "You have somewhat high confidence that alignment has been solved, e.g. 95%, and thus marginal gains from further research are a little higher (e.g., ~1%/year). However, the Plan A deal seems somewhat unstable. E.g., if there were >5%/year chance of deal decline, that would point toward a handoff.": "У вас дещо висока впевненість, що узгодження вирішено, наприклад 95%, а отже граничний виграш від подальших досліджень трохи вищий (наприклад, ~1%/рік). Однак угода Плану А видається дещо нестабільною. Наприклад, якщо ймовірність занепаду угоди становить >5%/рік, це вказувало б на потребу передати повноваження.", "The following are the biggest costs of taking longer to increase capabilities in Stage 1, or taking longer to hand off to AIs in Stage 2.": "Нижче наведено найбільші витрати від того, щоб довше нарощувати можливості на Етапі 1 або довше зволікати з передачею повноважень ШІ на Етапі 2.", "First, the deal might dissolve or get worse. We call this ": "По-перше, угода може розпастися або погіршитися. Ми називаємо це ", "First, the deal might dissolve or get worse. We call this": "По-перше, угода може розпастися або погіршитися. Ми називаємо це", " and it encompasses both of:": " і це охоплює обидва варіанти:", "and it encompasses both of:": "і це охоплює обидва варіанти:", "Deal dissolution.": "Розпуск угоди.", " The deal is officially dissolved.": " Угода офіційно розпускається.", "The deal is officially dissolved.": "Угода офіційно розпускається.", "Deal impairment.": "Ослаблення угоди.", " The deal becomes substantially less effective than if it were implemented well and adhered to, but isn’t dissolved. Ways the deal could be impaired:": " Угода стає суттєво менш ефективною, ніж якби вона добре виконувалась і дотримувалась, але не розривається. Способи, якими угода може бути ослаблена:", "The deal becomes substantially less effective than if it were implemented well and adhered to, but isn’t dissolved. Ways the deal could be impaired:": "Угода стає суттєво менш ефективною, ніж якби вона добре виконувалась і дотримувалась, але не розривається. Способи, якими угода може бути ослаблена:", "Deal non-enforcement.": "Незастосування угоди.", " The deal is not enforced as strongly as before, e.g. a country blatantly not complying is not punished. This leads to increased violations of the letter of the deal.": " Угода не застосовується так суворо, як раніше, наприклад, країну, що відверто не дотримується угоди, не карають. Це веде до зростання порушень букви угоди.", "The deal is not enforced as strongly as before, e.g. a country blatantly not complying is not punished. This leads to increased violations of the letter of the deal.": "Угода не застосовується так суворо, як раніше, наприклад, країну, що відверто не дотримується угоди, не карають. Це веде до зростання порушень букви угоди.", "Deal misexecution.": "Неналежне виконання угоди.", " The letter of the deal is followed but is executed poorly.": " Буква угоди дотримується, але виконується погано.", "The letter of the deal is followed but is executed poorly.": "Буква угоди дотримується, але виконується погано.", "Deal revision.": "Перегляд угоди.", " The deal is explicitly edited to be worse. This could be straightforward weakening, but it could also be making it worse in other ways, such as unnecessarily increasing surveillance.": " Угода явно змінюється на гірше. Це може бути пряме послаблення, але також може погіршувати угоду в інший спосіб, наприклад невиправдано посилюючи спостереження.", "The deal is explicitly edited to be worse. This could be straightforward weakening, but it could also be making it worse in other ways, such as unnecessarily increasing surveillance.": "Угода явно змінюється на гірше. Це може бути пряме послаблення, але також може погіршувати угоду в інший спосіб, наприклад невиправдано посилюючи спостереження.", "See the ": "Див. ", "See the": "Див.", "deal decline supplement": "додатку про розпад Угоди", " for more info.": " для докладнішої інформації.", "for more info.": "для докладнішої інформації.", "Second, there are risks from illegal model usage in ": "По-друге, існують ризики від нелегального використання моделей у ", "Second, there are risks from illegal model usage in": "По-друге, існують ризики від нелегального використання моделей у", " by state actors or terrorists.": " державними суб’єктами або терористами.", "by state actors or terrorists.": "державними суб’єктами або терористами.", " If covert projects possess capabilities that would be catastrophic if in the hands of misaligned AIs or bad actors, AI takeover and misuse risks are higher. For Stage 1, unlike in Stage 2, the Consortium should (within plausible Stage 1 lengths) go ": " Якщо таємні проєкти володіють можливостями, які були б катастрофічними в руках неузгоджених ШІ чи зловмисників, ризики захоплення влади ШІ та зловживання ним вищі. Для Етапу 1, на відміну від Етапу 2, Консорціуму слід (у межах правдоподібної тривалості Етапу 1) рухатися ", "If covert projects possess capabilities that would be catastrophic if in the hands of misaligned AIs or bad actors, AI takeover and misuse risks are higher. For Stage 1, unlike in Stage 2, the Consortium should (within plausible Stage 1 lengths) go": "Якщо таємні проєкти володіють можливостями, які були б катастрофічними в руках неузгоджених ШІ чи зловмисників, ризики захоплення влади ШІ та зловживання ним вищі. Для Етапу 1, на відміну від Етапу 2, Консорціуму слід (у межах правдоподібної тривалості Етапу 1) рухатися", " to beat the covert projects; going too fast requires making lots of software progress which helps the covert projects. More discussion ": " щоб випередити таємні проєкти; надто швидкий рух вимагає значного прогресу програмного забезпечення, який допомагає таємним проєктам. Докладніше про це ", "to beat the covert projects; going too fast requires making lots of software progress which helps the covert projects. More discussion": "щоб випередити таємні проєкти; надто швидкий рух вимагає значного прогресу програмного забезпечення, який допомагає таємним проєктам. Докладніше про це", "Finally, there is direct pre-handoff existential risk incurred before handing off to AIs.": "Нарешті, існує прямий екзистенційний ризик до передачі повноважень, що виникає ще до того, як повноваження передадуть ШІ.", " This doesn’t include risks from covert projects. This can be split into:": " Це не включає ризики від таємних проєктів. Це можна розділити на:", "This doesn’t include risks from covert projects. This can be split into:": "Це не включає ризики від таємних проєктів. Це можна розділити на:", "Risks from use of legal (i.e. non-covert) model capabilities.": "Ризики від використання легальних (тобто нетаємних) можливостей моделей.", "Risks not derived from legal model capabilities. For example, asteroid risk or a nuclear war not causally downstream of legal frontier AIs.": "Ризики, не пов’язані з легальними можливостями моделей. Наприклад, ризик астероїда чи ядерної війни, що не є причинним наслідком легальних передових ШІ.", "Additionally, there are shifts in the world not driven by the deal, which could be either a cost or benefit of going slowly.": "Крім того, у світі відбуваються зрушення, не пов’язані з угодою, які можуть бути як витратою, так і перевагою повільного руху.", " For example, the balance of power could shift so that authoritarian countries have more power relative to democratic countries, or vice versa.": " Наприклад, баланс сил може змінитися так, що авторитарні країни отримають більше влади відносно демократичних країн, або навпаки.", "For example, the balance of power could shift so that authoritarian countries have more power relative to democratic countries, or vice versa.": "Наприклад, баланс сил може змінитися так, що авторитарні країни отримають більше влади відносно демократичних країн, або навпаки.", "During Stage 1 our goal is to decide on a policy for how quickly we should scale training compute and make software progress in the run-up to max-controllable-AI. That is, we want to set a trajectory that has a target end date at which max-controllable-AI is reached, and specify the split of training/software progress at each point. We consider only strategies that specify in advance a target end date and then scale throughout all of Stage 1 toward that date, for simplicity and tractability. In practice the Consortium’s strategy should be adjusted over the course of Stage 1 as they get more information.": "На Етапі 1 наша мета — визначити політику щодо того, наскільки швидко варто нарощувати обчислювальні потужності для навчання та прогрес програмного забезпечення на шляху до max-controllable-AI. Тобто ми хочемо задати траєкторію із цільовою кінцевою датою, на яку досягається max-controllable-AI, і визначити розподіл прогресу навчання/програмного забезпечення в кожній точці. Для простоти й керованості ми розглядаємо лише стратегії, які заздалегідь визначають цільову кінцеву дату, а потім масштабуються протягом усього Етапу 1 у напрямку цієї дати. На практиці стратегію Консорціуму слід коригувати протягом Етапу 1 у міру надходження нової інформації.", "We also need to decide the ": "Нам також потрібно визначити ", "We also need to decide the": "Нам також потрібно визначити", "training compute safety tax": "податок на безпеку через обчислювальні потужності для навчання", " that we’d like to pay, i.e. the difference between the amount of compute actually used on a training run to reach a given capability level, and the minimum amount of compute required to reach that capability. Paying a higher safety tax means using safer training algorithms at the cost of involving making extra software progress that goes unused but leaks to ": ", який ми хотіли б сплатити, тобто різницю між обсягом обчислювальних потужностей, фактично витрачених на прогін навчання для досягнення певного рівня можливостей, і мінімальним обсягом обчислювальних потужностей, необхідним для досягнення цих можливостей. Сплата вищого податку безпеки означає використання безпечніших алгоритмів навчання ціною додаткового прогресу програмного забезпечення, який залишається невикористаним, але просочується до ", "that we’d like to pay, i.e. the difference between the amount of compute actually used on a training run to reach a given capability level, and the minimum amount of compute required to reach that capability. Paying a higher safety tax means using safer training algorithms at the cost of involving making extra software progress that goes unused but leaks to": ", який ми хотіли б сплатити, тобто різницю між обсягом обчислювальних потужностей, фактично витрачених на прогін навчання для досягнення певного рівня можливостей, і мінімальним обсягом обчислювальних потужностей, необхідним для досягнення цих можливостей. Сплата вищого податку безпеки означає використання безпечніших алгоритмів навчання ціною додаткового прогресу програмного забезпечення, який залишається невикористаним, але просочується до", "The primary costs of going slowly in Stage 1 are:": "Основні витрати повільного руху на Етапі 1:", "Those laid out ": "Ті, що викладені ", "Those laid out": "Ті, що викладені", "above": "вище", " risk from deal decline due to taking longer, covert projects (if paused for a very long time), and direct existential risks.": " — ризик занепаду угоди через довше зволікання, таємні проєкти (якщо пауза триває дуже довго), і прямі екзистенційні ризики.", "risk from deal decline due to taking longer, covert projects (if paused for a very long time), and direct existential risks.": "— ризик занепаду угоди через довше зволікання, таємні проєкти (якщо пауза триває дуже довго), і прямі екзистенційні ризики.", "Missing out on time with more capable AIs": "Втрата часу з більш здатними ШІ", ", which can be used to automate useful work (alignment, control, ": ", який можна використати для автоматизації корисної роботи (узгодження, контроль, ", ", which can be used to automate useful work (alignment, control,": ", який можна використати для автоматизації корисної роботи (узгодження, контроль,", ", etc.) and be used as experimental subjects. These AIs could also help stabilize the deal, reducing risk of decline per year.": ", тощо) та застосувати як експериментальні об’єкти. Ці ШІ також могли б допомогти стабілізувати угоду, знижуючи ризик занепаду за рік.", "The primary benefits of going slowly in Stage 1 are:": "Основні переваги повільного руху на Етапі 1:", "A lower fraction of progress comes from software improvements. This is good because software improvements can be copied by ": "Менша частка прогресу походить від вдосконалень програмного забезпечення. Це добре, оскільки вдосконалення програмного забезпечення можуть бути скопійовані ", "A lower fraction of progress comes from software improvements. This is good because software improvements can be copied by": "Менша частка прогресу походить від вдосконалень програмного забезпечення. Це добре, оскільки вдосконалення програмного забезпечення можуть бути скопійовані", " Software progress and training compute scaling are the two sources of progress. Software progress is mostly made public, meaning it diffuses to ": " Прогрес програмного забезпечення та масштабування обчислювальних потужностей для навчання — це два джерела прогресу. Прогрес програмного забезпечення здебільшого стає публічним, а отже поширюється до ", "Software progress and training compute scaling are the two sources of progress. Software progress is mostly made public, meaning it diffuses to": "Прогрес програмного забезпечення та масштабування обчислювальних потужностей для навчання — це два джерела прогресу. Прогрес програмного забезпечення здебільшого стає публічним, а отже поширюється до", ". This means that despite covert projects being a reason that you ": ". Це означає, що хоча таємні проєкти є причиною, через яку вам ", ". This means that despite covert projects being a reason that you": ". Це означає, що хоча таємні проєкти є причиною, через яку вам", "eventually": "врешті-решт", " should scale to superintelligence, they are a reason you should scale ": " слід масштабуватися до суперінтелекту, вони є причиною, чому вам слід масштабуватися ", "should scale to superintelligence, they are a reason you should scale": "слід масштабуватися до суперінтелекту, вони є причиною, чому вам слід масштабуватися", " in Stage 1 unless you’re taking well over a decade.": " на Етапі 1, якщо тільки ви не плануєте витратити на це значно більше десятиліття.", "in Stage 1 unless you’re taking well over a decade.": "на Етапі 1, якщо тільки ви не плануєте витратити на це значно більше десятиліття.", "Less risk of AI takeover due to overestimating to what extent the AIs are controlled.": "Менший ризик захоплення влади ШІ через переоцінку того, наскільки ШІ контрольовані.", "Less destabilization, which could (among other things) potentially increase the chance of deal decline per year.": "Менша дестабілізація, яка (серед іншого) потенційно могла б підвищити ймовірність занепаду угоди за рік.", " An example of a destabilizing effect is if we scaled to AIs capable of superpersuasion and it wasn’t properly defended against, leading to degraded epistemics. However, as noted above, better AIs could also be stabilizing and reduce the annual risk of deal decline.": " Прикладом дестабілізаційного ефекту може бути масштабування до ШІ, здатних на суперпереконання, якщо від цього належно не захиститися, що призведе до погіршення епістеміки. Однак, як зазначено вище, кращі ШІ також можуть стабілізувати ситуацію та знижувати щорічний ризик занепаду угоди.", "An example of a destabilizing effect is if we scaled to AIs capable of superpersuasion and it wasn’t properly defended against, leading to degraded epistemics. However, as noted above, better AIs could also be stabilizing and reduce the annual risk of deal decline.": "Прикладом дестабілізаційного ефекту може бути масштабування до ШІ, здатних на суперпереконання, якщо від цього належно не захиститися, що призведе до погіршення епістеміки. Однак, як зазначено вище, кращі ШІ також можуть стабілізувати ситуацію та знижувати щорічний ризик занепаду угоди.", "The Consortium’s strategy is also constrained in that it might not be possible to avoid discovering software improvements, for 2 reasons: (a) some software improvements might be required to utilize increased amounts of compute, (b) doing lots of safety R&D likely inevitably leads to some capabilities externalities in the form of software progress. In our simulations, we require that the Consortium make 0.2 OOM of software progress for each OOM of training FLOP/s they gain, and that during Stage 2, the Consortium’s alignment research incurs capabilities externalities at a rate of 0.25 software OOMs/year.": "Стратегія Консорціуму також обмежена тим, що може виявитися неможливим уникнути відкриття вдосконалень програмного забезпечення, з 2 причин: (a) деякі вдосконалення програмного забезпечення можуть бути потрібні для використання зрослих обсягів обчислювальних потужностей, (b) активні дослідження та розробки (R&D) у сфері безпеки, ймовірно, неминуче призводять до певних зовнішніх ефектів на можливості у вигляді прогресу програмного забезпечення. У наших симуляціях ми вимагаємо, щоб Консорціум досягав 0.2 порядку величини прогресу програмного забезпечення на кожен здобутий порядок величини навчальних FLOP/s, і щоб на Етапі 2 дослідження узгодження Консорціуму спричиняли зовнішні ефекти на можливості зі швидкістю 0.25 порядку величини програмного забезпечення на рік.", "Our best guess is that the Consortium will have a fairly good idea of whether there’s a covert project or not, even though they may not be able to prove it, based on how much compute is unaccounted for. We also predict that there likely won’t be a covert project.": "Наша найкраща оцінка полягає в тому, що Консорціум матиме досить чітке уявлення про те, чи існує таємний проєкт, навіть якщо не зможе це довести, — на основі того, скільки обчислювальних потужностей залишаються неврахованими. Ми також прогнозуємо, що таємного проєкту, ймовірно, не буде.", "If it seems unlikely that there’s a covert project, my recommendation is to scale as fast as possible while maintaining high confidence in AIs being controlled and avoiding destabilizing society and the deal. This is what happens in our scenario, and we depict the resulting target year of 2035 as a rough guess.": "Якщо існування таємного проєкту здається малоймовірним, моя рекомендація — масштабуватися якомога швидше, зберігаючи високу впевненість у тому, що ШІ контрольовані, й уникаючи дестабілізації суспільства та угоди. Саме це відбувається в нашому сценарії, і ми зображуємо результуючий цільовий 2035 рік як приблизну оцінку.", " I’d weakly guess that the target year should be a little earlier, were we to rewrite the scenario.": " Я б обережно припустив, що цільовий рік мав би бути трохи раніше, якби ми переписували сценарій.", "I’d weakly guess that the target year should be a little earlier, were we to rewrite the scenario.": "Я б обережно припустив, що цільовий рік мав би бути трохи раніше, якби ми переписували сценарій.", "If it seems likely that there’s a covert project, then the situation is more complicated because we have to balance deal decline risk, which points toward going faster, with covert project risk, which points toward going slower.": "Якщо існування таємного проєкту здається ймовірним, ситуація ускладнюється, оскільки доводиться балансувати між ризиком занепаду угоди, який підштовхує до швидшого руху, і ризиком таємного проєкту, який підштовхує до повільнішого руху.", "I’ll now do some modeling of how the trajectory of the deal will go. ": "Тепер я проведу певне моделювання того, як розвиватиметься траєкторія угоди. ", "I’ll now do some modeling of how the trajectory of the deal will go.": "Тепер я проведу певне моделювання того, як розвиватиметься траєкторія угоди.", "The modeling": "Моделювання", " assumes that the deal begins in 2029 and that it starts being implemented a bit under a year before AC, as in the Plan A scenario. It does ": " припускає, що угода починається у 2029 році і починає виконуватися трохи менш ніж за рік до AC, як і в сценарії Плану А. Воно ", "assumes that the deal begins in 2029 and that it starts being implemented a bit under a year before AC, as in the Plan A scenario. It does": "припускає, що угода починається у 2029 році і починає виконуватися трохи менш ніж за рік до AC, як і в сценарії Плану А. Воно", " assume that takeoff from AC to TED-AI and AC to ASI is about 1 year as in the scenario. Instead it assumes uncertainty with parameter medians centered around those from the ": " припускає, що зліт від AC до TED-AI та від AC до ASI триває близько 1 року, як у сценарії. Натомість воно припускає невизначеність із медіанами параметрів, центрованими навколо тих, що взяті з ", "assume that takeoff from AC to TED-AI and AC to ASI is about 1 year as in the scenario. Instead it assumes uncertainty with parameter medians centered around those from the": "припускає, що зліт від AC до TED-AI та від AC до ASI триває близько 1 року, як у сценарії. Натомість воно припускає невизначеність із медіанами параметрів, центрованими навколо тих, що взяті з", "Plan A default trajectory": "типової траєкторії Плану А", ", as we think decision-makers will still have substantial uncertainty over takeoff speeds in 2029. This means that sometimes the Consortium can’t hit the target date; in fact for the earliest target date we consider of mid-2031, it often can’t hit it, as this would be a takeoff of similar length to the default (the default trajectory goes from pre-deal capabilities to TED-AI in ~1.5 years, while in Plan A the training resumption happens at the start of 2030 and the Consortium aims to pay a 1 OOM ": ", оскільки ми вважаємо, що особи, які ухвалюють рішення, у 2029 році все ще матимуть суттєву невизначеність щодо швидкості зльоту. Це означає, що іноді Консорціум не зможе влучити в цільову дату; фактично для найранішої цільової дати з розглянутих нами — середини 2031 року — це часто не вдається, оскільки це був би зліт приблизно такої ж тривалості, як типовий (типова траєкторія веде від рівня можливостей до укладення угоди до TED-AI за ~1.5 року, тоді як у Плані А відновлення навчання відбувається на початку 2030 року, і Консорціум прагне сплатити 1 порядок величини ", ", as we think decision-makers will still have substantial uncertainty over takeoff speeds in 2029. This means that sometimes the Consortium can’t hit the target date; in fact for the earliest target date we consider of mid-2031, it often can’t hit it, as this would be a takeoff of similar length to the default (the default trajectory goes from pre-deal capabilities to TED-AI in ~1.5 years, while in Plan A the training resumption happens at the start of 2030 and the Consortium aims to pay a 1 OOM": ", оскільки ми вважаємо, що особи, які ухвалюють рішення, у 2029 році все ще матимуть суттєву невизначеність щодо швидкості зльоту. Це означає, що іноді Консорціум не зможе влучити в цільову дату; фактично для найранішої цільової дати з розглянутих нами — середини 2031 року — це часто не вдається, оскільки це був би зліт приблизно такої ж тривалості, як типовий (типова траєкторія веде від рівня можливостей до укладення угоди до TED-AI за ~1.5 року, тоді як у Плані А відновлення навчання відбувається на початку 2030 року, і Консорціум прагне сплатити 1 порядок величини", "safety tax": "податку безпеки", " above TED-AI).": " понад TED-AI).", "above TED-AI).": "понад TED-AI).", "The below graph shows how the risk of deal decline and risk of covert projects achieving max-controllable-AI change based on the Stage 1 target end date. It assumes our best-guess projections as described in the ": "Графік нижче показує, як ризик занепаду угоди та ризик досягнення таємними проєктами max-controllable-AI змінюються залежно від цільової кінцевої дати Етапу 1. Він базується на наших найкращих оціночних прогнозах, як описано в ", "The below graph shows how the risk of deal decline and risk of covert projects achieving max-controllable-AI change based on the Stage 1 target end date. It assumes our best-guess projections as described in the": "Графік нижче показує, як ризик занепаду угоди та ризик досягнення таємними проєктами max-controllable-AI змінюються залежно від цільової кінцевої дати Етапу 1. Він базується на наших найкращих оціночних прогнозах, як описано в", "covert project": "таємний проєкт", " supplements. It looks at the risk of deal decline and covert projects reaching TED-AI in Stage 1 or within the first 5 years of Stage 2. I choose 5 years because this is the length of Stage 2 in the scenario; more discussion ": " додатків. У ньому розглядається ризик занепаду Угоди та таємних проєктів, що досягають TED-AI на Етапі 1 або в перші 5 років Етапу 2. Я обираю 5 років, бо це тривалість Етапу 2 в сценарії; докладніше ", "supplements. It looks at the risk of deal decline and covert projects reaching TED-AI in Stage 1 or within the first 5 years of Stage 2. I choose 5 years because this is the length of Stage 2 in the scenario; more discussion": "додатків. У ньому розглядається ризик занепаду Угоди та таємних проєктів, що досягають TED-AI на Етапі 1 або в перші 5 років Етапу 2. Я обираю 5 років, бо це тривалість Етапу 2 в сценарії; докладніше", ". The latest target date considered is 2037 because this is, with our median takeoff parameters,": ". Остання розглянута цільова дата — 2037 рік, оскільки це, за нашими медіанними параметрами зльоту,", " the year at which TED-AI is reached if the Consortium makes the minimum amount of software progress.": " рік, у якому досягається TED-AI, якщо Консорціум демонструє мінімальний обсяг прогресу в розробці ПЗ.", "the year at which TED-AI is reached if the Consortium makes the minimum amount of software progress.": "рік, у якому досягається TED-AI, якщо Консорціум демонструє мінімальний обсяг прогресу в розробці ПЗ.", "Deal decline and covert project risk trade off as speed varies": "Ризик занепаду Угоди і ризик таємного проєкту компенсують один одного залежно від швидкості", "Covert detection?": "Виявлення таємного проєкту?", "Detection included": "З урахуванням виявлення", "No detection": "Без виявлення", "Split deal decline & covert by Stage 1 vs. first 5 years of Stage 2": "Розподіл занепаду Угоди й таємних проєктів: Етап 1 проти перших 5 років Етапу 2", "Deal decline": "Занепад Угоди", "Covert reaches TED-AI": "Таємний проєкт досягає TED-AI", "Deal unimpaired": "Угода непошкоджена", "Assumes a covert project is attempted. All curves represent world state as of 5 years after end of Stage 1.": "Припускається спроба таємного проєкту. Усі криві відображають стан світу станом на 5 років після завершення Етапу 1.", "Highest deal unimpaired (": "Найвища ймовірність непошкодженої Угоди (", "Stage 1 target end date (TED-AI)": "Цільова дата завершення Етапу 1 (TED-AI)", "Share of worlds": "Частка світів", "5y after Consortium TED-AI": "5 років після TED-AI Консорціуму", "We can see the tradeoff between minimizing risks from deal decline, and minimizing risk from covert projects reaching TED-AI. Target years between 2032 and 2036 look fairly similar in terms of maximizing the chance of getting to 5 years into Stage 2 unimpaired. If we turn off detection, then any of 2035 to 2037 look to be of fairly similar value, with 2032 and especially 2031 looking much worse; this makes sense as covert projects are a bigger factor.": "Ми бачимо компроміс між мінімізацією ризику занепаду Угоди та мінімізацією ризику того, що таємні проєкти досягнуть TED-AI. Цільові роки між 2032 і 2036 виглядають доволі подібними з погляду максимізації шансу дійти до 5-го року Етапу 2 без пошкоджень. Якщо вимкнути виявлення, то будь-який рік від 2035 до 2037 виглядає приблизно однаково цінним, тоді як 2032 і особливо 2031 виглядають значно гірше; це логічно, адже таємні проєкти стають більш вагомим фактором.", "Does it make sense to treat these risks as equal in badness to each other?": "Чи має сенс вважати ці ризики однаково шкідливими?", "I’ve done some rough estimates of how good various end states to the deal are ": "Я зробив приблизні оцінки того, наскільки хорошими є різні кінцеві стани Угоди ", "I’ve done some rough estimates of how good various end states to the deal are": "Я зробив приблизні оцінки того, наскільки хорошими є різні кінцеві стани Угоди", " (summary ": " (короткий підсумок ", "(summary": "(короткий підсумок", "): by year and whether the deal stays unimpaired, or whether it declines or a covert project reaches TED-AI. In those estimates, I assumed that the covert project that reached TED-AI (or the AI that it created) had the ability and desire to essentially take over the world.": "): за роком та залежно від того, чи Угода залишається непошкодженою, чи занепадає, чи таємний проєкт досягає TED-AI. У цих оцінках я припускав, що таємний проєкт, який досяг TED-AI (або створений ним ШІ), мав здатність і бажання по суті захопити владу у світі.", "I’ll now bin outcomes into whether they happen before or after the start of Stage 2 and calculate the badness based on how much worse the outcome is than the deal surviving 5 years into Stage 2. The shift to Stage 2 is good for improving outcomes from both deal decline and covert TED-AIs, because reaching TED-AI allows the discovery of better alignment techniques, generally improving epistemics, and other useful applications.": "Тепер я розподілю результати за тим, чи вони настають до чи після початку Етапу 2, і обчислю шкідливість на основі того, наскільки результат гірший за виживання Угоди протягом 5 років Етапу 2. Перехід до Етапу 2 покращує наслідки як від занепаду Угоди, так і від таємних TED-AI, оскільки досягнення TED-AI дозволяє відкрити кращі техніки узгодження, загалом покращує епістеміку та дає інші корисні застосування.", "I’ll also add a discount for the fact that there might not be human or AI takeover that originates from the covert project that reaches TED-AI.": "Я також додам знижку з огляду на те, що захоплення влади людьми чи ШІ, яке походить від таємного проєкту, що досяг TED-AI, може й не відбутися.", "It seems like": "Схоже, що", " the percentage of value lost": " відсоток втраченої цінності", "the percentage of value lost": "відсоток втраченої цінності", " is very roughly:": " становить дуже приблизно:", "is very roughly:": "становить дуже приблизно:", "Pre-Consortium-TED-AI (Stage 1)": "До TED-AI Консорціуму (Етап 1)", "Post-Consortium-TED-AI, first 5 years (Stage 2)": "Після TED-AI Консорціуму, перші 5 років (Етап 2)", "Covert takeover badness": "Шкідливість захоплення влади таємним проєктом", "Takeover chance": "Ймовірність захоплення влади", "Covert reaches TED-AI badness": "Шкідливість того, що таємний проєкт досягає TED-AI", "Deal declines": "Угода занепадає", "Below we can see how deal decline and covert project risk are split up across Stage 1 and the first 5 years of Stage 2.": "Нижче показано, як ризик занепаду Угоди та ризик таємного проєкту розподіляються між Етапом 1 і першими 5 роками Етапу 2.", "Deal decline risk is more weighted toward Stage 1 than covert project risk": "Ризик занепаду Угоди більшою мірою припадає на Етап 1, ніж ризик таємного проєкту", "Deal decline (Stage 1)": "Занепад Угоди (Етап 1)", "Deal decline (first 5 years of Stage 2)": "Занепад Угоди (перші 5 років Етапу 2)", "Covert reaches TED-AI (Stage 1)": "Таємний проєкт досягає TED-AI (Етап 1)", "Covert reaches TED-AI (first 5 years of Stage 2)": "Таємний проєкт досягає TED-AI (перші 5 років Етапу 2)", "We see that a higher percentage of deal decline risk comes in Stage 1 than for covert project risk, especially for target years of 2033 and earlier. This makes deal decline on average worse than covert projects reaching TED-AI, relative to what you’d think if you compared their badness from happening at the same time. Now let’s check out the implications of combining the risk levels with the value lost from the risk materializing:": "Ми бачимо, що більший відсоток ризику занепаду Угоди припадає на Етап 1, ніж у випадку ризику таємного проєкту, особливо для цільових років 2033 і раніше. Це робить занепад Угоди в середньому гіршим за таємні проєкти, що досягають TED-AI, порівняно з тим, що можна було б подумати, порівнюючи їхню шкідливість у разі одночасного настання. Тепер розглянемо наслідки поєднання рівнів ризику з втраченою цінністю від реалізації ризику:", "Expected value lost from deal decline and covert risks, by TED-AI target year": "Очікувана втрачена цінність від ризиків занепаду Угоди та таємних проєктів за цільовим роком TED-AI", "Value lost if the outcome happens (drag to adjust your own estimates):": "Втрачена цінність у разі настання результату (перетягніть, щоб скоригувати власні оцінки):", "Covert reaches TED-AI — Stage 1": "Таємний проєкт досягає TED-AI — Етап 1", "if takeover ": "у разі захоплення влади ", "if takeover": "у разі захоплення влади", "Covert reaches TED-AI — first 5y of Stage 2": "Таємний проєкт досягає TED-AI — перші 5 років Етапу 2", "Also adjust deal-decline value lost": "Також скоригувати втрачену цінність від занепаду Угоди", "Reset value lost to defaults": "Скинути втрачену цінність до значень за замовчуванням", "Total value lost": "Загальна втрачена цінність", "From deal decline": "Від занепаду Угоди", "From covert project": "Від таємного проєкту", "Lowest value lost (": "Найменша втрачена цінність (", "Expected value lost": "Очікувана втрачена цінність", "My simple methodology has the following 2 issues which means that you should interpret the above graph as being too favorable toward earlier target dates relative to later ones": "Моя проста методологія має такі 2 недоліки, через які графік вище слід сприймати як надто прихильний до ранніх цільових дат порівняно з пізнішими", "I only consider the percentage of value lost as the outcome variable, but reaching 5 years into Stage 2 has slightly greater value for later target dates than for earlier ones (though the effect size might be small given the use of AIs for safety in the final 5 years swamps that of previous years).": "Я враховую лише відсоток втраченої цінності як змінну результату, але досягнення 5-го року Етапу 2 має дещо більшу цінність для пізніших цільових дат, ніж для ранніх (хоча розмір цього ефекту може бути невеликим, адже використання ШІ для безпеки в останні 5 років переважає ефект попередніх років).", "The percentage of value lost might be higher for early target years, especially during Stage 1.": "Відсоток втраченої цінності може бути вищим для ранніх цільових років, особливо протягом Етапу 1.", "With that said: With my best guess parameter values, it looks like earlier is better from the perspective of deal decline and covert project risks. However, it’s not that big of a difference. The expected percentage of value lost is just ~2% higher with a target year of 2036 than of 2032. This means that adjustments for the issues described above could potentially flip the conclusion.": "З огляду на це: за моїми найкращими оцінками значень параметрів, з погляду ризиків занепаду Угоди й таємних проєктів раніше — краще. Проте різниця не така вже й велика. Очікуваний відсоток втраченої цінності лише приблизно на 2% вищий для цільового року 2036, ніж для 2032. Це означає, що коригування з урахуванням описаних вище проблем потенційно може змінити висновок на протилежний.", "Not taking into account covert project detection results in a curve that is more flat and at higher amounts of value lost; having there be a covert project and not being able to detect it is a rough situation to be in no matter what you do. All target dates result in similar values, but with the aforementioned issues taken into account later target dates could be favored.": "Якщо не враховувати виявлення таємного проєкту, крива стає більш пласкою та відповідає вищим рівням втраченої цінності; наявність таємного проєкту, який неможливо виявити, — важка ситуація незалежно від того, що ви робите. Усі цільові дати дають подібні значення, але з урахуванням згаданих вище проблем перевагу можуть отримати пізніші цільові дати.", "Including detection but assuming that a covert project or its AI takes over once reaching TED-AI": "Якщо врахувати виявлення, але припустити, що таємний проєкт або його ШІ захоплює владу одразу після досягнення TED-AI,", " also results in a fairly flat curve.": " також дає доволі пласку криву.", "also results in a fairly flat curve.": "також дає доволі пласку криву.", "All of the above assumed a constant ": "Усе вищесказане припускало сталий ", "All of the above assumed a constant": "Усе вищесказане припускало сталий", " of 1 OOM of excess training compute above the minimum required paid at the end of Stage 1. This is my recommendation and the tax portrayed in the scenario. This recommendation is based on a mix of simple modeling and intuitive judgment. I’m not confident in it; the benefit of a higher tax is more confidence in control at higher capability levels, while the downsides are leaking software to covert projects and creating an overhang of foregone software improvements that can be used by projects post-deal-decline (especially post-dissolution).": " в 1 порядок величини надлишкових обчислювальних потужностей для навчання понад мінімально необхідні, що сплачується наприкінці Етапу 1. Це моя рекомендація й податок, зображений у сценарії. Ця рекомендація ґрунтується на поєднанні простого моделювання та інтуїтивного судження. Я не впевнений у ній; перевага вищого податку — більша впевненість у контролі на вищих рівнях можливостей, тоді як недоліки — це просочування ПЗ до таємних проєктів і створення навісу невикористаних покращень ПЗ, які можуть застосувати проєкти після занепаду Угоди (особливо після її розпуску).", "of 1 OOM of excess training compute above the minimum required paid at the end of Stage 1. This is my recommendation and the tax portrayed in the scenario. This recommendation is based on a mix of simple modeling and intuitive judgment. I’m not confident in it; the benefit of a higher tax is more confidence in control at higher capability levels, while the downsides are leaking software to covert projects and creating an overhang of foregone software improvements that can be used by projects post-deal-decline (especially post-dissolution).": "в 1 порядок величини надлишкових обчислювальних потужностей для навчання понад мінімально необхідні, що сплачується наприкінці Етапу 1. Це моя рекомендація й податок, зображений у сценарії. Ця рекомендація ґрунтується на поєднанні простого моделювання та інтуїтивного судження. Я не впевнений у ній; перевага вищого податку — більша впевненість у контролі на вищих рівнях можливостей, тоді як недоліки — це просочування ПЗ до таємних проєктів і створення навісу невикористаних покращень ПЗ, які можуть застосувати проєкти після занепаду Угоди (особливо після її розпуску).", "Once at max-controllable-AI (TED-AI in the Plan A scenario), we need to decide how long to pause before handing off trust to AIs. For the purposes of this analysis we are treating this stage as a pause, though in practice and in the scenario there are a few deviations from a complete pause: (a) it may be desirable to scale up very slowly, as the max controllable level might increase due to improved control techniques and/or tighter uncertainty bounds, and (b) safety research will have at least minor capabilities externalities, meaning software progress will be made, which will leak to covert projects even if it isn’t applied to improve legal AIs.": "Щойно досягнуто максимально контрольованого ШІ (TED-AI у сценарії Плану А), нам потрібно вирішити, наскільки довгою буде пауза перед передачею довіри ШІ. Для цілей цього аналізу ми розглядаємо цей етап як паузу, хоча на практиці й у сценарії є кілька відхилень від повної паузи: (a) може бути бажаним дуже повільне масштабування, оскільки максимально контрольований рівень може зростати завдяки вдосконаленим технікам контролю та/або звуженню меж невизначеності, і (b) дослідження безпеки матимуть принаймні незначні побічні ефекти на можливості, тобто прогрес у розробці ПЗ відбуватиметься, і він просочуватиметься до таємних проєктів, навіть якщо не застосовується для покращення легальних ШІ.", "The costs of delaying handoff in Stage 2 are as laid out ": "Витрати від відкладання передачі на Етапі 2 викладені ", "The costs of delaying handoff in Stage 2 are as laid out": "Витрати від відкладання передачі на Етапі 2 викладені", "; risk from deal decline, covert projects, and direct existential risks.": "; ризик занепаду Угоди, таємних проєктів і прямі екзистенційні ризики.", " We think that deal decline will generally be the dominant consideration because covert projects will likely have already been detected, if they existed in the first place.": " Ми вважаємо, що загалом занепад Угоди буде домінантним фактором, оскільки таємні проєкти, якщо вони взагалі існували, найімовірніше, уже були б виявлені.", "We think that deal decline will generally be the dominant consideration because covert projects will likely have already been detected, if they existed in the first place.": "Ми вважаємо, що загалом занепад Угоди буде домінантним фактором, оскільки таємні проєкти, якщо вони взагалі існували, найімовірніше, уже були б виявлені.", "The primary benefit of delaying handoff in Stage 2 is increasing the likelihood that the AIs we hand off to are aligned.": "Основна вигода від відкладання передачі на Етапі 2 — підвищення ймовірності того, що ШІ, яким ми передамо владу, будуть узгодженими.", " This mostly comes from alignment research that helps figure out how to align AIs and evaluate their alignment, and paying “safety taxes” such as training a model with more compute than is required to reach a given capability level, in order to use a safer training process. Note that this is specifically regarding the AI that we hand off to; it’s possible that an aligned AI might not succeed in aligning its successors (especially if circumstances change negatively in some way after handoff).": " Це здебільшого досягається завдяки дослідженням узгодження, які допомагають зрозуміти, як узгоджувати ШІ та оцінювати їхнє узгодження, а також завдяки сплаті «податків на безпеку» — наприклад, навчанню моделі з більшими обчислювальними потужностями, ніж потрібно для досягнення певного рівня можливостей, щоб застосувати безпечніший процес навчання. Зауважте, що це стосується саме того ШІ, якому ми передаємо владу; цілком можливо, що узгоджений ШІ не зможе успішно узгодити своїх наступників (особливо якщо обставини якимось чином негативно зміняться після передачі).", "This mostly comes from alignment research that helps figure out how to align AIs and evaluate their alignment, and paying “safety taxes” such as training a model with more compute than is required to reach a given capability level, in order to use a safer training process. Note that this is specifically regarding the AI that we hand off to; it’s possible that an aligned AI might not succeed in aligning its successors (especially if circumstances change negatively in some way after handoff).": "Це здебільшого досягається завдяки дослідженням узгодження, які допомагають зрозуміти, як узгоджувати ШІ та оцінювати їхнє узгодження, а також завдяки сплаті «податків на безпеку» — наприклад, навчанню моделі з більшими обчислювальними потужностями, ніж потрібно для досягнення певного рівня можливостей, щоб застосувати безпечніший процес навчання. Зауважте, що це стосується саме того ШІ, якому ми передаємо владу; цілком можливо, що узгоджений ШІ не зможе успішно узгодити своїх наступників (особливо якщо обставини якимось чином негативно зміняться після передачі).", "A secondary benefit is increasing the probability that the future goes very well conditional on alignment; this is also highly important but probably depends less on the timing than does probability of alignment. Additionally, it’s possible that waiting too long eventually ends up being marginally negative for outcomes conditional on alignment; it might be better to hand off to an aligned max-controllable-AI earlier rather than later so that it has more free rein to improve the situation.": "Другорядна вигода — підвищення ймовірності того, що майбутнє складеться дуже добре за умови узгодження; це теж дуже важливо, але, ймовірно, менше залежить від часу передачі, ніж імовірність самого узгодження. Крім того, можливо, що надто довге очікування зрештою матиме дещо негативний вплив на результати за умови узгодження; можливо, краще передати владу узгодженому максимально контрольованому ШІ раніше, а не пізніше, щоб у нього було більше свободи дій для покращення ситуації.", "To decide when to hand off in Stage 2, we recommend calculating the marginal benefits and costs of delaying handoff and handing off once the costs outweigh the benefits.": "Щоб визначити, коли здійснювати передачу на Етапі 2, ми рекомендуємо обчислювати граничні вигоди й витрати від відкладання передачі та передавати ШІ, щойно витрати перевищать вигоди.", "We expect the best strategy to be something like handing off once we have high confidence that the AIs are aligned.": "Ми очікуємо, що найкраща стратегія полягатиме приблизно в тому, щоб передати ШІ, щойно ми матимемо високу впевненість у тому, що вони узгоджені.", "See below for specific concrete case studies on deciding what strategy is best.": "Дивіться нижче конкретні кейс-стаді щодо вибору найкращої стратегії.", "We’ll now discuss case studies regarding whether to hand off. To make things concrete, we’ll assume that we are making a decision regarding whether to hand off in 2040 some time after max-controllable-AI was reached, which is when handoff happens in the Plan A scenario.": "Тепер ми обговоримо кейс-стаді щодо того, чи варто здійснювати передачу. Для конкретики припустимо, що ми приймаємо рішення щодо передачі у 2040 році, через деякий час після досягнення максимально контрольованого ШІ, — саме тоді передача й відбувається в сценарії Плану А.", "To keep things simple, we’ll assume that the only factors for whether to delay handoff are:": "Для простоти ми припустимо, що єдиними факторами щодо того, чи відкладати передачу, є:", "Benefit: Increased alignment probability.": "Вигода: підвищена ймовірність узгодження.", " See ": " Див. ", " for discussion of what the trajectory of alignment progress will look like.": " для обговорення того, як виглядатиме траєкторія прогресу в узгодженні.", "for discussion of what the trajectory of alignment progress will look like.": "для обговорення того, як виглядатиме траєкторія прогресу в узгодженні.", "Cost: Deal decline risk.": "Вартість: ризик занепаду Угоди.", " Covert project risk is the main other contender for a substantial reason to hand off faster. However, our guess is that covert project risk is probably very low in this case study, because (a) probably if there was a covert project it would have been detected by now and (b) we haven’t done non-safety-externality software progress in 5 years, so covert projects haven’t been getting much help.": " Ризик таємного проєкту — головний інший претендент на роль вагомої причини передати ШІ швидше. Проте, за нашими припущеннями, у цьому кейс-стаді ризик таємного проєкту, ймовірно, дуже низький, бо (a) якби таємний проєкт існував, він, найімовірніше, вже був би виявлений, і (b) ми не робили прогресу в розробці ПЗ поза межами безпекових побічних ефектів протягом 5 років, тож таємні проєкти не отримували особливої допомоги.", "Covert project risk is the main other contender for a substantial reason to hand off faster. However, our guess is that covert project risk is probably very low in this case study, because (a) probably if there was a covert project it would have been detected by now and (b) we haven’t done non-safety-externality software progress in 5 years, so covert projects haven’t been getting much help.": "Ризик таємного проєкту — головний інший претендент на роль вагомої причини передати ШІ швидше. Проте, за нашими припущеннями, у цьому кейс-стаді ризик таємного проєкту, ймовірно, дуже низький, бо (a) якби таємний проєкт існував, він, найімовірніше, вже був би виявлений, і (b) ми не робили прогресу в розробці ПЗ поза межами безпекових побічних ефектів протягом 5 років, тож таємні проєкти не отримували особливої допомоги.", "Below you can try out different settings for the relevant variables and see what recommendation they lead to regarding whether to delay hand off. I’ve set the default values to roughly match what they are during the handoff in the scenario, and have added plausible presets that set either the alignment or deal dissolution/impairment parameters.": "Нижче ви можете спробувати різні налаштування відповідних змінних і побачити, до якої рекомендації щодо відкладання передачі вони призводять. Я встановив значення за замовчуванням приблизно такими, якими вони є під час передачі в сценарії, і додав правдоподібні пресети, що задають або параметри узгодження, або параметри розпуску/ослаблення Угоди.", "Caveat: this calculator only weighs the single most important factor on each side — the alignment probability gained by delaying vs. the deal decline risk avoided by handing off.": "Застереження: цей калькулятор враховує лише один, найважливіший фактор з кожного боку — приріст імовірності узгодження від відкладання проти ризику занепаду Угоди, якого вдається уникнути завдяки передачі.", "Alignment scenario": "Сценарій узгодження", "High confidence alignment solution": "Рішення узгодження з високою впевненістю", "Alignment probably solved": "Узгодження, ймовірно, вирішене", "Alignment likely solved": "Узгодження, скоріш за все, вирішене", "Alignment clearly unsolved": "Узгодження явно не вирішене", "Alignment gain (a_change)": "Приріст узгодження (a_change)", "0.1%/yr": "0.1%/yr", "Extra p(alignment) bought per year of delay.": "Додаткова p(alignment), яку дає кожен рік відкладання.", "Alignment probability (a_prob)": "Імовірність узгодження (a_prob)", "Current p(alignment). Deal dissolution or impairment is more costly the more likely alignment is.": "Поточна p(alignment). Розпуск або ослаблення Угоди тим дорожче обходиться, чим імовірніше узгодження.", "Deal decline scenario": "Сценарій занепаду Угоди", "Low risk": "Низький ризик", "Medium risk": "Середній ризик", "High risk": "Високий ризик", "Deal decline probability (d_prob)": "Ймовірність занепаду Угоди (d_prob)", "3%/yr": "3%/yr", "Yearly chance the deal dissolves or is substantialy impaired without official dissolution.": "Щорічна ймовірність того, що Угода розпадається або суттєво ослаблюється без офіційного розпуску.", "Deal decline badness (d_loss)": "Шкідливість занепаду Угоди (d_loss)", "Percentage of the future’s value lost if the deal dissolves or is impaired.": "Відсоток втраченої цінності майбутнього, якщо Угода розпадається або ослаблюється.", "p(alignment) change by handing off instead of delaying a year": "Зміна p(alignment) від передачі замість відкладання на рік", "Recommendation: ": "Рекомендація: ", "Recommendation:": "Рекомендація:", "Hand off now": "Передати зараз", "weak": "слабка", "u_handoff_minus_u_delay = d_prob·a_prob·d_loss − a_change": "u_handoff_minus_u_delay = d_prob·a_prob·d_loss − a_change", "Benefit of handing off: ": "Вигода від передачі: ", "Benefit of handing off:": "Вигода від передачі:", "Cost of handing off: ": "Вартість передачі: ", "Cost of handing off:": "Вартість передачі:", "Reset to defaults": "Скинути до значень за замовчуванням", "Recommendation by scenario": "Рекомендація за сценарієм", "d_prob ": "d_prob ", "d_prob": "d_prob", "%/yr · d_loss ": "%/yr · d_loss ", "%/yr · d_loss": "%/yr · d_loss", "a_prob ": "a_prob ", "a_prob": "a_prob", "% · a_change ": "% · a_change ", "% · a_change": "% · a_change", "%/yr": "%/рік", "Delay": "Відкласти", "Hand off": "Передати", "Should we hand off or delay?": "Чи варто передати ШІ, чи відкласти?", "Reasoning for the medium deal decline probabilities and badness estimates can be found in the ": "Обґрунтування середніх імовірностей занепаду Угоди та оцінок шкідливості можна знайти в ", "Reasoning for the medium deal decline probabilities and badness estimates can be found in the": "Обґрунтування середніх імовірностей занепаду Угоди та оцінок шкідливості можна знайти в", "Deal Decline supplement": "Додаток «Занепад Угоди»", "How steadily will alignment progress? There are 2 extremes we could use to model the situation.": "Наскільки стабільно прогресуватиме узгодження? Є 2 крайності, які можна використати для моделювання ситуації.", "All or nothing:": "Все або нічого:", " We start very confidently believing that the AIs are misaligned, then at one point we make a breakthrough which quickly makes us confident that they’re now aligned.": " Ми починаємо з дуже впевненого переконання, що ШІ неузгоджені, а потім в якийсь момент здійснюємо прорив, який швидко дає нам впевненість, що тепер вони узгоджені.", "We start very confidently believing that the AIs are misaligned, then at one point we make a breakthrough which quickly makes us confident that they’re now aligned.": "Ми починаємо з дуже впевненого переконання, що ШІ неузгоджені, а потім в якийсь момент здійснюємо прорив, який швидко дає нам впевненість, що тепер вони узгоджені.", "Smooth, predictable progress:": "Плавний, передбачуваний прогрес:", " Our estimate of whether the AIs are aligned increases steadily and predictably.": " Наша оцінка того, чи узгоджені ШІ, зростає стабільно й передбачувано.", "Our estimate of whether the AIs are aligned increases steadily and predictably.": "Наша оцінка того, чи узгоджені ШІ, зростає стабільно й передбачувано.", "Our high-uncertainty best guess is that the trajectory of our confidence in AIs’ alignment will be in between, perhaps slightly closer to the ": "Наше найкраще припущення з високою невизначеністю полягає в тому, що траєкторія нашої впевненості в узгодженості ШІ буде проміжною, можливо, дещо ближчою до варіанта ", "Our high-uncertainty best guess is that the trajectory of our confidence in AIs’ alignment will be in between, perhaps slightly closer to the": "Наше найкраще припущення з високою невизначеністю полягає в тому, що траєкторія нашої впевненості в узгодженості ШІ буде проміжною, можливо, дещо ближчою до варіанта", "All or nothing": "«Все або нічого»", " option. It could also be a combination: we think that progress may look smooth/predictable for a while, until there’s a sudden breakthrough. For example, if ambitious mechanistic interpretability is solved and we understand all of AIs’ reasoning processes, this may give very high confidence in alignment.": ". Це також може бути комбінацією: ми вважаємо, що прогрес певний час може виглядати плавним/передбачуваним, аж поки не станеться раптовий прорив. Наприклад, якщо буде розв'язано амбітну механістичну інтерпретовність і ми зрозуміємо всі процеси міркування ШІ, це може дати дуже високу впевненість в узгодженні.", "option. It could also be a combination: we think that progress may look smooth/predictable for a while, until there’s a sudden breakthrough. For example, if ambitious mechanistic interpretability is solved and we understand all of AIs’ reasoning processes, this may give very high confidence in alignment.": ". Це також може бути комбінацією: ми вважаємо, що прогрес певний час може виглядати плавним/передбачуваним, аж поки не станеться раптовий прорив. Наприклад, якщо буде розв'язано амбітну механістичну інтерпретовність і ми зрозуміємо всі процеси міркування ШІ, це може дати дуже високу впевненість в узгодженні.", "For example, if we weren’t yet confident in AIs’ alignment, in 2040 there might be a ~5%/year chance of an alignment breakthrough that makes us confident, in addition to continuous improvements until we get the breakthrough; if we are confident (as in the scenario), then perhaps we’re at 0.01-1%/year alignment probability increase since we’re already close to 100%.": "Наприклад, якби ми ще не були впевнені в узгодженості ШІ, у 2040 році могла б бути приблизно ~5%/рік ймовірність прориву в узгодженні, який дав би нам впевненість, на додачу до безперервних покращень до моменту цього прориву; якщо ж ми впевнені (як у сценарії), то, можливо, ми маємо приріст імовірності узгодження на рівні 0,01-1%/рік, оскільки вже близькі до 100%.", "Non-exhaustive examples of catastrophic harm include: directly taking over the world, misaligning successor AIs that could take over the world, damaging the world’s epistemics to a difficult-to-reverse degree (for example via superhuman persuasion).": "Неповний перелік прикладів катастрофічної шкоди: пряме захоплення влади у світі, розузгодження ШІ-наступників, які могли б захопити владу у світі, пошкодження світової епістеміки до важко зворотного ступеня (наприклад, за допомогою надлюдського переконання).", "This could also be the case if they agree with our current best guess about detection but have a much higher estimate of the badness of a covert project reaching TED-AI.": "Це також може бути так, якщо вони погоджуються з нашою поточною найкращою оцінкою щодо виявлення, але значно вище оцінюють шкідливість того, що таємний проєкт досягне TED-AI.", "Scaling too fast via building compute used for training could hurt the situation in the case where the deal declines, but the compute isn’t destroyed, as it allows for a faster takeoff. In the case the deal dissolves, the compute would probably be destroyed, but for partial deal impairment, this wouldn’t be the case. However, we think that this downside is probably outweighed by the upside you get from the benefits of scaling to higher capabilities within the deal rather than outside of it or in an impaired deal.": "Занадто швидке масштабування через нарощування обчислювальних потужностей для навчання може погіршити ситуацію у випадку ослаблення угоди, якщо ці потужності не знищуються, — адже це дозволяє швидший зліт. У разі розпаду угоди обчислювальні потужності, ймовірно, будуть знищені, але при частковому ослабленні угоди цього не станеться. Однак ми вважаємо, що цей недолік, ймовірно, переважується перевагами масштабування до вищих можливостей у межах угоди, а не поза нею чи в ослабленій угоді.", "In practice we recommend for it to be somewhat gradual. Example of a gradual handoff: first hand off a bit such that the AIs could maybe take over if they were misaligned, i.e. we’re not as confident as before; then hand off more such that they could only take over if they coordinated but couldn’t if they did not, etc.": "На практиці ми рекомендуємо, щоб це відбувалося дещо поступово. Приклад поступової передачі керування: спершу передати трохи — так, щоб ШІ-системи, можливо, могли захопити владу, якби вони були неузгодженими, тобто ми вже не настільки впевнені, як раніше; потім передати більше — так, щоб вони могли захопити владу лише якщо скоординуються, але не могли б, якщо ні, і так далі.", "The deal could also get better, but we’re not including that here as our best guess is that the deal will in expectation get worse. This is definitionally true for deal dissolution, but we’re not confident for deal impairment; if we were more optimistic, we could remove the deal impairment term or explicitly model the deal getting better.": "Угода також могла б покращитися, але ми не враховуємо це тут, бо наша найкраща оцінка полягає в тому, що угода в очікуванні погіршиться. Це визначально вірно для розпуску угоди, але ми не впевнені щодо ослаблення угоди; якби ми були більш оптимістичними, ми могли б прибрати термін ослаблення угоди або явно змоделювати покращення угоди.", "Including any ways it derives from the relevant capabilities, e.g. distillation.": "Включно з будь-якими способами, якими це походить від відповідних можливостей, наприклад дистиляцією.", "My best guess is that the sign of this sort of change is in expectation negative for EV of the future, so this is a weak motivation for scaling faster. But I’m not confident.": "Моя найкраща оцінка полягає в тому, що знак такої зміни в очікуванні негативний для очікуваної цінності (EV) майбутнього, тож це слабкий мотив для швидшого масштабування. Але я не впевнений.", "Or scaling in Stage 1 with only training compute.": "Або масштабування на Етапі 1 лише за рахунок обчислювальних потужностей для навчання.", "At least, assuming takeoff isn’t much faster than in the ": "Принаймні, якщо припустити, що зліт не набагато швидший, ніж у ", "At least, assuming takeoff isn’t much faster than in the": "Принаймні, якщо припустити, що зліт не набагато швидший, ніж у", "Plan A default": "стандартному сценарії Плану A", "“Our” meaning the official Plan A median parameters, which represent Thomas’s views rather than mine; my median takeoff is significantly slower.": "«Наш» означає офіційні медіанні параметри Плану A, які відображають погляди Thomas, а не мої; мій медіанний зліт значно повільніший.", "A few thoughts about the difference between deal decline and covert project takeover with respect to Stage 1 vs. Stage 2 desirability: (a) covert projects can wait until they are confident in alignment if they’d like, even if in Stage 1, while a post-deal-decline project may not be able to; (b) on the other hand, covert projects do not benefit during Stage 2 from the safety tax the Consortium has paid, while post-deal-decline projects do.": "Кілька думок про різницю між ослабленням угоди та захопленням влади таємним проєктом щодо бажаності Етапу 1 порівняно з Етапом 2: (a) таємні проєкти можуть, за бажанням, чекати, поки не будуть впевнені в узгодженості, навіть на Етапі 1, тоді як проєкт, що з'явився після ослаблення угоди, може не мати такої можливості; (b) з іншого боку, таємні проєкти не отримують на Етапі 2 вигоди від «податку безпеки», який сплатив Консорціум, тоді як проєкти після ослаблення угоди — отримують.", "Specifically, this is relative to the expected value of an intact, unimpaired deal with no covert TED-AIs five years after the Consortium reaches TED-AI.": "Точніше, це відносно очікуваної цінності незайманої, неослабленої угоди без таємних TED-AI через п'ять років після того, як Консорціум досягне TED-AI.", "I’m crudely bucketing covert project outcomes into takeover and no takeover, and assuming the takeover ones don’t destroy value. In practice, there will be cases in which value is destroyed but there isn’t takeover; I’m assuming otherwise for simplicity.": "Я грубо поділяю результати таємних проєктів на «захоплення влади» і «без захоплення влади» та припускаю, що ті, що ведуть до захоплення влади, не знищують цінність. На практиці траплятимуться випадки, коли цінність знищується, але захоплення влади не відбувається; для простоти я припускаю інше.", "Or simply being more pessimistic than me about covert projects relative to deal decline.": "Або просто бути більш песимістичним за мене щодо таємних проєктів порівняно з ослабленням угоди.", "And there might be some cases where it’s difficult to apply safety techniques without increasing the capabilities of legal AIs.": "І можуть траплятися випадки, коли складно застосувати методи безпеки, не підвищуючи можливості легальних ШІ-систем.", "Technically, there could be more than one crossover point, but we expect that in practice there will likely be a single crossover point at which costs of delaying begin to outweigh benefits. That said, this isn’t guaranteed, for example there may be predictably transient increases in deal dissolution risks at various points.": "Технічно точок перетину може бути більше однієї, але ми очікуємо, що на практиці, ймовірно, буде одна точка перетину, у якій витрати на затримку починають переважати вигоди. Втім, це не гарантовано — наприклад, можуть бути передбачувано тимчасові підвищення ризиків розпаду угоди в різні моменти.", "Introduction": "Вступ", "Plan assessment table": "Таблиця оцінки планів", "Comparing authors’ views on plan likelihood and outcomes": "Порівняння поглядів авторів на ймовірність і результати планів", "Outcomes": "Результати", "Other plans": "Інші плани", "Plans that might be competitive with Plan A": "Плани, які можуть конкурувати з Планом A", "Plans that we think are clearly worse than Plan A": "Плани, які, на нашу думку, явно гірші за План A", "Classifying trajectories into plans": "Класифікація траєкторій за планами", "Training compute safety tax definition": "Визначення «податку безпеки» на обчислювальні потужності для навчання", "In this supplement I’ll estimate how well each plan does on various intermediate metrics, and its chance of leading to a great future. I discuss quantitative metrics for the sake of concreteness, however I’m very much not confident in my precise estimates. I am confident in the conclusion that Plan A is substantially better than Plans B-D. For plans that I think could be competitive with Plan A, see ": "У цьому доповненні я оцінюю, наскільки добре кожен план показує себе за різними проміжними метриками, і які його шанси привести до чудового майбутнього. Я обговорюю кількісні метрики заради конкретики, однак я аж ніяк не впевнений у своїх точних оцінках. Я впевнений у висновку, що План A суттєво кращий за Плани B-D. Плани, які, на мою думку, можуть конкурувати з Планом A, дивіться в ", "In this supplement I’ll estimate how well each plan does on various intermediate metrics, and its chance of leading to a great future. I discuss quantitative metrics for the sake of concreteness, however I’m very much not confident in my precise estimates. I am confident in the conclusion that Plan A is substantially better than Plans B-D. For plans that I think could be competitive with Plan A, see": "У цьому доповненні я оцінюю, наскільки добре кожен план показує себе за різними проміжними метриками, і які його шанси привести до чудового майбутнього. Я обговорюю кількісні метрики заради конкретики, однак я аж ніяк не впевнений у своїх точних оцінках. Я впевнений у висновку, що План A суттєво кращий за Плани B-D. Плани, які, на мою думку, можуть конкурувати з Планом A, дивіться в", "this table": "цій таблиці", "I estimate how good each plan would be conditional on the government and/or leading companies attempting to execute it. The below aren’t meant to be an exhaustive taxonomy; I am considering what would happen if roughly the described plan is attempted, rather than bucketing every possible future into the plan it is closest to. For more detail on how I classify trajectories into plans, see ": "Я оцінюю, наскільки хорошим був би кожен план за умови, що уряд та/або провідні компанії намагаються його виконати. Наведене нижче не претендує на вичерпну таксономію; я розглядаю, що станеться, якщо буде здійснено спробу реалізувати приблизно описаний план, а не розподіляю кожне можливе майбутнє за найближчим до нього планом. Детальніше про те, як я класифікую траєкторії за планами, дивіться ", "I estimate how good each plan would be conditional on the government and/or leading companies attempting to execute it. The below aren’t meant to be an exhaustive taxonomy; I am considering what would happen if roughly the described plan is attempted, rather than bucketing every possible future into the plan it is closest to. For more detail on how I classify trajectories into plans, see": "Я оцінюю, наскільки хорошим був би кожен план за умови, що уряд та/або провідні компанії намагаються його виконати. Наведене нижче не претендує на вичерпну таксономію; я розглядаю, що станеться, якщо буде здійснено спробу реалізувати приблизно описаний план, а не розподіляю кожне можливе майбутнє за найближчим до нього планом. Детальніше про те, як я класифікую траєкторії за планами, дивіться", "The plans I consider are:": "Плани, які я розглядаю:", "Plan A (as implemented specifically in the scenario): Verified slowdown + total research transparency.": "План A (у вигляді, реалізованому саме в сценарії): перевірене сповільнення + повна прозорість досліджень.", " A verified international slowdown deal coupled with complete transparency of AI research. AI capabilities are scaled up while maintaining high confidence in safety but balancing risks from ": " Перевірена міжнародна угода про сповільнення в поєднанні з повною прозорістю досліджень ШІ. Можливості ШІ масштабуються за умови збереження високої впевненості в безпеці, але з балансуванням ризиків, пов'язаних з ", "A verified international slowdown deal coupled with complete transparency of AI research. AI capabilities are scaled up while maintaining high confidence in safety but balancing risks from": "Перевірена міжнародна угода про сповільнення в поєднанні з повною прозорістю досліджень ШІ. Можливості ШІ масштабуються за умови збереження високої впевненості в безпеці, але з балансуванням ризиків, пов'язаних з", "Plan A: Verified slowdown + substantial transparency.": "План A: перевірене сповільнення + суттєва прозорість.", " To be more generally classified as Plan A, the implementation must involve a substantial verified slowdown which involves continued AI scaling, as opposed to an indefinite halt. It must involve transparency at least as strong as embedded auditors from foreign governments which publish reports to governments (and for which redacted versions are made public), as described in our ": " Щоб загалом класифікуватися як План A, реалізація повинна включати суттєве перевірене сповільнення, яке передбачає продовження масштабування ШІ, на відміну від безстрокової зупинки. Вона повинна включати прозорість, не слабшу за вбудованих аудиторів від іноземних урядів, які публікують звіти для урядів (і для яких оприлюднюються редаговані версії), як описано в нашій ", "To be more generally classified as Plan A, the implementation must involve a substantial verified slowdown which involves continued AI scaling, as opposed to an indefinite halt. It must involve transparency at least as strong as embedded auditors from foreign governments which publish reports to governments (and for which redacted versions are made public), as described in our": "Щоб загалом класифікуватися як План A, реалізація повинна включати суттєве перевірене сповільнення, яке передбачає продовження масштабування ШІ, на відміну від безстрокової зупинки. Вона повинна включати прозорість, не слабшу за вбудованих аудиторів від іноземних урядів, які публікують звіти для урядів (і для яких оприлюднюються редаговані версії), як описано в нашій", "filtered transparency proposal": "пропозиції щодо фільтрованої прозорості", ". Other aspects of the plan, such as ": ". Інші аспекти плану, такі як ", ". Other aspects of the plan, such as": ". Інші аспекти плану, такі як", "mutually assured compute destruction": "гарантованого взаємного знищення обчислювальних потужностей", ", are not required.": ", не є обов'язковими.", "Plan B-kinetic: Sabotage China kinetically and burn some lead.": "План B-кінетичний: кінетичний саботаж Китаю та витрачання частини випередження.", " Sabotaging China in order to get more of a lead to burn on safety, with the willingness to escalate to large-scale kinetic attacks such as by drones or conventional missile strikes. To be classified as Plan B the US must have the intention to use their lead over China for safety purposes, and must in practice slow takeoff by at least 3 months.": " Саботаж Китаю задля отримання більшого випередження, яке можна витратити на безпеку, з готовністю ескалювати до масштабних кінетичних атак, наприклад за допомогою дронів або звичайних ракетних ударів. Щоб класифікуватися як План B, США повинні мати намір використати своє випередження над Китаєм для цілей безпеки і на практиці сповільнити зліт щонайменше на 3 місяці.", "Sabotaging China in order to get more of a lead to burn on safety, with the willingness to escalate to large-scale kinetic attacks such as by drones or conventional missile strikes. To be classified as Plan B the US must have the intention to use their lead over China for safety purposes, and must in practice slow takeoff by at least 3 months.": "Саботаж Китаю задля отримання більшого випередження, яке можна витратити на безпеку, з готовністю ескалювати до масштабних кінетичних атак, наприклад за допомогою дронів або звичайних ракетних ударів. Щоб класифікуватися як План B, США повинні мати намір використати своє випередження над Китаєм для цілей безпеки і на практиці сповільнити зліт щонайменше на 3 місяці.", "Plan B-cyber: Sabotage China non-kinetically and burn some lead.": "План B-кібер: некінетичний саботаж Китаю та витрачання частини випередження.", " The same as Plan B-kinetic, but without willingness to escalate to large-scale kinetic attacks. This could include cyber and supply chain attacks.": " Те саме, що й План B-кінетичний, але без готовності ескалювати до масштабних кінетичних атак. Це може включати кібератаки та атаки на ланцюги постачання.", "The same as Plan B-kinetic, but without willingness to escalate to large-scale kinetic attacks. This could include cyber and supply chain attacks.": "Те саме, що й План B-кінетичний, але без готовності ескалювати до масштабних кінетичних атак. Це може включати кібератаки та атаки на ланцюги постачання.", "Plan C+: Domestic regulation and slow China without sabotage.": "План C+: внутрішнє регулювання і сповільнення Китаю без саботажу.", " The US buys substantial time via domestic regulation, without sabotaging China. They instead aim to slow down China via non-sabotage measures such as export controls and giving green cards to Chinese talent. Requires at least a 2 month slowdown.": " США виграють суттєвий час за допомогою внутрішнього регулювання, не саботуючи Китай. Натомість вони прагнуть сповільнити Китай за допомогою несаботажних заходів, як-от експортний контроль і надання грін-карт китайським талантам. Вимагає сповільнення щонайменше на 2 місяці.", "The US buys substantial time via domestic regulation, without sabotaging China. They instead aim to slow down China via non-sabotage measures such as export controls and giving green cards to Chinese talent. Requires at least a 2 month slowdown.": "США виграють суттєвий час за допомогою внутрішнього регулювання, не саботуючи Китай. Натомість вони прагнуть сповільнити Китай за допомогою несаботажних заходів, як-от експортний контроль і надання грін-карт китайським талантам. Вимагає сповільнення щонайменше на 2 місяці.", "Plan C: Leading project burns some lead.": "План C: провідний проєкт витрачає частину випередження.", " The leading AI project burns some of its lead on safety, and potentially coordinates with other frontier projects for a further slowdown without domestic regulation. Requires at least a 1 month slowdown.": " Провідний ШІ-проєкт витрачає частину свого випередження на безпеку і, можливо, координується з іншими передовими проєктами для подальшого сповільнення без внутрішнього регулювання. Вимагає сповільнення щонайменше на 1 місяць.", "The leading AI project burns some of its lead on safety, and potentially coordinates with other frontier projects for a further slowdown without domestic regulation. Requires at least a 1 month slowdown.": "Провідний ШІ-проєкт витрачає частину свого випередження на безпеку і, можливо, координується з іншими передовими проєктами для подальшого сповільнення без внутрішнього регулювання. Вимагає сповільнення щонайменше на 1 місяць.", "Plan D: Race.": "План D: перегони.", " Frontier AI projects race through the intelligence explosion at nearly max speed, devoting a nonzero but small percentage of resources to safety (at least 1%; lower would count as ": " Передові ШІ-проєкти проходять вибух інтелекту майже на максимальній швидкості, виділяючи ненульовий, але малий відсоток ресурсів на безпеку (щонайменше 1%; менше вважалося б ", "Frontier AI projects race through the intelligence explosion at nearly max speed, devoting a nonzero but small percentage of resources to safety (at least 1%; lower would count as": "Передові ШІ-проєкти проходять вибух інтелекту майже на максимальній швидкості, виділяючи ненульовий, але малий відсоток ресурсів на безпеку (щонайменше 1%; менше вважалося б", "Plan E": "Планом E", "There are also other plans that the government could attempt to implement. Some of these are discussed ": "Існують також інші плани, які уряд міг би спробувати реалізувати. Деякі з них розглядаються ", "There are also other plans that the government could attempt to implement. Some of these are discussed": "Існують також інші плани, які уряд міг би спробувати реалізувати. Деякі з них розглядаються", "For simplicity,": "Для простоти,", "I assume that:": "я припускаю, що:", "The minimum-length takeoff from Automated Coder (AC) to Top-Expert-Dominating-AI (TED-AI) is slightly less than a year, from the start of 2030 to the end of 2030.": "Зліт мінімальної тривалості від Автоматизованого Кодера (AC) до ШІ, що домінує над топ-експертами (TED-AI), триває трохи менше року — від початку 2030 до кінця 2030.", " This matches the ": " Це відповідає ", "This matches the": "Це відповідає", "default Plan A AI Futures M": "стандартній траєкторії Моделі", "odel trajectory": " AI Futures за Планом A", ". The minimum-length takeoff is what happens if the leading AI projects go at maximum speed.": ". Зліт мінімальної тривалості — це те, що відбувається, якщо провідні ШІ-проєкти рухаються на максимальній швидкості.", "All plans can begin implementation in early 2029": "Усі плани можуть розпочати реалізацію на початку 2029 року", " as in the Plan A scenario, though for Plans C and D this doesn’t matter as the plan involves doing nothing until takeoff is underway. This still might involve some safety work, if doing so is useful for advancing capabilities.": " як і в сценарії Плану A, хоча для Планів C і D це не має значення, оскільки план передбачає бездіяльність до початку зльоту. Це все ж може включати певну роботу з безпеки, якщо це корисно для просування можливостей.", "as in the Plan A scenario, though for Plans C and D this doesn’t matter as the plan involves doing nothing until takeoff is underway. This still might involve some safety work, if doing so is useful for advancing capabilities.": "як і в сценарії Плану A, хоча для Планів C і D це не має значення, оскільки план передбачає бездіяльність до початку зльоту. Це все ж може включати певну роботу з безпеки, якщо це корисно для просування можливостей.", "I remove these conditionals and present other authors’ views ": "Я прибираю ці умови й наводжу погляди інших авторів ", "I remove these conditionals and present other authors’ views": "Я прибираю ці умови й наводжу погляди інших авторів", "These estimates are all rough best guesses, and the specifics of them aren’t load-bearing to our recommendation of Plan A (though the high-level takeaways are).": "Усі ці оцінки є грубими найкращими припущеннями, і їхні конкретні деталі не є визначальними для нашої рекомендації щодо Плану A (хоча висновки високого рівня — є).", "How the plans compare according to Eli": "Як плани порівнюються, на думку Eli", "Median": "Медіана", "Competent": "Компетентно", "Expand all": "Розгорнути все", "Toggle ": "Перемкніть ", "Toggle": "Перемкніть", " vs ": " проти ", "vs": "проти", " to switch between the median across implementations and each plan executed competently. Hover any plan, metric, or value for its reasoning, or ": ", щоб перемикатися між медіаною за реалізаціями та компетентним виконанням кожного плану. Наведіть курсор на будь-який план, метрику чи значення, щоб побачити обґрунтування, або ", "to switch between the median across implementations and each plan executed competently. Hover any plan, metric, or value for its reasoning, or": ", щоб перемикатися між медіаною за реалізаціями та компетентним виконанням кожного плану. Наведіть курсор на будь-який план, метрику чи значення, щоб побачити обґрунтування, або", "click within a row to see every plan’s reasoning at once": "клацніть у рядку, щоб побачити обґрунтування одразу для всіх планів", "Metric ↓ / Plan →": "Метрика ↓ / План →", "Plan C+": "План C+", "Plan C": "План C", "Kinetic": "Кінетичний", "Cyber": "Кібер", "Objective metrics": "Об'єктивні метрики", "Takeoff length (AC to takeover-capable AI)": "Тривалість зльоту (від AC до ШІ, здатного на захоплення влади)", "6 yrs": "6 р.", "3 yrs": "3 р.", "2 yrs": "2 р.", "1.5 yrs": "1.5 р.", "1.13 yrs": "1.13 р.", "1.02 yrs": "1.02 р.", "Training compute safety tax (OOMs)": "«Податок безпеки» на обчислювальні потужності для навчання (порядки величини)", "Safety compute (H100e-yrs)": "Обчислювальні потужності для безпеки (H100e-років)", "Safety-researcher-years": "Людино-роки дослідників безпеки", "Subjective metrics (1–5)": "Суб'єктивні метрики (1–5)", "Epistemic culture": "Епістемічна культура", "Public transparency": "Публічна прозорість", "Distribution of power": "Розподіл влади", "Outcomes (medians across implementations)": "Результати (медіани за реалізаціями)", "p(alignment); i.e., 1 - p(misaligned takeover)": "p(узгодження); тобто 1 - p(захоплення влади неузгодженим ШІ)", "p(great future | alignment)": "p(чудове майбутнє | узгодження)", "p(great future)": "p(чудове майбутнє)", "Plans are alphabetically ranked in terms of their objective metrics, with a big jump between Plan A and Plan B. However, plans C+ and C beat out Plan B on some subjective metrics. Plan B’s focus on security and its wartime vibe could degrade epistemics, and its likely implementation of nationalization or pseudo-nationalization would decrease public transparency and concentrate power.": "За об'єктивними метриками плани ранжуються в алфавітному порядку, з великим розривом між Планом A і Планом B. Однак Плани C+ і C випереджають План B за деякими суб'єктивними метриками. Зосередженість Плану B на безпеці та його «воєнна» атмосфера можуть погіршити епістеміку, а його ймовірна реалізація через націоналізацію чи псевдонаціоналізацію знизила б публічну прозорість і сконцентрувала владу.", "These estimates aggregate over uncertainties about the default capability trajectory and when the plans are implemented, as well as how competently the plans are executed. The numbers are in ": "Ці оцінки узагальнюють невизначеності щодо стандартної траєкторії можливостей, моменту реалізації планів, а також того, наскільки компетентно плани виконуються. Числа наведено в ", "These estimates aggregate over uncertainties about the default capability trajectory and when the plans are implemented, as well as how competently the plans are executed. The numbers are in": "Ці оцінки узагальнюють невизначеності щодо стандартної траєкторії можливостей, моменту реалізації планів, а також того, наскільки компетентно плани виконуються. Числа наведено в", "this sheet": "цій таблиці", ", and the plan classification is as described ": ", а класифікація планів описана ", ", and the plan classification is as described": ", а класифікація планів описана", "Probability each plan happens across authors": "Ймовірність кожного плану за оцінками авторів", "Probability plan happens": "Ймовірність реалізації плану", "Eli — Plan A: 5%": "Eli — План A: 5%", "Eli — Plan B: 15%": "Eli — План B: 15%", "Eli — Plan C+: 10%": "Eli — План C+: 10%", "Eli — Plan C: 20%": "Eli — План C: 20%", "Eli — Plan D: 25%": "Eli — План D: 25%", "Eli — Other: 25%": "Eli — Інше: 25%", "Daniel — Plan A: 15%": "Daniel — План A: 15%", "Daniel — Plan B: 10%": "Daniel — План B: 10%", "Daniel — Plan C+: 20%": "Daniel — План C+: 20%", "Daniel — Plan C: 10%": "Daniel — План C: 10%", "Daniel — Plan D: 30%": "Daniel — План D: 30%", "Daniel — Other: 15%": "Daniel — Інше: 15%", "Thomas — Plan A: 3%": "Thomas — План A: 3%", "Thomas — Plan B: 8%": "Thomas — План B: 8%", "Thomas — Plan C+: 8%": "Thomas — План C+: 8%", "Thomas — Plan C: 12%": "Thomas — План C: 12%", "Thomas — Plan D: 50%": "Thomas — План D: 50%", "Thomas — Other: 19%": "Thomas — Інше: 19%", "Romeo — Plan A: 8%": "Romeo — План A: 8%", "Romeo — Plan B: 12%": "Romeo — План B: 12%", "Romeo — Plan C+: 18%": "Romeo — План C+: 18%", "Romeo — Plan C: 12%": "Romeo — План C: 12%", "Romeo — Plan D: 30%": "Romeo — План D: 30%", "Romeo — Other: 20%": "Romeo — Інше: 20%", "Ryan — Plan A: 4%": "Ryan — План A: 4%", "Ryan — Plan B: 12%": "Ryan — План B: 12%", "Ryan — Plan C+: 25%": "Ryan — План C+: 25%", "Ryan — Plan C: 14%": "Ryan — План C: 14%", "Ryan — Plan D: 28%": "Ryan — План D: 28%", "Ryan — Other: 18%": "Ryan — Інше: 18%", "Daniel · 15%": "Daniel · 15%", "Romeo · 8%": "Romeo · 8%", "Eli · 5%": "Eli · 5%", "Ryan · 4%": "Ryan · 4%", "Thomas · 3%": "Thomas · 3%", "Eli · 25%": "Eli · 25%", "Romeo · 20%": "Romeo · 20%", "Thomas · 19%": "Thomas · 19%", "Ryan · 18%": "Ryan · 18%", "Reasoning (hover an author — here or on the chart — to spotlight their line and read their full reasoning).": "Обґрунтування (наведіть курсор на автора — тут або на графіку, — щоб виділити його лінію та прочитати повне обґрунтування).", "Eli": "Eli", "p(govt does something at least as intense as Plan B): 35%; seems like govt wakeup has been increasing and also the importance of ASI will get more and more obvious. Though note that Plan B requires actually slowing down by at least 3 months.": "p(уряд робить щось щонайменше настільки ж інтенсивне, як План B): 35%; схоже, усвідомлення урядом ситуації зростає, а важливість ASI ставатиме дедалі очевиднішою. Хоча зауважте, що План B вимагає реального сповільнення щонайменше на 3 місяці.", "p(deal | at least as intense on Plan B): 50%; deal is clearly rational but there are various blockers in practice. Again note that something at least as intense as Plan B requires at least a 3 month slowdown.": "p(угода | щонайменше настільки ж інтенсивно, як План B): 50%; угода явно раціональна, але на практиці є різні перешкоди. Знову ж таки, зауважте, що щось щонайменше настільки ж інтенсивне, як План B, вимагає сповільнення щонайменше на 3 місяці.", "p(Plan A | deal): 30%; Plan S, a verified slowdown with less transparency, or just a somewhat weaker deal are all plausible.": "p(План A | угода): 30%; імовірні також План S, перевірене сповільнення з меншою прозорістю, або просто дещо слабша угода.", "This gives Plan A is ~5%, other deals are ~10%.": "Це дає ~5% для Плану A, ~10% для інших угод.", "Let’s say Plan B is 15% and other intense non-deal things are 5%, given that Plan B is quite broad.": "Скажімо, План B становить 15%, а інші інтенсивні варіанти без угоди — 5%, з огляду на те, що План B досить широкий.", "Domestic regulation as in Plan C+ seems plausible as well, though the requirement of actually having a 2 month slowdown lowers the probability. Also, it’s a bit of a narrow target to have the will to do this but not Plan B or higher.": "Внутрішнє регулювання, як у Плані C+, також видається імовірним, хоча вимога реального сповільнення на 2 місяці знижує ймовірність. Крім того, це доволі вузька ціль — мати волю зробити це, але не дійти до Плану B чи вище.", "Plan C seems more likely than C+. Plan D seems a  bit more likely than Plan C.": "План C видається імовірнішим за C+. План D видається трохи імовірнішим за План C.", "Other being at 25% feels maybe a bit low but not too bad as I think B, C, C+, and D together are broad enough to describe a bunch of the worlds that could happen at similar levels of intensity.": "Те, що «Інше» становить 25%, здається, можливо, трохи заниженим, але не надто, оскільки я вважаю, що B, C, C+ і D разом достатньо широкі, щоб описати чимало світів, які можуть настати за схожих рівнів інтенсивності.", "Ryan": "Ryan", "I’m very uncertain about what should count. I think Plan C+ is mostly worlds with dumb regulation that slows down AI. I think Plan B would be higher if not for the intent to spend the lead on safety.": "Я дуже не впевнений щодо того, що варто зараховувати. Я вважаю, що План C+ — це здебільшого світи з нерозумним регулюванням, яке сповільнює ШІ. Я думаю, що План B був би вищим, якби не намір витратити випередження на безпеку.", "We focus on p(alignment) here, i.e. 1 - p(misaligned takeover). We ignore p(great future | alignment) in this section for simplicity.": "Тут ми зосереджуємося на p(узгодження), тобто 1 - p(захоплення влади неузгодженим ШІ). У цьому розділі ми для простоти ігноруємо p(чудове майбутнє | узгодження).", "Probability of avoiding misaligned takeover by plan": "Ймовірність уникнення захоплення влади неузгодженим ШІ за планом", "Probability of avoiding misaligned takeover": "Ймовірність уникнення захоплення влади неузгодженим ШІ", "Eli — Plan A: 70%": "Eli — План A: 70%", "Eli — Plan B: 55%": "Eli — План B: 55%", "Eli — Plan C+: 50%": "Eli — План C+: 50%", "Eli — Plan C: 45%": "Eli — План C: 45%", "Eli — Plan D: 32%": "Eli — План D: 32%", "Eli — Other: 55%": "Eli — Інше: 55%", "Daniel — Plan A: 80%": "Daniel — План A: 80%", "Daniel — Plan B: 20%": "Daniel — План B: 20%", "Daniel — Plan C+: 40%": "Daniel — План C+: 40%", "Daniel — Plan C: 20%": "Daniel — План C: 20%", "Daniel — Plan D: 10%": "Daniel — План D: 10%", "Daniel — Other: 35%": "Daniel — Інше: 35%", "Thomas — Plan A: 80%": "Thomas — План A: 80%", "Thomas — Plan B: 53%": "Thomas — План B: 53%", "Thomas — Plan C+: 45%": "Thomas — План C+: 45%", "Thomas — Plan C: 35%": "Thomas — План C: 35%", "Thomas — Plan D: 20%": "Thomas — План D: 20%", "Thomas — Other: 30%": "Thomas — Інше: 30%", "Romeo — Plan A: 80%": "Romeo — План А: 80%", "Romeo — Plan B: 35%": "Romeo — План B: 35%", "Romeo — Plan C+: 40%": "Romeo — План C+: 40%", "Romeo — Plan C: 35%": "Romeo — План C: 35%", "Romeo — Plan D: 20%": "Romeo — План D: 20%", "Romeo — Other: 50%": "Romeo — Інше: 50%", "Ryan — Plan A: 81%": "Ryan — План А: 81%", "Ryan — Plan B: 68%": "Ryan — План B: 68%", "Ryan — Plan C+: 60%": "Ryan — План C+: 60%", "Ryan — Plan C: 63%": "Ryan — План C: 63%", "Ryan — Plan D: 55%": "Ryan — План D: 55%", "Ryan — Other: 50%": "Ryan — Інше: 50%", "Ryan · 81%": "Ryan · 81%", "Daniel · 80%": "Daniel · 80%", "Thomas · 80%": "Thomas · 80%", "Romeo · 80%": "Romeo · 80%", "Eli · 70%": "Eli · 70%", "Eli · 55%": "Eli · 55%", "Romeo · 50%": "Romeo · 50%", "Ryan · 50%": "Ryan · 50%", "Daniel · 35%": "Daniel · 35%", "Thomas · 30%": "Thomas · 30%", "My probabilities in the plan assessment above were conditional on:": "Мої ймовірності в наведеній вище оцінці планів залежали від таких умов:", "(a) the default trajectory being the ": "(a) типова траєкторія — це ", "(a) the default trajectory being the": "(a) типова траєкторія — це", "default Plan A one": "типова траєкторія Плану А", ", which has a bit under a year between AC and TED-AI and a year between AC and ASI.": ", яка має трохи менше року між AC і TED-AI та рік між AC і ASI.", "(b) The plan implementation beginning in early 2029, ~0.75 years before AC.": "(b) Впровадження плану починається на початку 2029 року, приблизно за 0,75 року до AC.", "My median takeoff is ~2x longer than the one described in (a), but I have significantly probability on faster takeoffs. This means that my p(alignment) estimates should do a combination of increase and regress a bit toward 50%. Also, Plan A isn’t as sensitive to default takeoff length as other plans, and from a covert project perspective it’s actually unclear in which way the effect size points because larger effective compute gaps between the start and end of takeoff require more software progress. The trajectory timeline to AC / start of takeoff is pretty similar to my median so for that I regress abit toward 50%.": "Мій медіанний зліт приблизно вдвічі довший за той, що описаний у (a), але в мене є значна ймовірність на швидші злети. Це означає, що мої оцінки p(узгодження) мають поєднувати і підвищення, і невелику регресію до 50%. Крім того, План А не такий чутливий до типової тривалості зльоту, як інші плани, а з погляду таємного проєкту насправді неясно, у який бік вказує розмір ефекту, бо більші розриви ефективних обчислювальних потужностей між початком і кінцем зльоту вимагають більшого програмного прогресу. Часова шкала траєкторії до AC / початку зльоту доволі схожа на мою медіану, тож для неї я трохи регресую до 50%.", "For (b), my median is that the plan gets implemented later than this, but I think it doesn’t matter much for all the plans besides A because in the other plans it’s best to slow down later anyway. I do lower the value of Plan A due to this consideration, though not hugely because I think covert projects would likely still be difficult to do without detection.": "Що стосується (b), моя медіанна оцінка — що план буде впроваджено пізніше за це, але я думаю, що для всіх планів, окрім А, це не має великого значення, бо в інших планах однаково краще сповільнюватися пізніше. Я дещо знижую оцінку Плану А через це міркування, хоча не дуже сильно, бо вважаю, що таємні проєкти, ймовірно, усе одно було б важко реалізувати непоміченими.", "Also, the plan assessment numbers were based on the median implementation of the plan, rather than aggregating the expected outcome over all implementations. My unconfident quick guess is that switching to expected outcome should also regress my numbers toward 50%, but not sure so this adjustmnet will be small.": "Також цифри в оцінці планів ґрунтувалися на медіанному варіанті впровадження плану, а не на агрегуванні очікуваного результату за всіма варіантами впровадження. Моє невпевнене швидке припущення — що перехід до очікуваного результату також мав би зсунути мої цифри до 50%, але я не впевнений, тож це коригування буде невеликим.", "With the above in mind, I make the following adjustments:": "З огляду на все вищесказане, я роблю такі коригування:", "For Other, I think a bunch of this is random pretty good plans that aren’t covered, including Plan S. E.g. there’s ~40% that this is a non-Plan-A deal. Though it also includes Plan E. Overall I rate it the same as B, 55.": "Щодо категорії «Інше», я думаю, що значна її частина — це випадкові доволі непогані плани, які не охоплені, зокрема План S. Наприклад, є ~40% ймовірності, що це не-Плану-А угода. Хоча вона також включає План E. Загалом я оцінюю її так само, як B, — 55.", "These numbers are very sensitive to how you classify plans. E.g., I think Plan A as described in the scenario has maybe 3/5 as much risk as Plan A as classifed by the supplement. An actually good version of Plan C done by the leading AI company is pretty close to the numbers I give for Plan B (but worse than a great Plan B). A large fraction of “other” is worlds with not enough effort on safety to classify for Plan D.": "Ці цифри дуже чутливі до того, як класифікувати плани. Наприклад, я вважаю, що План А, як він описаний у сценарії, має, можливо, лише 3/5 того ризику, що й План А за класифікацією цього доповнення. Справді хороша версія Плану C, реалізована провідною ШІ-компанією, доволі близька до цифр, які я даю для Плану B (але гірша за чудовий План B). Велика частка «іншого» — це світи з недостатніми зусиллями щодо безпеки, щоб класифікувати їх як План D.", "There are many other possible plans that the government could follow. Below we catalog some of the ones that we find to be most promising and/or likely.": "Існує багато інших можливих планів, яких міг би дотримуватися уряд. Нижче ми каталогізуємо деякі з тих, що ми вважаємо найперспективнішими та/або найімовірнішими.", "Scaling to controllable AIs within the human range is helpful for accelerating alignment/control, epistemics, verification, and general understanding of AI.": "Масштабування до контрольованих ШІ в межах людського діапазону допомагає прискорити узгодження/контроль, епістеміку, верифікацію та загальне розуміння ШІ.", "Initial steps are achievable by the US and very helpful even if the international stage isn’t viable because it massively extends the timeline. Proactively builds trust with China.": "Початкові кроки досяжні для США і дуже корисні, навіть якщо міжнародний етап нежиттєздатний, бо вони суттєво подовжують часову шкалу. Проактивно будує довіру з Китаєм.", "Repurpose the GPUs:": "Перепрофілювати GPU:", " Like ": " Подібно до ", "Like": "Подібно до", "GPU arms control": "контролю GPU-озброєнь", ", except they are now required to be used for existentially useful applications rather than being destroyed. See ": ", з тією відмінністю, що тепер їх вимагають використовувати для екзистенційно корисних застосувань, а не знищувати. Див. ", ", except they are now required to be used for existentially useful applications rather than being destroyed. See": ", з тією відмінністю, що тепер їх вимагають використовувати для екзистенційно корисних застосувань, а не знищувати. Див.", "this comment": "цей коментар", " for a more specific proposal in which GPUs are required to be used for giving inference capacity to external safety organizations or to do publicly transparent safety research. In theory this plan should be better than ": " — там детальніша пропозиція, за якою GPU вимагають використовувати для надання інференс-потужностей зовнішнім організаціям з безпеки або для публічно прозорих досліджень безпеки. Теоретично цей план мав би бути кращим за ", "for a more specific proposal in which GPUs are required to be used for giving inference capacity to external safety organizations or to do publicly transparent safety research. In theory this plan should be better than": "— там детальніша пропозиція, за якою GPU вимагають використовувати для надання інференс-потужностей зовнішнім організаціям з безпеки або для публічно прозорих досліджень безпеки. Теоретично цей план мав би бути кращим за", "GPU arms reduction": "скорочення GPU-озброєнь", ", but it’s less reversible and harder to enforce.": ", але він менш оборотний і його важче забезпечити виконання.", "Plan B-but-don’t-slowdown, aka D-war:": "План B-але-без-сповільнення, або D-війна:", " Like Plan B except that you don’t slow down, i.e. you don’t burn ~any of the lead that you increased by sabotaging China. (Currently classified as a variant of Plan D when making the above estimates.)": " Подібно до Плану B, за винятком того, що ви не сповільнюєтеся, тобто не витрачаєте практично нічого з переваги, яку здобули, саботуючи Китай. (У наведених вище оцінках наразі класифікується як варіант Плану D.)", "Like Plan B except that you don’t slow down, i.e. you don’t burn ~any of the lead that you increased by sabotaging China. (Currently classified as a variant of Plan D when making the above estimates.)": "Подібно до Плану B, за винятком того, що ви не сповільнюєтеся, тобто не витрачаєте практично нічого з переваги, яку здобули, саботуючи Китай. (У наведених вище оцінках наразі класифікується як варіант Плану D.)", "Weaker deals with China.": "Слабші угоди з Китаєм.", " For example, the US could offer: “You get access to more chips for AI inference, and a non-binding or non-majority say in our safety requirements, if you give us full transparency into what you’re up to.”": " Наприклад, США могли б запропонувати: «Ви отримуєте доступ до більшої кількості чипів для ШІ-інференсу та необов'язковий чи неголовний голос у визначенні наших вимог до безпеки, якщо надасте нам повну прозорість щодо того, чим ви займаєтеся».", "For example, the US could offer: “You get access to more chips for AI inference, and a non-binding or non-majority say in our safety requirements, if you give us full transparency into what you’re up to.”": "Наприклад, США могли б запропонувати: «Ви отримуєте доступ до більшої кількості чипів для ШІ-інференсу та необов'язковий чи неголовний голос у визначенні наших вимог до безпеки, якщо надасте нам повну прозорість щодо того, чим ви займаєтеся».", "Plan E:": "План E:", " Like Plan D but even less safety investment, i.e. less than 1% of resources.": " Подібно до Плану D, але з ще меншими інвестиціями в безпеку, тобто менш ніж 1% ресурсів.", "Like Plan D but even less safety investment, i.e. less than 1% of resources.": "Подібно до Плану D, але з ще меншими інвестиціями в безпеку, тобто менш ніж 1% ресурсів.", "Define the ": "Визначимо ", "Define the": "Визначимо", "implementation window": "вікно впровадження", " as the period between:": " як період між:", "as the period between:": "як період між:", "Start: 1 year before ": "Початок: за 1 рік до того, як ", "Start: 1 year before": "Початок: за 1 рік до того, як", "(AC) would be reached if scaling at maximum speed": "(AC) було б досягнуто за масштабування з максимальною швидкістю", " An AC is a collective of AIs that fully automates an AGI project’s coding work, autonomously replacing the project’s entire coding staff. That is, you’d rather fire all of the humans than stop using AIs.": " AC — це колектив ШІ, який повністю автоматизує програмування в AGI-проєкті, автономно замінюючи весь штат програмістів проєкту. Тобто ви радше звільнили б усіх людей, ніж перестали використовувати ШІ.", "An AC is a collective of AIs that fully automates an AGI project’s coding work, autonomously replacing the project’s entire coding staff. That is, you’d rather fire all of the humans than stop using AIs.": "AC — це колектив ШІ, який повністю автоматизує програмування в AGI-проєкті, автономно замінюючи весь штат програмістів проєкту. Тобто ви радше звільнили б усіх людей, ніж перестали використовувати ШІ.", "End: Takeover-capable AI.": "Кінець: ШІ, здатний на захоплення влади.", " Takeover-capable AI is reached when it is practically very unlikely that humans could stop AI takeover, conditional on the AIs being adversarially misaligned. It could still be in theory possible for them to shut down the AIs by taking extremely drastic actions like shutting down the internet, but it’s unlikely that they would do so, e.g. because AIs might be heavily relied upon and/or highly persuasive.": " Стан ШІ, здатного на захоплення влади, настає тоді, коли практично вкрай малоймовірно, що люди змогли б зупинити захоплення влади ШІ за умови, що ШІ є ворожо неузгодженими. Теоретично люди все ще могли б вимкнути ШІ, вдавшись до вкрай радикальних дій на кшталт відключення інтернету, але малоймовірно, що вони це зроблять, наприклад тому, що на ШІ можуть сильно покладатися і/або вони можуть бути дуже переконливими.", "Takeover-capable AI is reached when it is practically very unlikely that humans could stop AI takeover, conditional on the AIs being adversarially misaligned. It could still be in theory possible for them to shut down the AIs by taking extremely drastic actions like shutting down the internet, but it’s unlikely that they would do so, e.g. because AIs might be heavily relied upon and/or highly persuasive.": "Стан ШІ, здатного на захоплення влади, настає тоді, коли практично вкрай малоймовірно, що люди змогли б зупинити захоплення влади ШІ за умови, що ШІ є ворожо неузгодженими. Теоретично люди все ще могли б вимкнути ШІ, вдавшись до вкрай радикальних дій на кшталт відключення інтернету, але малоймовірно, що вони це зроблять, наприклад тому, що на ШІ можуть сильно покладатися і/або вони можуть бути дуже переконливими.", "If the plan being attempted is consistent throughout this window, then the trajectory is classified into that plan. Even if multiple plans are attempted, each trajectory can count as at most one plan; this is a non-obvious choice and it seems also reasonable to count trajectories as multiple plans.": "Якщо план, який намагаються реалізувати, залишається незмінним протягом усього цього вікна, то траєкторію класифікують як цей план. Навіть якщо намагаються реалізувати кілька планів, кожна траєкторія може зараховуватися щонайбільше до одного плану; це неочевидний вибір, і здається також розумним зараховувати траєкторії до кількох планів.", "If multiple plans are attempted during the implementation window, the trajectory is classified as the most intense plan that was attempted. This is a bit vague to use as a general classification, but for concreteness among Plans S/A/B/C+/C/D trajectories would be classified as the attempted plan that is earliest in that list. The reasoning behind this is that it seems intuitively like a trajectory should count primarily as Plan A or S even if the ": "Якщо протягом вікна впровадження намагаються реалізувати кілька планів, траєкторію класифікують як найінтенсивніший з випробуваних планів. Це доволі розпливчасто для використання як загальної класифікації, але для конкретики серед Планів S/А/B/C+/C/D траєкторії класифікуватимуться як той випробуваний план, що стоїть найраніше в цьому списку. Обґрунтування таке: інтуїтивно здається, що траєкторія має зараховуватися передусім як План А або S, навіть якщо ", "If multiple plans are attempted during the implementation window, the trajectory is classified as the most intense plan that was attempted. This is a bit vague to use as a general classification, but for concreteness among Plans S/A/B/C+/C/D trajectories would be classified as the attempted plan that is earliest in that list. The reasoning behind this is that it seems intuitively like a trajectory should count primarily as Plan A or S even if the": "Якщо протягом вікна впровадження намагаються реалізувати кілька планів, траєкторію класифікують як найінтенсивніший з випробуваних планів. Це доволі розпливчасто для використання як загальної класифікації, але для конкретики серед Планів S/А/B/C+/C/D траєкторії класифікуватимуться як той випробуваний план, що стоїть найраніше в цьому списку. Обґрунтування таке: інтуїтивно здається, що траєкторія має зараховуватися передусім як План А або S, навіть якщо", "deal dissolves": "угода розпадається", " quickly, and also should count as Plan A or S if it starts as a less intense plan but then transitions to A/S within the implementation window.": " швидко, а також має зараховуватися як План А або S, якщо вона починається як менш інтенсивний план, але потім переходить до А/S у межах вікна впровадження.", "quickly, and also should count as Plan A or S if it starts as a less intense plan but then transitions to A/S within the implementation window.": "швидко, а також має зараховуватися як План А або S, якщо вона починається як менш інтенсивний план, але потім переходить до А/S у межах вікна впровадження.", "The following selection effect is a consequence of this classification: In more intense plans, people are selected for being more competent. Furthermore, less intense plans are selected for people not later transitioning to a more intense plan even if concerning evidence arises.": "Наслідком такої класифікації є такий ефект відбору: у інтенсивніших планах людей відбирають за компетентністю. Крім того, менш інтенсивні плани відбирають людей, які згодом не переходять до інтенсивнішого плану, навіть якщо з'являються тривожні докази.", "One selection effect that I explicitly remove is the effect of background variables such as alignment difficulty on what plan a trajectory counts as. I.e., I assume when rating plans that the distribution of alignment difficulty is the same no matter what plan is attempted; in particular my overall guess as to the distribution of alignment difficulty. As mentioned above, I don’t do this for things that humans control such as their competence.": "Один ефект відбору, який я свідомо усуваю, — це вплив фонових змінних, таких як складність узгодження, на те, яким планом вважається траєкторія. Тобто, оцінюючи плани, я припускаю, що розподіл складності узгодження однаковий незалежно від того, який план намагаються реалізувати; зокрема, це моя загальна оцінка розподілу складності узгодження. Як згадано вище, я не роблю так для речей, які контролюють люди, наприклад для їхньої компетентності.", "The training compute safety tax is the difference between the amount of compute actually used on a training run to reach a given capability level, and the minimum amount of compute required to reach that capability. Examples of ways to productively use that unnecessary compute might be to train in a more safe but less compute-efficient paradigm, or to spend lots of compute on AI-driven scalable oversight to improve incentives during the training process.": "Податок на безпеку навчальних обчислювальних потужностей — це різниця між обсягом обчислювальних потужностей, фактично витрачених на тренувальний запуск для досягнення заданого рівня можливостей, і мінімальним обсягом обчислювальних потужностей, необхідним для досягнення цих можливостей. Приклади продуктивного використання цих зайвих обчислювальних потужностей — навчання в безпечнішій, але менш обчислювально ефективній парадигмі, або витрата великої кількості обчислювальних потужностей на керований ШІ масштабований нагляд для покращення стимулів під час процесу навчання.", "Measuring the safety tax by this method is an imperfect proxy for what we actually care about. There is likely large variance among improvements which provide the same amount of capability in how useful it is for safety to forego that improvement.": "Вимірювання податку на безпеку цим методом є недосконалим індикатором того, що нас насправді цікавить. Ймовірно, існує велика варіативність серед покращень, які забезпечують однаковий приріст можливостей, щодо того, наскільки корисно для безпеки відмовитися від цього покращення.", "Pause the GPUs:": "Призупинити GPU:", "Potentially I should allow for plan implementation to begin earlier, especially if the plan is very intense. For example, probably Plan S should count if it begins 1.5 years before the default AC time.": "Можливо, мені варто дозволити, щоб впровадження плану починалося раніше, особливо якщо план дуже інтенсивний. Наприклад, ймовірно, План S має зараховуватися, якщо він починається за 1,5 року до типового моменту AC.", "Definitions": "Визначення", "Metrics": "Метрики", "Categories": "Категорії", "Part 1": "Частина 1", "AI compute": "Обчислювальні потужності ШІ", "All compute": "Усі обчислювальні потужності", "Ownership": "Власність", "Part 2": "Частина 2", "The": "Наш ", "Forecast": "прогноз", "Companies": "Компанії", "Compute": "Обчислювальні потужності", "This supplement explains our estimates and forecasts on compute-related numbers. It is divided into two major parts, the first pre-2029 and the second post-2029 (where it becomes conditional on Plan A). In the pre-2029 section, the main goal is to forecast the total amount of compute in the world year by year, and to break this compute down into informative categories, including AI-relevant and non-AI-relevant compute,": "Це доповнення пояснює наші оцінки та прогнози щодо показників, пов'язаних з обчислювальними потужностями. Воно поділене на дві основні частини: перша охоплює період до 2029 року, а друга — після 2029 року (де вона стає умовною за Плану А). У розділі до 2029 року основна мета — спрогнозувати сукупний обсяг обчислювальних потужностей у світі рік за роком і розбити ці потужності на інформативні категорії, зокрема на релевантні для ШІ та нерелевантні для ШІ обчислювальні потужності,", " single-devices vs. clusters, regional ownership,": " окремі пристрої проти кластерів, регіональну власність,", "single-devices vs. clusters, regional ownership,": "окремі пристрої проти кластерів, регіональну власність,", " and datacenter sizes (for AI-relevant clusters). Post-2029 it justifies how much compute we think could be produced with AI acceleration of hardware R&D and production, as well as our forecasts for the concentration of compute in companies, the allocation of frontier AI compute between uses and our guesses about how AI copies-speed numbers will look in the Plan A scenario.": " та розміри дата-центрів (для релевантних для ШІ кластерів). Після 2029 року вона обґрунтовує, який обсяг обчислювальних потужностей, на нашу думку, можна виробити за умови прискорення апаратних R&D і виробництва завдяки ШІ, а також наводить наші прогнози щодо концентрації обчислювальних потужностей у компаніях, розподілу обчислювальних потужностей передового ШІ між різними застосуваннями та наші припущення щодо того, як виглядатимуть показники кількості копій і швидкості ШІ в сценарії Плану А.", "and datacenter sizes (for AI-relevant clusters). Post-2029 it justifies how much compute we think could be produced with AI acceleration of hardware R&D and production, as well as our forecasts for the concentration of compute in companies, the allocation of frontier AI compute between uses and our guesses about how AI copies-speed numbers will look in the Plan A scenario.": "та розміри дата-центрів (для релевантних для ШІ кластерів). Після 2029 року вона обґрунтовує, який обсяг обчислювальних потужностей, на нашу думку, можна виробити за умови прискорення апаратних R&D і виробництва завдяки ШІ, а також наводить наші прогнози щодо концентрації обчислювальних потужностей у компаніях, розподілу обчислювальних потужностей передового ШІ між різними застосуваннями та наші припущення щодо того, як виглядатимуть показники кількості копій і швидкості ШІ в сценарії Плану А.", "Compute Definitions": "Визначення обчислювальних потужностей", "Part 1. Pre-deal compute (pre-2029)": "Частина 1. Обчислювальні потужності до угоди (до 2029)", "1.1. AI-relevant compute": "1.1. Релевантні для ШІ обчислювальні потужності", "1.2. All compute": "1.2. Усі обчислювальні потужності", "1.3. Regional ownership": "1.3. Регіональна власність", "1.4. Datacenter sizes": "1.4. Розміри дата-центрів", "Part 2. Post-deal compute (post-2029)": "Частина 2. Обчислювальні потужності після угоди (після 2029)", "2.1. The no-deal counterfactual": "2.1. Контрфактичний сценарій без угоди", "2.2. AI-relevant compute after the deal": "2.2. Релевантні для ШІ обчислювальні потужності після угоди", "2.3. Company concentration": "2.3. Концентрація в компаніях", "2.4. Compute allocation": "2.4. Розподіл обчислювальних потужностей", "2.5. AI copies and speed": "2.5. Кількість копій і швидкість ШІ", "Appendix. The effective-H100e model": "Додаток. Модель ефективних H100e", "Summary in figures": "Підсумок у діаграмах", "AI-relevant": "Релевантні для ШІ", "non-AI-relevant": "Нерелевантні для ШІ", "Cluster": "Кластер", "AI Clusters": "ШІ-кластери", "AI servers and pods.": "ШІ-сервери та поди.", "Non-AI Clusters": "Не-ШІ кластери", "CPU servers.": "CPU-сервери.", "Single-device": "Окремий пристрій", "Specialty Consumer": "Спеціалізовані споживчі пристрої", "High-end workstations and gaming cards.": "Високопродуктивні робочі станції та ігрові карти.", "Consumer Compute": "Споживчі обчислювальні потужності", "Phones, PCs, gaming GPUs.": "Телефони, ПК, ігрові GPU.", "Two cutoffs define the split: a chip is ": "Поділ визначають два пороги: чип вважається ", "Two cutoffs define the split: a chip is": "Поділ визначають два пороги: чип вважається", " if it clears the AI-compute performance floor, and a ": "якщо його продуктивність долає поріг для ШІ-обчислень, а ", "if it clears the AI-compute performance floor, and a": "якщо його продуктивність долає поріг для ШІ-обчислень, а", "cluster": "кластером", " if it is linked ≥ 5 GB/s to at least one other chip.": " — якщо з'єднаний на швидкості ≥ 5 ГБ/с щонайменше з одним іншим чипом.", "if it is linked ≥ 5 GB/s to at least one other chip.": "— якщо з'єднаний на швидкості ≥ 5 ГБ/с щонайменше з одним іншим чипом.", "H100e added": "Додано H100e", "H100e installed": "Встановлено H100e", "level": "рівень", "raw": "необроблений", "effective": "ефективних", "EUV buildout (§1.1)": "Розбудова EUV (§1.1)", "+ China domestic (§1.3)": "+ вітчизняне виробництво Китаю (§1.3)", "projected →": "прогноз →", "AI compute: flow & stock": "Обчислювальні потужності ШІ: потік і запас", "H100e added is annual capex × cost-efficiency (anchored to the 2024/25 actuals 5.09M, 13.6M, then forecast); installed stock is shown at the end of each year. The black bars are the EUV-constrained §1.1 buildout (~": "Додано H100e — це річні капітальні витрати (капекс) × вартісна ефективність (прив'язано до фактичних показників 2024/25 років — 5,09 млн, 13,6 млн, — далі прогноз); встановлений запас показано на кінець кожного року. Чорні стовпці — це обмежена EUV розбудова за §1.1 (~", " added in 2028, ~": " додано у 2028 році, ~", "added in 2028, ~": "додано у 2028 році, ~", " installed by end-2028); the red caps add China’s off-EUV domestic manufacturing (§1.3), for a ~": " встановлено до кінця 2028 року); червоні шапки додають вітчизняне виробництво Китаю поза EUV (§1.3), даючи світовий підсумок ~", "installed by end-2028); the red caps add China’s off-EUV domestic manufacturing (§1.3), for a ~": "встановлено до кінця 2028 року); червоні шапки додають вітчизняне виробництво Китаю поза EUV (§1.3), даючи світовий підсумок ~", " world total. Toggle ‘effective’ to rescale by the §1.2 usefulness factor.": " від загальносвітового підсумку. Перемкніть «ефективний», щоб перерахувати за коефіцієнтом корисності з §1.2.", "world total. Toggle ‘effective’ to rescale by the §1.2 usefulness factor.": "від загальносвітового підсумку. Перемкніть «ефективний», щоб перерахувати за коефіцієнтом корисності з §1.2.", "non-AI": "не-ШІ", "% AI": "% ШІ", "All compute global stock": "Світовий запас усіх обчислювальних потужностей", "Our forecast of all compute in the world, including AI-relevant and non-AI-relevant compute, measured in both raw H100e, and our effective H100e metric which makes an adjustment for memory and networking factors. World installed compute stock is measured at Jan 1st.": "Наш прогноз усіх обчислювальних потужностей у світі, включно з релевантними для ШІ та нерелевантними для ШІ, вимірюваний як у необробленому H100e, так і в нашому показнику ефективного H100e, який враховує коригування на фактори пам'яті та мережі. Світовий встановлений запас обчислювальних потужностей вимірюється станом на 1 січня.", "stock": "запас", "flow": "потік", "% share": "% частки", "US": "США", "China": "Китай", "RoW": "Решта світу", "Who owns the AI compute": "Кому належать обчислювальні потужності ШІ", "Owner = the nation of the company that owns or leases the compute. World compute is from §1.1; China is the §1.3.1 bottom-up forecast; the non-China remainder is split 85/15 US/RoW.": "Власник = країна компанії, якій належать або яка орендує обчислювальні потужності. Світові обчислювальні потужності — з §1.1; Китай — це прогноз §1.3.1, побудований знизу вгору; решта, що не належить Китаю, розподілена 85/15 між США та Рештою світу.", " DCs·": " Дата-центрів·", "DCs·": "Дата-центрів·", "In-transit": "У дорозі", "AI consumer": "Споживчі ШІ", " units·": " одиниці·", "units·": "одиниці·", "US · 224M · 77%": "США · 224M · 77%", "China · 26M · 9%": "Китай · 26M · 9%", "RoW · 39M · 14%": "Решта світу · 39M · 14%", "Compute locations by datacenter size (Jan 1 2029)": "Розташування обчислювальних потужностей за розміром дата-центру (1 січня 2029 р.)", "no deal": "без угоди", "deal (Plan A)": "угода (План А)", "2029 capex": "Капекс 2029", "debt-sourced takes the hit": "Удар припадає на боргове фінансування", "H100e added (2029)": "Додано H100e (2029)", "capex × efficiency, net of EUV surcharge": "капекс × ефективність, за вирахуванням надбавки EUV", "Installed H100e (end of 2029)": "Встановлено H100e (кінець 2029)", "cushioned by the existing base": "Пом'якшено наявною базою", "Plan A counterfactual": "Контрфактичний сценарій Плану А", "No deal vs Plan A, one year past the deal (through end-2029). Plan A collapses the debt-financed slice of capex (~31% off 2029 spending) while cash-flow-funded capex holds.": "Без угоди проти Плану А — через рік після укладення угоди (до кінця 2029 року). План А скорочує боргово фінансовану частку капексу (~31% від видатків 2029 року), тоді як капекс, профінансований за рахунок грошового потоку, залишається незмінним.", "no cap & trade": "без cap-and-trade", "$ invested": "$ інвестовано", "installed H100-equivalents": "встановлені H100-еквіваленти", ", log scale": ", логарифмічна шкала", "Plan A compute, with and without the cap": "Обчислювальні потужності Плану А з обмеженням і без нього", "Plan A compute with different constraints lifted. The two constraints are the cap & trade policy in 2032, which restricts the quantity produced, and the hardware R&D deployment limits, which stop an exploding hardware R&D workforce from driving compute costs too low and chips too easy to manufacture.": "Обчислювальні потужності Плану А за різних знятих обмежень. Два обмеження — це політика cap-and-trade у 2032 році, яка обмежує обсяг виробництва, та ліміти на розгортання апаратних R&D, які не дають вибуховому зростанню робочої сили в апаратних R&D занадто сильно знижувати вартість обчислювальних потужностей і надмірно спрощувати виробництво чипів.", "fuller fill = frontier, lighter = rest": "насиченіша заливка = передові, світліша = решта", "Year": "Рік", "highlighted = frontier (top 3)": "виділено = передові (топ-3)", "Anthropic": "Anthropic", "GDM": "GDM", "SpaceX": "SpaceX", "Meta": "Meta", "other US": "інші (США)", "other China": "інші (Китай)", "other RoW": "інші (Решта світу)", "Compute end-users by company": "Кінцеві користувачі обчислювальних потужностей за компаніями", "Frontier AI compute allocation under Plan A": "Розподіл обчислювальних потужностей передового ШІ в межах Плану А", "public deployment": "публічне розгортання", "internal inference": "внутрішній інференс", "training": "навчання", "experiments": "експерименти", "safety": "безпека", "offline / transition": "офлайн / перехід", "2029 deal": "угода 2029", "public": "публічне", "deployment": "розгортання", "Measuring compute: Raw vs effective H100e": "Вимірювання обчислювальних потужностей: необроблений H100e проти ефективного", "The primary metric used in this supplement is ": "Основна метрика, яку ми використовуємо в цьому доповненні, — ", "The primary metric used in this supplement is": "Основна метрика, яку ми використовуємо в цьому доповненні, —", "H100-equivalents (H100e)": "H100-еквіваленти (H100e)", " multiples of one Nvidia H100 GPU measured in ": " кратні одному GPU Nvidia H100, виміряні в ", "multiples of one Nvidia H100 GPU measured in": "кратні одному GPU Nvidia H100, виміряні в", "Total Processing Performance (TPP)": "Сукупна продуктивність обробки (TPP)", "But compute isn't the only relevant hardware performance metric. The usefulness of compute for AI workloads also depends on many other factors, including ": "Але обчислювальні потужності — не єдина релевантна метрика продуктивності апаратного забезпечення. Корисність обчислювальних потужностей для ШІ-навантажень також залежить від багатьох інших факторів, зокрема ", "But compute isn't the only relevant hardware performance metric. The usefulness of compute for AI workloads also depends on many other factors, including": "Але обчислювальні потужності — не єдина релевантна метрика продуктивності апаратного забезпечення. Корисність обчислювальних потужностей для ШІ-навантажень також залежить від багатьох інших факторів, зокрема", "memory bandwidth": "пропускної здатності пам'яті", "memory capacity": "обсягу пам'яті", " (stores and feeds data to the compute), and ": " (зберігає та подає дані для обчислень), а також ", "(stores and feeds data to the compute), and": "(зберігає та подає дані для обчислень), а також", "interconnect": "з'єднання", " (to send data in between chips). Compute (H100e) is the headline metric we focus on but we also want to account for overall AI usefulness, so we also look at four other hardware resources, and combine them into an overall ": " (для передавання даних між чипами). Обчислювальні потужності (H100e) — головна метрика, на якій ми фокусуємось, але ми також хочемо врахувати загальну корисність ШІ, тому розглядаємо ще чотири інші апаратні ресурси і об'єднуємо їх у загальну ", "(to send data in between chips). Compute (H100e) is the headline metric we focus on but we also want to account for overall AI usefulness, so we also look at four other hardware resources, and combine them into an overall": "(для передавання даних між чипами). Обчислювальні потужності (H100e) — головна метрика, на якій ми фокусуємось, але ми також хочемо врахувати загальну корисність ШІ, тому розглядаємо ще чотири інші апаратні ресурси і об'єднуємо їх у загальну", "effective H100e": "ефективний H100e", " metric:": " метрику:", "metric:": "метрику:", "Resource": "Ресурс", "What it does": "Що він робить", "H100 (per H100e)": "H100 (на H100e)", "Compute (TPP)": "Обчислення (TPP)", "the math throughput itself (defines the unit)": "власне математична пропускна здатність (визначає одиницю виміру)", "15,800 TPP": "15,800 TPP", "Memory bandwidth": "Пропускна здатність пам'яті", "feeds data to the compute (HBM)": "подає дані до обчислювального блоку (HBM)", "3,350 GB/s": "3,350 GB/s", "Memory capacity": "Обсяг пам'яті", "stores data near the compute (HBM)": "зберігає дані поряд з обчислювальним блоком (HBM)", "80 GB": "80 GB", "Scale-up": "Масштабування вгору (scale-up)", "links chips within a server (NVLink)": "з'єднує чипи в межах сервера (NVLink)", "900 GB/s": "900 GB/s", "Scale-out": "Масштабування вшир (scale-out)", "links servers across the cluster (Ethernet)": "з'єднує сервери в межах кластера (Ethernet)", "50 GB/s": "50 GB/s", "Effective H100e": "Ефективний H100e", " adjusts raw H100e (which counts compute alone) by a single usefulness factor ": " коригує необроблений H100e (який враховує лише обчислення) за допомогою єдиного коефіцієнта корисності ", "adjusts raw H100e (which counts compute alone) by a single usefulness factor": "коригує необроблений H100e (який враховує лише обчислення) за допомогою єдиного коефіцієнта корисності", "effective H100e": "ефективний H100e", "raw H100e": "необроблений H100e", "\\text{effective H100e} \\;=\\; \\text{raw H100e} \\times U": "\\text{effective H100e} \\;=\\; \\text{raw H100e} \\times U", " is built from the four other resources in the table above. It adjusts for a chip's ability to actually be served by memory and communicate with other chips for representative AI workloads of its era, all relative to a 2024 100K ": " будується на основі чотирьох інших ресурсів із таблиці вище. Він враховує здатність чипа фактично обслуговуватися пам'яттю та обмінюватися даними з іншими чипами під час типових для його епохи навантажень ШІ, і все це відносно 2024 100K ", "is built from the four other resources in the table above. It adjusts for a chip's ability to actually be served by memory and communicate with other chips for representative AI workloads of its era, all relative to a 2024 100K": "будується на основі чотирьох інших ресурсів із таблиці вище. Він враховує здатність чипа фактично обслуговуватися пам'яттю та обмінюватися даними з іншими чипами під час типових для його епохи навантажень ШІ, і все це відносно 2024 100K", "H100 SXM": "H100 SXM", " cluster, which scores exactly ": " кластера, який набирає рівно ", "cluster, which scores exactly": "кластера, який набирає рівно", "Hardware that is memory-rich and well-networked for its FLOP/s can score above 1 (non-AI CPU servers, which carry lots of memory and networking around relatively little compute, score ~1.4), and e.g., compute with poor networking abilities (like gaming GPUs and phones) scores below one.": "Апаратне забезпечення, яке має багато пам'яті та добру мережу відносно свого FLOP/s, може набирати більше 1 (не-ШІ CPU-сервери, які мають багато пам'яті й мережевих можливостей при відносно малих обчисленнях, набирають ~1.4), а обчислювальні пристрої зі слабкими мережевими можливостями (наприклад, ігрові GPU та телефони), навпаки, набирають менше одиниці.", "The usefulness factor is explained in full in the ": "Коефіцієнт корисності детально пояснено в ", "The usefulness factor is explained in full in the": "Коефіцієнт корисності детально пояснено в", "appendix": "додатку", "Four categories of compute": "Чотири категорії обчислювальних потужностей", "The supplement attempts to model ": "Цей додаток намагається змоделювати ", "The supplement attempts to model": "Цей додаток намагається змоделювати", "all the compute in the world": "усі обчислювальні потужності у світі", " and then partitions it in two independent ways giving ": " а потім розбиває їх двома незалежними способами, що разом дають ", "and then partitions it in two independent ways giving": "а потім розбиває їх двома незалежними способами, що разом дають", "four categories": "чотири категорії", "Partition 1: AI-relevant vs non-AI-relevant.": "Розбиття 1: релевантні для ШІ проти нерелевантних для ШІ.", " A chip is considered ": " Чип вважається ", "A chip is considered": "Чип вважається", " if it clears all four floors of our ": " якщо він долає всі чотири нижні пороги наших ", "if it clears all four floors of our": "якщо він долає всі чотири нижні пороги наших", "AI-relevant cutoff thresholds": "порогових значень релевантності для ШІ", " set just below an A100 GPU.": " встановлених трохи нижче рівня A100 GPU.", "set just below an A100 GPU.": "встановлених трохи нижче рівня A100 GPU.", "metric": "Метрика", "cutoff": "Поріг", "RTX 4090": "RTX 4090", "compute": "знищення обчислювальних", "4,000 TPP": "4,000 TPP", "1.0 TB/s": "1.0 TB/s", "32 GB": "32 GB", "networking (NIC)": "мережа (NIC)", "100 Gb/s": "100 Gb/s", "Partition 2: cluster vs single-device.": "Розбиття 2: кластер проти окремого пристрою.", " = is actively used in a multi-device setting with at least 2 devices connected at least at 5 GB/s bidirectional speed.": " = активно використовується в багатопристрійній конфігурації, де щонайменше 2 пристрої з'єднані на швидкості не менше 5 GB/s у двосторонньому режимі.", "= is actively used in a multi-device setting with at least 2 devices connected at least at 5 GB/s bidirectional speed.": "= активно використовується в багатопристрійній конфігурації, де щонайменше 2 пристрої з'єднані на швидкості не менше 5 GB/s у двосторонньому режимі.", " = actively used as a single device (e.g., a phone, a PC, a gaming card) or otherwise does not meet the cluster definition.": " = активно використовується як окремий пристрій (наприклад, телефон, ПК чи ігрова відеокарта) або в інший спосіб не відповідає визначенню кластера.", "= actively used as a single device (e.g., a phone, a PC, a gaming card) or otherwise does not meet the cluster definition.": "= активно використовується як окремий пристрій (наприклад, телефон, ПК чи ігрова відеокарта) або в інший спосіб не відповідає визначенню кластера.", "These definitions give us four categories of compute.": "Ці визначення дають нам чотири категорії обчислювальних потужностей.", "1.1 AI-relevant compute": "1.1 Обчислювальні потужності, релевантні для ШІ", "In this section we forecast AI-relevant compute production with a demand-side method:": "У цьому розділі ми прогнозуємо виробництво обчислювальних потужностей, релевантних для ШІ, за методом з боку попиту:", "capex spent ($) ": "витрачені капітальні витрати ($) ", "capex spent ($)": "витрачені капітальні витрати ($)", "\\times": "\\times", " cost-efficiency (H100e / $) = compute added (H100e)": " вартісна ефективність (H100e / $) = додані обчислювальні потужності (H100e)", "cost-efficiency (H100e / $) = compute added (H100e)": "вартісна ефективність (H100e / $) = додані обчислювальні потужності (H100e)", "The AI capital expenditure trend": "Тренд капітальних витрат на ШІ", " has been ~1.72x/yr through Q3 2023 to Q4 2025,": " становив ~1.72x/yr із Q3 2023 по Q4 2025,", "has been ~1.72x/yr through Q3 2023 to Q4 2025,": "становив ~1.72x/yr із Q3 2023 по Q4 2025,", " while cost-efficiency (H100e per dollar) has been improving around 1.4x/yr.": " тоді як вартісна ефективність (H100e на долар) покращувалася приблизно на 1.4x/yr.", "while cost-efficiency (H100e per dollar) has been improving around 1.4x/yr.": "тоді як вартісна ефективність (H100e на долар) покращувалася приблизно на 1.4x/yr.", "AI capex (~1.72×/yr)": "Капітальні витрати на ШІ (~1.72×/yr)", "Cost-efficiency (~1.4×/yr)": "Вартісна ефективність (~1.4×/yr)", "Source: ": "Джерело: ", "Source:": "Джерело:", "Epoch AI — hyperscaler capex": "Epoch AI — капітальні витрати гіперскейлерів", "Extrapolating these trends naively would lead to the following compute forecast:": "Якщо наївно екстраполювати ці тренди, отримаємо такий прогноз обчислювальних потужностей:", "Installed H100e": "Встановлений обсяг H100e", "Naive baseline forecast": "Наївний базовий прогноз", "The method is H100e added = capex × cost-efficiency, both extrapolated naively from the trends above (capex ~1.72×/yr; H100e per $ ~1.4×/yr). 2024/25 are actual Epoch data (": "Метод такий: додано H100e = капітальні витрати × вартісна ефективність, обидва наївно екстрапольовані на основі трендів вище (капітальні витрати ~1.72×/yr; H100e на $ ~1.4×/yr). Дані за 2024/25 роки — фактичні дані Epoch (", "AI Chip Sales": "AI Chip Sales", ": 5.09M H100e added on $260B spending in 2024, 13.6M from $448B in 2025).": ": додано 5.09M H100e при витратах $260B у 2024 році, 13.6M при $448B у 2025).", "The rest of this section will attempt to improve the forecast from this naive baseline.": "Решта цього розділу намагатиметься покращити прогноз відносно цього наївного базового рівня.", "Improving the capex forecast": "Покращення прогнозу капітальних витрат", "Through 2025 the buildout was paid for almost entirely out of big-tech's operating cashflow. However, if this trend continues capital expenditures are on track to overtake operating cash flow of hyperscalers around Q3 2026.": "Протягом 2025 року розбудова оплачувалася майже повністю з операційного грошового потоку великих технологічних компаній. Однак якщо ця тенденція триватиме, капітальні витрати мають перевищити операційний грошовий потік гіперскейлерів приблизно в Q3 2026.", "Source: Epoch AI": "Джерело: Epoch AI", "To make a forecast that takes this into account, we split capex projections into three sources: ": "Щоб побудувати прогноз, який це враховує, ми розбили прогнози капітальних витрат на три джерела: ", "To make a forecast that takes this into account, we split capex projections into three sources:": "Щоб побудувати прогноз, який це враховує, ми розбили прогнози капітальних витрат на три джерела:", "existing-trend hyperscaler cash flow": "грошовий потік гіперскейлерів за існуючим трендом", "AI cash flow": "грошовий потік від ШІ", " (additional compute spend from AI company revenues, approximated as 80% of frontier AI company revenue forecasts)": " (додаткові витрати на обчислювальні потужності з доходів ШІ-компаній, оцінені як 80% від прогнозованої виручки передових ШІ-компаній)", "(additional compute spend from AI company revenues, approximated as 80% of frontier AI company revenue forecasts)": "(додаткові витрати на обчислювальні потужності з доходів ШІ-компаній, оцінені як 80% від прогнозованої виручки передових ШІ-компаній)", "debt & equity raises": "залучення боргового та акціонерного капіталу", " (which we are already starting to see grow in 2025/2026).": " (зростання якого ми вже починаємо спостерігати у 2025/2026 роках).", "(which we are already starting to see grow in 2025/2026).": "(зростання якого ми вже починаємо спостерігати у 2025/2026 роках).", "Our projections are as follows:": "Наші прогнози такі:", "Existing-trend hyperscaler cash flow": "Грошовий потік гіперскейлерів за існуючим трендом", " to continue growing at ~20%/yr (Epoch's ~$478B → $603B, with frontier AI company revenue stripped out) and deploy a ": " продовжить зростати на ~20%/рік (за Epoch: ~$478B → $603B, без урахування виручки передових ШІ-компаній) і спрямовувати ", "to continue growing at ~20%/yr (Epoch's ~$478B → $603B, with frontier AI company revenue stripped out) and deploy a": "продовжить зростати на ~20%/рік (за Epoch: ~$478B → $603B, без урахування виручки передових ШІ-компаній) і спрямовувати", "rising share": "зростаючу частку", " of it into the buildout, an ": " цього потоку на розбудову — ", "of it into the buildout, an": "цього потоку на розбудову —", "invested fraction climbing ~75 → 85%": "інвестована частка зростає з ~75 до 85%", " as capex consumes more of cash flow.": " у міру того, як капітальні витрати поглинають дедалі більшу частину грошового потоку.", "as capex consumes more of cash flow.": "у міру того, як капітальні витрати поглинають дедалі більшу частину грошового потоку.", " to follow a total ARR (across frontier AI companies) of ": " слідуватиме за сукупним ARR (по всіх передових ШІ-компаніях) у розмірі ", "to follow a total ARR (across frontier AI companies) of": "слідуватиме за сукупним ARR (по всіх передових ШІ-компаніях) у розмірі", "$30B (start-2026) → $180B → $500B → $1T (start-2029)": "$30B (start-2026) → $180B → $500B → $1T (start-2029)", ", with ": ", де ", ", with": ", де", "80% of the recognized revenue": "80% визнаної виручки", " counted as additional compute spend.": " враховується як додаткові витрати на обчислювальні потужності.", "counted as additional compute spend.": "враховується як додаткові витрати на обчислювальні потужності.", "Debt & equity raises": "Залучення боргового та акціонерного капіталу", " are hand forecasted (low effort) as a ": " прогнозуються вручну (з мінімальними зусиллями) як ", "are hand forecasted (low effort) as a": "прогнозуються вручну (з мінімальними зусиллями) як", "declining multiple": "спадний мультиплікатор", " of AI revenue: ": " від виручки ШІ: ", "of AI revenue:": "від виручки ШІ:", " This is highly uncertain: on the one hand AI revenue growth motivates leverage, but as the total debt raise grows the interest rate will likely get higher. Note also that leverage at these levels implicitly conditions on the scenario's fast AI progress continuing (lenders keep believing in the revenue growth); like the revenue path itself, it is an input consistent with this scenario rather than an unconditional forecast.": " Це дуже невизначено: з одного боку, зростання виручки від ШІ стимулює нарощення боргового плеча, але зі зростанням загального обсягу залученого боргу відсоткова ставка, ймовірно, зростатиме. Також варто зауважити, що боргове навантаження на такому рівні неявно передбачає, що швидкий прогрес ШІ в межах сценарію триватиме (кредитори продовжують вірити у зростання виручки); як і сама траєкторія виручки, це вхідна умова, узгоджена з цим сценарієм, а не безумовний прогноз.", "This is highly uncertain: on the one hand AI revenue growth motivates leverage, but as the total debt raise grows the interest rate will likely get higher. Note also that leverage at these levels implicitly conditions on the scenario's fast AI progress continuing (lenders keep believing in the revenue growth); like the revenue path itself, it is an input consistent with this scenario rather than an unconditional forecast.": "Це дуже невизначено: з одного боку, зростання виручки від ШІ стимулює нарощення боргового плеча, але зі зростанням загального обсягу залученого боргу відсоткова ставка, ймовірно, зростатиме. Також варто зауважити, що боргове навантаження на такому рівні неявно передбачає, що швидкий прогрес ШІ в межах сценарію триватиме (кредитори продовжують вірити у зростання виручки); як і сама траєкторія виручки, це вхідна умова, узгоджена з цим сценарієм, а не безумовний прогноз.", "With 2024-25 pinned to Epoch's Broad CapEx ($260B / $448B), this carries total AI capex to ": "Якщо прив'язати 2024-25 роки до показника Broad CapEx від Epoch ($260B / $448B), це виводить сукупні капітальні витрати на ШІ до ", "With 2024-25 pinned to Epoch's Broad CapEx ($260B / $448B), this carries total AI capex to": "Якщо прив'язати 2024-25 роки до показника Broad CapEx від Epoch ($260B / $448B), це виводить сукупні капітальні витрати на ШІ до", "~$2.4T in 2028": "~$2.4T у 2028", ", with debt reaching ": ", з боргом, що сягає ", ", with debt reaching": ", з боргом, що сягає", " (38% of the 2028 buildout). (We use hyperscaler Broad CapEx as the proxy for total AI capex: ": " (38% від обсягу розбудови 2028 року). (Ми використовуємо Broad CapEx гіперскейлерів як проксі для сукупних капітальних витрат на ШІ: ", "(38% of the 2028 buildout). (We use hyperscaler Broad CapEx as the proxy for total AI capex:": "(38% від обсягу розбудови 2028 року). (Ми використовуємо Broad CapEx гіперскейлерів як проксі для сукупних капітальних витрат на ШІ:", "hyperscalers are ~60-90% of global AI spend": "гіперскейлери становлять ~60-90% глобальних витрат на ШІ", ", and ~60-90% of their capex is AI, and we assume the two gaps roughly cancel.) This is 7% higher than the naive baseline's (extrapolating the ~1.72x/yr trend) 2028 capex of $2.28T! This is because our bullish AI revenue forecast (and the debt raises we think its fast growth will motivate) actually pulls the trend slightly upwards.": ", а ~60-90% їхніх капітальних витрат припадає на ШІ, і ми припускаємо, що ці два розриви приблизно компенсують один одного.) Це на 7% вище за наївний базовий прогноз (екстраполяцію тренду ~1.72x/yr) капітальних витрат $2.28T на 2028 рік! Це пояснюється тим, що наш оптимістичний прогноз виручки від ШІ (і борг, зростання якого, на нашу думку, стимулюватиме її швидке зростання) насправді трохи підтягує тренд угору.", "$ / yr": "$ / yr", "Funding the AI buildout": "Фінансування розбудови ШІ", "Hyperscaler cash flow (existing trend)": "Грошовий потік гіперскейлерів (існуючий тренд)", "Total AI capex = Epoch’s": "Сукупні капітальні витрати на ШІ = за Epoch, ", "hyperscaler Broad CapEx": "Broad CapEx гіперскейлерів", "directly ($260B / $448B for 2024/25). We think hyperscalers are": " безпосередньо ($260B / $448B за 2024/25 роки). Ми вважаємо, що гіперскейлери становлять", "~60–90% of global spend": "~60–90% глобальних витрат", "and ~60–90% of their capex is AI, so we assume the two roughly cancel as a simplifying assumption.": "а ~60–90% їхніх капітальних витрат припадає на ШІ, тож ми, як спрощення, припускаємо, що ці дві похибки приблизно компенсують одна одну.", " excludes frontier-AI revenue (to avoid double-counting) and we project it to grow ~20%/yr, with a rising fraction invested (~75→85%). ": " виключає виручку передових ШІ-компаній (щоб уникнути подвійного обліку), і ми прогнозуємо її зростання на ~20%/рік, зі зростаючою часткою, що інвестується (~75→85%). ", "excludes frontier-AI revenue (to avoid double-counting) and we project it to grow ~20%/yr, with a rising fraction invested (~75→85%).": "виключає виручку передових ШІ-компаній (щоб уникнути подвійного обліку), і ми прогнозуємо її зростання на ~20%/рік, зі зростаючою часткою, що інвестується (~75→85%).", " is the additional compute spend from AI company revenues, approximated as 80% of frontier AI company revenue forecasts.": " — це додаткові витрати на обчислювальні потужності з доходів ШІ-компаній, оцінені як 80% від прогнозованої виручки передових ШІ-компаній.", "is the additional compute spend from AI company revenues, approximated as 80% of frontier AI company revenue forecasts.": "— це додаткові витрати на обчислювальні потужності з доходів ШІ-компаній, оцінені як 80% від прогнозованої виручки передових ШІ-компаній.", " we hand-pick as a ": " ми вручну обираємо як ", "we hand-pick as a": "ми вручну обираємо як", " of AI revenue (3× / 2.8× / 1.8× / 1.6× for 2025–28), reaching ~$923B by 2028. This leads to ": " від виручки ШІ (3× / 2.8× / 1.8× / 1.6× для 2025–28), що сягає ~$923B до 2028 року. Це веде до ", "of AI revenue (3× / 2.8× / 1.8× / 1.6× for 2025–28), reaching ~$923B by 2028. This leads to": "від виручки ШІ (3× / 2.8× / 1.8× / 1.6× для 2025–28), що сягає ~$923B до 2028 року. Це веде до", "~$2.4T capex in 2028": "~$2.4T капітальних витрат у 2028 році", "AI revenue and debt forecasts": "Прогнози виручки ШІ та боргу", "Our AI revenue forecast follows a total frontier AI company ARR (annualized revenue run-rate) path of ": "Наш прогноз виручки ШІ слідує за траєкторією сукупного ARR (річного темпу виручки) передових ШІ-компаній у розмірі ", "Our AI revenue forecast follows a total frontier AI company ARR (annualized revenue run-rate) path of": "Наш прогноз виручки ШІ слідує за траєкторією сукупного ARR (річного темпу виручки) передових ШІ-компаній у розмірі", " (year-boundaries 2026.0 through 2029.0). Note that AI revenue is the flow recognized over the year, not the ARR run-rate, so this converts to annual recognized revenue of 2025: $15B / 2026: $84B / 2027: $313B / 2028: $721B.": " (межі років 2026.0–2029.0). Зауважте, що виручка ШІ — це потік, визнаний протягом року, а не темп ARR, тож це перераховується у щорічну визнану виручку: 2025: $15B / 2026: $84B / 2027: $313B / 2028: $721B.", "(year-boundaries 2026.0 through 2029.0). Note that AI revenue is the flow recognized over the year, not the ARR run-rate, so this converts to annual recognized revenue of 2025: $15B / 2026: $84B / 2027: $313B / 2028: $721B.": "(межі років 2026.0–2029.0). Зауважте, що виручка ШІ — це потік, визнаний протягом року, а не темп ARR, тож це перераховується у щорічну визнану виручку: 2025: $15B / 2026: $84B / 2027: $313B / 2028: $721B.", " We count 80% of this as additional compute spend (the \"AI cash flow\" stream above) giving: $12 / $67 / $251 / $577B. Our total frontier AI company ARR projection is done manually and is highly uncertain. Broadly speaking we expect Anthropic's recent ~10x/yr ARR trend to slow down as they become the leading AI company in terms of revenue, and for the overall total AI company revenue trend to return to roughly 3x/yr, and slightly lower as companies manage to maintain roughly flat revenue / inference-compute ($/FLOP) while their inference-compute grows around 2x/yr in the later years. This is somewhat circular with the compute numbers, but is our current (highly uncertain) expectation.": " Ми враховуємо 80% цього як додаткові витрати на обчислювальні потужності (потік \"грошовий потік від ШІ\" вище), що дає: $12 / $67 / $251 / $577B. Наш прогноз сукупного ARR передових ШІ-компаній зроблено вручну, і він дуже невизначений. Загалом ми очікуємо, що нещодавній тренд ARR Anthropic у ~10x/рік сповільниться, коли компанія стане лідером за обсягом виручки серед ШІ-компаній, а загальний тренд сукупної виручки ШІ-компаній повернеться приблизно до 3x/рік, і трохи нижче, оскільки компанії намагаються підтримувати приблизно стабільне співвідношення виручка / обчислення на інференс ($/FLOP), тоді як їхні обчислення на інференс зростають приблизно у 2x/рік у пізніші роки. Це певною мірою циклічно пов'язано з цифрами обчислювальних потужностей, але є нашим поточним (дуже невизначеним) очікуванням.", "We count 80% of this as additional compute spend (the \"AI cash flow\" stream above) giving: $12 / $67 / $251 / $577B. Our total frontier AI company ARR projection is done manually and is highly uncertain. Broadly speaking we expect Anthropic's recent ~10x/yr ARR trend to slow down as they become the leading AI company in terms of revenue, and for the overall total AI company revenue trend to return to roughly 3x/yr, and slightly lower as companies manage to maintain roughly flat revenue / inference-compute ($/FLOP) while their inference-compute grows around 2x/yr in the later years. This is somewhat circular with the compute numbers, but is our current (highly uncertain) expectation.": "Ми враховуємо 80% цього як додаткові витрати на обчислювальні потужності (потік \"грошовий потік від ШІ\" вище), що дає: $12 / $67 / $251 / $577B. Наш прогноз сукупного ARR передових ШІ-компаній зроблено вручну, і він дуже невизначений. Загалом ми очікуємо, що нещодавній тренд ARR Anthropic у ~10x/рік сповільниться, коли компанія стане лідером за обсягом виручки серед ШІ-компаній, а загальний тренд сукупної виручки ШІ-компаній повернеться приблизно до 3x/рік, і трохи нижче, оскільки компанії намагаються підтримувати приблизно стабільне співвідношення виручка / обчислення на інференс ($/FLOP), тоді як їхні обчислення на інференс зростають приблизно у 2x/рік у пізніші роки. Це певною мірою циклічно пов'язано з цифрами обчислювальних потужностей, але є нашим поточним (дуже невизначеним) очікуванням.", "What's a reasonable debt-raising rate given this revenue trend?": "Яка розумна ставка залучення боргу з огляду на цей тренд виручки?", " For starters, the five hyperscalers issued ": " Для початку, п'ять гіперскейлерів випустили ", "For starters, the five hyperscalers issued": "Для початку, п'ять гіперскейлерів випустили", "~$121B of bonds in 2025": "~$121B облігацій у 2025 році", " (vs a ~$28B/yr 2020-24 norm), with BofA/JPMorgan projecting ~$175-300B in 2026; debt-funded neoclouds like CoreWeave carry ": " (порівняно з нормою ~$28B/рік у 2020-24), а BofA/JPMorgan прогнозують ~$175-300B у 2026 році; неохмари, що фінансуються боргом, як-от CoreWeave, несуть ", "(vs a ~$28B/yr 2020-24 norm), with BofA/JPMorgan projecting ~$175-300B in 2026; debt-funded neoclouds like CoreWeave carry": "(порівняно з нормою ~$28B/рік у 2020-24), а BofA/JPMorgan прогнозують ~$175-300B у 2026 році; неохмари, що фінансуються боргом, як-от CoreWeave, несуть", "~4x revenue": "~4x виручки", " in debt ($21B on ~$5B revenue); and this ": " боргу ($21B при виручці ~$5B); і цей ", "in debt ($21B on ~$5B revenue); and this": "боргу ($21B при виручці ~$5B); і цей", "Morgan Stanley podcast": "подкаст Morgan Stanley", " sees ~$1.15T of the ~$2.9T 2025-28 buildout as debt-financed. Total US investment-grade issuance is ": " вважає, що ~$1.15T з ~$2.9T розбудови 2025-28 років фінансуватиметься боргом. Загальний обсяг випуску інвестиційного рейтингу в США становить ", "sees ~$1.15T of the ~$2.9T 2025-28 buildout as debt-financed. Total US investment-grade issuance is": "вважає, що ~$1.15T з ~$2.9T розбудови 2025-28 років фінансуватиметься боргом. Загальний обсяг випуску інвестиційного рейтингу в США становить", "~$1.5T/yr": "~$1.5T/yr", ". The SpaceX IPO also shows the potential for large equity raises that might be followed with similar/larger ones by OpenAI and Anthropic. We use these anchors to manually set debt as an ad-hoc ": ". IPO SpaceX також демонструє потенціал для великих залучень акціонерного капіталу, за якими можуть піти подібні або більші раунди від OpenAI та Anthropic. Ми використовуємо ці орієнтири, щоб вручну встановити борг як спеціальний ", ". The SpaceX IPO also shows the potential for large equity raises that might be followed with similar/larger ones by OpenAI and Anthropic. We use these anchors to manually set debt as an ad-hoc": ". IPO SpaceX також демонструє потенціал для великих залучень акціонерного капіталу, за якими можуть піти подібні або більші раунди від OpenAI та Anthropic. Ми використовуємо ці орієнтири, щоб вручну встановити борг як спеціальний", "multiple of total AI revenue": "мультиплікатор від сукупної виручки ШІ", ", 3x (2025) → 2.8x (2026) → 1.8x (2027) → 1.6x (2028), giving debt-financed AI capex of ~$36B / $188B / $452B / $923B over 2025-2028. That sums to ": ", 3x (2025) → 2.8x (2026) → 1.8x (2027) → 1.6x (2028), що дає боргове фінансування капітальних витрат на ШІ у розмірі ~$36B / $188B / $452B / $923B протягом 2025-2028 років. Разом це складає ", ", 3x (2025) → 2.8x (2026) → 1.8x (2027) → 1.6x (2028), giving debt-financed AI capex of ~$36B / $188B / $452B / $923B over 2025-2028. That sums to": ", 3x (2025) → 2.8x (2026) → 1.8x (2027) → 1.6x (2028), що дає боргове фінансування капітальних витрат на ШІ у розмірі ~$36B / $188B / $452B / $923B протягом 2025-2028 років. Разом це складає", "~$1.6T of debt-financed spending out of the ~$5.1T total buildout (2025-2028; ~31% debt-financed)": "~$1.6T витрат, профінансованих боргом, з ~$5.1T загальної розбудови (2025-2028; ~31% фінансується боргом)", ", roughly ": ", приблизно ", ", roughly": ", приблизно", "39% above Morgan Stanley's ~$1.15T of debt, and ~75% above their ~$2.9T total": "на 39% більше за $1.15T боргу від Morgan Stanley та на ~75% більше за їхню загальну суму $2.9T", ", respectively, though notably Morgan Stanley's numbers ignore equity-raises.": ", відповідно, хоча варто зазначити, що цифри Morgan Stanley не враховують залучення акціонерного капіталу.", "Improving the cost efficiency forecast (supply-side)": "Покращення прогнозу вартісної ефективності (з боку пропозиції)", "The capex forecast is a demand-side forecast, while for cost-efficiency it makes sense to look at supply side. In particular, this section will focus on lithography (primarily EUV) capacity as the primary expected bottleneck on how many H100e can be produced.": "Прогноз капітальних витрат — це прогноз з боку попиту, тоді як для вартісної ефективності доцільніше розглядати сторону пропозиції. Зокрема, цей розділ зосередиться на потужностях літографії (переважно EUV) як основному очікуваному вузькому місці, що визначає, скільки H100e можна виробити.", "EUV is needed for leading-edge logic, and the leading HBM DRAM nodes now use it too (DRAM was manufactured entirely without EUV until recently, e.g., Micron only adopted it in 2025, so this is a cost-optimality choice rather than a strict requirement; avoiding EUV just shifts the same demand onto the shared DUV pool). EUV is extremely hard to scale on short notice given the complexity of the machines and extensive supply chain dependencies, so we expect it to be the most important and informative bottleneck. Because of the time-inelasticity (how hard it is to quickly scale production in response to price signal), the EUV fleet is also relatively easy to forecast.": "EUV потрібна для передового логічного виробництва, і провідні техпроцеси HBM DRAM тепер теж її використовують (DRAM донедавна вироблялася повністю без EUV, наприклад, Micron почала використовувати її лише у 2025 році, тож це радше вибір заради вартісної оптимальності, ніж строга вимога; уникнення EUV просто переносить той самий попит на спільний пул DUV). EUV надзвичайно важко швидко масштабувати з огляду на складність обладнання та значну залежність від ланцюга постачання, тому ми очікуємо, що саме вона стане найважливішим і найбільш показовим вузьким місцем. Через часову нееластичність (наскільки складно швидко наростити виробництво у відповідь на ціновий сигнал) парк EUV також відносно легко прогнозувати.", "EUV fleet (start of year)": "Парк EUV (на початок року)", "EUV added / yr": "Додано EUV / рік", "fleet passes / yr": "проходи парку / рік", "AI logic wafers / yr": "логічні пластини ШІ / рік", "AI HBM wafers / yr": "пластини HBM ШІ / рік", "AI EUV passes / yr": "проходи EUV ШІ / рік", "AI share of fleet": "частка ШІ у парку", "2029 (no Plan A)": "2029 (без Плану А)", "EUV fleet over time and AI's usage share. The fleet starts at 220 operating tools in 2024 (we estimate ASML had ~127 EUV tools in use at end-2021, then shipped 54/42 in 2022/23, per ": "Парк EUV у часі та частка його використання ШІ. Парк починається зі 220 діючих інструментів у 2024 році (за нашою оцінкою, ASML мала ~127 EUV-інструментів в експлуатації наприкінці 2021 року, потім поставила 54/42 у 2022/23 роках, за даними ", "EUV fleet over time and AI's usage share. The fleet starts at 220 operating tools in 2024 (we estimate ASML had ~127 EUV tools in use at end-2021, then shipped 54/42 in 2022/23, per": "Парк EUV у часі та частка його використання ШІ. Парк починається зі 220 діючих інструментів у 2024 році (за нашою оцінкою, ASML мала ~127 EUV-інструментів в експлуатації наприкінці 2021 року, потім поставила 54/42 у 2022/23 роках, за даними", "ASML's annual reports": "річних звітів ASML", "; the full build-up with sources is in the details box below) and grows with its accelerating shipments. The EUV added column is ASML's shipments during the year (ASML guides \"60+\" for 2026 and ~80 for 2027). Fleet passes/yr is the during-year average fleet x ~360k passes/tool. AI's draw sums its logic wafers (x ~12-24 EUV layers per logic wafer, N4→N2) and its HBM-DRAM wafers (x ~4-7 EUV layers per HBM wafer, accounting for stacking and packaging yields). AI's share climbs ~15% (2025) to ~77% (2029, no Plan A).": "; повна розбудова з джерелами наведена в блоці деталей нижче) і зростає разом із прискоренням поставок. Колонка \"Додано EUV\" — це поставки ASML протягом року (ASML орієнтує на \"60+\" для 2026 і ~80 для 2027). Проходи парку/рік — це середній за рік парк x ~360k проходів/інструмент. Обсяг споживання ШІ підсумовує його логічні пластини (x ~12-24 шари EUV на логічну пластину, N4→N2) та пластини HBM-DRAM (x ~4-7 шарів EUV на пластину HBM, з урахуванням виходу придатних при стекуванні та пакуванні). Частка ШІ зростає з ~15% (2025) до ~77% (2029, без Плану А).", "How EUV scanners make a H100e": "Як EUV-сканери створюють H100e", "AI's claim on the fleet comes from both ": "Використання парку ШІ складається з двох частин: ", "AI's claim on the fleet comes from both": "Використання парку ШІ складається з двох частин:", "logic and memory": "логіки та пам'яті", ", so we add the two in a single unit: an ": ", тож ми об'єднуємо їх в одній одиниці виміру: ", ", so we add the two in a single unit: an": ", тож ми об'єднуємо їх в одній одиниці виміру:", "EUV pass": "прохід EUV", " = one EUV exposure of one wafer (a tool images ~360k/yr regardless of what it's printing). Here is the 2025 build-up.": " = одна EUV-експозиція однієї пластини (інструмент відбиває зображення ~360k разів на рік незалежно від того, що він друкує). Ось розбудова за 2025 рік.", "= one EUV exposure of one wafer (a tool images ~360k/yr regardless of what it's printing). Here is the 2025 build-up.": "= одна EUV-експозиція однієї пластини (інструмент відбиває зображення ~360k разів на рік незалежно від того, що він друкує). Ось розбудова за 2025 рік.", "1. Fleet → passes.": "1. Парк → проходи.", " Each scanner runs only ~40-50 wph-equivalent in practice, versus a ~160 wafers-per-hour nameplate: real patterns need longer exposures than the spec assumes (higher dose, limited by the light source's power), tools are only up ~75-82% of the time, and time is lost stepping between exposure fields (reticle overhead). Netting these out gives ~": " Кожен сканер на практиці працює лише з еквівалентом ~40-50 wph, тоді як паспортна продуктивність становить ~160 пластин на годину: реальні патерни потребують довших експозицій, ніж передбачає специфікація (вища доза, обмежена потужністю джерела світла), інструменти працюють лише ~75-82% часу, а частина часу втрачається на переходи між полями експонування (накладні витрати ретикла). Врахувавши все це разом, отримуємо ~", "Each scanner runs only ~40-50 wph-equivalent in practice, versus a ~160 wafers-per-hour nameplate: real patterns need longer exposures than the spec assumes (higher dose, limited by the light source's power), tools are only up ~75-82% of the time, and time is lost stepping between exposure fields (reticle overhead). Netting these out gives ~": "Кожен сканер на практиці працює лише з еквівалентом ~40-50 wph, тоді як паспортна продуктивність становить ~160 пластин на годину: реальні патерни потребують довших експозицій, ніж передбачає специфікація (вища доза, обмежена потужністю джерела світла), інструменти працюють лише ~75-82% часу, а частина часу втрачається на переходи між полями експонування (накладні витрати ретикла). Врахувавши все це разом, отримуємо ~", "360,000 effective passes/tool/yr": "360,000 effective passes/tool/yr", " (the naive 160 wph x 8,760 h ≈ 1.1-1.4M is 3-4x too high). Two back-calculations agree: ": " (наївний розрахунок 160 wph x 8,760 h ≈ 1.1-1.4M є завищеним у 3-4 рази). Два незалежних зворотних розрахунки узгоджуються: ", "(the naive 160 wph x 8,760 h ≈ 1.1-1.4M is 3-4x too high). Two back-calculations agree:": "(наївний розрахунок 160 wph x 8,760 h ≈ 1.1-1.4M є завищеним у 3-4 рази). Два незалежних зворотних розрахунки узгоджуються:", "Frederick Chen": "Frederick Chen", " (<50 wph effective) and ": " (<50 wph ефективно) та ", "(<50 wph effective) and": "(<50 wph ефективно) та", "SemiAnalysis": "SemiAnalysis", " (~1,500 wafers/mo x ~20 exposures). Starting from ~": " (~1,500 пластин/міс x ~20 експозицій). Починаючи з ~", "(~1,500 wafers/mo x ~20 exposures). Starting from ~": "(~1,500 пластин/міс x ~20 експозицій). Починаючи з ~", "220 operating tools at the start of 2024": "220 діючих інструментів на початок 2024 року", " (ASML had ~127 EUV in use at end-2021, then shipped ~54 and ~42 in 2022-23; ": " (ASML мала ~127 EUV в експлуатації наприкінці 2021 року, потім поставила ~54 та ~42 у 2022-23 роках; ", "(ASML had ~127 EUV in use at end-2021, then shipped ~54 and ~42 in 2022-23;": "(ASML мала ~127 EUV в експлуатації наприкінці 2021 року, потім поставила ~54 та ~42 у 2022-23 роках;", "TSMC alone runs ~56% of capacity": "лише TSMC експлуатує ~56% потужностей", ") the fleet does ": ") парк виконує ", ") the fleet does": ") парк виконує", "~100M passes/yr": "~100M passes/yr", " in 2025, growing to ~": " у 2025 році, зростаючи до ~", "in 2025, growing to ~": "у 2025 році, зростаючи до ~", "220M by 2029": "220M by 2029", " as ASML's EUV shipments accelerate (~48 in 2025 toward ~120/yr by 2029).": " у міру прискорення поставок EUV від ASML (~48 у 2025 році до ~120/рік до 2029 року).", "as ASML's EUV shipments accelerate (~48 in 2025 toward ~120/yr by 2029).": "у міру прискорення поставок EUV від ASML (~48 у 2025 році до ~120/рік до 2029 року).", "2. AI's logic draw.": "2. Споживання логіки ШІ.", " AI accelerators take ": " Прискорювачі ШІ споживають ", "AI accelerators take": "Прискорювачі ШІ споживають", "~0.4M leading-edge wafers": "~0.4M leading-edge wafers", " in 2025, roughly ": " у 2025 році, приблизно ", "in 2025, roughly": "у 2025 році, приблизно", "~12% of TSMC's ~3M ≤5nm wafers": "~12% від ~3M пластин ≤5nm TSMC", "Epoch's direct estimate": "пряма оцінка Epoch", "; Blackwell on N4, Nvidia only now ramping into N3). At N4's ~14 EUV layers that is ": "; Blackwell на N4, Nvidia лише зараз нарощує випуск на N3). При ~14 шарах EUV у N4 це становить ", "; Blackwell on N4, Nvidia only now ramping into N3). At N4's ~14 EUV layers that is": "; Blackwell на N4, Nvidia лише зараз нарощує випуск на N3). При ~14 шарах EUV у N4 це становить", "~5M passes": "~5M passes", ". (An ~800mm² die yields ~42 good dies/wafer at ~70% yield, per ": ". (Кристал площею ~800mm² дає ~42 придатні кристали на пластину при виході придатних ~70%, за даними ", ". (An ~800mm² die yields ~42 good dies/wafer at ~70% yield, per": ". (Кристал площею ~800mm² дає ~42 придатні кристали на пластину при виході придатних ~70%, за даними", "Cerebras": "Cerebras", "; at ~28-36 H100e/wafer today → ~120 by 2029 as FP4 + the N4→N3→N2 shrink + Rubin's high H100e/chip compound, the all-logic ceiling is ~200M → ~1.2B H100e/yr. The shrink is not free EUV-wise: the model charges a growing pass count per logic wafer, ~12 in 2024 rising to ~24 by 2029, as more layers move onto EUV.)": "; при ~28-36 H100e/пластину сьогодні → ~120 до 2029 року, оскільки FP4 разом зі зменшенням техпроцесу N4→N3→N2 та високим показником H100e/чип у Rubin поєднуються, стеля суто логічного виробництва становить ~200M → ~1.2B H100e/рік. Це зменшення техпроцесу не є безкоштовним з точки зору EUV: модель враховує зростання кількості проходів на логічну пластину — з ~12 у 2024 році до ~24 до 2029 року, оскільки дедалі більше шарів переходить на EUV.)", "3. AI's memory draw (the larger half).": "3. Споживання пам'яті ШІ (більша половина).", " Essentially all HBM goes to AI, and HBM uses a lot of wafers per GB. Reported 2025 HBM ": " Практично весь HBM іде на ШІ, і HBM використовує багато пластин на GB. Заявлена на 2025 рік HBM ", "Essentially all HBM goes to AI, and HBM uses a lot of wafers per GB. Reported 2025 HBM": "Практично весь HBM іде на ШІ, і HBM використовує багато пластин на GB. Заявлена на 2025 рік HBM", "TSV/back-end capacity": "потужність TSV/бекенду", " is ~400k wafers/month (SK Hynix ~170k + Samsung ~165k + Micron ~60k, ": " становить ~400k пластин/місяць (SK Hynix ~170k + Samsung ~165k + Micron ~60k, за даними ", "is ~400k wafers/month (SK Hynix ~170k + Samsung ~165k + Micron ~60k,": "становить ~400k пластин/місяць (SK Hynix ~170k + Samsung ~165k + Micron ~60k, за даними", "TrendForce": "TrendForce", "), but that's a capacity ceiling, not utilized starts. Netting yields, AI's actual draw is ": "), але це стеля потужності, а не фактично використані старти. З урахуванням виходу придатних, фактичне споживання ШІ становить ", "), but that's a capacity ceiling, not utilized starts. Netting yields, AI's actual draw is": "), але це стеля потужності, а не фактично використані старти. З урахуванням виходу придатних, фактичне споживання ШІ становить", "~2.5M HBM core-wafers/yr": "~2.5M HBM core-wafers/yr", ": a 24Gb-die DRAM wafer holds ~1,400 GB gross, and after ~57% core+stacking (KGSD/TSV) yield and ~88% CoWoS-assembly yield only ~": ": DRAM-пластина з кристалом 24Gb вміщує ~1,400 GB брутто, і після виходу придатних ~57% на етапі ядро+стекування (KGSD/TSV) та виходу придатних ~88% на CoWoS-складанні залишається лише ~", "700 net GB ship per started wafer": "700 GB нетто постачається з кожної запущеної пластини", ", while the 2025 fleet needs ": ", тоді як парку 2025 року потрібно ", ", while the 2025 fleet needs": ", тоді як парку 2025 року потрібно", "~1.8B GB": "~1.8B GB", " of HBM (bottom-up: ~11.7M accelerators x ~150 GB, cross-checking the ~$35B / ~2B-GB industry total). The leading HBM nodes use real EUV (SK Hynix 1b ~4 layers, ": " HBM (знизу вгору: ~11.7M прискорювачів x ~150 GB, звірка із загальногалузевим підсумком ~$35B / ~2B-GB). Провідні техпроцеси HBM використовують справжню EUV (SK Hynix 1b ~4 шари, ", "of HBM (bottom-up: ~11.7M accelerators x ~150 GB, cross-checking the ~$35B / ~2B-GB industry total). The leading HBM nodes use real EUV (SK Hynix 1b ~4 layers,": "HBM (знизу вгору: ~11.7M прискорювачів x ~150 GB, звірка із загальногалузевим підсумком ~$35B / ~2B-GB). Провідні техпроцеси HBM використовують справжню EUV (SK Hynix 1b ~4 шари,", "), so at ~": "), тож при ~", "4 layers": "4 шарах", " that is ": " це ", "that is": "це", "~10M passes, roughly two thirds of AI's EUV draw": "~10M проходів, приблизно дві третини споживання EUV ШІ", ". (Per GB, HBM burns ": ". (У перерахунку на GB HBM витрачає ", ". (Per GB, HBM burns": ". (У перерахунку на GB HBM витрачає", "~3x a DDR5 wafer": "~3x від пластини DDR5", "4. AI's fleet share.": "4. Частка ШІ в парку.", " Logic (~5M) + HBM (~10M) = ": " Логіка (~5M) + HBM (~10M) = ", "Logic (~5M) + HBM (~10M) =": "Логіка (~5M) + HBM (~10M) =", "~15M passes / ~104M fleet ≈ 15%": "~15M проходів / ~104M парку ≈ 15%", " in 2025. Rising HBM volume and EUV-layer count, plus AI's migration onto EUV-heavy N3/N2 logic, carry it to ": " у 2025 році. Зростання обсягів HBM і кількості шарів EUV, а також перехід ШІ на EUV-інтенсивну логіку N3/N2 піднімають цю частку до ", "in 2025. Rising HBM volume and EUV-layer count, plus AI's migration onto EUV-heavy N3/N2 logic, carry it to": "у 2025 році. Зростання обсягів HBM і кількості шарів EUV, а також перехід ШІ на EUV-інтенсивну логіку N3/N2 піднімають цю частку до", "~64% by 2028 and ~77% by 2029": "~64% до 2028 року і ~77% до 2029 року", ", with AI approaching saturation of the EUV fleet around 2029-30. This draw feeds back into the cost surcharge (more EUV use means a higher surcharge and fewer H100e per dollar), so it is solved self-consistently, and it is what trims the late buildout (2028 additions ~155M vs a naive ~190M).": ", причому ШІ наближається до насичення парку EUV приблизно у 2029-30 роках. Це споживання враховується у надбавці на вартість (більше використання EUV означає вищу надбавку і менше H100e на долар), тож рівняння розв'язується самоузгоджено, і саме це обмежує пізніше нарощення потужностей (приріст 2028 року ~155M проти наївних ~190M).", "5. Why passes and not wafer counts.": "5. Чому проходи, а не кількість пластин.", " AI's wafers are a mix: an HBM wafer takes only ~4 EUV passes while a leading-edge logic wafer takes ~14-22, so counting ": " Пластини ШІ - це суміш: пластина HBM потребує лише ~4 проходи EUV, тоді як пластина передової логіки - ~14-22, тож підрахунок ", "AI's wafers are a mix: an HBM wafer takes only ~4 EUV passes while a leading-edge logic wafer takes ~14-22, so counting": "Пластини ШІ - це суміш: пластина HBM потребує лише ~4 проходи EUV, тоді як пластина передової логіки - ~14-22, тож підрахунок", "wafers": "пластин", " treats very different claims on the fleet as equal. Since AI's wafer mix is HBM-heavy, a wafer count overstates its early share (it would put 2025 well above the ~15% the pass count gives). The two measures converge by 2029 for a simple reason: by then AI is the majority user of both the logic and the HBM wafer pools, so the mix difference stops mattering and either way of counting lands around ~80%.": " прирівнює дуже різні навантаження на парк одне до одного. Оскільки в суміші пластин ШІ переважає HBM, підрахунок за пластинами завищує його ранню частку (це поставило б 2025 рік значно вище ~15%, які дає підрахунок за проходами). Обидва показники сходяться до 2029 року з простої причини: на той момент ШІ стає основним споживачем як пулу логічних пластин, так і пулу пластин HBM, тож різниця в суміші перестає мати значення, і обидва способи підрахунку дають приблизно ~80%.", "treats very different claims on the fleet as equal. Since AI's wafer mix is HBM-heavy, a wafer count overstates its early share (it would put 2025 well above the ~15% the pass count gives). The two measures converge by 2029 for a simple reason: by then AI is the majority user of both the logic and the HBM wafer pools, so the mix difference stops mattering and either way of counting lands around ~80%.": "прирівнює дуже різні навантаження на парк одне до одного. Оскільки в суміші пластин ШІ переважає HBM, підрахунок за пластинами завищує його ранню частку (це поставило б 2025 рік значно вище ~15%, які дає підрахунок за проходами). Обидва показники сходяться до 2029 року з простої причини: на той момент ШІ стає основним споживачем як пулу логічних пластин, так і пулу пластин HBM, тож різниця в суміші перестає мати значення, і обидва способи підрахунку дають приблизно ~80%.", "AI's share of the EUV fleet grows from ~7% in 2024 toward ": "Частка ШІ у парку EUV зростає з ~7% у 2024 році до ", "AI's share of the EUV fleet grows from ~7% in 2024 toward": "Частка ШІ у парку EUV зростає з ~7% у 2024 році до", "~64% by 2028": "~64% до 2028 року", " (and ~77% by 2029, near saturation). We expect this to translate to higher prices as it requires outbidding other uses of the fleet (e.g., phones, PCs, etc.). To model this, we implement a hand-chosen ": " (і ~77% до 2029 року, майже до насичення). Ми очікуємо, що це призведе до вищих цін, оскільки вимагає перебивати ставки інших користувачів парку (наприклад, телефонів, ПК тощо). Щоб змоделювати це, ми впроваджуємо підібрану вручну криву ", "(and ~77% by 2029, near saturation). We expect this to translate to higher prices as it requires outbidding other uses of the fleet (e.g., phones, PCs, etc.). To model this, we implement a hand-chosen": "(і ~77% до 2029 року, майже до насичення). Ми очікуємо, що це призведе до вищих цін, оскільки вимагає перебивати ставки інших користувачів парку (наприклад, телефонів, ПК тощо). Щоб змоделювати це, ми впроваджуємо підібрану вручну криву", "cost surcharge": "надбавки на вартість", " curve that depends on the fleet usage (highly uncertain ad-hoc choice).": ", яка залежить від рівня використання парку (дуже невизначений спеціальний вибір).", "curve that depends on the fleet usage (highly uncertain ad-hoc choice).": ", яка залежить від рівня використання парку (дуже невизначений спеціальний вибір).", "% EUV used": "% використання EUV", "Surcharge curve": "Крива надбавки", "saturation": "насичення", "EUV capacity and pricing surcharge": "Ємність EUV та цінова надбавка", "Our forecast for % of global EUV time (passes) used by AI, including both logic and memory wafers (and accounting for yields). It runs ~": "Наш прогноз частки глобального часу EUV (проходів), що використовує ШІ, включно з логічними пластинами і пластинами пам'яті (з урахуванням виходу придатних). Вона зростає з ~", "% in 2024 toward ~": "% у 2024 році до ~", "% by 2028 (~77% by 2029), so AI hits the EUV wall around 2029-30. The cost surcharge (curve tab), surcharge = A·u^K (default A = ": "% до 2028 року (~77% до 2029 року), тож ШІ впирається у стелю EUV приблизно у 2029-30 роках. Надбавка на вартість (вкладка крива), surcharge = A·u^K (за замовчуванням A = ", "% by 2028 (~77% by 2029), so AI hits the EUV wall around 2029-30. The cost surcharge (curve tab), surcharge = A·u^K (default A =": "% до 2028 року (~77% до 2029 року), тож ШІ впирається у стелю EUV приблизно у 2029-30 роках. Надбавка на вартість (вкладка крива), surcharge = A·u^K (за замовчуванням A =", "), is keyed to this derived path and feeds back into the compute forecast (more draw → higher surcharge → fewer H100e), solved to a fixed point so it climbs to": "), прив'язана до цієї виведеної траєкторії і враховується у прогнозі обчислювальних потужностей (більше споживання → вища надбавка → менше H100e), розв'язується до нерухомої точки, тож зростає до", "% by 2028 and throttles the late buildout. The K and A sliders tune how hard it bites for users to play with. The parameters are hand chosen and extremely uncertain.": "% до 2028 року і стримує пізнє нарощення потужностей. Повзунки K та A дозволяють користувачам налаштовувати, наскільки сильно це відчутно. Параметри підібрані вручну і вкрай невизначені.", "Applying this surcharge to the naive price-performance trend gives an updated compute cost-efficiency trend that averages ": "Застосування цієї надбавки до наївного тренду ціна/продуктивність дає оновлений тренд вартісної ефективності обчислень, що в середньому становить ", "Applying this surcharge to the naive price-performance trend gives an updated compute cost-efficiency trend that averages": "Застосування цієї надбавки до наївного тренду ціна/продуктивність дає оновлений тренд вартісної ефективності обчислень, що в середньому становить", "~1.25x/yr": "~1.25x/рік", " from 2025-2028 (and slows to just ~1.1x/yr by 2028 as the surcharge bites) instead of the historical ~1.4x/yr.": " у 2025-2028 роках (і сповільнюється лише до ~1.1x/рік до 2028 року, коли надбавка починає відчутно впливати) замість історичних ~1.4x/рік.", "from 2025-2028 (and slows to just ~1.1x/yr by 2028 as the surcharge bites) instead of the historical ~1.4x/yr.": "у 2025-2028 роках (і сповільнюється лише до ~1.1x/рік до 2028 року, коли надбавка починає відчутно впливати) замість історичних ~1.4x/рік.", "H100e / wafer": "H100e / пластина", "wafers / $B": "пластин / $B", "The cost of compute, decomposed": "Вартість обчислень, розкладена на складові", "Cost per H100e decomposes as ": "Вартість одного H100e розкладається як ", "Cost per H100e decomposes as": "Вартість одного H100e розкладається як", "$ per wafer ÷ H100e per wafer": "$ за пластину ÷ H100e на пластину", "Where the wafer numbers come from": "Звідки беруться цифри по пластинах", "The cost figure is an identity, ": "Показник вартості - це тотожність, ", "The cost figure is an identity,": "Показник вартості - це тотожність,", "$/H100e = (all-in $/wafer) / (H100e per wafer)": "$/H100e = (повна вартість $/пластина) / (H100e на пластину)", ", and we have decent estimates of two of the three quantities, so we back out ": ", і в нас є непогані оцінки для двох із трьох величин, тож ми виводимо ", ", and we have decent estimates of two of the three quantities, so we back out": ", і в нас є непогані оцінки для двох із трьох величин, тож ми виводимо", "wafers per $B": "пластин на $B", " (the inverse of all-in $/wafer) as the ": " (обернену величину до повної вартості $/пластина) як ", "(the inverse of all-in $/wafer) as the": "(обернену величину до повної вартості $/пластина) як", "residual": "залишкову величину", " and then check whether the wafer cost it implies is sensible.": " а потім перевіряємо, чи є розумною вартість пластини, яку це передбачає.", "and then check whether the wafer cost it implies is sensible.": "а потім перевіряємо, чи є розумною вартість пластини, яку це передбачає.", "$/H100e (known).": "$/H100e (відомо).", " 2024/25 are observed (annual capex / H100e added: ~$51K, ~$33K). For 2026-28 we take the ~1.4x/yr price-performance trend and penalize it by the EUV surcharge, giving ~$23K / ~$18K / ~$16K.": " 2024/25 роки - спостережувані значення (річні капітальні витрати / додані H100e: ~$51K, ~$33K). Для 2026-28 років ми беремо тренд ціна/продуктивність ~1.4x/рік і штрафуємо його надбавкою EUV, отримуючи ~$23K / ~$18K / ~$16K.", "2024/25 are observed (annual capex / H100e added: ~$51K, ~$33K). For 2026-28 we take the ~1.4x/yr price-performance trend and penalize it by the EUV surcharge, giving ~$23K / ~$18K / ~$16K.": "2024/25 роки - спостережувані значення (річні капітальні витрати / додані H100e: ~$51K, ~$33K). Для 2026-28 років ми беремо тренд ціна/продуктивність ~1.4x/рік і штрафуємо його надбавкою EUV, отримуючи ~$23K / ~$18K / ~$16K.", "H100e per wafer (known, ~28 → ~98).": "H100e на пластину (відомо, ~28 → ~98).", " An ~800mm² reticle-limit die yields ~64-72 gross dies per 300mm wafer, ~42 good at ~70% yield; netting downstream losses (packaging yield) leaves ": " Кристал розміром ~800mm² на межі ретикла дає ~64-72 кристали брутто на пластину 300mm, ~42 придатних при виході придатних ~70%; з урахуванням подальших втрат (вихід придатних при пакуванні) залишається ", "An ~800mm² reticle-limit die yields ~64-72 gross dies per 300mm wafer, ~42 good at ~70% yield; netting downstream losses (packaging yield) leaves": "Кристал розміром ~800mm² на межі ретикла дає ~64-72 кристали брутто на пластину 300mm, ~42 придатних при виході придатних ~70%; з урахуванням подальших втрат (вихід придатних при пакуванні) залишається", "~28 sellable H100e per wafer in 2024": "~28 продаваних H100e на пластину у 2024 році", ". This climbs ~1.4x/yr to ": ". Це зростає на ~1.4x/рік до ", ". This climbs ~1.4x/yr to": ". Це зростає на ~1.4x/рік до", "~98 by 2028 (~120 by 2029)": "~98 до 2028 року (~120 до 2029 року)", " from FP4/precision (EUV-free), the N4→N3→N2 shrink (paid in extra EUV layers), and Rubin's high H100e/chip, all reasonably well grounded in die-size, node, and precision estimates. (2025 check: ~13.6M H100e on ~0.38M AI leading-edge wafers ≈ ~36 H100e/wafer.)": " завдяки FP4/точності (без EUV), зменшенню техпроцесу N4→N3→N2 (яке оплачується додатковими шарами EUV) та високому показнику H100e/чип у Rubin - усе це достатньо добре обґрунтовано оцінками розміру кристала, техпроцесу та точності. (Перевірка на 2025 рік: ~13.6M H100e на ~0.38M передових пластин ШІ ≈ ~36 H100e/пластину.)", "from FP4/precision (EUV-free), the N4→N3→N2 shrink (paid in extra EUV layers), and Rubin's high H100e/chip, all reasonably well grounded in die-size, node, and precision estimates. (2025 check: ~13.6M H100e on ~0.38M AI leading-edge wafers ≈ ~36 H100e/wafer.)": "завдяки FP4/точності (без EUV), зменшенню техпроцесу N4→N3→N2 (яке оплачується додатковими шарами EUV) та високому показнику H100e/чип у Rubin - усе це достатньо добре обґрунтовано оцінками розміру кристала, техпроцесу та точності. (Перевірка на 2025 рік: ~13.6M H100e на ~0.38M передових пластин ШІ ≈ ~36 H100e/пластину.)", "Wafers per $B (the residual).": "Пластин на $B (залишкова величина).", " Multiplying the two backs out the implied ": " Перемноження цих двох величин дає передбачувану ", "Multiplying the two backs out the implied": "Перемноження цих двох величин дає передбачувану", "all-in $/wafer": "повну вартість $/пластина", ": ~$1.43M (2024) → ~$1.18M (2025) → ~$1.20M → ~$1.36M → ~$1.56M (2028), i.e. wafers/$B ~700 → ~845 → ~640. The 2025 dip comes directly from the observed data: 2024 was early and supply-constrained, and 2025 hit Blackwell volume, so all-in cost per leading-edge wafer fell. From 2026 the implied $/wafer rises, which is what we'd expect: TSMC ASP +5-10%/yr (N2 ~$30K, +10-20% over N3), CoWoS +15-20%/yr, datacenter $/MW rising, plus the EUV surcharge. The level also checks against a bottom-up ": ": ~$1.43M (2024) → ~$1.18M (2025) → ~$1.20M → ~$1.36M → ~$1.56M (2028), тобто пластин/$B ~700 → ~845 → ~640. Провал 2025 року випливає безпосередньо зі спостережуваних даних: 2024 рік був раннім і обмеженим постачанням, а 2025 рік застав пік обсягів Blackwell, тож повна вартість передової пластини впала. З 2026 року передбачувана вартість $/пластина зростає, чого й слід було очікувати: ASP TSMC +5-10%/рік (N2 ~$30K, +10-20% понад N3), CoWoS +15-20%/рік, зростання $/MW дата-центру, плюс надбавка EUV. Цей рівень також перевіряється за допомогою розкладки «знизу вгору» ", ": ~$1.43M (2024) → ~$1.18M (2025) → ~$1.20M → ~$1.36M → ~$1.56M (2028), i.e. wafers/$B ~700 → ~845 → ~640. The 2025 dip comes directly from the observed data: 2024 was early and supply-constrained, and 2025 hit Blackwell volume, so all-in cost per leading-edge wafer fell. From 2026 the implied $/wafer rises, which is what we'd expect: TSMC ASP +5-10%/yr (N2 ~$30K, +10-20% over N3), CoWoS +15-20%/yr, datacenter $/MW rising, plus the EUV surcharge. The level also checks against a bottom-up": ": ~$1.43M (2024) → ~$1.18M (2025) → ~$1.20M → ~$1.36M → ~$1.56M (2028), тобто пластин/$B ~700 → ~845 → ~640. Провал 2025 року випливає безпосередньо зі спостережуваних даних: 2024 рік був раннім і обмеженим постачанням, а 2025 рік застав пік обсягів Blackwell, тож повна вартість передової пластини впала. З 2026 року передбачувана вартість $/пластина зростає, чого й слід було очікувати: ASP TSMC +5-10%/рік (N2 ~$30K, +10-20% понад N3), CoWoS +15-20%/рік, зростання $/MW дата-центру, плюс надбавка EUV. Цей рівень також перевіряється за допомогою розкладки «знизу вгору»", "per-wafer": "на одну пластину", " build-up: foundry ~$25-30K, HBM for the wafer's ~28 dies ~$50-70K, CoWoS ~$10-15K, and a ~4-5x chip-designer markup giving ~$400-500K of accelerator value per wafer (roughly $15K per accelerator); the remaining ~$0.7-1.1M per wafer (~$25-40K per accelerator) is the non-chip buildout: datacenters, power, land, networking. So the residual looks reasonable: wafer costs are a mild headwind after 2025, and the whole ~$51K to ~$16K decline in $/H100e comes from compute density improvements.": ": фаундрі ~$25-30K, HBM для ~28 кристалів пластини ~$50-70K, CoWoS ~$10-15K, і націнка розробника чипа ~4-5x, що дає ~$400-500K вартості прискорювача на пластину (приблизно $15K на прискорювач); залишок ~$0.7-1.1M на пластину (~$25-40K на прискорювач) - це небазова (не пов'язана з чипом) інфраструктура: дата-центри, електроенергія, земля, мережеве обладнання. Тож залишкова величина виглядає розумною: вартість пластин є помірним гальмом після 2025 року, а все падіння $/H100e з ~$51K до ~$16K обумовлене покращенням щільності обчислень.", "build-up: foundry ~$25-30K, HBM for the wafer's ~28 dies ~$50-70K, CoWoS ~$10-15K, and a ~4-5x chip-designer markup giving ~$400-500K of accelerator value per wafer (roughly $15K per accelerator); the remaining ~$0.7-1.1M per wafer (~$25-40K per accelerator) is the non-chip buildout: datacenters, power, land, networking. So the residual looks reasonable: wafer costs are a mild headwind after 2025, and the whole ~$51K to ~$16K decline in $/H100e comes from compute density improvements.": ": фаундрі ~$25-30K, HBM для ~28 кристалів пластини ~$50-70K, CoWoS ~$10-15K, і націнка розробника чипа ~4-5x, що дає ~$400-500K вартості прискорювача на пластину (приблизно $15K на прискорювач); залишок ~$0.7-1.1M на пластину (~$25-40K на прискорювач) - це небазова (не пов'язана з чипом) інфраструктура: дата-центри, електроенергія, земля, мережеве обладнання. Тож залишкова величина виглядає розумною: вартість пластин є помірним гальмом після 2025 року, а все падіння $/H100e з ~$51K до ~$16K обумовлене покращенням щільності обчислень.", "Multiplying this cost-efficiency baseline (incl. the scarcity surcharge) by the capex topline gives the annual ": "Перемноження цієї базової вартісної ефективності (з урахуванням надбавки за дефіцит) на загальні капітальні витрати дає річний ", "Multiplying this cost-efficiency baseline (incl. the scarcity surcharge) by the capex topline gives the annual": "Перемноження цієї базової вартісної ефективності (з урахуванням надбавки за дефіцит) на загальні капітальні витрати дає річний", " in 2028), and an ": " у 2028 році), та ", "in 2028), and an": "у 2028 році), та", "installed stock": "встановлений обсяг", " of ~": " у ~", "of ~": "у ~", " by end-2028. We also adjust very slightly downwards for chip survival rates.": " до кінця 2028 року. Ми також трохи коригуємо це число вниз з урахуванням рівня «виживання» чипів.", "by end-2028. We also adjust very slightly downwards for chip survival rates.": "до кінця 2028 року. Ми також трохи коригуємо це число вниз з урахуванням рівня «виживання» чипів.", " China's domestically manufactured compute (§1.3) does not draw on this EUV supply chain, so we forecast it separately and add it onto this total, bringing the world AI stock to ~": " Обчислювальні потужності, вироблені в Китаї всередині країни (§1.3), не залежать від цього ланцюга постачання EUV, тому ми прогнозуємо їх окремо і додаємо до цього підсумку, доводячи світовий запас ШІ до ~", "China's domestically manufactured compute (§1.3) does not draw on this EUV supply chain, so we forecast it separately and add it onto this total, bringing the world AI stock to ~": "Обчислювальні потужності, вироблені в Китаї всередині країни (§1.3), не залежать від цього ланцюга постачання EUV, тому ми прогнозуємо їх окремо і додаємо до цього підсумку, доводячи світовий запас ШІ до ~", "Resource intensity: from raw H100e to effective compute": "Ресурсомісткість: від необробленого H100e до ефективних обчислювальних потужностей", "Even for the AI fleet, effective and raw H100e drift apart. The ": "Навіть для парку ШІ ефективний і необроблений H100e розходяться. ", "Even for the AI fleet, effective and raw H100e drift apart. The": "Навіть для парку ШІ ефективний і необроблений H100e розходяться.", "memory wall": "стіна пам'яті", " drags effectiveness below 1 (TPP, boosted by FP4, outgrows HBM bandwidth and capacity), while the ": " тягне ефективність нижче 1 (TPP, підсилений FP4, випереджає зростання пропускної здатності та ємності HBM), тоді як ", "drags effectiveness below 1 (TPP, boosted by FP4, outgrows HBM bandwidth and capacity), while the": "тягне ефективність нижче 1 (TPP, підсилений FP4, випереджає зростання пропускної здатності та ємності HBM), тоді як", "growing coherent NVLink world": "зростаючий когерентний світ NVLink", " (HGX-8 → NVL72 → NVL144 → NVL576) pushes it back up. The two roughly cancel: there is a mild premium in 2024 (~1.16, when the fleet is memory-rich) that fades toward ~1 by 2029 as the memory wall and larger training runs start to matter more. It is the same usefulness model as §1.2.3 (full derivation in the ": " (HGX-8 → NVL72 → NVL144 → NVL576) підштовхує її назад угору. Ці два ефекти приблизно взаємно компенсуються: у 2024 році є невелика премія (~1.16, коли парк багатий на пам'ять), яка згасає до ~1 до 2029 року, оскільки стіна пам'яті та більші тренувальні прогони починають відігравати більшу роль. Це та сама модель корисності, що й у §1.2.3 (повний вивід у ", "(HGX-8 → NVL72 → NVL144 → NVL576) pushes it back up. The two roughly cancel: there is a mild premium in 2024 (~1.16, when the fleet is memory-rich) that fades toward ~1 by 2029 as the memory wall and larger training runs start to matter more. It is the same usefulness model as §1.2.3 (full derivation in the": "(HGX-8 → NVL72 → NVL144 → NVL576) підштовхує її назад угору. Ці два ефекти приблизно взаємно компенсуються: у 2024 році є невелика премія (~1.16, коли парк багатий на пам'ять), яка згасає до ~1 до 2029 року, оскільки стіна пам'яті та більші тренувальні прогони починають відігравати більшу роль. Це та сама модель корисності, що й у §1.2.3 (повний вивід у", "); the deployment-weighted fleet inputs that drive it (scale-up world in H100e = coherent chips x H100e/chip):": "); вхідні дані парку, зважені за розгортанням, що визначають це (масштабований світ у H100e = когерентні чипи x H100e/чип):", "AI fleet (deployment-weighted)": "Парк ШІ (зважений за розгортанням)", "HBM bandwidth per H100e (GB/s)": "Пропускна здатність HBM на H100e (GB/s)", "HBM capacity per H100e (GB)": "Ємність HBM на H100e (GB)", "scale-up world (H100e)": "масштабований світ (H100e)", "H100e per chip": "H100e на чип", "effective H100e per raw": "ефективний H100e на необроблений", "1.2 All compute": "1.2 Усі обчислювальні потужності", "§1.1 forecast AI-relevant compute. Now we extend to all compute in the world. We split all compute into six device categories:": "§1.1 прогнозує обчислювальні потужності, релевантні для ШІ. Тепер ми поширюємо аналіз на всі обчислювальні потужності у світі. Ми ділимо всі обчислювальні потужності на шість категорій пристроїв:", "Category": "Категорія", "Examples": "Приклади", "datacenter AI accelerators (H100, B200, MI300)": "прискорювачі ШІ дата-центрів (H100, B200, MI300)", "yes": "так", "Non-AI servers": "Сервери не для ШІ", "datacenter CPUs and non-AI accelerators": "CPU дата-центрів і прискорювачі не для ШІ", "no": "ні", "PCs": "ПК", "laptops and desktops": "ноутбуки та настільні комп'ютери", "Phones": "Телефони", "smartphones": "смартфони", "Gaming": "Ігрові пристрої", "gaming GPUs": "ігрові GPU", "microcontrollers, automotive, edge": "мікроконтролери, автомобільна електроніка, периферійні пристрої", "Our method works by looking at two quantities. The ": "Наш метод працює через розгляд двох величин. ", "Our method works by looking at two quantities. The": "Наш метод працює через розгляд двох величин.", "device side": "сторона пристроїв", " is the compute we get from counting the units shipped and the average compute carried on each device. The ": " - це обчислювальні потужності, які ми отримуємо, підраховуючи кількість поставлених одиниць і середні обчислювальні потужності на кожному пристрої. ", "is the compute we get from counting the units shipped and the average compute carried on each device. The": "- це обчислювальні потужності, які ми отримуємо, підраховуючи кількість поставлених одиниць і середні обчислювальні потужності на кожному пристрої.", "lithography side": "сторона літографії", " is the compute the world can make, from counting the wafers the fabs can produce and the compute each wafer turns into.": " - це обчислювальні потужності, які світ здатен виробити, підраховані через кількість пластин, які можуть виготовити фабрики, і обчислювальні потужності, які дає кожна пластина.", "is the compute the world can make, from counting the wafers the fabs can produce and the compute each wafer turns into.": "- це обчислювальні потужності, які світ здатен виробити, підраховані через кількість пластин, які можуть виготовити фабрики, і обчислювальні потужності, які дає кожна пластина.", "device side      ": "сторона пристроїв      ", "\\to": "\\to", " H100e       = units ": " H100e       = одиниці ", "H100e       = units": "H100e       = одиниці", " H100e per unit": " H100e на одиницю", "H100e per unit": "H100e на одиницю", "lithography side ": "сторона літографії ", " H100e      = wafers ": " H100e      = пластини ", "H100e      = wafers": "H100e      = пластини", " H100e per wafer": " H100e на пластину", "H100e per wafer": "H100e на пластину", "The compute per wafer is the quantity we are least sure of, so it is what we attempt to pin down from history (where we can get good estimates of all the other values).": "Обчислювальні потужності на пластину - це величина, у якій ми найменш впевнені, тож саме її ми намагаємося визначити на основі історичних даних (де можемо отримати добрі оцінки всіх інших величин).", "1.2.1 Calibration (2015 to 2024)": "1.2.1 Калібрування (2015-2024)", "Across 2015 to 2024 we look at ": "За період 2015-2024 років ми розглядаємо ", "Across 2015 to 2024 we look at": "За період 2015-2024 років ми розглядаємо", "device demand": "попит з боку пристроїв", " (units shipped and compute per unit) and ": " (поставлені одиниці та обчислювальні потужності на одиницю) і ", "(units shipped and compute per unit) and": "(поставлені одиниці та обчислювальні потужності на одиницю) і", "lithography supply": "пропозицію літографії", " (wafers shipped), and use this to back out an estimate of compute per wafer that we can then use to forecast future compute by category based on wafer allocation and wafer supply forecasts (which are easier to do than device demand forecasts, because the supply side can be forecasted with the relatively predictable lithography ceiling).": " (поставлені пластини), і використовуємо це, щоб вивести оцінку обчислювальних потужностей на пластину, яку потім можемо застосувати для прогнозування майбутніх обчислювальних потужностей за категоріями на основі розподілу пластин і прогнозів поставок пластин (які легше складати, ніж прогнози попиту з боку пристроїв, оскільки сторону пропозиції можна прогнозувати за відносно передбачуваною стелею літографії).", "(wafers shipped), and use this to back out an estimate of compute per wafer that we can then use to forecast future compute by category based on wafer allocation and wafer supply forecasts (which are easier to do than device demand forecasts, because the supply side can be forecasted with the relatively predictable lithography ceiling).": "(поставлені пластини), і використовуємо це, щоб вивести оцінку обчислювальних потужностей на пластину, яку потім можемо застосувати для прогнозування майбутніх обчислювальних потужностей за категоріями на основі розподілу пластин і прогнозів поставок пластин (які легше складати, ніж прогнози попиту з боку пристроїв, оскільки сторону пропозиції можна прогнозувати за відносно передбачуваною стелею літографії).", "Device side": "Сторона пристроїв", "Shipments (M units/yr)": "Поставки (M одиниць/рік)", "phones": "телефони", "pcs": "пк", "gaming": "ігрові пристрої", "ai": "ШІ", "non-AI servers": "сервери не для ШІ", "Shipment sources": "Джерела даних про поставки", "phones: 1.43B (2015) → 1.24B (2024). Peak 1.47B (2016); pandemic trough 1.21B (2022). Source: ": "телефони: 1.43B (2015) → 1.24B (2024). Пік 1.47B (2016); пандемічний мінімум 1.21B (2022). Джерело: ", "phones: 1.43B (2015) → 1.24B (2024). Peak 1.47B (2016); pandemic trough 1.21B (2022). Source:": "телефони: 1.43B (2015) → 1.24B (2024). Пік 1.47B (2016); пандемічний мінімум 1.21B (2022). Джерело:", "IDC Worldwide Quarterly Mobile Phone Tracker": "IDC Worldwide Quarterly Mobile Phone Tracker", " / Omdia / Counterpoint.": " / Omdia / Counterpoint.", "/ Omdia / Counterpoint.": "/ Omdia / Counterpoint.", "pcs: 276M (2015) → 263M (2024). COVID peak ~349M (2021), trough ~260M (2023). IDC runs ~30M above Gartner in 2020 to 2021 because IDC counts Chromebooks; we use the IDC basis. Source: ": "пк: 276M (2015) → 263M (2024). Пік COVID ~349M (2021), мінімум ~260M (2023). IDC дає показники приблизно на ~30M вище за Gartner у 2020-2021 роках, бо IDC враховує Chromebook; ми використовуємо базу IDC. Джерело: ", "pcs: 276M (2015) → 263M (2024). COVID peak ~349M (2021), trough ~260M (2023). IDC runs ~30M above Gartner in 2020 to 2021 because IDC counts Chromebooks; we use the IDC basis. Source:": "пк: 276M (2015) → 263M (2024). Пік COVID ~349M (2021), мінімум ~260M (2023). IDC дає показники приблизно на ~30M вище за Gartner у 2020-2021 роках, бо IDC враховує Chromebook; ми використовуємо базу IDC. Джерело:", "Gartner": "Gartner", "IDC PCD Tracker": "IDC PCD Tracker", "gaming: discrete desktop add-in-board GPUs only (not iGPUs, not datacenter). 44M (2015) → ~35M (2024). Source: ": "ігрові пристрої: лише дискретні настільні GPU у форматі плати розширення (не iGPU, не дата-центри). 44M (2015) → ~35M (2024). Джерело: ", "gaming: discrete desktop add-in-board GPUs only (not iGPUs, not datacenter). 44M (2015) → ~35M (2024). Source:": "ігрові пристрої: лише дискретні настільні GPU у форматі плати розширення (не iGPU, не дата-центри). 44M (2015) → ~35M (2024). Джерело:", "Jon Peddie Research AIB Report": "Jon Peddie Research AIB Report", "ai: the whole AI datacenter; unit count = accelerators. TechInsights counted 3.76M NVIDIA datacenter GPUs in 2023 (98% share); 2024 is ~7.5M all-vendor (NVIDIA ~4M + Google TPU ~2.5M + AWS Trainium ~1.2M + AMD MI300 ~0.4M). Source: ": "ШІ: увесь дата-центр ШІ; кількість одиниць = прискорювачі. TechInsights нарахував 3.76M дата-центрових GPU NVIDIA у 2023 році (98% частки); у 2024 році це ~7.5M від усіх постачальників (NVIDIA ~4M + Google TPU ~2.5M + AWS Trainium ~1.2M + AMD MI300 ~0.4M). Джерело: ", "ai: the whole AI datacenter; unit count = accelerators. TechInsights counted 3.76M NVIDIA datacenter GPUs in 2023 (98% share); 2024 is ~7.5M all-vendor (NVIDIA ~4M + Google TPU ~2.5M + AWS Trainium ~1.2M + AMD MI300 ~0.4M). Source:": "ШІ: увесь дата-центр ШІ; кількість одиниць = прискорювачі. TechInsights нарахував 3.76M дата-центрових GPU NVIDIA у 2023 році (98% частки); у 2024 році це ~7.5M від усіх постачальників (NVIDIA ~4M + Google TPU ~2.5M + AWS Trainium ~1.2M + AMD MI300 ~0.4M). Джерело:", "TechInsights via DCD": "TechInsights via DCD", "Epoch AI": "Epoch AI", "; Omdia/Morgan Stanley.": "; Omdia/Morgan Stanley.", "other: just the advanced-node digital chips (networking ASICs, basebands, auto/IoT logic). The full MCU plus analog universe is far larger (": "інше: лише цифрові чипи передового техпроцесу (мережеві ASIC, баземодулі, автомобільна/IoT логіка). Повний всесвіт MCU плюс аналогових чипів набагато більший (", "~25 to 35B MCUs/yr alone": "~25-35B MCU/рік самих лише", "), but most is trailing-node / 200mm capacity outside the 300mm lithography pool this model tracks.": "), але більшість - це потужності застарілого техпроцесу / 200mm поза межами пулу літографії 300mm, який відстежує ця модель.", "TPP per unit": "TPP на одиницю", "TPP-per-unit sources": "Джерела даних TPP на одиницю", "TPP = (peak dense TOPS at a precision) × (bit-length of that precision), maximized over precisions: the US BIS export-control metric (ECCN 3A090). Anchors that fix the scale: V100 ≈ 2,000, A100 = 4,992, H100 ≈ 15,800, RTX 4090 = 5,285 (just over the 4,800 control line), B200 ≈ 36,000. All figures are sales-weighted averages, since the flagship is a tiny share of units. Sources:": "TPP = (пікові щільні TOPS за певної точності) × (розрядність цієї точності), максимізовано за всіма рівнями точності: метрика експортного контролю США BIS (ECCN 3A090). Точки прив'язки, що фіксують шкалу: V100 ≈ 2,000, A100 = 4,992, H100 ≈ 15,800, RTX 4090 = 5,285 (трохи вище контрольної лінії 4,800), B200 ≈ 36,000. Усі значення - це середні, зважені за обсягом продажів, оскільки на флагманську модель припадає незначна частка одиниць. Джерела:", "Federal Register 88 FR 73458": "Federal Register 88 FR 73458", "CSET explainer": "CSET explainer", "Princeton ISCA 2025": "Princeton ISCA 2025", "phones: NPU INT8 TOPS × 8. Apple A11 = 0.6 TOPS (2017) → A17 Pro = 35 TOPS (2023); Snapdragon 8 Gen 3 = 45 TOPS (2024). Near-zero before 2017. Sales-weighted ≈ 100 TPP in 2024. Source: ": "телефони: NPU INT8 TOPS × 8. Apple A11 = 0.6 TOPS (2017) → A17 Pro = 35 TOPS (2023); Snapdragon 8 Gen 3 = 45 TOPS (2024). Близько нуля до 2017 року. Зважено за продажами ≈ 100 TPP у 2024 році. Джерело: ", "phones: NPU INT8 TOPS × 8. Apple A11 = 0.6 TOPS (2017) → A17 Pro = 35 TOPS (2023); Snapdragon 8 Gen 3 = 45 TOPS (2024). Near-zero before 2017. Sales-weighted ≈ 100 TPP in 2024. Source:": "телефони: NPU INT8 TOPS × 8. Apple A11 = 0.6 TOPS (2017) → A17 Pro = 35 TOPS (2023); Snapdragon 8 Gen 3 = 45 TOPS (2024). Близько нуля до 2017 року. Зважено за продажами ≈ 100 TPP у 2024 році. Джерело:", "Apple Neural Engine TOPS table": "Apple Neural Engine TOPS table", "pcs: most PCs have no NPU (only ~17% of 2024 units were “AI PCs”). Sales-weighted ≈ 100 TPP in 2024. Source: ": "пк: більшість ПК не мають NPU (лише ~17% одиниць 2024 року були «AI PC»). Зважено за продажами ≈ 100 TPP у 2024 році. Джерело: ", "pcs: most PCs have no NPU (only ~17% of 2024 units were “AI PCs”). Sales-weighted ≈ 100 TPP in 2024. Source:": "пк: більшість ПК не мають NPU (лише ~17% одиниць 2024 року були «AI PC»). Зважено за продажами ≈ 100 TPP у 2024 році. Джерело:", "Canalys AI-PC share": "Canalys AI-PC share", "gaming: dense INT8 TOPS × 8: RTX 3060 = 815, RTX 4060 = 968 (4060 Ti = 1,412), RTX 4090 = 5,285. The sales mix is mostly xx60-class (Steam survey), so the sales-weighted average is ~1,500 TPP in 2024, not the 4090’s 5,285. Source: ": "ігрові пристрої: щільні INT8 TOPS × 8: RTX 3060 = 815, RTX 4060 = 968 (4060 Ti = 1,412), RTX 4090 = 5,285. У структурі продажів переважає клас xx60 (опитування Steam), тож зважене за продажами середнє становить ~1,500 TPP у 2024 році, а не 5,285 для 4090. Джерело: ", "gaming: dense INT8 TOPS × 8: RTX 3060 = 815, RTX 4060 = 968 (4060 Ti = 1,412), RTX 4090 = 5,285. The sales mix is mostly xx60-class (Steam survey), so the sales-weighted average is ~1,500 TPP in 2024, not the 4090’s 5,285. Source:": "ігрові пристрої: щільні INT8 TOPS × 8: RTX 3060 = 815, RTX 4060 = 968 (4060 Ti = 1,412), RTX 4090 = 5,285. У структурі продажів переважає клас xx60 (опитування Steam), тож зважене за продажами середнє становить ~1,500 TPP у 2024 році, а не 5,285 для 4090. Джерело:", "Steam Hardware Survey": "Steam Hardware Survey", "ai: sales-weighted across all vendors (H100/H200 = 15,800, A100 ≈ 5,000, TPU/Trainium lower), 2024 ≈ 9,500 TPP, below the NVIDIA flagship. With ~7.5M units that gives ~4.5M H100e in 2024, the bottom-up value that meets the Plan A forecast at the 2025 seam. Source: NVIDIA/Google/AWS datasheets; ": "ШІ: зважено за продажами по всіх постачальниках (H100/H200 = 15,800, A100 ≈ 5,000, TPU/Trainium нижче), 2024 рік ≈ 9,500 TPP, нижче за флагман NVIDIA. При ~7.5M одиниць це дає ~4.5M H100e у 2024 році - значення «знизу вгору», яке сходиться з прогнозом Плану А на межі 2025 року. Джерело: специфікації NVIDIA/Google/AWS; ", "ai: sales-weighted across all vendors (H100/H200 = 15,800, A100 ≈ 5,000, TPU/Trainium lower), 2024 ≈ 9,500 TPP, below the NVIDIA flagship. With ~7.5M units that gives ~4.5M H100e in 2024, the bottom-up value that meets the Plan A forecast at the 2025 seam. Source: NVIDIA/Google/AWS datasheets;": "ШІ: зважено за продажами по всіх постачальниках (H100/H200 = 15,800, A100 ≈ 5,000, TPU/Trainium нижче), 2024 рік ≈ 9,500 TPP, нижче за флагман NVIDIA. При ~7.5M одиниць це дає ~4.5M H100e у 2024 році - значення «знизу вгору», яке сходиться з прогнозом Плану А на межі 2025 року. Джерело: специфікації NVIDIA/Google/AWS;", "TrendForce mix": "TrendForce mix", "other: ~30B chips/yr, mostly MCUs/analog with ~0 AI throughput; only a thin automotive/ADAS + edge-NPU tail carries any, so the unit-weighted average is just ~1.5 TPP by 2024.": "інше: ~30B чипів/рік, здебільшого MCU/аналогові з ~0 пропускною здатністю ШІ; лише тонкий хвіст автомобільної електроніки/ADAS + edge-NPU дає хоч якесь значення, тож середнє, зважене за кількістю одиниць, становить лише ~1.5 TPP до 2024 року.", "Lithography side": "Сторона літографії", "wafers (M/yr)": "пластини (M/рік)", "device demand (total)": "попит з боку пристроїв (загалом)", "Wafer shipment sources": "Джерела даних про поставки пластин", "Each category’s wafers = its ": "Пластини кожної категорії = її ", "Each category’s wafers = its": "Пластини кожної категорії = її", "logic wafers": "логічні пластини", " (units × dies-per-device ÷ good-dies-per-wafer) plus the ": " (одиниці × кристалів-на-пристрій ÷ придатних-кристалів-на-пластину) плюс ", "(units × dies-per-device ÷ good-dies-per-wafer) plus the": "(одиниці × кристалів-на-пристрій ÷ придатних-кристалів-на-пластину) плюс", "memory wafers": "пластини пам'яті", " (HBM, DRAM, NAND) that ship with it. Units are the shipments table above. Memory wafers follow from each device’s memory content and current per-wafer GB on DRAM/NAND/HBM nodes.": " (HBM, DRAM, NAND), що постачаються разом з нею. Одиниці беруться з таблиці поставок вище. Пластини пам'яті виводяться з обсягу пам'яті кожного пристрою та поточної кількості GB на пластину для техпроцесів DRAM/NAND/HBM.", "(HBM, DRAM, NAND) that ship with it. Units are the shipments table above. Memory wafers follow from each device’s memory content and current per-wafer GB on DRAM/NAND/HBM nodes.": "(HBM, DRAM, NAND), що постачаються разом з нею. Одиниці беруться з таблиці поставок вище. Пластини пам'яті виводяться з обсягу пам'яті кожного пристрою та поточної кількості GB на пластину для техпроцесів DRAM/NAND/HBM.", "Good dies per 300mm wafer (yield-net): phones ~600 (~100 to 120 mm²), PCs ~300 (~200 mm²), gaming ~130 (~400 mm²), AI ~42 (~800 mm² reticle-limit die at ~70% yield), “other” ~1,800 (~30 mm²). Sources: ": "Придатних кристалів на пластину 300mm (з урахуванням виходу придатних): телефони ~600 (~100-120 mm²), ПК ~300 (~200 mm²), ігрові пристрої ~130 (~400 mm²), ШІ ~42 (~800 mm² кристал на межі ретикла при виході придатних ~70%), «інше» ~1,800 (~30 mm²). Джерела: ", "Good dies per 300mm wafer (yield-net): phones ~600 (~100 to 120 mm²), PCs ~300 (~200 mm²), gaming ~130 (~400 mm²), AI ~42 (~800 mm² reticle-limit die at ~70% yield), “other” ~1,800 (~30 mm²). Sources:": "Придатних кристалів на пластину 300mm (з урахуванням виходу придатних): телефони ~600 (~100-120 mm²), ПК ~300 (~200 mm²), ігрові пристрої ~130 (~400 mm²), ШІ ~42 (~800 mm² кристал на межі ретикла при виході придатних ~70%), «інше» ~1,800 (~30 mm²). Джерела:", "AnySilicon": "AnySilicon", "; reticle/die-size disclosures (TSMC, NVIDIA, WikiChip).": "; розкриття даних про розмір ретикла/кристала (TSMC, NVIDIA, WikiChip).", "Dies per finished device: non-AI ≈ 1 (one SoC/CPU/GPU per device). AI ramps 1 (H100) → ~1.5 (2024, dual-die B200) → ~8 to 11 by 2030 (Rubin-class chiplets). Sources: NVIDIA roadmap; ": "Кристалів на готовий пристрій: не для ШІ ≈ 1 (один SoC/CPU/GPU на пристрій). Для ШІ зростає з 1 (H100) → ~1.5 (2024, двокристальний B200) → ~8-11 до 2030 року (чиплети класу Rubin). Джерела: дорожня карта NVIDIA; ", "Dies per finished device: non-AI ≈ 1 (one SoC/CPU/GPU per device). AI ramps 1 (H100) → ~1.5 (2024, dual-die B200) → ~8 to 11 by 2030 (Rubin-class chiplets). Sources: NVIDIA roadmap;": "Кристалів на готовий пристрій: не для ШІ ≈ 1 (один SoC/CPU/GPU на пристрій). Для ШІ зростає з 1 (H100) → ~1.5 (2024, двокристальний B200) → ~8-11 до 2030 року (чиплети класу Rubin). Джерела: дорожня карта NVIDIA;", "Die-area is already net of yield, so no separate yield factor is applied.": "Площа кристала вже враховує вихід придатних, тож окремий коефіцієнт виходу придатних не застосовується.", "The lithography utilization by category is shown below. We treat every category as a package with its logic and associated memory (HBM, DRAM, NAND).": "Завантаженість літографії за категоріями показана нижче. Ми розглядаємо кожну категорію як пакет із власною логікою та відповідною пам'яттю (HBM, DRAM, NAND).", "Lithography allocation, 2015-2024": "Розподіл літографії, 2015-2024", "EUV passes": "Проходи EUV", "% of EUV": "% від EUV", "all passes": "усі проходи", "% of passes": "% від проходів", "EUV exposure-passes drawn per year (the absolute view the share hides). Volume EUV begins ~2019; it’s ~all phones/PCs early, AI invisible until ~2022.": "Проходи експонування EUV, використані за рік (абсолютний погляд, який приховує частка). Масове використання EUV починається приблизно у 2019 році; спочатку це майже виключно телефони/ПК, ШІ непомітний аж до ~2022 року.", "Sanity check with independent compute per wafer estimates": "Перевірка на здоровий глузд за допомогою незалежних оцінок обчислювальних потужностей на пластину", "Compute per wafer is just (good dies per wafer) x (TPP per die) / 15,800, both estimated from device specs independently of how full the fabs run:": "Обчислювальні потужності на пластину - це просто (придатних кристалів на пластину) x (TPP на кристал) / 15,800, обидві величини оцінені за специфікаціями пристроїв незалежно від завантаженості фабрик:", "Good dies per 300mm wafer": "Придатних кристалів на пластину 300mm", " (yield-net, from die areas; sources in the wafer box above): AI ~42 (an ~800 mm² reticle-limit die at ~70% yield), gaming ~130 (~400 mm²), PCs ~300 (~200 mm²), phones ~600 (~100 to 120 mm²), commodity 'other' ~1,800 (~30 mm²).": " (чистий вихід придатних, з площ кристалів; джерела в блоці про пластини вище): ШІ ~42 (кристал з обмеженням ретикла ~800 мм² при виході придатних ~70%), ігрові ~130 (~400 мм²), ПК ~300 (~200 мм²), телефони ~600 (~100-120 мм²), побутові 'інші' ~1,800 (~30 мм²).", "(yield-net, from die areas; sources in the wafer box above): AI ~42 (an ~800 mm² reticle-limit die at ~70% yield), gaming ~130 (~400 mm²), PCs ~300 (~200 mm²), phones ~600 (~100 to 120 mm²), commodity 'other' ~1,800 (~30 mm²).": "(чистий вихід придатних, з площ кристалів; джерела в блоці про пластини вище): ШІ ~42 (кристал з обмеженням ретикла ~800 мм² при виході придатних ~70%), ігрові ~130 (~400 мм²), ПК ~300 (~200 мм²), телефони ~600 (~100-120 мм²), побутові 'інші' ~1,800 (~30 мм²).", "TPP per die": "TPP на кристал", " = each category's TPP per unit (device side above) / its dies per device. In 2024 AI is ~9,500 / ~1.5 ≈ 6,300 TPP/die, gaming ~1,500, phones and PCs ~100, 'other' ~1.5.": " = TPP на одиницю кожної категорії (сторона пристроїв вище) / кількість кристалів на пристрій. У 2024 ШІ ~9,500 / ~1.5 ≈ 6,300 TPP/кристал, ігрові ~1,500, телефони і ПК ~100, 'інші' ~1.5.", "= each category's TPP per unit (device side above) / its dies per device. In 2024 AI is ~9,500 / ~1.5 ≈ 6,300 TPP/die, gaming ~1,500, phones and PCs ~100, 'other' ~1.5.": "= TPP на одиницю кожної категорії (сторона пристроїв вище) / кількість кристалів на пристрій. У 2024 ШІ ~9,500 / ~1.5 ≈ 6,300 TPP/кристал, ігрові ~1,500, телефони і ПК ~100, 'інші' ~1.5.", "So AI's big, high-TPP dies make it densest per wafer and commodity 'other' (tiny, near-zero-TPP dies) the lowest, which is exactly what dividing each category's compute by its wafers gives:": "Тож великі кристали ШІ з високим TPP роблять цю категорію найщільнішою на пластину, а побутові 'інші' (крихітні кристали з майже нульовим TPP) — найрідшою, що якраз і дає ділення обчислювальних потужностей кожної категорії на її пластини:", "implied H100e / wafer": "розрахунковий H100e / пластина", "As a further check, the wafer demand these rates imply, set against our estimated ": "Як додаткову перевірку, попит на пластини, який випливає з цих показників, зіставлений з нашою оцінкою ", "As a further check, the wafer demand these rates imply, set against our estimated": "Як додаткову перевірку, попит на пластини, який випливає з цих показників, зіставлений з нашою оцінкою", "lithography pool": "літографічного пулу", " (broad global logic-wafer output, ~30M wafers in 2024, a scale consistent with SEMI's 300mm capacity), is ~62% to ~69% of the pool across the decade: a plausible, stable share that never runs past the pool. The pool level is itself calibrated to land in that range, so this says the die-size, compute, and capacity estimates are mutually consistent rather than independently validating any one of them.": " (загальний світовий випуск логічних пластин, ~30M пластин у 2024, масштаб, узгоджений із потужністю SEMI для 300-мм пластин), становить від ~62% до ~69% пулу протягом десятиліття: правдоподібна, стабільна частка, яка ніколи не перевищує пул. Сам рівень пулу відкалібровано так, щоб потрапляти саме в цей діапазон, тож це означає, що оцінки розміру кристала, обчислювальних потужностей і ємності взаємно узгоджені, а не незалежно підтверджують одна одну.", "(broad global logic-wafer output, ~30M wafers in 2024, a scale consistent with SEMI's 300mm capacity), is ~62% to ~69% of the pool across the decade: a plausible, stable share that never runs past the pool. The pool level is itself calibrated to land in that range, so this says the die-size, compute, and capacity estimates are mutually consistent rather than independently validating any one of them.": "(загальний світовий випуск логічних пластин, ~30M пластин у 2024, масштаб, узгоджений із потужністю SEMI для 300-мм пластин), становить від ~62% до ~69% пулу протягом десятиліття: правдоподібна, стабільна частка, яка ніколи не перевищує пул. Сам рівень пулу відкалібровано так, щоб потрапляти саме в цей діапазон, тож це означає, що оцінки розміру кристала, обчислювальних потужностей і ємності взаємно узгоджені, а не незалежно підтверджують одна одну.", "The resulting H100e added each year by category is shown below in both raw and effective H100e:": "Отриманий приріст H100e щороку за категоріями показано нижче як у сирому, так і в ефективному H100e:", "World H100e by category, 2015-2024": "Світовий H100e за категоріями, 2015-2024", "flow (added/yr)": "потік (приріст/рік)", "stock (installed)": "запас (встановлено)", "Raw H100e added per year by category.": "Сирий H100e, доданий за рік, за категоріями.", "1.2.2 Forecast (2025 to 2028)": "1.2.2 Прогноз (2025-2028)", "We take AI's compute forecast from §1.1 and ration the leftover lithography capacity to the other compute categories. AI first claims its lithography usage and then each non-AI category keeps its frozen-2024 share of the wafers that remain. That gives the projection:": "Ми беремо прогноз обчислювальних потужностей ШІ з §1.1 і розподіляємо залишкову літографічну потужність між іншими категоріями обчислень. Спочатку ШІ забирає свою частку використання літографії, а потім кожна категорія поза ШІ зберігає свою заморожену на рівні 2024 року частку пластин, що залишилися. Це дає такий прогноз:", "Flow (H100e/yr)": "Потік (H100e/рік)", "total": "загалом", "AI is from §1.1; non-AI gets the leftover logic wafers × rising TPP-per-wafer. Counting logic + HBM, AI reaches ~": "ШІ — з §1.1; категорії поза ШІ отримують залишкові логічні пластини × зростання TPP на пластину. Рахуючи логіку + HBM, ШІ досягає ~", " of EUV fleet capacity by 2028 (with the fleet ~": " ємності парку EUV до 2028 (при цьому парк завантажений приблизно на ~", "of EUV fleet capacity by 2028 (with the fleet ~": "ємності парку EUV до 2028 (при цьому парк завантажений приблизно на ~", " utilized overall), but only ~": " загалом), але лише ~", "utilized overall), but only ~": "загалом), але лише ~", " of all logic wafers.": " усіх логічних пластин.", "of all logic wafers.": "усіх логічних пластин.", "AI’s wafer claim, leftover pool, and bill of materials": "Частка пластин ШІ, залишковий пул і специфікація матеріалів", "wafers/yr": "пластин/рік", "AI logic wafers": "Логічні пластини ШІ", "+ AI HBM wafers (advanced DRAM)": "+ пластини HBM ШІ (передовий DRAM)", "= AI cutting-edge wafers (logic + HBM)": "= передові пластини ШІ (логіка + HBM)", "  % of EUV fleet capacity (logic + HBM)": "  % ємності парку EUV (логіка + HBM)", "% of EUV fleet capacity (logic + HBM)": "% ємності парку EUV (логіка + HBM)", "  % of broad lithography pool (all nodes)": "  % загального літографічного пулу (усі техпроцеси)", "% of broad lithography pool (all nodes)": "% загального літографічного пулу (усі техпроцеси)", "allocatable logic pool (× util)": "пул логічних пластин, доступний для розподілу (× завантаження)", "leftover for non-AI": "залишок для категорій поза ШІ", "Sources: AI forecast and per-accelerator bill of materials": "Джерела: прогноз ШІ та специфікація матеріалів на акселератор", "AI H100e trajectory. From §1.1’s EUV-constrained solve (capex topline ÷ cost-efficiency ÷ EUV surcharge): installed H100e stock (Jan-1) ": "Траєкторія H100e ШІ. З рішення §1.1, обмеженого EUV (загальний capex ÷ ефективність витрат ÷ надбавка за EUV): встановлений запас H100e (на 1 січня) ", "AI H100e trajectory. From §1.1’s EUV-constrained solve (capex topline ÷ cost-efficiency ÷ EUV surcharge): installed H100e stock (Jan-1)": "Траєкторія H100e ШІ. З рішення §1.1, обмеженого EUV (загальний capex ÷ ефективність витрат ÷ надбавка за EUV): встановлений запас H100e (на 1 січня)", " by 2029, with annual production ": " до 2029, з річним виробництвом ", "by 2029, with annual production": "до 2029, з річним виробництвом", ". §1.2 takes this AI buildout from §1.1 unchanged and models only the non-AI leftover, so the two sections agree by construction. Source: §1.1 (resting on the Plan A capex topline).": ". §1.2 бере це нарощування потужностей ШІ з §1.1 без змін і моделює лише залишок для категорій поза ШІ, тож обидва розділи узгоджені за побудовою. Джерело: §1.1 (спирається на загальний capex Плану А).", "HBM per accelerator. H100 = 80 GB, H200 = 141, MI300X = 192, B200 = 192; sales-weighted ~130 GB in 2024 → ~600 by 2030. × ~7.5M units ≈ 1 EB HBM in 2024, matching the TrendForce industry figure. Source: NVIDIA/AMD datasheets; ": "HBM на акселератор. H100 = 80 GB, H200 = 141, MI300X = 192, B200 = 192; зважено за продажами ~130 GB у 2024 → ~600 до 2030. × ~7.5M одиниць ≈ 1 EB HBM у 2024, що збігається з галузевим показником TrendForce. Джерело: специфікації NVIDIA/AMD; ", "HBM per accelerator. H100 = 80 GB, H200 = 141, MI300X = 192, B200 = 192; sales-weighted ~130 GB in 2024 → ~600 by 2030. × ~7.5M units ≈ 1 EB HBM in 2024, matching the TrendForce industry figure. Source: NVIDIA/AMD datasheets;": "HBM на акселератор. H100 = 80 GB, H200 = 141, MI300X = 192, B200 = 192; зважено за продажами ~130 GB у 2024 → ~600 до 2030. × ~7.5M одиниць ≈ 1 EB HBM у 2024, що збігається з галузевим показником TrendForce. Джерело: специфікації NVIDIA/AMD;", "System DRAM & storage per accelerator. An 8-GPU node carries ~1 to 2 TB host DRAM (~150 to 250 GB/GPU) plus multi-TB local + networked NVMe. We model ~300 GB DRAM and ~2 TB NAND per accelerator in 2024 (growing to ~1 TB / ~6 TB by 2030), sized so HBM stays AI’s heaviest wafer draw, not the commodity memory. Source: ": "Системний DRAM і сховище на акселератор. Вузол із 8 GPU несе ~1-2 TB хостового DRAM (~150-250 GB/GPU) плюс кілька TB локального + мережевого NVMe. Ми моделюємо ~300 GB DRAM і ~2 TB NAND на акселератор у 2024 (зростання до ~1 TB / ~6 TB до 2030), підібрані так, щоб HBM залишався найбільшим споживачем пластин для ШІ, а не побутова пам'ять. Джерело: ", "System DRAM & storage per accelerator. An 8-GPU node carries ~1 to 2 TB host DRAM (~150 to 250 GB/GPU) plus multi-TB local + networked NVMe. We model ~300 GB DRAM and ~2 TB NAND per accelerator in 2024 (growing to ~1 TB / ~6 TB by 2030), sized so HBM stays AI’s heaviest wafer draw, not the commodity memory. Source:": "Системний DRAM і сховище на акселератор. Вузол із 8 GPU несе ~1-2 TB хостового DRAM (~150-250 GB/GPU) плюс кілька TB локального + мережевого NVMe. Ми моделюємо ~300 GB DRAM і ~2 TB NAND на акселератор у 2024 (зростання до ~1 TB / ~6 TB до 2030), підібрані так, щоб HBM залишався найбільшим споживачем пластин для ШІ, а не побутова пам'ять. Джерело:", "NVIDIA DGX/HGX H100 specs": "специфікації NVIDIA DGX/HGX H100", "; hyperscaler reference designs.": "; референсні дизайни гіперскейлерів.", "Stock vs production convention. AI’s fleet is treated as cumulative (no retirement over this <5-yr window), so each Jan-1 stock is the running sum of production; we take the stock directly rather than running the bottom-up retirement recursion used for the non-AI categories. The production figure drives each year’s wafer claim.": "Умова щодо запасу проти виробництва. Парк ШІ розглядається як кумулятивний (без вибуття протягом цього вікна <5 років), тож запас на 1 січня кожного року — це наростаючий підсумок виробництва; ми беремо запас напряму, а не запускаємо висхідну рекурсію вибуття, яку використовуємо для категорій поза ШІ. Показник виробництва визначає частку пластин кожного року.", "The rest of this section is the supply-side justification behind that table, i.e., what share of the lithography ceiling each category uses.": "Решта цього розділу — це обґрунтування з боку пропозиції для цієї таблиці, тобто яку частку літографічної стелі використовує кожна категорія.", "Lithography allocation, 2024-2028": "Розподіл літографії, 2024-2028", "EUV exposure-passes drawn per year. AI’s draw explodes, taking the fleet toward saturation by 2028.": "Проходи експонування EUV, що витрачаються за рік. Споживання ШІ різко зростає, наближаючи парк до насичення до 2028.", "Logic vs. Memory": "Логіка проти пам'яті", "EUV": "EUV", "DUV (193i)": "DUV (193i)", "Share of EUV and DUV passes that go to logic vs. memory": "Частка проходів EUV і DUV, що йдуть на логіку проти пам'яті", "logic": "логіка", "memory": "пам'ять", "EUV utilization reaches ~100% by 2028 in our naive model, up from only 52% in 2024, as we expect it to become the binding constraint by then. That figure already separately accounts for uptime and realized throughput, both held at 2024 proportions.": "Завантаження EUV у нашій спрощеній моделі досягає ~100% до 2028 року, порівняно лише з 52% у 2024, оскільки ми очікуємо, що до того часу воно стане обмежувальним чинником. Цей показник вже окремо враховує час безвідмовної роботи і реалізовану пропускну здатність, обидва зафіксовані на пропорціях 2024 року.", " We don't expect utilization to literally hit 100%, but we're comfortable with the approximation: uptime and realized throughput (as a share of peak theoretical throughput) should improve a bit by 2028, roughly offsetting the gap.": " Ми не очікуємо, що завантаження буквально досягне 100%, але вважаємо це наближення прийнятним: час безвідмовної роботи і реалізована пропускна здатність (як частка від пікової теоретичної пропускної здатності) мають дещо покращитися до 2028, приблизно компенсуючи цей розрив.", "We don't expect utilization to literally hit 100%, but we're comfortable with the approximation: uptime and realized throughput (as a share of peak theoretical throughput) should improve a bit by 2028, roughly offsetting the gap.": "Ми не очікуємо, що завантаження буквально досягне 100%, але вважаємо це наближення прийнятним: час безвідмовної роботи і реалізована пропускна здатність (як частка від пікової теоретичної пропускної здатності) мають дещо покращитися до 2028, приблизно компенсуючи цей розрив.", "EUV pass pool (M/yr)": "Пул проходів EUV (млн/рік)", "passes demanded": "потрібні проходи", "pass capacity": "ємність проходів", "EUV utilization": "завантаження EUV", "immersion (DUV) utilization": "завантаження іммерсійних (DUV)", "Utilization = passes demanded ÷ pass capacity. EUV and immersion are both on the effective (uptime- and throughput-adjusted) basis, so the two utilizations compare directly.": "Завантаження = потрібні проходи ÷ ємність проходів. І EUV, і іммерсійні розраховані на ефективній основі (з поправкою на час безвідмовної роботи і пропускну здатність), тож ці два показники завантаження безпосередньо порівнянні.", "Node structure: passes per wafer and node mix": "Структура техпроцесів: проходи на пластину і мікс техпроцесів", "node": "техпроцес", "EUV/wf": "EUV/пластину", "193i/wf": "193i/пластину", "wafers 2024": "пластини 2024", "wafers 2028": "пластини 2028", "logic tiers": "рівні логіки", "LEADING": "LEADING", "DUVADV": "DUVADV", "MATURE": "MATURE", "memory tiers": "рівні пам'яті", "DRAMadv": "DRAMadv", "DRAMmat": "DRAMmat", "NAND": "NAND", "Three tiers (LEADING = ≤N3/N5/N2, EUV; DUVADV = N7/N16; MATURE = 28nm/legacy). Leading EUV passes/wafer climb 12→22 as the mix shifts N5→N3→N2. Red = EUV-drawing. This grid is a utilization diagnostic; it does not feed the compute or stock math.": "Три рівні (LEADING = ≤N3/N5/N2, EUV; DUVADV = N7/N16; MATURE = 28nm/legacy). Проходи EUV на пластину для рівня LEADING зростають з 12 до 22 у міру зсуву міксу N5→N3→N2. Червоний = споживає EUV. Ця таблиця — діагностика завантаження; вона не впливає на розрахунки обчислювальних потужностей чи запасів.", "Node mix (2024 wafer-area share by category)": "Мікс техпроцесів (частка площі пластин у 2024 за категоріями)", "category": "категорія", "AI is ~all leading-edge; phones/PCs/gaming span leading to mature; “other” (MCUs) is ~all mature. The broad logic pool (": "ШІ — це майже виключно передові техпроцеси; телефони/ПК/ігрові пристрої охоплюють діапазон від передових до зрілих; «інші» (мікроконтролери) — майже виключно зрілі техпроцеси. Загальний пул логічних пластин (", " wafers in 2024) feeds the non-AI allocation.": " пластин у 2024) живить розподіл для категорій поза ШІ.", "wafers in 2024) feeds the non-AI allocation.": "пластин у 2024) живить розподіл для категорій поза ШІ.", "Per-device memory and wafer cost": "Пам'ять і вартість пластин на пристрій", "Memory wafers = device count × per-device GB ÷ GB-per-wafer. HBM needs ~3× the wafer area per usable GB (8 to 12-hi stacks, TSVs, a base logic die) and goes almost entirely to AI, so an AI accelerator’s memory outweighs its logic on wafers.": "Пластини пам'яті = кількість пристроїв × GB на пристрій ÷ GB на пластину. HBM потребує ~3× площі пластини на корисний GB (стеки 8-12-hi, TSV, базовий логічний кристал) і йде майже повністю на ШІ, тож пам'ять акселератора ШІ переважує його логіку за кількістю пластин.", "per device (2024 → 2028)": "на пристрій (2024 → 2028)", "HBM": "HBM", "DRAM": "DRAM", "8 → 13 GB": "8 → 13 GB", "200 → 333 GB": "200 → 333 GB", "16 → 27 GB": "16 → 27 GB", "700 → 1033 GB": "700 → 1033 GB", "14 → 21 GB": "14 → 21 GB", "130 → 400 GB": "130 → 400 GB", "300 → 767 GB": "300 → 767 GB", "2000 → 4667 GB": "2000 → 4667 GB", "512 → 683 GB": "512 → 683 GB", "26000 → 36667 GB": "26000 → 36667 GB", "0.05 → 0.05 GB": "0.05 → 0.05 GB", "2 → 3 GB": "2 → 3 GB", "GB per wafer (2024): DRAM ~2,800, NAND ~21,000, HBM ~900; all grow ~1.7× by 2030. HBM is ~": "GB на пластину (2024): DRAM ~2,800, NAND ~21,000, HBM ~900; усі зростають ~1.7× до 2030. HBM становить ~", " of DRAM wafers in 2024 (TrendForce: ~14%). Sources: ": " пластин DRAM у 2024 (TrendForce: ~14%). Джерела: ", "of DRAM wafers in 2024 (TrendForce: ~14%). Sources:": "пластин DRAM у 2024 (TrendForce: ~14%). Джерела:", "SEMI": "SEMI", "; TechInsights; TrendForce.": "; TechInsights; TrendForce.", "The non-AI server row carries the datacenter storage tier (SSD arrays, networked NVMe), so its NAND is large (~26 TB/server-equivalent); this folds in bulk storage a strict per-device count misses, landing world NAND ≈ 845 EB in 2024 (~44M wafers), in line with Trendfocus. Sources: TrendForce; Trendfocus; IDC / Omdia.": "Рядок серверів поза ШІ включає рівень сховища дата-центру (масиви SSD, мережевий NVMe), тому його NAND великий (~26 TB/еквівалент сервера); це враховує масове сховище, яке пропускає строгий підрахунок на пристрій, і дає світовий NAND ≈ 845 EB у 2024 (~44M пластин), що узгоджується з Trendfocus. Джерела: TrendForce; Trendfocus; IDC / Omdia.", "Litho supply sources: EUV layers/node, fleet, throughput, node mix": "Джерела пропозиції літографії: шари EUV на техпроцес, парк, пропускна здатність, мікс техпроцесів", "EUV layers per node: N5/N4 ≈ 13 to 14, N3E ≈ 19, N3B ≈ 25 (double-patterned), N2 ≈ 23 to 25. A double-patterned layer needs two exposures, so passes ≥ layers; we model the leading tier climbing 12→24 (2024→2029). Sources: ": "Шари EUV на техпроцес: N5/N4 ≈ 13-14, N3E ≈ 19, N3B ≈ 25 (подвійне патернування), N2 ≈ 23-25. Шар з подвійним патернуванням потребує двох експонувань, тож проходів ≥ шарів; ми моделюємо зростання рівня LEADING з 12 до 24 (2024→2029). Джерела: ", "EUV layers per node: N5/N4 ≈ 13 to 14, N3E ≈ 19, N3B ≈ 25 (double-patterned), N2 ≈ 23 to 25. A double-patterned layer needs two exposures, so passes ≥ layers; we model the leading tier climbing 12→24 (2024→2029). Sources:": "Шари EUV на техпроцес: N5/N4 ≈ 13-14, N3E ≈ 19, N3B ≈ 25 (подвійне патернування), N2 ≈ 23-25. Шар з подвійним патернуванням потребує двох експонувань, тож проходів ≥ шарів; ми моделюємо зростання рівня LEADING з 12 до 24 (2024→2029). Джерела:", "; WikiChip; TSMC.": "; WikiChip; TSMC.", "Memory EUV: advanced DRAM (1α/1β/1γ) uses ~1 to 6 EUV layers, ramping; 3D NAND uses none. We model advanced DRAM at ~4 EUV passes/wafer, mature DRAM and NAND at 0. Sources: SK Hynix / Samsung / Micron disclosures; TechInsights.": "EUV для пам'яті: передовий DRAM (1α/1β/1γ) використовує ~1-6 шарів EUV, з поступовим нарощуванням; 3D NAND не використовує жодного. Ми моделюємо передовий DRAM з ~4 проходами EUV на пластину, зрілий DRAM і NAND — з 0. Джерела: розкриття даних SK Hynix / Samsung / Micron; TechInsights.", "EUV fleet: ~": "Парк EUV: ~", " systems by 2024, ~": " систем до 2024, ~", "systems by 2024, ~": "систем до 2024, ~", " by 2028 on ASML guidance. Throughput: ~360k effective exposures/tool-year (below the ~160 wph spec). Source: ": " до 2028 за прогнозом ASML. Пропускна здатність: ~360k ефективних експонувань/рік на інструмент (нижче за специфікацію ~160 wph). Джерело: ", "by 2028 on ASML guidance. Throughput: ~360k effective exposures/tool-year (below the ~160 wph spec). Source:": "до 2028 за прогнозом ASML. Пропускна здатність: ~360k ефективних експонувань/рік на інструмент (нижче за специфікацію ~160 wph). Джерело:", "ASML": "ASML", "Immersion fleet: ~1,330 (2024) → ~1,800 (2028); abundant, so 193i never binds. Throughput: ~950k effective passes/tool-year (about half the ~1.8M nameplate run-rate, de-rated on the same uptime/throughput basis as EUV). Node mix is wafer-area share: Counterpoint ~43% of 2024 phone-SoC units on ≤5nm → ~53% of wafer area. Sources: ASML / SEMI; Counterpoint; ": "Іммерсійний парк: ~1,330 (2024) → ~1,800 (2028); достатній, тож 193i ніколи не стає обмежувальним чинником. Пропускна здатність: ~950k ефективних проходів/рік на інструмент (приблизно половина від номінальних ~1.8M, з поправкою на ту саму основу часу безвідмовної роботи/пропускної здатності, що й для EUV). Мікс техпроцесів — це частка площі пластин: за Counterpoint ~43% одиниць телефонних SoC 2024 на техпроцесах ≤5nm → ~53% площі пластин. Джерела: ASML / SEMI; Counterpoint; ", "Immersion fleet: ~1,330 (2024) → ~1,800 (2028); abundant, so 193i never binds. Throughput: ~950k effective passes/tool-year (about half the ~1.8M nameplate run-rate, de-rated on the same uptime/throughput basis as EUV). Node mix is wafer-area share: Counterpoint ~43% of 2024 phone-SoC units on ≤5nm → ~53% of wafer area. Sources: ASML / SEMI; Counterpoint;": "Іммерсійний парк: ~1,330 (2024) → ~1,800 (2028); достатній, тож 193i ніколи не стає обмежувальним чинником. Пропускна здатність: ~950k ефективних проходів/рік на інструмент (приблизно половина від номінальних ~1.8M, з поправкою на ту саму основу часу безвідмовної роботи/пропускної здатності, що й для EUV). Мікс техпроцесів — це частка площі пластин: за Counterpoint ~43% одиниць телефонних SoC 2024 на техпроцесах ≤5nm → ~53% площі пластин. Джерела: ASML / SEMI; Counterpoint;", "TSMC": "TSMC", "1.2.3 Results": "1.2.3 Результати", "Accumulating production net of retirement gives the installed stock by category.": "Накопичення виробництва за вирахуванням вибуття дає встановлений запас за категоріями.", " Rescaling raw H100e to effective H100e (raw x ": " Перерахунок сирого H100e в ефективний H100e (сирий x ", "Rescaling raw H100e to effective H100e (raw x": "Перерахунок сирого H100e в ефективний H100e (сирий x", ", the resource-adjusted AI workload usefulness model derived in the ": ", модель корисності навантаження ШІ з поправкою на ресурси, виведена в ", ", the resource-adjusted AI workload usefulness model derived in the": ", модель корисності навантаження ШІ з поправкою на ресурси, виведена в", "Effective H100e rescales each category’s raw compute by a usefulness factor ": "Ефективний H100e перераховує сирі обчислювальні потужності кожної категорії за коефіцієнтом корисності ", "Effective H100e rescales each category’s raw compute by a usefulness factor": "Ефективний H100e перераховує сирі обчислювальні потужності кожної категорії за коефіцієнтом корисності", ", derived in the ": ", виведеним у ", ", derived in the": ", виведеним у", "usefulness U": "корисність U", "Per-chip inputs and the unclamped model output": "Вхідні дані на чип і необмежений вихід моделі", "The per-chip resource inputs that drive U, by category (2024). Only AI accelerators pair real compute with HBM-class bandwidth and a large NVLink coherent domain; every other category is effectively a single chip (scale-up world = 1). Non-AI servers are memory-rich but compute-light; consumer chips are bandwidth-poor and don’t cluster; “other” (MCU / edge) is tiny on every axis.": "Вхідні дані ресурсів на чип, що визначають U, за категоріями (2024). Лише акселератори ШІ поєднують реальні обчислювальні потужності з пропускною здатністю рівня HBM і великим когерентним доменом NVLink; кожна інша категорія фактично є одним чипом (світ масштабування вгору = 1). Сервери поза ШІ багаті на пам'ять, але бідні на обчислювальні потужності; споживчі чипи мають низьку пропускну здатність і не кластеризуються; «інші» (мікроконтролери / периферія) — крихітні за кожним показником.", "per chip (2024)": "на чип (2024)", "H100e/chip": "H100e/чип", "mem BW (TB/s)": "пропускна здатність пам'яті (TB/s)", "mem (GB)": "пам'ять (GB)", "scale-up world": "світ масштабування вгору", "160 chips": "160 чипів", "Over the forecast, H100e/chip roughly doubles every ~1.5 years while memory bandwidth and capacity per H100e fall (the memory wall) and AI’s NVLink world grows (NVL72 → NVL576); the §1.1 resource-intensity box tracks the AI fleet’s trajectory in full.": "Протягом прогнозного періоду H100e/чип приблизно подвоюється кожні ~1.5 року, тоді як пропускна здатність і ємність пам'яті на H100e падають (стіна пам'яті), а світ NVLink ШІ зростає (NVL72 → NVL576); блок ресурсомісткості §1.1 повністю відстежує траєкторію парку ШІ.", "Raw U, before the non-AI ≤ 1 cap": "Сирий U, до обмеження ≤1 для категорій поза ШІ", "category (raw U)": "категорія (сирий U)", "Servers and “other” (MCU/edge) score > 1 because for a tiny-compute chip every per-FLOP ratio looks abundant, so the networking penalty all but vanishes and it floats to the compute ceiling. For non-AI servers this is plausible (genuinely memory-rich machines) and they are tiny in raw H100e (~1–2%), so we keep their raw U. For MCU/edge “other” it is an artifact, so we clamp it to ≤1; note “other” is a large raw share (~8–23%), so even the clamp at 1 likely overstates its AI usefulness.": "Сервери та «інші» (мікроконтролери/периферія) отримують показник > 1, бо для чипа з мізерними обчислювальними потужностями кожне співвідношення на FLOP виглядає щедрим, тож штраф за мережу практично зникає і показник спливає до стелі обчислювальних потужностей. Для серверів поза ШІ це правдоподібно (справді багаті на пам'ять машини), і вони становлять мізерну частку в сирому H100e (~1–2%), тож ми залишаємо їхній сирий U. Для «інших» (мікроконтролери/периферія) це артефакт, тому ми обмежуємо його до ≤1; зауважте, що «інші» мають велику сиру частку (~8–23%), тож навіть обмеження на рівні 1, ймовірно, завищує їхню корисність для ШІ.", "World compute by quadrant": "Світові обчислювальні потужності за квадрантами", "Installed H100e on Jan 1 of each year": "Встановлений H100e на 1 січня кожного року", " by deployment quadrant; toggle stock↔flow, raw↔effective, and level↔share.": " за квадрантом розгортання; перемикайте запас↔потік, сирий↔ефективний та рівень↔частка.", "by deployment quadrant; toggle stock↔flow, raw↔effective, and level↔share.": "за квадрантом розгортання; перемикайте запас↔потік, сирий↔ефективний та рівень↔частка.", "AI × cluster (AI datacenters)": "ШІ × кластер (дата-центри ШІ)", "AI × single-device (specialty consumer)": "ШІ × окремий пристрій (спеціалізований споживчий)", "non-AI × cluster (non-AI servers)": "поза ШІ × кластер (сервери поза ШІ)", "non-AI × single-device (consumer)": "поза ШІ × окремий пристрій (споживчий)", "Cluster vs. single-device split.": "Розподіл кластер проти окремого пристрою.", " We also categorize compute into clusters and single-devices. Non-AI servers are treated as non-AI relevant clusters; phones, PCs, gaming GPUs and embedded chips are non-AI single-device; and AI relevant compute is almost entirely in accelerators run in datacenters (AI-relevant clusters), but there is a small rising amount of AI-relevant single-device chips that is negligible today and grows later as datacenter-class GPUs reach desktop form factors (e.g., ": " Ми також класифікуємо обчислювальні потужності на кластери та окремі пристрої. Сервери поза ШІ трактуються як релевантні поза-ШІ кластери; телефони, ПК, ігрові GPU і вбудовані чипи — це поза-ШІ окремі пристрої; а релевантні для ШІ обчислювальні потужності майже повністю зосереджені в акселераторах, що працюють у дата-центрах (релевантні для ШІ кластери), але існує невеликий і зростаючий обсяг релевантних для ШІ окремих пристроїв — сьогодні незначний, він зростає пізніше, коли GPU рівня дата-центру набувають настільних форм-факторів (наприклад, ", "We also categorize compute into clusters and single-devices. Non-AI servers are treated as non-AI relevant clusters; phones, PCs, gaming GPUs and embedded chips are non-AI single-device; and AI relevant compute is almost entirely in accelerators run in datacenters (AI-relevant clusters), but there is a small rising amount of AI-relevant single-device chips that is negligible today and grows later as datacenter-class GPUs reach desktop form factors (e.g.,": "Ми також класифікуємо обчислювальні потужності на кластери та окремі пристрої. Сервери поза ШІ трактуються як релевантні поза-ШІ кластери; телефони, ПК, ігрові GPU і вбудовані чипи — це поза-ШІ окремі пристрої; а релевантні для ШІ обчислювальні потужності майже повністю зосереджені в акселераторах, що працюють у дата-центрах (релевантні для ШІ кластери), але існує невеликий і зростаючий обсяг релевантних для ШІ окремих пристроїв — сьогодні незначний, він зростає пізніше, коли GPU рівня дата-центру набувають настільних форм-факторів (наприклад,", "NVIDIA's DGX Station": "DGX Station від NVIDIA", "effective H100e stock (Jan 1)": "ефективний запас H100e (1 січня)", "AI-relevant · cluster (AI datacenters)": "релевантний для ШІ · кластер (дата-центри ШІ)", "AI-relevant · single-device (specialty consumer)": "релевантний для ШІ · окремий пристрій (спеціалізований споживчий)", "non-AI · cluster (non-AI servers)": "поза ШІ · кластер (сервери поза ШІ)", "non-AI · single-device (consumer)": "поза ШІ · окремий пристрій (споживчий)", "How we forecast AI-relevant single-device compute (specialty consumer)": "Як ми прогнозуємо релевантні для ШІ обчислювальні потужності окремих пристроїв (спеціалізований споживчий сегмент)", "These are standalone AI workstations: a capable GPU (≥1 TB/s bandwidth, ≥32 GB, ≥4,000 TPP) paired with a 100 Gb/s NIC, which clears all four AI-relevant floors. They range from workstations on RTX PRO 6000-class GPUs up to NVIDIA’s DGX Station (one GB300, ~2.5 H100e). Cheaper minis like DGX Spark (~0.5 H100e) miss the bandwidth floor, and ordinary gaming PCs lack the 100 Gb/s NIC. At ~$10,000 to ~$100,000 each, they sell in modest volumes. We estimate units sold per year and H100e per unit, then add them up.": "Це окремі робочі станції для ШІ: потужний GPU (пропускна здатність ≥1 TB/s, ≥32 GB, ≥4,000 TPP) у парі з мережевою карткою 100 Gb/s, що долає всі чотири релевантні для ШІ пороги. Вони охоплюють діапазон від робочих станцій на GPU класу RTX PRO 6000 до DGX Station від NVIDIA (один GB300, ~2.5 H100e). Дешевші міні-версії на кшталт DGX Spark (~0.5 H100e) не долають поріг пропускної здатності, а звичайні ігрові ПК не мають мережевої картки 100 Gb/s. За ціною ~$10,000-~$100,000 за одиницю вони продаються скромними обсягами. Ми оцінюємо кількість проданих одиниць за рік і H100e на одиницю, а потім підсумовуємо.", "shipping year": "рік постачання", "units shipped": "поставлено одиниць", "H100e / unit": "H100e / одиниця", "installed (Jan 1)": "встановлено (1 січня)", "The ": "Розділ ", " column is the running stock at the start of each year — exactly the specialty-consumer row in the table above (~": " — це наростаючий запас на початку кожного року, точно рядок спеціалізованого споживчого сегменту в таблиці вище (~", "column is the running stock at the start of each year — exactly the specialty-consumer row in the table above (~": "— це наростаючий запас на початку кожного року, точно рядок спеціалізованого споживчого сегменту в таблиці вище (~", " H100e by 2029.0, about": " H100e до 2029.0, приблизно", "H100e by 2029.0, about": "H100e до 2029.0, приблизно", " of the AI fleet, ~": " парку ШІ, ~", "of the AI fleet, ~": "парку ШІ, ~", "K units). The category is new, so the unit numbers are rough estimates.": "K одиниць). Ця категорія нова, тож числа одиниць — приблизні оцінки.", "1.3 Regional ownership": "1.3 Регіональна власність", "This section forecasts world compute ownership by region, for the AI-relevant compute from §1.1. We split ownership three ways: ": "Цей розділ прогнозує регіональну власність на світові обчислювальні потужності для релевантних для ШІ обчислень з §1.1. Ми поділяємо власність на три частини: ", "This section forecasts world compute ownership by region, for the AI-relevant compute from §1.1. We split ownership three ways:": "Цей розділ прогнозує регіональну власність на світові обчислювальні потужності для релевантних для ШІ обчислень з §1.1. Ми поділяємо власність на три частини:", "US, China, and the Rest of the World": "США, Китай і решта світу", ". We think it is most informative to focus on a separate Chinese compute forecast, because China is cut off from the main global supply chain by export controls, making it the hardest region to pin down with a crude percent-of-spending estimate.": ". Ми вважаємо, що найінформативніше зосередитися на окремому прогнозі обчислювальних потужностей Китаю, оскільки Китай відрізаний від основного глобального ланцюга постачання експортним контролем, що робить цей регіон найважчим для оцінки за допомогою грубої оцінки за часткою витрат.", "What follows is therefore an independent Chinese compute forecast, broken down by the different sources of compute reaching China. We then make a crude estimate of the US versus Rest-of-World split of the global total. China's domestic manufacturing is treated as separate from the world compute total forecast in §1.1, because it does not come from the same (EUV-based) supply chain, so the §1.1 totals add it back on.": "Тому далі йде незалежний прогноз обчислювальних потужностей Китаю, розбитий за різними джерелами обчислень, що надходять до Китаю. Потім ми робимо грубу оцінку розподілу глобального підсумку між США і рештою світу. Внутрішнє (домашнє) виробництво Китаю розглядається окремо від загального світового прогнозу обчислювальних потужностей у §1.1, оскільки воно не походить з того самого (EUV-заснованого) ланцюга постачання, тож підсумки §1.1 додають його назад.", "1.3.1 Chinese compute forecast": "1.3.1 Прогноз обчислювальних потужностей Китаю", "We categorize China's AI compute into four sources: Three come from the global supply chain (already in the §1.1 world total): ": "Ми поділяємо обчислювальні потужності ШІ Китаю на чотири джерела: три походять з глобального ланцюга постачання (вже враховані у світовому підсумку §1.1): ", "We categorize China's AI compute into four sources: Three come from the global supply chain (already in the §1.1 world total):": "Ми поділяємо обчислювальні потужності ШІ Китаю на чотири джерела: три походять з глобального ланцюга постачання (вже враховані у світовому підсумку §1.1):", "legal": "легальний", " imports (export-compliant chips: e.g., H20s historically, H200 under the current licensing policy), ": " імпорт (чипи, що відповідають експортним нормам: наприклад, історично H20, H200 за чинної політики ліцензування), ", "imports (export-compliant chips: e.g., H20s historically, H200 under the current licensing policy),": "імпорт (чипи, що відповідають експортним нормам: наприклад, історично H20, H200 за чинної політики ліцензування),", "smuggled": "контрабандні", " chips, and ": " чипи, і ", "chips, and": "чипи, і", "loopholes": "лазівки", "chip dies smuggled in": "кристали чипів, контрабандно ввезені", " before packaging, or offshore datacenters Chinese firms own or ": " до пакування, або офшорні дата-центри, якими володіють китайські компанії, або ", "before packaging, or offshore datacenters Chinese firms own or": "до пакування, або офшорні дата-центри, якими володіють китайські компанії, або", "lease from abroad": "орендують за кордоном", "). The fourth is ": "). Четверте — це ", "). The fourth is": "). Четверте — це", "domestically": "вироблені всередині країни", " manufactured chips (SMIC 7nm logic / CXMT HBM / Ascend). China's compute grows ~9x over 2026-2029, but its world share still falls toward ~9% because the global buildout outpaces it.": " виготовлені чипи (SMIC 7nm logic / CXMT HBM / Ascend). Обчислювальні потужності Китаю зростають ~у 9 разів за 2026-2029 роки, але його частка у світі все одно падає до ~9%, оскільки глобальне нарощування випереджає його темпи.", "manufactured chips (SMIC 7nm logic / CXMT HBM / Ascend). China's compute grows ~9x over 2026-2029, but its world share still falls toward ~9% because the global buildout outpaces it.": "виготовлені чипи (SMIC 7nm logic / CXMT HBM / Ascend). Обчислювальні потужності Китаю зростають ~у 9 разів за 2026-2029 роки, але його частка у світі все одно падає до ~9%, оскільки глобальне нарощування випереджає його темпи.", "H100e / year": "H100e / рік", "% of world": "% від світу", "China’s AI compute": "Обчислювальні потужності ШІ Китаю", "Domestic": "Внутрішнє виробництво", "Legal imports": "Легальний імпорт", "Loopholes (offshore DCs / rental)": "Лазівки (офшорні дата-центри / оренда)", "The 2024-2025 anchors, pinned to observed data:": "Опорні точки 2024-2025, зафіксовані за спостережуваними даними:", "Channel": "Канал", "Basis": "Основа", "Ascend on SMIC ≤7nm + Cambricon, drawing a one-time foreign-HBM stockpile (~13M stacks, mostly Samsung ~11.4M ≈ 1.6M 910C) and a ~2.9M-die TSMC \"die bank\" (": "Ascend на SMIC ≤7nm + Cambricon, що використовує одноразовий запас іноземного HBM (~13M стеків, переважно Samsung ~11.4M ≈ 1.6M 910C) та TSMC \"банк кристалів\" на ~2.9M кристалів (", "); ~0.8 raw H100e/910C": "); ~0.8 необробленого H100e/910C", "Legal": "Легальні", "~1M throttled H20s in 2024 (~0.2 H100e each); 2025 nets only ~0.15M: Q1 shipments before the April ban, a partial re-licensing from July, and Beijing discouraging purchases": "~1M H20 зі зниженою продуктивністю у 2024 році (~0.2 H100e кожен); 2025 рік дає чистий приріст лише ~0.15M: поставки Q1 до квітневої заборони, часткове повторне ліцензування з липня та стримування закупівель з боку Пекіна", "Loopholes": "Лазівки", "offshore DCs Chinese firms own or ": "офшорні дата-центри, якими володіють китайські компанії, або ", "offshore DCs Chinese firms own or": "офшорні дата-центри, якими володіють китайські компанії, або", "rent abroad": "орендують за кордоном", "; the cumulative 2024+2025 total here (~0.7M by end-2025) sits just above the ≥~670K confirmed-rental floor (ByteDance ~520K)": "; накопичена сума за 2024+2025 тут (~0.7M до кінця 2025) трохи перевищує підтверджений мінімум оренди у ≥~670K (ByteDance ~520K)", "grey-market banned parts, anchored to ": "заборонені компоненти з сірого ринку, прив'язані до ", "grey-market banned parts, anchored to": "заборонені компоненти з сірого ринку, прив'язані до", "Epoch": "Epoch", "Forecasting 2026-2028": "Прогноз на 2026-2028", "The three global channels are projected as a share of §1.1 world production:": "Три глобальні канали прогнозуються як частка світового виробництва з §1.1:", "Global channel": "Глобальний канал", "Rule (share of §1.1 world)": "Правило (частка світового §1.1)", "~3.5% → 2% with more ": "~3.5% → 2% за посилення ", "~3.5% → 2% with more": "~3.5% → 2% за посилення", "enforcement": "до угоди", "confirmed-rental floor": "підтвердженого мінімуму оренди", " + other sources)": " + інші джерела)", "+ other sources)": "+ інші джерела)", "The legal channel could plausibly run 2-3x higher than this ~1% rule: the current licensing policy already covers volumes above it, though Beijing-side import restrictions push realized shipments back down.": "Легальний канал цілком міг би бути у 2-3 рази вищим за це правило ~1%: чинна ліцензійна політика вже покриває обсяги вище нього, хоча імпортні обмеження з боку Пекіна знижують фактичні поставки.", " is HBM-bound; see the recent ": " обмежений постачанням HBM; див. нещодавню ", "is HBM-bound; see the recent": "обмежений постачанням HBM; див. нещодавню", "SemiAnalysis CXMT piece": "статтю SemiAnalysis про CXMT", "Domestic build-up": "Нарощування внутрішнього виробництва", "CXMT HBM capacity (kwspm starts)": "Потужність CXMT HBM (запуски kwspm)", "8-hi stack yield (maturing)": "Вихід придатних 8-hi стеків (дозріває)", "good 8-hi stacks per wafer (~88 gross x yield)": "придатні 8-hi стеки на пластину (~88 валових x вихід)", "→ good 910C-equiv/yr (kwspm x 12k x stacks / 8)": "→ придатних 910C-еквівалентів/рік (kwspm x 12k x стеки / 8)", "raw H100e per 910C-equiv (logic + HBM3E gains)": "необроблений H100e на 910C-еквівалент (приріст від логіки + HBM3E)", "→ raw H100e on CXMT memory": "→ необроблений H100e на пам'яті CXMT", "uplift: smuggled HBM + other firms": "надбавка: контрабандний HBM + інші компанії", "= Domestic": "= Внутрішнє виробництво", "This is optimistic: we take CXMT's HBM ramp at face value (the ": "Це оптимістичний сценарій: ми беремо нарощування HBM від CXMT за номінальним значенням (це ", "This is optimistic: we take CXMT's HBM ramp at face value (the": "Це оптимістичний сценарій: ми беремо нарощування HBM від CXMT за номінальним значенням (це", " projects it to ~12% of global HBM wafer supply by 2028), though that ramp is back-loaded (the 2026 column could plausibly be near zero) and competes with higher-margin commodity DRAM for the same fab.": " прогнозує ~12% світового постачання пластин HBM до 2028 року), хоча це нарощування зміщене на пізніші роки (стовпець 2026 року цілком може бути близьким до нуля) і конкурує за ту саму фабрику з більш маржинальним товарним DRAM.", "projects it to ~12% of global HBM wafer supply by 2028), though that ramp is back-loaded (the 2026 column could plausibly be near zero) and competes with higher-margin commodity DRAM for the same fab.": "прогнозує ~12% світового постачання пластин HBM до 2028 року), хоча це нарощування зміщене на пізніші роки (стовпець 2026 року цілком може бути близьким до нуля) і конкурує за ту саму фабрику з більш маржинальним товарним DRAM.", "DUV capacity is abundant.": "Потужність DUV достатня.", " Ascend logic and CXMT memory both print on China's ArF-immersion (DUV) fleet; these AI chip projections only use a small fraction of it:": " Логіка Ascend і пам'ять CXMT обидві друкуються на китайському парку ArF-імерсійних (DUV) машин; ці прогнози щодо чипів ШІ використовують лише малу його частку:", "Ascend logic and CXMT memory both print on China's ArF-immersion (DUV) fleet; these AI chip projections only use a small fraction of it:": "Логіка Ascend і пам'ять CXMT обидві друкуються на китайському парку ArF-імерсійних (DUV) машин; ці прогнози щодо чипів ШІ використовують лише малу його частку:", "DUV immersion fleet": "Парк DUV-імерсійних машин", "Fleet (tools)": "Парк (одиниць обладнання)", "~200 base + ~90 ArFi bought in 2024 (mostly ": "~200 базових + ~90 ArFi, куплених у 2024 році (переважно ", "~200 base + ~90 ArFi bought in 2024 (mostly": "~200 базових + ~90 ArFi, куплених у 2024 році (переважно", "NXT:1980Fi-class": "NXT:1980Fi-class", ", 275-330 wph; 70% of ASML's 129, $5-7B); imports since slowed by Dutch controls (": ", 275-330 wph; 70% від 129 ASML, $5-7B); імпорт відтоді сповільнився через голландські обмеження (", "AEI": "AEI", "Realized capacity (passes/yr)": "Реалізована потужність (проходи/рік)", "fleet x ~1.8M realized passes/tool/yr (~5-6k wafers/day in production vs the ": "парк x ~1.8M реалізованих проходів/машину/рік (~5-6 тис. пластин/день у виробництві порівняно з ", "fleet x ~1.8M realized passes/tool/yr (~5-6k wafers/day in production vs the": "парк x ~1.8M реалізованих проходів/машину/рік (~5-6 тис. пластин/день у виробництві порівняно з", "~2.4M nameplate": "~2.4M номінальної потужності", "; cf. §1.1's ~360k EUV)": "; пор. з ~360k EUV у §1.1)", "Ascend logic": "Логіка Ascend", "~8 → 28 kwspm ": "~8 → 28 kwspm ", "~8 → 28 kwspm": "~8 → 28 kwspm", "SMIC ≤7nm starts": "запуски SMIC ≤7nm", " x ~40-60 passes/wafer (": " x ~40-60 проходів/пластину (", "x ~40-60 passes/wafer (": "x ~40-60 проходів/пластину (", "SAQP quad-patterning": "SAQP quad-patterning", "CXMT HBM": "CXMT HBM", "~30 → 100 kwspm ": "~30 → 100 kwspm ", "~30 → 100 kwspm": "~30 → 100 kwspm", "CXMT HBM starts": "запуски CXMT HBM", " x ~10 passes/wafer": " x ~10 проходів/пластину", "x ~10 passes/wafer": "x ~10 проходів/пластину", "The AI draw is ~2% of fleet capacity in 2026, ~4% by 2028; the binding constraint is HBM. This is also why we don't expect China to simply flood its DUV fleet with AI chips: more Ascend logic without matching HBM doesn't add usable AI compute, SMIC's ≤7nm starts are capped by multi-patterning yield and cost rather than scanner availability, and most of the fleet profitably serves the mature-node economy (autos, industrial, appliances) that China is also trying to dominate.": "Споживання парку для ШІ становить ~2% потужності в 2026 році, ~4% до 2028 року; обмежувальним фактором є HBM. Це також пояснює, чому ми не очікуємо, що Китай просто заллє свій парк DUV чипами ШІ: більше логіки Ascend без відповідного HBM не додає придатних обчислювальних потужностей ШІ, запуски SMIC ≤7nm обмежені виходом придатної продукції при мультипатернуванні та вартістю, а не доступністю сканерів, і більша частина парку прибутково обслуговує економіку зрілих техпроцесів (автомобілі, промисловість, побутова техніка), у якій Китай також прагне домінувати.", "The four channels combined (M raw H100e):": "Чотири канали разом (M необроблених H100e):", "H100e (per year unless noted)": "H100e (за рік, якщо не вказано інше)", "Legal western": "Легальний західний", "Total added /yr": "Всього додано /рік", "→ China stock (end of year)": "→ запас Китаю (кінець року)", "→ China % of world": "→ % Китаю від світу", "1.3.2 Results": "1.3.2 Результати", "Combining the world total (§1.1), the China forecast (§1.3.1), and an 85/15 US/RoW split of the remainder gives ownership by region: the US holds the great majority throughout, China ~15% → ~9%.": "Поєднання світового підсумку (§1.1), прогнозу для Китаю (§1.3.1) та розподілу залишку між США та рештою світу у пропорції 85/15 дає розподіл володіння за регіонами: США утримують переважну більшість протягом усього періоду, Китай ~15% → ~9%.", "1.4 Datacenter sizes": "1.4 Розміри дата-центрів", "In this section we forecast how the AI compute from §1.1 will be distributed across datacenter sizes, from gigawatt-scale training campuses down to the long tail of small regional sites. The method is relatively naive (and uncertain). We take the total AI compute forecast (from §1.1), and spread it across a total datacenter count, fit a curve of datacenter sizes with three concentration anchors, and then split the result across the US, China, and the Rest of the World ownerships (from §1.3).": "У цьому розділі ми прогнозуємо, як обчислювальні потужності ШІ з §1.1 розподілятимуться за розмірами дата-центрів — від тренувальних кампусів гігаватного масштабу до довгого хвоста дрібних регіональних майданчиків. Метод відносно наївний (і невизначений). Ми беремо загальний прогноз обчислювальних потужностей ШІ (з §1.1), розподіляємо його на загальну кількість дата-центрів, підганяємо криву розмірів дата-центрів за трьома опорними точками концентрації, а потім розподіляємо результат між володіннями США, Китаю та решти світу (з §1.3).", "Datacenter sizes model": "Модель розмірів дата-центрів", "Setup.": "Постановка.", " We take the total AI compute ": " Ми беремо загальні обчислювальні потужності ШІ ", "We take the total AI compute": "Ми беремо загальні обчислювальні потужності ШІ", " (§1.1) and a datacenter count ": " (§1.1) та кількість дата-центрів ", "(§1.1) and a datacenter count": "(§1.1) та кількість дата-центрів", " (~1,000 sites in 2025, growing at a default 30%/yr to reach ~2,850 sites by 2029). We then allocate the datacenter sizes based on a size distribution.": " (~1,000 майданчиків у 2025 році, що зростає за замовчуванням на 30%/рік і досягає ~2,850 майданчиків до 2029 року). Далі ми розподіляємо розміри дата-центрів на основі розподілу розмірів.", "(~1,000 sites in 2025, growing at a default 30%/yr to reach ~2,850 sites by 2029). We then allocate the datacenter sizes based on a size distribution.": "(~1,000 майданчиків у 2025 році, що зростає за замовчуванням на 30%/рік і досягає ~2,850 майданчиків до 2029 року). Далі ми розподіляємо розміри дата-центрів на основі розподілу розмірів.", "Anchors.": "Опорні точки.", " We pin the ": " Ми фіксуємо ", "We pin the": "Ми фіксуємо", "shape": "форму", " of the size distribution with three concentration anchors, the share of all compute held by the largest 1, 10, and 100 clusters, ": " розподілу розмірів за трьома опорними точками концентрації — часткою всіх обчислювальних потужностей, якою володіють 1, 10 і 100 найбільших кластерів, ", "of the size distribution with three concentration anchors, the share of all compute held by the largest 1, 10, and 100 clusters,": "розподілу розмірів за трьома опорними точками концентрації — часткою всіх обчислювальних потужностей, якою володіють 1, 10 і 100 найбільших кластерів,", ", which we forecast to be roughly 4%, 20%, and 70% (hand-set, adjusted up from ": ", яку ми прогнозуємо приблизно на рівні 4%, 20% і 70% (встановлено вручну, скориговано вгору від ", ", which we forecast to be roughly 4%, 20%, and 70% (hand-set, adjusted up from": ", яку ми прогнозуємо приблизно на рівні 4%, 20% і 70% (встановлено вручну, скориговано вгору від", "Epoch's datacenter dataset": "набору даних Epoch про дата-центри", "), held flat over time:": "), незмінних у часі:", "\\begin{aligned}\nS_1 &= c_1 / C \\\\\nS_{10} &= (c_1 + \\dots + c_{10}) / C \\\\\nS_{100} &= (c_1 + \\dots + c_{100}) / C\n\\end{aligned}": "\\begin{aligned}\nS_1 &= c_1 / C \\\\\nS_{10} &= (c_1 + \\dots + c_{10}) / C \\\\\nS_{100} &= (c_1 + \\dots + c_{100}) / C\n\\end{aligned}", "Fit.": "Підгонка.", " We then model log-size as a cubic in log-rank, with four coefficients ": " Далі ми моделюємо логарифм розміру як кубічну функцію логарифма рангу, з чотирма коефіцієнтами ", "We then model log-size as a cubic in log-rank, with four coefficients": "Далі ми моделюємо логарифм розміру як кубічну функцію логарифма рангу, з чотирма коефіцієнтами", "\\log(c_i) = a + b\\log(i) + c\\log(i)^2 + d\\log(i)^3": "\\log(c_i) = a + b\\log(i) + c\\log(i)^2 + d\\log(i)^3", "lo": "lo", "Those four coefficients are pinned ": "Ці чотири коефіцієнти фіксуються ", "Those four coefficients are pinned": "Ці чотири коефіцієнти фіксуються", " by four equations, the three anchors plus the total (a cubic in log-rank has four degrees of freedom, matching the four constraints, so the curve is fully pinned with no free parameters left over):": " чотирма рівняннями — трьома опорними точками плюс загальною сумою (кубічна функція від логарифма рангу має чотири ступені вільності, що відповідає чотирьом обмеженням, тож крива повністю фіксується без жодних вільних параметрів, що залишилися):", "by four equations, the three anchors plus the total (a cubic in log-rank has four degrees of freedom, matching the four constraints, so the curve is fully pinned with no free parameters left over):": "чотирма рівняннями — трьома опорними точками плюс загальною сумою (кубічна функція від логарифма рангу має чотири ступені вільності, що відповідає чотирьом обмеженням, тож крива повністю фіксується без жодних вільних параметрів, що залишилися):", "\\begin{aligned}\nc_1 / C &= S_1 \\\\\n(c_1 + \\dots + c_{10}) / C &= S_{10} \\\\\n(c_1 + \\dots + c_{100}) / C &= S_{100} \\\\\nc_1 + \\dots + c_N &= C\n\\end{aligned}": "\\begin{aligned}\nc_1 / C &= S_1 \\\\\n(c_1 + \\dots + c_{10}) / C &= S_{10} \\\\\n(c_1 + \\dots + c_{100}) / C &= S_{100} \\\\\nc_1 + \\dots + c_N &= C\n\\end{aligned}", "The first is immediate, since ": "Перше випливає одразу, оскільки ", "The first is immediate, since": "Перше випливає одразу, оскільки", "\\log 1 = 0": "\\log 1 = 0", " gives ": " дає ", "gives": "дає", "a = \\log c_1 = \\log(S_1 C)": "a = \\log c_1 = \\log(S_1 C)", "; the other three are solved numerically. This recovers every datacenter size ": "; інші три розв'язуються чисельно. Це відновлює розмір кожного дата-центру ", "; the other three are solved numerically. This recovers every datacenter size": "; інші три розв'язуються чисельно. Це відновлює розмір кожного дата-центру", " from just ": " лише з ", "from just": "лише з", ", and the three anchors.": ", і трьох опорних точок.", "Regions.": "Регіони.", " To split the curve across the ": " Щоб розподілити криву між ", "To split the curve across the": "Щоб розподілити криву між", ", we forecast each region's ownership share ": ", ми прогнозуємо частку володіння кожного регіону ", ", we forecast each region's ownership share": ", ми прогнозуємо частку володіння кожного регіону", " of total compute (giving it a target ": " від загальних обчислювальних потужностей (що задає йому цільову ", "of total compute (giving it a target": "від загальних обчислювальних потужностей (що задає йому цільову", ") and assign each datacenter to a region in proportion to that share. An optional ": ") і призначаємо кожен дата-центр регіону пропорційно цій частці. Опціональний ", ") and assign each datacenter to a region in proportion to that share. An optional": ") і призначаємо кожен дата-центр регіону пропорційно цій частці. Опціональний", "skew": "зсув", "\\theta_r": "\\theta_r", " can tilt a region toward smaller or larger sites (to match a region whose biggest clusters are known to differ, e.g. China) while keeping its total fixed, but it is ": " може зміщувати регіон у бік менших або більших майданчиків (щоб врахувати регіон, найбільші кластери якого, як відомо, відрізняються, наприклад Китай), зберігаючи його загальну суму фіксованою, але за замовчуванням він ", "can tilt a region toward smaller or larger sites (to match a region whose biggest clusters are known to differ, e.g. China) while keeping its total fixed, but it is": "може зміщувати регіон у бік менших або більших майданчиків (щоб врахувати регіон, найбільші кластери якого, як відомо, відрізняються, наприклад Китай), зберігаючи його загальну суму фіксованою, але за замовчуванням він", "off by default": "вимкнений", "\\theta_{CH} = \\theta_{RoW} = 0": "\\theta_{CH} = \\theta_{RoW} = 0", "), so each region is just a same-shape slice of the global curve.": "), тож кожен регіон є просто зрізом глобальної кривої тієї самої форми.", "Default parameters.": "Параметри за замовчуванням.", "parameter": "параметр", "default": "за замовчуванням", "what it controls": "що контролює", " (sites in 2025)": " (майданчиків у 2025 році)", "(sites in 2025)": "(майданчиків у 2025 році)", "datacenter count in 2025": "кількість дата-центрів у 2025 році", "growth ": "зростання ", "growth": "зростання", "30% / yr": "30% / рік", "datacenter-count growth (→ ~2,850 sites by 2029)": "зростання кількості дата-центрів (→ ~2,850 майданчиків до 2029 року)", "compute share of the single largest cluster": "частка обчислювальних потужностей одного найбільшого кластера", "compute share of the largest 10": "частка обчислювальних потужностей 10 найбільших", "compute share of the largest 100": "частка обчислювальних потужностей 100 найбільших", "skew ": "зсув ", "\\theta_{CH}, \\theta_{RoW}": "\\theta_{CH}, \\theta_{RoW}", "0 (off)": "0 (вимкнено)", "optional regional size tilt; 0 = proportional": "опціональне регіональне зміщення розміру; 0 = пропорційно", "These concentration shares are hand-picked and uncertain, adjusted up from ": "Ці частки концентрації підібрані вручну та є невизначеними, скориговані вгору від ", "These concentration shares are hand-picked and uncertain, adjusted up from": "Ці частки концентрації підібрані вручну та є невизначеними, скориговані вгору від", "Epoch's observed current dataset": "поточного спостережуваного набору даних Epoch", " on the assumption that it does not have full coverage of frontier clusters (its largest tracked sites cover ~15% of global AI compute as of late 2025).": " за припущення, що він не має повного охоплення передових кластерів (його найбільші відстежувані майданчики покривають ~15% світових обчислювальних потужностей ШІ станом на кінець 2025 року).", "on the assumption that it does not have full coverage of frontier clusters (its largest tracked sites cover ~15% of global AI compute as of late 2025).": "за припущення, що він не має повного охоплення передових кластерів (його найбільші відстежувані майданчики покривають ~15% світових обчислювальних потужностей ШІ станом на кінець 2025 року).", "In this section we forecast what happens after Plan A is implemented, as well as the 1-year default counterfactual without Plan A.": "У цьому розділі ми прогнозуємо, що відбувається після впровадження Плану А, а також однорічний контрфактичний сценарій за замовчуванням без Плану А.", "2.1 The no-deal counterfactual": "2.1 Контрфактичний сценарій без угоди", "To predict one more year of the default (no-deal) path, we extend the §1.1 method (and §1.3 for China's domestic additions) to the installed stock at the end of 2029. Under Plan A we expect the temporary R&D pause and general uncertainty during the deal's implementation to make capital spending temporarily lower. We approximate this by having the debt-financed slice of the buildout collapse to zero under Plan A, while cash capex stays on trend. With the fast implementation of inference-only verification and increased inference-compute allocation, we expect the AI revenue forecast to stay on par with the default counterfactual.": "Щоб спрогнозувати ще один рік шляху за замовчуванням (без угоди), ми поширюємо метод §1.1 (та §1.3 для внутрішніх додатків Китаю) на встановлений запас станом на кінець 2029 року. За Планом А ми очікуємо, що тимчасова пауза в НДДКР та загальна невизначеність під час впровадження угоди тимчасово знизять капітальні витрати. Ми апроксимуємо це так, що частка нарощування, профінансована боргом, за Планом А обвалюється до нуля, тоді як капекс за готівкові кошти залишається на тренді. З огляду на швидке впровадження верифікації лише для інференсу та збільшений розподіл обчислювальних потужностей на інференс, ми очікуємо, що прогноз доходів від ШІ залишиться на рівні контрфактичного сценарію за замовчуванням.", "Overall, we think a good implementation of the deal can provide confidence to companies that R&D will be allowed to resume, and that given the level of realized capabilities and continued improvements once R&D resumes (which will be at a slowed down but still fast pace), we expect AI investment to still be extremely economically attractive. We expect this to hold despite increased transparency, because without algorithmic moats the economic value will accrue to the owners of compute (who can therefore still be the ones to train the best models first and serve them to the widest user base).": "Загалом ми вважаємо, що якісне впровадження угоди може дати компаніям впевненість у тому, що НДДКР дозволять відновити, і що з огляду на рівень реалізованих можливостей та подальші вдосконалення після відновлення НДДКР (які відбуватимуться уповільненим, але все ще швидким темпом), ми очікуємо, що інвестиції в ШІ залишаться надзвичайно привабливими економічно. Ми очікуємо, що це збережеться попри підвищену прозорість, оскільки за відсутності алгоритмічних переваг економічна цінність накопичуватиметься у власників обчислювальних потужностей (які завдяки цьому все ще зможуть першими тренувати найкращі моделі та обслуговувати ними найширшу базу користувачів).", "2.2 AI-relevant compute after the deal": "2.2 Релевантні для ШІ обчислювальні потужності після угоди", "Further into Plan A, we have increased uncertainty over compute growth, especially as AI and robots become capable of automating hardware R&D and production, and drastically increasing the previously human-constrained workforce. Given the uncertainty, we think it is reasonable to use a relatively simple model (Jones and Wright's-law learning) that takes the §1.1 compute path as its starting point and runs it to 2040. Given the hardware explosion we expect by default with unconstrained AI and robot deployment on hardware R&D and production, and the fact that this would be destabilizing (among other things, increasing the ease of defecting on the deal and verification burden within the deal) Plan A features a cap-and-trade regime to slow down the hardware explosion to controllable (but still drastically increased) hardware levels.": "Далі в межах Плану А зростає невизначеність щодо зростання обчислювальних потужностей, особливо оскільки ШІ та роботи стають здатними автоматизувати НДДКР та виробництво апаратного забезпечення, різко збільшуючи раніше обмежену людськими ресурсами робочу силу. З огляду на цю невизначеність, ми вважаємо доцільним використовувати відносно просту модель (навчання за моделлю Джонса та законом Райта), яка бере шлях обчислювальних потужностей з §1.1 як вихідну точку і продовжує його до 2040 року. З огляду на апаратний вибух, якого ми за замовчуванням очікуємо за необмеженого розгортання ШІ та роботів у НДДКР та виробництві апаратного забезпечення, а також те, що це було б дестабілізуючим (серед іншого, підвищуючи легкість порушення угоди та тягар верифікації в межах угоди), План А передбачає режим системи квот і торгівлі викидами (cap-and-trade), щоб уповільнити апаратний вибух до контрольованих (але все ще різко підвищених) рівнів апаратного забезпечення.", "Why we expect hardware to grow fast.": "Чому ми очікуємо швидкого зростання апаратного забезпечення.", " We can think of two separate forces lowering the cost per unit of compute:": " Можна виділити дві окремі сили, що знижують вартість одиниці обчислювальних потужностей:", "We can think of two separate forces lowering the cost per unit of compute:": "Можна виділити дві окремі сили, що знижують вартість одиниці обчислювальних потужностей:", "Design improvements (modelled with Jones).": "Дизайнерські вдосконалення (моделюються за допомогою моделі Джонса).", " Design improvements can lead to more compute per fixed unit of AI chip production, with better chip layouts, memory designs, transistor density, packaging etc. This is R&D, so we can model it with the labor spent on it, but with diminishing returns as the easy ideas get used up (": " Дизайнерські вдосконалення можуть давати більше обчислювальних потужностей на фіксовану одиницю виробництва чипів ШІ — завдяки кращим топологіям чипів, конструкціям пам'яті, щільності транзисторів, пакуванню тощо. Це НДДКР, тож ми можемо моделювати їх через працю, витрачену на них, але зі спадною віддачею, оскільки прості ідеї вичерпуються (", "Design improvements can lead to more compute per fixed unit of AI chip production, with better chip layouts, memory designs, transistor density, packaging etc. This is R&D, so we can model it with the labor spent on it, but with diminishing returns as the easy ideas get used up (": "Дизайнерські вдосконалення можуть давати більше обчислювальних потужностей на фіксовану одиницю виробництва чипів ШІ — завдяки кращим топологіям чипів, конструкціям пам'яті, щільності транзисторів, пакуванню тощо. Це НДДКР, тож ми можемо моделювати їх через працю, витрачену на них, але зі спадною віддачею, оскільки прості ідеї вичерпуються (", "Jones 1995": "Jones 1995", ", calibrated by ": ", відкалібровано за ", ", calibrated by": ", відкалібровано за", "Bloom et al. 2020": "Bloom et al. 2020", ") and with diminishing returns to more parallel labor at a given time. Think of this as the historical improvements in 'compute per wafer' (including node shrinks, which we bucket under design R&D since they come from chip and equipment research rather than from production scale). Roughly 2 million people work in semiconductors today; by the early 2030s our forecast is that combined human, AI, and robot effort on chip and equipment R&D is on the order of 100x that. Under our model's parameters this only speeds up the 'Moore's law' progress by around 1.1x.": ") і зі спадною віддачею від додаткової паралельної праці в певний момент часу. Уявіть це як історичні вдосконалення показника 'обчислювальних потужностей на пластину' (включно зі зменшенням техпроцесу, яке ми відносимо до дизайнерських НДДКР, оскільки воно походить з досліджень чипів та обладнання, а не з масштабу виробництва). Сьогодні у сфері напівпровідників працює приблизно 2 мільйони людей; за нашим прогнозом, до початку 2030-х років сукупні зусилля людей, ШІ та роботів у НДДКР чипів та обладнання будуть на порядок — у 100 разів більшими за це. За параметрами нашої моделі це прискорює прогрес 'закону Мура' лише приблизно у 1.1 раза.", "Production scaling (Wright).": "Масштабування виробництва (закон Райта).", " Pure manufacturing scale of units of compute can lead to 'learning by doing' efficiency improvements, e.g., with yield, throughput, uptime effects, and economies of scale. Think of this as the improvements in 'wafers per dollar' historically. We model unit cost falling about 15% per doubling of cumulative production (similar to long-run semiconductor and solar rate). We don't know if AI and robots automating fab construction and operation will speed up this trend, but at least think it's a reasonable baseline that these gains from scale will continue separately to design improvements.": " Сам лише масштаб виробництва одиниць обчислювальних потужностей може приводити до вдосконалень ефективності за принципом 'навчання через дію' — наприклад, через ефекти виходу придатної продукції, пропускної здатності, часу безвідмовної роботи та економії на масштабі. Уявіть це як історичні вдосконалення показника 'пластин на долар'. Ми моделюємо падіння вартості одиниці приблизно на 15% за кожне подвоєння накопиченого виробництва (подібно до довгострокового темпу для напівпровідників та сонячної енергетики). Ми не знаємо, чи прискорять цю тенденцію ШІ та роботи, що автоматизують будівництво та експлуатацію фабрик, але принаймні вважаємо розумним базовим припущенням, що ці вигоди від масштабу продовжуватимуться окремо від дизайнерських вдосконалень.", "Pure manufacturing scale of units of compute can lead to 'learning by doing' efficiency improvements, e.g., with yield, throughput, uptime effects, and economies of scale. Think of this as the improvements in 'wafers per dollar' historically. We model unit cost falling about 15% per doubling of cumulative production (similar to long-run semiconductor and solar rate). We don't know if AI and robots automating fab construction and operation will speed up this trend, but at least think it's a reasonable baseline that these gains from scale will continue separately to design improvements.": "Сам лише масштаб виробництва одиниць обчислювальних потужностей може приводити до вдосконалень ефективності за принципом 'навчання через дію' — наприклад, через ефекти виходу придатної продукції, пропускної здатності, часу безвідмовної роботи та економії на масштабі. Уявіть це як історичні вдосконалення показника 'пластин на долар'. Ми моделюємо падіння вартості одиниці приблизно на 15% за кожне подвоєння накопиченого виробництва (подібно до довгострокового темпу для напівпровідників та сонячної енергетики). Ми не знаємо, чи прискорять цю тенденцію ШІ та роботи, що автоматизують будівництво та експлуатацію фабрик, але принаймні вважаємо розумним базовим припущенням, що ці вигоди від масштабу продовжуватимуться окремо від дизайнерських вдосконалень.", "We treat the cost per unit of compute ($ / H100e) as the product of the two factors (compute / unit produced) and (units produced / $), where historically the unit has been 'wafers' but may change with future paradigms. Each factor is normalized to 1 in 2025 and falling thereafter. We take the §1.1 endpoint as the starting point and run these two models forwards to 2040.": "Ми розглядаємо вартість одиниці обчислювальних потужностей ($ / H100e) як добуток двох факторів: (обчислювальних потужностей / вироблену одиницю) та (вироблених одиниць / $), де історично одиницею була 'пластина', але це може змінитися з майбутніми парадигмами. Кожен фактор нормалізований до 1 у 2025 році і надалі падає. Ми беремо кінцеву точку §1.1 як вихідну і прораховуємо ці дві моделі вперед до 2040 року.", "The Jones & Wright's-law cost model": "Модель вартості на основі моделі Джонса та закону Райта", "The cost per unit of AI compute is one 2025 anchor times two indices that both start at 1 and fall over time, a manufacturing index ": "Вартість одиниці обчислювальних потужностей ШІ — це одна опорна точка 2025 року, помножена на два індекси, які обидва починаються з 1 і падають з часом: виробничий індекс ", "The cost per unit of AI compute is one 2025 anchor times two indices that both start at 1 and fall over time, a manufacturing index": "Вартість одиниці обчислювальних потужностей ШІ — це одна опорна точка 2025 року, помножена на два індекси, які обидва починаються з 1 і падають з часом: виробничий індекс", " and a design index ": " та дизайнерський індекс ", "and a design index": "та дизайнерський індекс", "MC(t) = MC_{2025} \\times W(t) \\times D(t)": "MC(t) = MC_{2025} \\times W(t) \\times D(t)", "MC": "MC", "Wright's law (manufacturing).": "Закон Райта (виробництво).", " Cost falls with cumulative production, the classic learning curve:": " Вартість падає з накопиченим виробництвом — класична крива навчання:", "Cost falls with cumulative production, the classic learning curve:": "Вартість падає з накопиченим виробництвом — класична крива навчання:", "W(t) = \\left(Q_{\\rm cum}(t)\\,/\\,Q_{\\rm cum}(2025)\\right)^{-b}": "W(t) = \\left(Q_{\\rm cum}(t)\\,/\\,Q_{\\rm cum}(2025)\\right)^{-b}", "cum": "cum", "so each doubling of cumulative output cuts manufacturing cost by ": "тож кожне подвоєння накопиченого випуску знижує виробничу вартість на ", "so each doubling of cumulative output cuts manufacturing cost by": "тож кожне подвоєння накопиченого випуску знижує виробничу вартість на", ". We use ": ". Ми використовуємо ", ". We use": ". Ми використовуємо", ", about 16% per doubling, similar to the long-run semiconductor learning rate (close to Swanson's law for solar).": ", приблизно 16% за подвоєння, подібно до довгострокового темпу навчання для напівпровідників (близько до закону Свонсона для сонячної енергетики).", "Jones design R&D.": "Дизайнерські НДДКР за моделлю Джонса.", " The annual design-cost decline scales with more labor doing R&D, with diminishing returns:": " Річне зниження дизайнерської вартості масштабується з більшою кількістю праці, зайнятої в НДДКР, зі спадною віддачею:", "The annual design-cost decline scales with more labor doing R&D, with diminishing returns:": "Річне зниження дизайнерської вартості масштабується з більшою кількістю праці, зайнятої в НДДКР, зі спадною віддачею:", "rate": "rate", "\\text{rate}(t) = r_{\\rm base}\\left(L_{\\rm cog}(t)\\,/\\,L_{\\rm cog}(2025)\\right)^{\\lambda}, \\qquad D(t{+}1) = D(t)\\,(1 - \\text{rate}(t))": "\\text{rate}(t) = r_{\\rm base}\\left(L_{\\rm cog}(t)\\,/\\,L_{\\rm cog}(2025)\\right)^{\\lambda}, \\qquad D(t{+}1) = D(t)\\,(1 - \\text{rate}(t))", "base": "base", "cog": "cog", "where ": "де ", "where": "де", "L_{\\rm cog}": "L_{\\rm cog}", " is combined human and AI cognitive labor (which scales with deployed compute) which is taken from the 'effective labor' quantity from our economic model that combines AI / robot labor quantities with its capability (% of tasks it is able to automate). ": " — це сукупна когнітивна праця людини та ШІ (яка масштабується з розгорнутими обчислювальними потужностями), взята з величини 'ефективної праці' нашої економічної моделі, що поєднує обсяги праці ШІ/роботів з їхньою здатністю (% задач, які вони можуть автоматизувати). ", "is combined human and AI cognitive labor (which scales with deployed compute) which is taken from the 'effective labor' quantity from our economic model that combines AI / robot labor quantities with its capability (% of tasks it is able to automate).": "— це сукупна когнітивна праця людини та ШІ (яка масштабується з розгорнутими обчислювальними потужностями), взята з величини 'ефективної праці' нашої економічної моделі, що поєднує обсяги праці ШІ/роботів з їхньою здатністю (% задач, які вони можуть автоматизувати).", "r_{\\rm base}": "r_{\\rm base}", " is the base pace, and ": " — це базовий темп, а ", "is the base pace, and": "— це базовий темп, а", "\\lambda": "\\lambda", " is the \"stepping on toes\" adjustment (": " — це коригування на ефект \"перешкоджання одне одному\" (\"stepping on toes\") (", "is the \"stepping on toes\" adjustment (": "— це коригування на ефект \"перешкоджання одне одному\" (\"stepping on toes\") (", "): a 100x research force buys far less than 100x the progress.": "): дослідницька сила у 100 разів більша дає набагато менше ніж у 100 разів більший прогрес.", "Parameter": "Параметр", "AI chips": "Чипи ШІ", "Wright learning ": "Навчання за Райтом ", "Wright learning": "Навчання за Райтом", "0.25 (~16% / doubling)": "0.25 (~16% / подвоєння)", "Jones base rate ": "Базовий темп Джонса ", "Jones base rate": "Базовий темп Джонса", "25% / yr": "25% / рік", "Jones stepping-on-toes ": "Ефект \"перешкоджання одне одному\" (Джонс) ", "Jones stepping-on-toes": "Ефект \"перешкоджання одне одному\" (Джонс)", "2025 cost to make": "Вартість виробництва у 2025 році", "Cumulative output, 2025": "Сукупний обсяг виробництва, 2025", "The base rate (25%/yr) tracks the ~1.35x/yr compute-efficiency trend, and ": "Базовий темп (25%/yr) відповідає тренду ефективності обчислень ~1.35x/yr, а ", "The base rate (25%/yr) tracks the ~1.35x/yr compute-efficiency trend, and": "Базовий темп (25%/yr) відповідає тренду ефективності обчислень ~1.35x/yr, а", "\\lambda = 0.05": "\\lambda = 0.05", " keeps stepping-on-toes strong: a 100x AI research force buys only ~1.3x the design-progress rate, so even the swelling AI workforce only modestly accelerates chip design. The anchor above is the cost to ": " підтримує сильний ефект «топтання по ногах»: стократне збільшення дослідницької сили ШІ дає лише ~1.3x пришвидшення темпу прогресу в дизайні, тож навіть зростання штату ШІ лише помірно пришвидшує розробку чипів. Наведений вище якір — це вартість, щоб ", "keeps stepping-on-toes strong: a 100x AI research force buys only ~1.3x the design-progress rate, so even the swelling AI workforce only modestly accelerates chip design. The anchor above is the cost to": "підтримує сильний ефект «топтання по ногах»: стократне збільшення дослідницької сили ШІ дає лише ~1.3x пришвидшення темпу прогресу в дизайні, тож навіть зростання штату ШІ лише помірно пришвидшує розробку чипів. Наведений вище якір — це вартість, щоб", "make": "виготовити", " a chip (marginal production cost, ~$5K in 2025), which is what the cost figure tracks; markups plus datacenter and power bring the all-in cost to ~$33K, which is what the $-invested figure counts. Both fall along the same ": " чип (гранична собівартість виробництва, ~$5K у 2025) — саме це відстежує показник вартості; націнки плюс дата-центр і електроенергія доводять повну вартість до ~$33K — саме це враховує показник $-invested. Обидва лежать уздовж однієї ", "a chip (marginal production cost, ~$5K in 2025), which is what the cost figure tracks; markups plus datacenter and power bring the all-in cost to ~$33K, which is what the $-invested figure counts. Both fall along the same": "чип (гранична собівартість виробництва, ~$5K у 2025) — саме це відстежує показник вартості; націнки плюс дата-центр і електроенергія доводять повну вартість до ~$33K — саме це враховує показник $-invested. Обидва лежать уздовж однієї", "W \\times D": "W \\times D", " curve. Below we run this loop with and without Plan A's two constraints, the compute cap and the R&D controls.": " кривої. Нижче ми прогоняємо цей цикл із і без двох обмежень Плану А — ліміту обчислювальних потужностей і контролю R&D.", "curve. Below we run this loop with and without Plan A's two constraints, the compute cap and the R&D controls.": "кривої. Нижче ми прогоняємо цей цикл із і без двох обмежень Плану А — ліміту обчислювальних потужностей і контролю R&D.", "The hardware explosion has two throttles in Plan A.": "Апаратний вибух у Плані А має два важелі стримування.", " Without them there is too much progress for the deal's stability (ease of defection and verification burden). There is a feedback loop where more compute leads to more hardware R&D and production, leading to more compute and cheaper hardware. Plan A has two constraints that act on different parts of that loop: capping production levels (cap-and-trade policy from 2032 onwards) and limiting R&D deployment (to avoid compute becoming too easy and cheap to manufacture despite the quantity caps).": " Без них прогрес був би надто швидким для стабільності угоди (легкість порушення умов і тягар верифікації). Існує петля зворотного зв'язку, де більше обчислювальних потужностей веде до більшого апаратного R&D і виробництва, що веде до ще більших обчислювальних потужностей і дешевшого обладнання. План А має два обмеження, які діють на різні частини цієї петлі: обмеження рівнів виробництва (політика cap-and-trade починаючи з 2032 року) і обмеження розгортання R&D (щоб обчислювальні потужності не стали занадто легкими й дешевими у виробництві, попри кількісні ліміти).", "Without them there is too much progress for the deal's stability (ease of defection and verification burden). There is a feedback loop where more compute leads to more hardware R&D and production, leading to more compute and cheaper hardware. Plan A has two constraints that act on different parts of that loop: capping production levels (cap-and-trade policy from 2032 onwards) and limiting R&D deployment (to avoid compute becoming too easy and cheap to manufacture despite the quantity caps).": "Без них прогрес був би надто швидким для стабільності угоди (легкість порушення умов і тягар верифікації). Існує петля зворотного зв'язку, де більше обчислювальних потужностей веде до більшого апаратного R&D і виробництва, що веде до ще більших обчислювальних потужностей і дешевшого обладнання. План А має два обмеження, які діють на різні частини цієї петлі: обмеження рівнів виробництва (політика cap-and-trade починаючи з 2032 року) і обмеження розгортання R&D (щоб обчислювальні потужності не стали занадто легкими й дешевими у виробництві, попри кількісні ліміти).", "Plan A (cap + hardware R&D controls)": "План А (ліміт + контроль апаратного R&D)", "no cap, hardware R&D controlled": "без ліміту, апаратний R&D контролюється", "no cap + hardware R&D unconstrained": "без ліміту + апаратний R&D без обмежень", "Capped Plan A compute vs. default": "Обмежені Планом А обчислювальні потужності проти базового сценарію", "Assumptions for each scenario": "Припущення для кожного сценарію", "All three scenarios follow Plan A's compute path until the cap starts to bind (~2034), then differ on two levers:": "Усі три сценарії йдуть за траєкторією обчислювальних потужностей Плану А, доки ліміт не починає діяти (~2034), а потім розходяться за двома важелями:", "Compute cap": "Ліміт обчислювальних потужностей", " (cap-and-trade, 2032 on). On: installed compute is pinned to the Plan A policy path, ~1T H100e by 2040. Off: an unconstrained reinvestment loop sets the quantity and it runs away.": " (cap-and-trade, з 2032 року). Увімкнено: встановлені обчислювальні потужності жорстко прив'язані до траєкторії політики Плану А, ~1T H100e до 2040. Вимкнено: необмежена петля реінвестування сама визначає обсяг, і він виходить з-під контролю.", "(cap-and-trade, 2032 on). On: installed compute is pinned to the Plan A policy path, ~1T H100e by 2040. Off: an unconstrained reinvestment loop sets the quantity and it runs away.": "(cap-and-trade, з 2032 року). Увімкнено: встановлені обчислювальні потужності жорстко прив'язані до траєкторії політики Плану А, ~1T H100e до 2040. Вимкнено: необмежена петля реінвестування сама визначає обсяг, і він виходить з-під контролю.", "Hardware R&D.": "Апаратний R&D.", " Controlled: chip-design progress is held to ~10%/yr, roughly the post-2010 cost-per-transistor pace (well below the ~25%/yr AI compute-efficiency trend). Unconstrained: the hardware-R&D effective labor is the economic model's effective AI labor (capability x quantity), so the design-cost decline accelerates with it (base rate 25%/yr, stepping-on-toes ": " Контролюється: прогрес у дизайні чипів утримується на рівні ~10%/yr, приблизно на темпі вартості на транзистор після 2010 року (значно нижче за тренд ефективності обчислень ШІ ~25%/yr). Без обмежень: ефективна праця для апаратного R&D — це ефективна праця ШІ з економічної моделі (можливості x кількість), тож зниження вартості дизайну прискорюється разом з нею (базовий темп 25%/yr, «топтання по ногах» ", "Controlled: chip-design progress is held to ~10%/yr, roughly the post-2010 cost-per-transistor pace (well below the ~25%/yr AI compute-efficiency trend). Unconstrained: the hardware-R&D effective labor is the economic model's effective AI labor (capability x quantity), so the design-cost decline accelerates with it (base rate 25%/yr, stepping-on-toes": "Контролюється: прогрес у дизайні чипів утримується на рівні ~10%/yr, приблизно на темпі вартості на транзистор після 2010 року (значно нижче за тренд ефективності обчислень ШІ ~25%/yr). Без обмежень: ефективна праця для апаратного R&D — це ефективна праця ШІ з економічної моделі (можливості x кількість), тож зниження вартості дизайну прискорюється разом з нею (базовий темп 25%/yr, «топтання по ногах»", ", capped at 60%/yr).": ", обмежене максимумом 60%/yr).", "Scenario": "Сценарій", "Hardware R&D": "Апаратний R&D", "What happens": "Що відбувається", "on, ~1T by 2040": "увімкнено, ~1T до 2040", "controlled": "контролюється", "the bounded path the rest of the document uses": "обмежена траєкторія, яку використовує решта документа", "off": "вимкнено", "quantity explodes to thousands of times the cap": "обсяг вибухово зростає до тисяч разів понад ліміт", "unconstrained": "без обмежень", "quantity and cost both run away, off the chart": "і обсяг, і вартість виходять з-під контролю, за межі графіка", "Effective labor is the same series in every scenario (the econ model's A_eff, capability x quantity, scaled by that scenario's compute); the R&D control acts on how much of it becomes design progress, not on the labor total:": "Ефективна праця — однаковий ряд у кожному сценарії (A_eff з економічної моделі, можливості x кількість, масштабований відповідно до обчислювальних потужностей цього сценарію); контроль R&D впливає на те, яка її частка перетворюється на прогрес у дизайні, а не на загальний обсяг праці:", "effective AI labor, 2040 (HE = human-equivalents)": "ефективна праця ШІ, 2040 (HE = людино-еквіваленти)", "design-cost decline": "зниження вартості дизайну", "controlled (Plan A)": "контролюється (План А)", "~400B HE": "~400B HE", "~10%/yr, held at the post-2010 cost-per-transistor pace": "~10%/yr, утримується на темпі вартості на транзистор після 2010 року", "controlled (no cap)": "контролюється (без ліміту)", "~2x10^15 HE": "~2x10^15 HE", "~10%/yr, still held despite the vastly larger workforce": "~10%/yr, все ще утримується попри значно більший штат", "unconstrained (both)": "без обмежень (обидва)", "~2x10^21 HE": "~2x10^21 HE", "25%/yr, scaling to a 60%/yr cap": "25%/yr, зростає до ліміту 60%/yr", "The unconstrained rate is exactly the economic model's Jones formula (25%/yr x (A_eff growth)^0.05, ": "Темп без обмежень точно відповідає формулі Джонса з економічної моделі (25%/yr x (A_eff growth)^0.05, ", "The unconstrained rate is exactly the economic model's Jones formula (25%/yr x (A_eff growth)^0.05,": "Темп без обмежень точно відповідає формулі Джонса з економічної моделі (25%/yr x (A_eff growth)^0.05,", "); the controlled cap is Plan A's R&D-control policy layered on top, which the base economic model does not impose.": "); контрольований ліміт — це політика контролю R&D Плану А, накладена зверху, яку базова економічна модель не встановлює.", "What share of effective labor does R&D?": "Яку частку ефективної праці займає R&D?", " A fixed, constant share of the effective labor; only its growth matters, so the share cancels and we do not commit to a specific percentage. That effective labor is the economic model's effective AI labor (A_eff, capability x quantity), scaled by each scenario's compute relative to Plan A, so R&D progress responds to both rising capability and rising quantity. ": " Фіксована, стала частка ефективної праці; має значення лише її зростання, тож частка скорочується і ми не фіксуємо конкретний відсоток. Ця ефективна праця — це ефективна праця ШІ з економічної моделі (A_eff, можливості x кількість), масштабована відповідно до обчислювальних потужностей кожного сценарію відносно Плану А, тож прогрес R&D реагує і на зростання можливостей, і на зростання кількості. ", "A fixed, constant share of the effective labor; only its growth matters, so the share cancels and we do not commit to a specific percentage. That effective labor is the economic model's effective AI labor (A_eff, capability x quantity), scaled by each scenario's compute relative to Plan A, so R&D progress responds to both rising capability and rising quantity.": "Фіксована, стала частка ефективної праці; має значення лише її зростання, тож частка скорочується і ми не фіксуємо конкретний відсоток. Ця ефективна праця — це ефективна праця ШІ з економічної моделі (A_eff, можливості x кількість), масштабована відповідно до обчислювальних потужностей кожного сценарію відносно Плану А, тож прогрес R&D реагує і на зростання можливостей, і на зростання кількості.", " are held on their fixed Plan A cap-and-trade path and are not varied across these scenarios.": " утримуються на своїй фіксованій траєкторії cap-and-trade Плану А і не змінюються в цих сценаріях.", "are held on their fixed Plan A cap-and-trade path and are not varied across these scenarios.": "утримуються на своїй фіксованій траєкторії cap-and-trade Плану А і не змінюються в цих сценаріях.", "Supply-side implications and sanity check.": "Наслідки для сторони пропозиції та перевірка на реалістичність.", "The compute production possible by default in Plan A is modelled relatively naively, and the cap-and-trade trajectory is set considerably lower due to other constraints (verification and deal stability). In this box we motivate the cap-and-trade trajectory being possible with an illustration of what it implies on the supply side. In particular we look at the lithography it would require compared to historical growth.": "Обсяг виробництва обчислювальних потужностей, можливий за замовчуванням у Плані А, змодельовано доволі наївно, а траєкторія cap-and-trade встановлена значно нижче через інші обмеження (верифікація і стабільність угоди). У цьому блоці ми обґрунтовуємо реалістичність траєкторії cap-and-trade, ілюструючи, що вона означає для сторони пропозиції. Зокрема, ми розглядаємо, якого рівня літографії це вимагатиме порівняно з історичним зростанням.", "Method.": "Метод.", " We take Plan A's annual production (new H100e per year, rising to roughly 570 billion H100e/yr by 2040) and convert it to silicon wafers (assuming this remains the paradigm), convert the wafers to lithography exposure-passes needed and then divide by one lithography machine's throughput (realized passes per machine-year) to get the machine-years needed.": " Ми беремо річне виробництво за Планом А (нові H100e на рік, що зростає приблизно до 570 мільярдів H100e/yr до 2040 року) і переводимо його в кремнієві пластини (припускаючи, що ця парадигма збережеться), переводимо пластини у необхідну кількість літографічних експозиційних проходів, а потім ділимо на пропускну здатність однієї літографічної машини (реалізовані проходи на машино-рік), щоб отримати необхідну кількість машино-років.", "We take Plan A's annual production (new H100e per year, rising to roughly 570 billion H100e/yr by 2040) and convert it to silicon wafers (assuming this remains the paradigm), convert the wafers to lithography exposure-passes needed and then divide by one lithography machine's throughput (realized passes per machine-year) to get the machine-years needed.": "Ми беремо річне виробництво за Планом А (нові H100e на рік, що зростає приблизно до 570 мільярдів H100e/yr до 2040 року) і переводимо його в кремнієві пластини (припускаючи, що ця парадигма збережеться), переводимо пластини у необхідну кількість літографічних експозиційних проходів, а потім ділимо на пропускну здатність однієї літографічної машини (реалізовані проходи на машино-рік), щоб отримати необхідну кількість машино-років.", "machines needed": "потрібно машин", "new H100e": "нові H100e", "litho passes per H100e": "проходи літографії на H100e", "passes per machine-year": "проходи на машино-рік", "\\text{machines needed}(t) = \\frac{\\text{new H100e}(t)\\;\\times\\;\\text{litho passes per H100e}(t)}{\\text{passes per machine-year}(t)}": "\\text{machines needed}(t) = \\frac{\\text{new H100e}(t)\\;\\times\\;\\text{litho passes per H100e}(t)}{\\text{passes per machine-year}(t)}", "Default lithography fleet.": "Стандартний парк літографічного обладнання.", " We anchor at 2029 (about 0.7 EUV passes per H100e, from §1.1) and compare against the lithography fleet on its historical path (about 620 operating machines in 2029, growing roughly 20%/yr; ASML ships about 125/yr today). We also let machine throughput rise about 10%/yr, matching the historical climb in wafers-per-hour (roughly 125 to 220 over 2019 to 2024).": " Ми беремо за точку відліку 2029 рік (близько 0.7 EUV-проходу на H100e, з §1.1) і порівнюємо з парком літографічного обладнання на його історичній траєкторії (близько 620 діючих машин у 2029 році, зростання приблизно на 20%/yr; ASML сьогодні постачає близько 125/yr). Ми також дозволяємо пропускній здатності машин зростати приблизно на 10%/yr, що відповідає історичному зростанню кількості пластин на годину (приблизно з 125 до 220 у період з 2019 по 2024 рік).", "We anchor at 2029 (about 0.7 EUV passes per H100e, from §1.1) and compare against the lithography fleet on its historical path (about 620 operating machines in 2029, growing roughly 20%/yr; ASML ships about 125/yr today). We also let machine throughput rise about 10%/yr, matching the historical climb in wafers-per-hour (roughly 125 to 220 over 2019 to 2024).": "Ми беремо за точку відліку 2029 рік (близько 0.7 EUV-проходу на H100e, з §1.1) і порівнюємо з парком літографічного обладнання на його історичній траєкторії (близько 620 діючих машин у 2029 році, зростання приблизно на 20%/yr; ASML сьогодні постачає близько 125/yr). Ми також дозволяємо пропускній здатності машин зростати приблизно на 10%/yr, що відповідає історичному зростанню кількості пластин на годину (приблизно з 125 до 220 у період з 2019 по 2024 рік).", "Default compute density.": "Стандартна щільність обчислень.", " Over time H100e/wafer has been increasing ": " З часом показник H100e/пластина зростав ", "Over time H100e/wafer has been increasing": "З часом показник H100e/пластина зростав", "around 35%/year": "приблизно на 35%/year", "; we look at three different possibilities for the lithography buildout it would imply vs. the default trend.": "; ми розглядаємо три різні можливості нарощування літографічних потужностей, які це передбачає, порівняно зі стандартним трендом.", "compute-per-wafer growth": "зростання обчислень на пластину", "0%/yr (frozen 2029 tech)": "0%/yr (технології заморожені на рівні 2029 року)", "35%/yr (continued tech trend)": "35%/yr (продовження технологічного тренду)", "50%/yr (faster tech trend)": "50%/yr (пришвидшений технологічний тренд)", "lithography machines needed by 2040": "потрібна кількість літографічних машин до 2040 року", "vs the fleet's historical trend (~4,300 by 2040)": "порівняно з історичним трендом парку (~4,300 до 2040 року)", "implied annual production vs today (~125/yr)": "передбачуване річне виробництво порівняно із сьогоднішнім (~125/yr)", "We expect something like the middle column to be what happens in Plan A.": "Ми очікуємо, що в Плані А відбудеться щось на кшталт середньої колонки.", "We can also express Plan A's buildout in dollars, as a check on the investment it implies. Each year's implied investment is the compute added that year times an all-in cost per H100e, which is the production cost from the model above times a markup covering everything else a dollar of AI capex buys (chip-maker margin, datacenters, power, networking). We calibrate the markup so that 2025 to 2028 reproduce Part 1's capex forecast exactly (~$2.4T in 2028) and 2029 the §2.1 deal year: this gives roughly 7x to 8x. Our best guess is that the markup then declines to ~1.2x by 2040, since robot-built fabs and datacenters should sell hardware near production cost, and the power and datacenter share of each H100e shrinks with the efficiency gains below.": "Ми також можемо виразити нарощування потужностей за Планом А у доларах — як перевірку обсягу інвестицій, який це передбачає. Передбачувані інвестиції кожного року — це обчислювальні потужності, додані того року, помножені на повну вартість одного H100e, яка дорівнює собівартості виробництва з моделі вище, помноженій на націнку, що покриває все інше, що купує долар капітальних витрат на ШІ (маржа виробника чипів, дата-центри, електроенергія, мережеве обладнання). Ми калібруємо націнку так, щоб період з 2025 по 2028 рік точно відтворював прогноз капітальних витрат із Частини 1 (~$2.4T у 2028 році), а 2029 рік — рік угоди з §2.1: це дає приблизно від 7x до 8x. Наше найкраще припущення — що потім націнка знижується приблизно до ~1.2x до 2040 року, оскільки збудовані роботами фабрики й дата-центри мають продавати обладнання майже за собівартістю, а частка електроенергії та дата-центру в кожному H100e зменшується завдяки приросту ефективності, описаному нижче.", "We are very uncertain about the uncapped paths, but we think the unconstrained default is likely to be orders of magnitude higher than our capped path. The effective labor available for hardware R&D and chip production scales enormously once AI and robots are capable of that work. We think the stacked Jones and Wright's-law learning-curve dynamics are a reasonable naive approximation of what this might look like.": "Ми дуже не впевнені щодо необмежених траєкторій, але вважаємо, що стандартний сценарій без обмежень, імовірно, буде на порядки вищим за нашу обмежену траєкторію. Ефективна праця, доступна для апаратного R&D і виробництва чипів, зростає надзвичайно сильно, щойно ШІ й роботи стають здатні виконувати цю роботу. Ми вважаємо, що поєднана динаміка формули Джонса та кривої навчання за законом Райта — це прийнятне наївне наближення того, як це могло б виглядати.", "Historically, chip design improvements have been closely tied to power-efficiency improvements, so we model compute power efficiency on the same Jones design trend as the cost model above, using the same parameters (25%/yr base rate, stepping-on-toes ": "Історично поліпшення в дизайні чипів були тісно пов'язані з поліпшенням енергоефективності, тож ми моделюємо енергоефективність обчислень за тим самим трендом дизайну Джонса, що й модель вартості вище, використовуючи ті самі параметри (базовий темп 25%/yr, «топтання по ногах» ", "Historically, chip design improvements have been closely tied to power-efficiency improvements, so we model compute power efficiency on the same Jones design trend as the cost model above, using the same parameters (25%/yr base rate, stepping-on-toes": "Історично поліпшення в дизайні чипів були тісно пов'язані з поліпшенням енергоефективності, тож ми моделюємо енергоефективність обчислень за тим самим трендом дизайну Джонса, що й модель вартості вище, використовуючи ті самі параметри (базовий темп 25%/yr, «топтання по ногах»", ") at Plan A's constrained R&D pace, which leads to the following trajectory (notably not breaking past the CMOS transistor theoretical limit that ": ") при обмеженому темпі R&D Плану А, що веде до такої траєкторії (примітно, що вона не долає теоретичну межу CMOS-транзисторів, яку ", ") at Plan A's constrained R&D pace, which leads to the following trajectory (notably not breaking past the CMOS transistor theoretical limit that": ") при обмеженому темпі R&D Плану А, що веде до такої траєкторії (примітно, що вона не долає теоретичну межу CMOS-транзисторів, яку", "Epoch estimates": "Epoch оцінює", "CMOS limit": "Межа CMOS", "~200× H100 (Epoch)": "~200× H100 (Epoch)", "Compute power efficiency": "Енергоефективність обчислень", "Total facility power per H100e (in": "Загальна потужність об'єкта на один H100e (у", "Epoch’s terms": " термінології Epoch", ": chip TDP plus the server’s other components plus cluster-level overhead like cooling, i.e. the full power draw at the grid), fleet stock-average, from the econ model’s Plan A energy trajectory (same constrained Jones design trend as the cost model). It reaches ~37× the 2025 chip by 2040, still several× above the": ": TDP чипа плюс інші компоненти сервера плюс накладні витрати на рівні кластера, як-от охолодження, тобто повне споживання потужності з мережі), середнє за парком обладнання, з енергетичної траєкторії Плану А в економічній моделі (той самий обмежений тренд дизайну Джонса, що й у моделі вартості). До 2040 року він досягає ~37× рівня чипа 2025 року, усе ще в кілька разів вище за ", "CMOS practical limit": "практичну межу CMOS", "Epoch estimates (~200× a current H100e).": ", яку оцінює Epoch (~200× сучасного H100e).", "2.3 Company concentration": "2.3 Концентрація компаній", "In this section we show our projections for how compute is distributed among companies over time. We track ": "У цьому розділі ми показуємо наші прогнози того, як обчислювальні потужності розподіляються між компаніями з часом. Ми відстежуємо ", "In this section we show our projections for how compute is distributed among companies over time. We track": "У цьому розділі ми показуємо наші прогнози того, як обчислювальні потужності розподіляються між компаніями з часом. Ми відстежуємо", "AI company end-users": "компанії-кінцеві користувачі ШІ", " (the company that actually uses the compute) as opposed to ": " (компанія, яка фактично використовує обчислювальні потужності), на відміну від ", "(the company that actually uses the compute) as opposed to": "(компанія, яка фактично використовує обчислювальні потужності), на відміну від", "owners": "власників", " (who may use or rent their compute to others). Early on most compute is ": " (які можуть використовувати свої обчислювальні потужності самі або здавати їх в оренду іншим). Спочатку більшість обчислювальних потужностей ", "(who may use or rent their compute to others). Early on most compute is": "(які можуть використовувати свої обчислювальні потужності самі або здавати їх в оренду іншим). Спочатку більшість обчислювальних потужностей", "owned by hyperscalers": "належить гіперскейлерам", " in a concentrated way (Google owns ~25% of compute) but the ": " сконцентровано (Google володіє ~25% обчислювальних потужностей), але ", "in a concentrated way (Google owns ~25% of compute) but the": "сконцентровано (Google володіє ~25% обчислювальних потужностей), але", "AI company end-users are less concentrated": "компанії-кінцеві користувачі ШІ менш сконцентровані", ", with the largest using around 10% of global compute in 2026 (GDM and OpenAI are similar).": ", причому найбільша використовує близько 10% світових обчислювальних потужностей у 2026 році (GDM і OpenAI приблизно однакові).", "top company": "найбільша компанія", "top 3": "топ-3", "top 10": "топ-10", "Company compute concentration": "Концентрація обчислювальних потужностей серед компаній", "The share used by AI companies has been growing over time, and we project this trend forwards until Plan A is implemented. After 2030 the Plan A transparency regime lowers barriers to entry: investment in AI grows and spreads more evenly, and compute becomes distributed across more companies. By 2040 the largest holds only about 5% of world compute and there are around 20 frontier companies (defined as anyone within 4x of the largest).": "Частка, яку використовують компанії ШІ, з часом зростала, і ми прогнозуємо продовження цього тренду до впровадження Плану А. Після 2030 року режим прозорості Плану А знижує бар'єри входу: інвестиції в ШІ зростають і розподіляються рівномірніше, а обчислювальні потужності розподіляються між більшою кількістю компаній. До 2040 року найбільша компанія володіє лише близько 5% світових обчислювальних потужностей, і існує близько 20 передових компаній (визначених як будь-хто в межах 4x від найбільшої).", "Method for company compute concentrations": "Метод для концентрацій обчислювальних потужностей компаній", "The method is relatively naive, where we set one worldwide rank-size law for the shape of the distribution, hand set to match forecasts, and then companies are assigned to ownership regions to match the §1.3 split. Across a universe of ": "Метод відносно наївний: ми задаємо один загальносвітовий закон «ранг-розмір» для форми розподілу, підібраний вручну під прогнози, а потім компанії призначаються регіонам власності відповідно до розподілу з §1.3. У всесвіті з ", "The method is relatively naive, where we set one worldwide rank-size law for the shape of the distribution, hand set to match forecasts, and then companies are assigned to ownership regions to match the §1.3 split. Across a universe of": "Метод відносно наївний: ми задаємо один загальносвітовий закон «ранг-розмір» для форми розподілу, підібраний вручну під прогнози, а потім компанії призначаються регіонам власності відповідно до розподілу з §1.3. У всесвіті з", " end-users worldwide, the share of the rank-": " кінцевих користувачів у світі частка компанії рангу-", "end-users worldwide, the share of the rank-": "кінцевих користувачів у світі частка компанії рангу-", " company is": " дорівнює", "company is": "дорівнює", "exp": "exp", "s_i \\;\\propto\\; \\exp\\left(\\sigma\\,\\Phi^{-1}\\left(\\frac{N-i+0.5}{N}\\right) + \\frac{\\tau}{i}\\right), \\qquad i = 1,\\dots,N,": "s_i \\;\\propto\\; \\exp\\left(\\sigma\\,\\Phi^{-1}\\left(\\frac{N-i+0.5}{N}\\right) + \\frac{\\tau}{i}\\right), \\qquad i = 1,\\dots,N,", "normalized so the shares sum to one (": "нормовано так, щоб частки в сумі дорівнювали одиниці (", "\\Phi^{-1}": "\\Phi^{-1}", " is the standard-normal quantile of rank ": " — це квантиль стандартного нормального розподілу для рангу ", "is the standard-normal quantile of rank": "— це квантиль стандартного нормального розподілу для рангу", "). It has two shape parameters: ": "). Він має два параметри форми: ", "). It has two shape parameters:": "). Він має два параметри форми:", "\\sigma": "\\sigma", " sets the overall spread (concentration, which drives the top three), and ": " задає загальний розкид (концентрацію, яка визначає топ-3), а ", "sets the overall spread (concentration, which drives the top three), and": "задає загальний розкид (концентрацію, яка визначає топ-3), а", "\\tau": "\\tau", " is a head tilt that decays as ": " — це нахил «голови» розподілу, який згасає як ", "is a head tilt that decays as": "— це нахил «голови» розподілу, який згасає як", "rank": "ранг", "1/\\text{rank}": "1/\\text{rank}", ", moving the single leader relative to the next two with less effect on the tail.": ", зсуваючи позицію єдиного лідера відносно наступних двох, з меншим впливом на хвіст розподілу.", "We choose the world's top-1 and top-3 end-user shares directly each year and solve ": "Ми напряму обираємо світові частки топ-1 та топ-3 кінцевих користувачів щороку і розв'язуємо ", "We choose the world's top-1 and top-3 end-user shares directly each year and solve": "Ми напряму обираємо світові частки топ-1 та топ-3 кінцевих користувачів щороку і розв'язуємо", "(\\sigma, \\tau)": "(\\sigma, \\tau)", " so the distribution reproduces both. The leader is a minority early (frontier AI companies don't yet use most AI compute), rises into the 2029 deal to about a fifth of world compute with the top three at nearly half, then both decline as Plan A spreads compute (top-1 about 10% by 2035 and 5% by 2040; top-3 about 25% then 13%). A better justification of this forecast is currently future work. We wanted to create a model of \"AI market power\" / \"willingness to pay\" for AI compute that was a combination of algorithmic IP (which becomes uniformly distributed after the deal), non-algorithmic IP/capital (datasets, users, brand loyalty, talent loyalty, etc.) and finally capital more broadly, and build a model of compute allocation over time tracking this quantity. This was complicated though and we ran out of time.": " так, щоб розподіл відтворював обидва значення. Спочатку лідер займає меншість (передові компанії ШІ ще не використовують більшість обчислювальних потужностей ШІ), зростає до угоди 2029 року приблизно до п'ятої частини світових обчислювальних потужностей, а топ-3 — майже до половини, потім обидва показники знижуються, оскільки План А розподіляє обчислювальні потужності (топ-1 — близько 10% до 2035 року і 5% до 2040 року; топ-3 — близько 25%, потім 13%). Краще обґрунтування цього прогнозу наразі залишається майбутньою роботою. Ми хотіли створити модель «ринкової сили ШІ» / «готовності платити» за обчислювальні потужності ШІ, яка поєднувала б алгоритмічну інтелектуальну власність (яка стає рівномірно розподіленою після укладення угоди), неалгоритмічну інтелектуальну власність/капітал (набори даних, користувачів, лояльність до бренду, лояльність талантів тощо) і, нарешті, капітал у ширшому сенсі, а також побудувати модель розподілу обчислювальних потужностей у часі, що відстежує цю величину. Однак це виявилося складно, і в нас закінчився час.", "so the distribution reproduces both. The leader is a minority early (frontier AI companies don't yet use most AI compute), rises into the 2029 deal to about a fifth of world compute with the top three at nearly half, then both decline as Plan A spreads compute (top-1 about 10% by 2035 and 5% by 2040; top-3 about 25% then 13%). A better justification of this forecast is currently future work. We wanted to create a model of \"AI market power\" / \"willingness to pay\" for AI compute that was a combination of algorithmic IP (which becomes uniformly distributed after the deal), non-algorithmic IP/capital (datasets, users, brand loyalty, talent loyalty, etc.) and finally capital more broadly, and build a model of compute allocation over time tracking this quantity. This was complicated though and we ran out of time.": "так, щоб розподіл відтворював обидва значення. Спочатку лідер займає меншість (передові компанії ШІ ще не використовують більшість обчислювальних потужностей ШІ), зростає до угоди 2029 року приблизно до п'ятої частини світових обчислювальних потужностей, а топ-3 — майже до половини, потім обидва показники знижуються, оскільки План А розподіляє обчислювальні потужності (топ-1 — близько 10% до 2035 року і 5% до 2040 року; топ-3 — близько 25%, потім 13%). Краще обґрунтування цього прогнозу наразі залишається майбутньою роботою. Ми хотіли створити модель «ринкової сили ШІ» / «готовності платити» за обчислювальні потужності ШІ, яка поєднувала б алгоритмічну інтелектуальну власність (яка стає рівномірно розподіленою після укладення угоди), неалгоритмічну інтелектуальну власність/капітал (набори даних, користувачів, лояльність до бренду, лояльність талантів тощо) і, нарешті, капітал у ширшому сенсі, а також побудувати модель розподілу обчислювальних потужностей у часі, що відстежує цю величину. Однак це виявилося складно, і в нас закінчився час.", "Each company is then assigned to an ownership region (US, China, rest-of-world) by a hard-capped greedy fill, so regional totals match the §1.3 ownership split exactly every year through 2029 and then matching the Plan A ownership splits which converge towards the cap-and-trade deal allocations. A per-region size bias shifts only ": "Далі кожна компанія призначається регіону власності (США, Китай, решта світу) за допомогою жорстко обмеженого «жадібного» заповнення, тож регіональні підсумки точно відповідають розподілу власності з §1.3 щороку до 2029 року, а потім відповідають розподілам власності Плану А, які сходяться до розподілів угоди cap-and-trade. Регіональний коефіцієнт розміру зсуває лише ", "Each company is then assigned to an ownership region (US, China, rest-of-world) by a hard-capped greedy fill, so regional totals match the §1.3 ownership split exactly every year through 2029 and then matching the Plan A ownership splits which converge towards the cap-and-trade deal allocations. A per-region size bias shifts only": "Далі кожна компанія призначається регіону власності (США, Китай, решта світу) за допомогою жорстко обмеженого «жадібного» заповнення, тож регіональні підсумки точно відповідають розподілу власності з §1.3 щороку до 2029 року, а потім відповідають розподілам власності Плану А, які сходяться до розподілів угоди cap-and-trade. Регіональний коефіцієнт розміру зсуває лише", "which": "те, які", " companies a region holds, never its total: the US is neutral and holds the biggest developers; China is flat and dispersed through 2030, then a state-backed core consolidates at 2031 (its top developer jumps to about half of China's compute and lands a frontier developer) before gradually flattening again by 2040; the rest-of-world is flatter and flattens further toward the end, so the single largest developer worldwide stays in the US even once the rest-of-world's ownership share overtakes it.": " компанії має регіон, але ніколи не його загальну суму: США нейтральні й утримують найбільших розробників; Китай рівномірний і розосереджений до 2030 року, потім у 2031 році консолідується державне ядро (його провідний розробник стрибає приблизно до половини обчислювальних потужностей Китаю і потрапляє в число передових розробників), перш ніж поступово знову вирівнятися до 2040 року; решта світу рівніша і вирівнюється ще більше ближче до кінця періоду, тож єдиний найбільший розробник у світі залишається в США, навіть коли частка власності решти світу перевищує його.", "companies a region holds, never its total: the US is neutral and holds the biggest developers; China is flat and dispersed through 2030, then a state-backed core consolidates at 2031 (its top developer jumps to about half of China's compute and lands a frontier developer) before gradually flattening again by 2040; the rest-of-world is flatter and flattens further toward the end, so the single largest developer worldwide stays in the US even once the rest-of-world's ownership share overtakes it.": "компанії має регіон, але ніколи не його загальну суму: США нейтральні й утримують найбільших розробників; Китай рівномірний і розосереджений до 2030 року, потім у 2031 році консолідується державне ядро (його провідний розробник стрибає приблизно до половини обчислювальних потужностей Китаю і потрапляє в число передових розробників), перш ніж поступово знову вирівнятися до 2040 року; решта світу рівніша і вирівнюється ще більше ближче до кінця періоду, тож єдиний найбільший розробник у світі залишається в США, навіть коли частка власності решти світу перевищує його.", "Through 2030 (the deal era) the frontier set is the three largest end-users worldwide (the leading US developers are named, in a hand-set per-year order). From 2031 we drop names and call an end-user frontier if it is within 4x of the largest end-user worldwide.": "До 2030 року (епоха угоди) набір передових компаній — це три найбільші кінцеві користувачі у світі (провідні розробники США названі поіменно, у порядку, встановленому вручну для кожного року). Починаючи з 2031 року ми відмовляємось від назв і вважаємо кінцевого користувача передовим, якщо він перебуває в межах 4x від найбільшого кінцевого користувача у світі.", "value": "значення", "role": "роль", "worldwide end-user universe (": "всесвіт кінцевих користувачів у світі (", "the rank-size law's company count": "кількість компаній у законі «ранг-розмір»", "top-1 end-user share (2026 / 2029 / 2035 / 2040)": "частка топ-1 кінцевого користувача (2026 / 2029 / 2035 / 2040)", "hand-set; ": "встановлено вручну; ", "hand-set;": "встановлено вручну;", "(\\sigma,\\tau)": "(\\sigma,\\tau)", " solved to match": " розв'язано під відповідність", "solved to match": "розв'язано під відповідність", "top-3 end-user share (2026 / 2029 / 2035 / 2040)": "частка топ-3 кінцевих користувачів (2026 / 2029 / 2035 / 2040)", "hand-set independently of top-1": "встановлено вручну незалежно від топ-1", "§1.3 ownership split at 2040 (US / CH / RoW)": "розподіл власності за §1.3 у 2040 (США / Китай / решта світу)", "regional totals matched exactly each year": "регіональні підсумки точно узгоджені щороку", "China size bias": "Коефіцієнт розміру Китаю", "flat, then +5 at 2031, easing to +2 by 2039": "рівний, потім +5 у 2031 році, знижується до +2 до 2039 року", "dispersed early; consolidates at 2031; flattens by 2040": "спочатку розосереджений; консолідується у 2031 році; вирівнюється до 2040 року", "rest-of-world size bias": "Коефіцієнт розміру решти світу", "−0.6, to −2.5 by 2039": "−0.6, до −2.5 до 2039 року", "flattens toward the end so the US keeps the largest developer": "вирівнюється до кінця періоду, тож США зберігають найбільшого розробника", "frontier rule": "правило передового статусу", "top-3 (≤2030) / within 4x (≥2031)": "топ-3 (≤2030) / у межах 4x (≥2031)", "deal era names the top three; later, within 4x of the largest": "в епоху угоди названо трьох найбільших; пізніше — у межах 4x від найбільшого", "2.4 Compute allocation": "2.4 Розподіл обчислювальних потужностей", "In this section we forecast allocation of frontier AI compute in Plan A. In 2025 OpenAI spent ": "У цьому розділі ми прогнозуємо розподіл обчислювальних потужностей передового ШІ в межах Плану А. У 2025 році OpenAI витратила ", "In this section we forecast allocation of frontier AI compute in Plan A. In 2025 OpenAI spent": "У цьому розділі ми прогнозуємо розподіл обчислювальних потужностей передового ШІ в межах Плану А. У 2025 році OpenAI витратила", "around half of its compute on inference": "приблизно половину своїх обчислювальних потужностей на інференс", " and more like ": " а радше ", "and more like": "а радше", "one third on inference in 2024": "третину на інференс у 2024 році", " and the rest on training and experiments (of which only around 10% on final frontier training runs). We project this current split forwards naively until the 2029 deal, and then forecast each share conditional on Plan A.": " а решту — на навчання та експерименти (з яких лише близько 10% припадало на фінальні прогони навчання передових моделей). Ми наївно проєктуємо цей поточний розподіл вперед до угоди 2029 року, а потім прогнозуємо кожну частку залежно від Плану А.", "and the rest on training and experiments (of which only around 10% on final frontier training runs). We project this current split forwards naively until the 2029 deal, and then forecast each share conditional on Plan A.": "а решту — на навчання та експерименти (з яких лише близько 10% припадало на фінальні прогони навчання передових моделей). Ми наївно проєктуємо цей поточний розподіл вперед до угоди 2029 року, а потім прогнозуємо кожну частку залежно від Плану А.", "2.5 AI copies and speed": "2.5 Копії ШІ та швидкість", "In this section we forecast how many copies of the frontier model can be run at once and at what token/second speed. These are both imperfect metrics, because it may be difficult to know how to count a 'copy' under different scaffolds / architectures in the future, but we assume each parallel instance of the model weights being served, so copies = replicas x batch. Speed is also imperfect, because we probably care more about the speed of task completion, but we just focus on decode tokens per second, even though the speed comparison in tokens might break down with future paradigm changes, e.g., neuralese instead of chain of thought.": "У цьому розділі ми прогнозуємо, скільки копій передової моделі можна запустити одночасно і з якою швидкістю в токенах за секунду. Обидва показники недосконалі, бо в майбутньому може бути складно визначити, як рахувати «копію» за різних скафолдів/архітектур, але ми вважаємо копією кожен паралельний інстанс ваг моделі, що обслуговується, тож копії = репліки x розмір батчу. Швидкість теж недосконала метрика, бо нас, імовірно, більше цікавить швидкість виконання завдання, але ми просто фокусуємось на кількості токенів декодування за секунду, хоча це порівняння швидкості в токенах може втратити сенс за майбутніх змін парадигми, наприклад, при переході на «нейронез» (neuralese) замість ланцюжка міркувань.", "Up front: these forecasts are concrete best guesses, and we think the honest uncertainty is multiple orders of magnitude. Both the AI paradigm (architectures, sparsity, agent scaffolds, whether 'copies' is even the right frame) and the hardware paradigm (the memory and bandwidth tradeoffs of chips, how much silicon gets specialized for inference) could change several times before 2040. The method itself is simple, and we prefer to state it plainly: we guess the frontier model's size, we guess what share of the world's compute runs inference, and then we get copies by dividing the inference fleet's total memory by the bytes each copy takes, and we get speed from how quickly memory bandwidth can read the bytes each token needs. The rest of this section explains how we make each of these guesses.": "Одразу зазначимо: ці прогнози — це конкретні найкращі оцінки, і, чесно кажучи, ми вважаємо, що невизначеність тут сягає кількох порядків величини. І парадигма ШІ (архітектури, розрідженість, скафолди агентів, чи взагалі «копії» — правильна рамка), і апаратна парадигма (компроміси між пам'яттю та пропускною здатністю чипів, яка частка кремнію спеціалізується під інференс) можуть змінитися по кілька разів до 2040 року. Сам метод простий, і ми вважаємо за краще сказати про це прямо: ми оцінюємо розмір передової моделі, оцінюємо, яка частка світових обчислювальних потужностей йде на інференс, а тоді отримуємо кількість копій, поділивши сумарну пам'ять флоту для інференсу на кількість байтів, які займає кожна копія, і отримуємо швидкість, виходячи з того, наскільки швидко пропускна здатність пам'яті може прочитати байти, потрібні для кожного токена. Решта цього розділу пояснює, як ми робимо кожну з цих оцінок.", "Model size.": "Розмір моделі.", " We combine the global compute growth from the previous sections with the leading company's concentration (§2.3) and training allocation (§2.4) to get frontier training compute over time (roughly 32x today's by 2029 and 160,000x by 2040). We then map these compute numbers as well as a sparsity forecast to model size (total parameters) with a simple model:": " Ми поєднуємо глобальне зростання обчислювальних потужностей з попередніх розділів із концентрацією провідної компанії (§2.3) та розподілом на навчання (§2.4), щоб отримати обчислювальні потужності для навчання передових моделей у часі (приблизно у 32 рази більше за сьогоднішній рівень до 2029 року і у 160,000x до 2040 року). Потім ми переводимо ці показники обчислювальних потужностей разом із прогнозом розрідженості в розмір моделі (загальна кількість параметрів) за допомогою простої моделі:", "We combine the global compute growth from the previous sections with the leading company's concentration (§2.3) and training allocation (§2.4) to get frontier training compute over time (roughly 32x today's by 2029 and 160,000x by 2040). We then map these compute numbers as well as a sparsity forecast to model size (total parameters) with a simple model:": "Ми поєднуємо глобальне зростання обчислювальних потужностей з попередніх розділів із концентрацією провідної компанії (§2.3) та розподілом на навчання (§2.4), щоб отримати обчислювальні потужності для навчання передових моделей у часі (приблизно у 32 рази більше за сьогоднішній рівень до 2029 року і у 160,000x до 2040 року). Потім ми переводимо ці показники обчислювальних потужностей разом із прогнозом розрідженості в розмір моделі (загальна кількість параметрів) за допомогою простої моделі:", "P \\,=\\, P_{2026}\\left(\\tfrac{C}{C_{2026}}\\right)^{\\alpha}\\left(\\tfrac{\\sigma}{\\sigma_{2026}}\\right)^{\\beta}": "P \\,=\\, P_{2026}\\left(\\tfrac{C}{C_{2026}}\\right)^{\\alpha}\\left(\\tfrac{\\sigma}{\\sigma_{2026}}\\right)^{\\beta}", "Where ": "Де ", "Where": "Де", " is total parameters (": " — загальна кількість параметрів (", "is total parameters (": "— загальна кількість параметрів (", "P_{2026} \\approx 10": "P_{2026} \\approx 10", "T, today's level), ": "T, сьогоднішній рівень), ", "T, today's level),": "T, сьогоднішній рівень),", " is frontier training compute, and ": " — обчислювальні потужності для навчання передової моделі, а ", "is frontier training compute, and": "— обчислювальні потужності для навчання передової моделі, а", " is sparsity. The compute exponent ": " — розрідженість. Показник степеня для обчислювальних потужностей ", "is sparsity. The compute exponent": "— розрідженість. Показник степеня для обчислювальних потужностей", "\\alpha": "\\alpha", " is the sensitivity of model-size scale up to compute scale up. Simple Chinchilla-optimality implies ~0.5, but we have wide uncertainty; there are reasons it might increase, e.g., due to data availability (fitting our formula to ": " визначає чутливість зростання розміру моделі до зростання обчислювальних потужностей. Проста Chinchilla-оптимальність передбачає ~0.5, але тут є велика невизначеність; є причини, чому це значення може зрости, наприклад, через доступність даних (якщо підігнати нашу формулу під власні цифри обчислень і розрідженості ", "is the sensitivity of model-size scale up to compute scale up. Simple Chinchilla-optimality implies ~0.5, but we have wide uncertainty; there are reasons it might increase, e.g., due to data availability (fitting our formula to": "визначає чутливість зростання розміру моделі до зростання обчислювальних потужностей. Проста Chinchilla-оптимальність передбачає ~0.5, але тут є велика невизначеність; є причини, чому це значення може зрости, наприклад, через доступність даних (якщо підігнати нашу формулу під власні цифри обчислень і розрідженості", "Nesov's": "Nesov", " own compute and sparsity numbers gives ": ", отримуємо ", "own compute and sparsity numbers gives": ", отримуємо", "\\alpha \\approx 0.8": "\\alpha \\approx 0.8", "), or for example, intentional undertraining due to e.g., making it harder to steal the weights. There are also reasons it might decrease, e.g., more overtraining for serving (": "), або, наприклад, навмисне недонавчання, зокрема щоб ускладнити крадіжку ваг. Є й причини, чому воно може зменшитися, наприклад, більше перенавчання заради обслуговування (", "Sardana and Frankle": "Sardana and Frankle", "), reinforcement learning, and other unknown unknowns about paradigm changes. We just assume ": "), навчання з підкріпленням та інші непередбачувані фактори, пов'язані зі змінами парадигми. Ми просто припускаємо ", "), reinforcement learning, and other unknown unknowns about paradigm changes. We just assume": "), навчання з підкріпленням та інші непередбачувані фактори, пов'язані зі змінами парадигми. Ми просто припускаємо", "\\alpha = 0.5": "\\alpha = 0.5", " and draw ": " і зображуємо ", "and draw": "і зображуємо", "\\alpha \\in [0.2, 0.8]": "\\alpha \\in [0.2, 0.8]", " as a range on the figure to show what we think is a plausible range. The sparsity exponent ": " як діапазон на графіку, щоб показати, що ми вважаємо правдоподібним діапазоном. Показник степеня розрідженості ", "as a range on the figure to show what we think is a plausible range. The sparsity exponent": "як діапазон на графіку, щоб показати, що ми вважаємо правдоподібним діапазоном. Показник степеня розрідженості", "\\beta = 0.74": "\\beta = 0.74", " is tentatively better pinned (though the sparsity MoE paradigm might change).": " попередньо визначений дещо точніше (хоча парадигма розрідженого MoE може змінитися).", "is tentatively better pinned (though the sparsity MoE paradigm might change).": "попередньо визначений дещо точніше (хоча парадигма розрідженого MoE може змінитися).", "We think it's valuable to include the sparsity assumption because it might affect the speed and copies significantly.": "Ми вважаємо за цінне враховувати припущення щодо розрідженості, оскільки воно може суттєво впливати на швидкість і кількість копій.", "Frontier model size, 2022 to 2040": "Розмір передової моделі, 2022–2040", "Model size": "Розмір моделі", "Training compute": "Обчислювальні потужності на навчання", "reported": "заявлено", "ours (α=0.5)": "наше (α=0.5)", "Nesov": "Nesov", "Trillion parameters": "Трильйонів параметрів", "2026 anchor": "точка відліку 2026", "GPT-4 ~1.8T": "GPT-4 ~1.8Т", "~650T (Nesov)": "~650Т (Nesov)", "Our model size forecast for plan A": "Наш прогноз розміру моделі для Плану А", "total = 10T × (compute growth)": "загальна кількість = 10T × (зростання обчислень)", " × (sparsity growth)": " × (зростання розрідженості)", "× (sparsity growth)": "× (зростання розрідженості)", ", with α = ": ", де α = ", ", with α =": ", де α =", " and β = ": " і β = ", "and β =": "і β =", "10T × compute": "10T × обчислення", "× sparsity": "× розрідженість", "= ours (total)": "= наш (загальна кількість)", "10T to 10T": "10T–10T", "22T to 49T": "22T–49T", "46T to 205T": "46T–205T", "56T to 449T": "56T–449T", "72T to 904T": "72T–904T", "132T to 5,638T": "132T–5,638T", "337T to 128,155T": "337T–128,155T", "854T to 1,129,715T": "854T–1,129,715T", "Differences with Nesov's numbers": "Відмінності від показників Nesov", "How Nesov gets 650T:": "Як Nesov отримує 650T:", " Both Nesov's ": " Обидва — ", "Both Nesov's": "Обидва —", "forecast": "прогноз", " and ours start from training compute; the difference is mainly that Nesov's 2029 frontier run is 2x larger at ": " Nesov і наш — починаються з обчислювальних потужностей для навчання; відмінність здебільшого в тому, що прогін передової моделі Nesov у 2029 році вдвічі більший — ", "and ours start from training compute; the difference is mainly that Nesov's 2029 frontier run is 2x larger at": "Nesov і наш — починаються з обчислювальних потужностей для навчання; відмінність здебільшого в тому, що прогін передової моделі Nesov у 2029 році вдвічі більший —", "8e28 FLOP": "8e28 FLOP", " assuming ": " за умови ", "assuming": "за умови", "30x sparsity": "розрідженості 30x", ". At 30x sparsity compute-optimal ratio is ": ". За розрідженості 30x оптимальне для обчислень співвідношення становить ", ". At 30x sparsity compute-optimal ratio is": ". За розрідженості 30x оптимальне для обчислень співвідношення становить", "240 tokens per active parameter": "240 токенів на активний параметр", " (from a ": " (за даними ", "(from a": "(за даними", "sparse-MoE scaling paper": "статті про масштабування розріджених MoE", ") so 8e28 FLOP would want ": ") тож для 8e28 FLOP знадобилося б ", ") so 8e28 FLOP would want": ") тож для 8e28 FLOP знадобилося б", "7.4T active parameters": "7.4T активних параметрів", " on ~1,800T tokens. But he assumes only ~200T tokens of unique data exist, an ": " на ~1,800T токенів. Але він припускає, що існує лише ~200T токенів унікальних даних, тобто дефіцит у ", "on ~1,800T tokens. But he assumes only ~200T tokens of unique data exist, an": "на ~1,800T токенів. Але він припускає, що існує лише ~200T токенів унікальних даних, тобто дефіцит у", "8.5x shortfall": "8.5 раза", ", which he splits with this ": ", який він розподіляє за допомогою цього ", ", which he splits with this": ", який він розподіляє за допомогою цього", "data-constrained scaling result": "результату щодо масштабування в умовах обмежених даних", " to get roughly ": ", щоб отримати приблизно ", "to get roughly": ", щоб отримати приблизно", "8.5^{0.5} \\approx": "8.5^{0.5} \\approx", "2.9x more active parameters": "у 2.9 раза більше активних параметрів", " (7.4T → 22T) and ": " (7.4T → 22T) і ", "(7.4T → 22T) and": "(7.4T → 22T) і", "2.9 epochs": "2.9 епохи", " of repetition. We don't make the same low-data-regime adjustment as Nesov, because we think multiple factors such as more reinforcement learning, changes to the training paradigm, synthetic data generation, etc. could pull the other way. Given the uncertainty on these factors that could pull in both directions we prefer to use a naive simpler baseline.": " повторення. Ми не робимо таке саме коригування на режим обмежених даних, як Nesov, бо вважаємо, що кілька факторів — як-от більше навчання з підкріпленням, зміни в парадигмі навчання, генерація синтетичних даних тощо — можуть тягнути в інший бік. З огляду на невизначеність цих факторів, які можуть діяти в обидва боки, ми віддаємо перевагу наївнішому, простішому базовому сценарію.", "of repetition. We don't make the same low-data-regime adjustment as Nesov, because we think multiple factors such as more reinforcement learning, changes to the training paradigm, synthetic data generation, etc. could pull the other way. Given the uncertainty on these factors that could pull in both directions we prefer to use a naive simpler baseline.": "повторення. Ми не робимо таке саме коригування на режим обмежених даних, як Nesov, бо вважаємо, що кілька факторів — як-от більше навчання з підкріпленням, зміни в парадигмі навчання, генерація синтетичних даних тощо — можуть тягнути в інший бік. З огляду на невизначеність цих факторів, які можуть діяти в обидва боки, ми віддаємо перевагу наївнішому, простішому базовому сценарію.", "Nesov’s model-size forecast": "Прогноз розміру моделі від Nesov", "From ": "Із ", "From": "Із", "“Model size scaling in 2023–2031”": "«Масштабування розміру моделі у 2023–2031»", "Pretraining\ncompute (FLOP)": "Обчислення для\nпопереднього навчання (FLOP)", "Sparsity": "Розрідженість", "Active params": "Активні парам.", "Total params": "Всього парам.", "Data shortfall": "Дефіцит даних", "Epochs": "Епохи", "Inference-compute fleet.": "Флот обчислювальних потужностей для інференсу.", " We take the §2.4 inference share of world compute (public + internal), and hold its memory and bandwidth per H100e ratios (§1.1) flat after 2029. We split this compute into ordinary general-purpose chips and inference-specialized chips, a hand-set scenario we describe below.": " Ми беремо частку інференсу у світових обчислювальних потужностях із §2.4 (публічних + внутрішніх) і тримаємо співвідношення пам'яті та пропускної здатності на H100e (§1.1) незмінними після 2029 року. Ми розподіляємо ці обчислювальні потужності між звичайними чипами загального призначення та чипами, спеціалізованими під інференс, — сценарій, заданий вручну, який ми описуємо нижче.", "We take the §2.4 inference share of world compute (public + internal), and hold its memory and bandwidth per H100e ratios (§1.1) flat after 2029. We split this compute into ordinary general-purpose chips and inference-specialized chips, a hand-set scenario we describe below.": "Ми беремо частку інференсу у світових обчислювальних потужностях із §2.4 (публічних + внутрішніх) і тримаємо співвідношення пам'яті та пропускної здатності на H100e (§1.1) незмінними після 2029 року. Ми розподіляємо ці обчислювальні потужності між звичайними чипами загального призначення та чипами, спеціалізованими під інференс, — сценарій, заданий вручну, який ми описуємо нижче.", "Inference memory by chip type": "Пам'ять для інференсу за типом чипа", "general-purpose": "загального призначення", "inference-specialized": "спеціалізовані під інференс", "Memory": "Пам'ять", "Bandwidth": "Пропускна здатність", "Serving memory by chip type (exabytes, log). Specialized memory is derived from demand (replica weights + KV per copy): ~2.3 ZB by 2040 vs ~10 ZB general-purpose.": "Пам'ять для обслуговування за типом чипа (ексабайти, лог. шкала). Спеціалізована пам'ять виводиться з попиту (ваги репліки + KV на копію): ~2.3 ZB до 2040 року проти ~10 ZB для чипів загального призначення.", "10 ZB": "10 ZB", "2 ZB": "2 ZB", "Copies of the frontier model": "Копії передової моделі", "all copies": "усі копії", "Concurrent frontier copies served (replicas times batch), 2026 to 2040 (log).": "Кількість одночасних копій передової моделі, що обслуговуються (репліки помножені на розмір батчу), 2026–2040 (лог. шкала).", "Copies.": "Копії.", " We get copies by dividing the inference fleet's total memory by the bytes each copy takes. Each copy needs its share of the model weights (a full set of weights is ~5 TB today at 4-bit, and ~15 PB by 2040 at our central model size, shared across the copies served in the same batch) plus its own context. Rather than modelling batch sizes and KV caches in the main text, we just state their combined effect: we assume context takes up about half of general-purpose inference memory today, falling to ~5% by 2040 because the weights grow much faster than each copy's context does (the details are in the method box, and the batch assumption just trades off with context length assumptions and is arbitrary).": " Ми отримуємо кількість копій, ділячи сумарну пам'ять флоту для інференсу на кількість байтів, яку займає кожна копія. Кожній копії потрібна її частка ваг моделі (повний набір ваг сьогодні становить ~5 TB при 4-бітному представленні і ~15 PB до 2040 року за нашим центральним розміром моделі, спільно для копій, що обслуговуються в одному батчі) плюс власний контекст. Замість того щоб моделювати розміри батчів і KV-кеші в основному тексті, ми просто наводимо їхній сукупний ефект: ми припускаємо, що контекст сьогодні займає близько половини пам'яті для інференсу загального призначення, знижуючись до ~5% до 2040 року, бо ваги зростають значно швидше, ніж контекст кожної копії (деталі — у блоці з методологією, а припущення щодо розміру батчу — це просто компроміс із припущеннями щодо довжини контексту й задане довільно).", "We get copies by dividing the inference fleet's total memory by the bytes each copy takes. Each copy needs its share of the model weights (a full set of weights is ~5 TB today at 4-bit, and ~15 PB by 2040 at our central model size, shared across the copies served in the same batch) plus its own context. Rather than modelling batch sizes and KV caches in the main text, we just state their combined effect: we assume context takes up about half of general-purpose inference memory today, falling to ~5% by 2040 because the weights grow much faster than each copy's context does (the details are in the method box, and the batch assumption just trades off with context length assumptions and is arbitrary).": "Ми отримуємо кількість копій, ділячи сумарну пам'ять флоту для інференсу на кількість байтів, яку займає кожна копія. Кожній копії потрібна її частка ваг моделі (повний набір ваг сьогодні становить ~5 TB при 4-бітному представленні і ~15 PB до 2040 року за нашим центральним розміром моделі, спільно для копій, що обслуговуються в одному батчі) плюс власний контекст. Замість того щоб моделювати розміри батчів і KV-кеші в основному тексті, ми просто наводимо їхній сукупний ефект: ми припускаємо, що контекст сьогодні займає близько половини пам'яті для інференсу загального призначення, знижуючись до ~5% до 2040 року, бо ваги зростають значно швидше, ніж контекст кожної копії (деталі — у блоці з методологією, а припущення щодо розміру батчу — це просто компроміс із припущеннями щодо довжини контексту й задане довільно).", " This gives about 30 million copies today. The count dips slightly at first, because the jump in sparsity grows the model faster than the inference fleet, and ends up at very roughly 200 million by 2040, with most copies on general-purpose hardware and the rest being the much faster copies on inference-specialized chips described below.": " Це дає близько 30 мільйонів копій сьогодні. Спочатку кількість трохи знижується, бо стрибок розрідженості нарощує модель швидше, ніж флот для інференсу, а зрештою досягає дуже приблизно 200 мільйонів до 2040 року, причому більшість копій — на апаратному забезпеченні загального призначення, а решта — набагато швидші копії на спеціалізованих під інференс чипах, описаних нижче.", "This gives about 30 million copies today. The count dips slightly at first, because the jump in sparsity grows the model faster than the inference fleet, and ends up at very roughly 200 million by 2040, with most copies on general-purpose hardware and the rest being the much faster copies on inference-specialized chips described below.": "Це дає близько 30 мільйонів копій сьогодні. Спочатку кількість трохи знижується, бо стрибок розрідженості нарощує модель швидше, ніж флот для інференсу, а зрештою досягає дуже приблизно 200 мільйонів до 2040 року, причому більшість копій — на апаратному забезпеченні загального призначення, а решта — набагато швидші копії на спеціалізованих під інференс чипах, описаних нижче.", "Weights vs. context assumptions": "Припущення щодо ваг vs. контексту", "Avg context": "Серед. контекст", "KV / copy": "KV / копія", "Context / replica": "Контекст / репліка", "Weights / replica": "Ваги / репліка", "Context share": "Частка контексту", "20 GB": "20 GB", "5.1 TB": "5.1 TB", "5.0 TB": "5.0 TB", "68 GB": "68 GB", "17.4 TB": "17.4 TB", "79.2 TB": "79.2 TB", "220 GB": "220 GB", "56.3 TB": "56.3 TB", "430.9 TB": "430.9 TB", "896 GB": "896 GB", "229.3 TB": "229.3 TB", "3.3 PB": "3.3 PB", "3.3 TB": "3.3 TB", "856.1 TB": "856.1 TB", "15.5 PB": "15.5 PB", "Copies & speed model summary": "Підсумок моделі копій і швидкості", "Model size, copies, and speed at milestone years (Plan A).": "Розмір моделі, кількість копій і швидкість у контрольні роки (План А).", "Model (total/active)": "Модель (всього/активні)", "Copies (gen/inf)": "Копії (заг./спец.)", "All copies": "Усі копії", "Speed (gen/inf)": "Швидкість (заг./спец.)", "Avg speed": "Серед. швидкість", "Total tok/s (gen/inf)": "Разом tok/s (заг./спец.)", "Speed of a frontier copy": "Швидкість копії передової моделі", "average": "середнє", "Per-copy decode speed by chip type (tokens/sec, log).": "Швидкість декодування на копію за типом чипа (токенів/сек, лог. шкала).", "human working pace (~10 tok/s)": "темп роботи людини (~10 tok/s)", "avg ~": "серед. ~", "Speed.": "Швидкість.", " For speed we look at memory bandwidth. On general-purpose hardware, each decode step has to read the weights plus the context of every copy in the batch, so the number of tokens each copy gets per second is just how many times per second the hardware can read through its own memory. Memory bandwidth on the inference fleet is about 31x its memory capacity, giving ~31 full read-throughs per second, or ~57 tok/s per copy after a ~2x speculative-decoding gain and ~90% utilization. Conveniently, this guess does not depend on batch, context, model size, or sparsity, because a bigger memory footprint comes with proportionally more memory bandwidth. Speed then grows only as fast as bandwidth per H100e outpaces memory capacity per H100e, which we assume happens at ~10%/yr after 2029, reaching ~190 tok/s by 2040.": " Щодо швидкості ми розглядаємо пропускну здатність пам'яті. На апаратному забезпеченні загального призначення кожен крок декодування має прочитати ваги плюс контекст кожної копії в батчі, тож кількість токенів, яку кожна копія отримує за секунду, — це просто те, скільки разів за секунду апаратне забезпечення може повністю прочитати власну пам'ять. Пропускна здатність пам'яті у флоті для інференсу приблизно у 31 раз перевищує його обсяг пам'яті, що дає ~31 повне прочитування за секунду, або ~57 tok/s на копію після приросту від спекулятивного декодування (~2x) і завантаженості ~90%. Зручно, що ця оцінка не залежить від розміру батчу, контексту, розміру моделі чи розрідженості, бо більший обсяг пам'яті пропорційно супроводжується більшою пропускною здатністю. Тоді швидкість зростає лише настільки швидко, наскільки пропускна здатність на H100e випереджає обсяг пам'яті на H100e, що, як ми припускаємо, відбувається на ~10%/рік після 2029 року, досягаючи ~190 tok/s до 2040 року.", "For speed we look at memory bandwidth. On general-purpose hardware, each decode step has to read the weights plus the context of every copy in the batch, so the number of tokens each copy gets per second is just how many times per second the hardware can read through its own memory. Memory bandwidth on the inference fleet is about 31x its memory capacity, giving ~31 full read-throughs per second, or ~57 tok/s per copy after a ~2x speculative-decoding gain and ~90% utilization. Conveniently, this guess does not depend on batch, context, model size, or sparsity, because a bigger memory footprint comes with proportionally more memory bandwidth. Speed then grows only as fast as bandwidth per H100e outpaces memory capacity per H100e, which we assume happens at ~10%/yr after 2029, reaching ~190 tok/s by 2040.": "Щодо швидкості ми розглядаємо пропускну здатність пам'яті. На апаратному забезпеченні загального призначення кожен крок декодування має прочитати ваги плюс контекст кожної копії в батчі, тож кількість токенів, яку кожна копія отримує за секунду, — це просто те, скільки разів за секунду апаратне забезпечення може повністю прочитати власну пам'ять. Пропускна здатність пам'яті у флоті для інференсу приблизно у 31 раз перевищує його обсяг пам'яті, що дає ~31 повне прочитування за секунду, або ~57 tok/s на копію після приросту від спекулятивного декодування (~2x) і завантаженості ~90%. Зручно, що ця оцінка не залежить від розміру батчу, контексту, розміру моделі чи розрідженості, бо більший обсяг пам'яті пропорційно супроводжується більшою пропускною здатністю. Тоді швидкість зростає лише настільки швидко, наскільки пропускна здатність на H100e випереджає обсяг пам'яті на H100e, що, як ми припускаємо, відбувається на ~10%/рік після 2029 року, досягаючи ~190 tok/s до 2040 року.", "Inference-specialized chips.": "Чипи, спеціалізовані під інференс.", " The biggest wildcard is chips specialized for serving specific models, with weights held in on-chip SRAM (à la ": " Найбільша невідома змінна — це чипи, спеціалізовані для обслуговування конкретних моделей, де ваги зберігаються в SRAM просто на чипі (на кшталт ", "The biggest wildcard is chips specialized for serving specific models, with weights held in on-chip SRAM (à la": "Найбільша невідома змінна — це чипи, спеціалізовані для обслуговування конкретних моделей, де ваги зберігаються в SRAM просто на чипі (на кшталт", "Groq": "Groq", "), the transformer architecture itself burned into the silicon (à la ": "), або сама архітектура трансформера «випалена» в кремнії (на кшталт ", "), the transformer architecture itself burned into the silicon (à la": "), або сама архітектура трансформера «випалена» в кремнії (на кшталт", "), or weights baked directly into the die (à la ": "), або ваги запечені прямо в кристал (на кшталт ", "), or weights baked directly into the die (à la": "), або ваги запечені прямо в кристал (на кшталт", "). Here we are guessing at every step: we hand-set the share of new compute production these chips take (0.2% in 2026, 1% at the deal, 14% by 2040, adding up to about half of the inference fleet's compute by then), and we hand-set how fast they serve each copy (~1,000 tok/s today, anchored to Cerebras' measured 969 tok/s on Llama-405B, rising to ~25,000 tok/s by 2040 once the 2035 pause freezes frontier models and makes it worth engineering chips close to the latency floor). Running each copy faster directly costs copies (copies = total token throughput / speed of each copy), so these chips add relatively few copies, but under these assumptions they end up producing almost all tokens by 2040 and pull the average speed from ~100 tok/s today to very roughly 5,000 tok/s, which is most of the speed growth in the figure above. If these chips don't take off, average speeds instead stay near the general-purpose ~190 tok/s path. The table below shows how much of its compute and bandwidth each part of the inference fleet actually uses.": "). Тут ми оцінюємо на кожному кроці: ми вручну задаємо частку нового виробництва обчислювальних потужностей, яку займають ці чипи (0.2% у 2026 році, 1% на момент угоди, 14% до 2040 року, що в сумі дає близько половини обчислювальних потужностей флоту для інференсу на той час), і вручну задаємо, наскільки швидко вони обслуговують кожну копію (~1,000 tok/s сьогодні, прив'язано до виміряних Cerebras 969 tok/s на Llama-405B, зростаючи до ~25,000 tok/s до 2040 року, щойно пауза 2035 року заморозить передові моделі й зробить виправданим інжиніринг чипів, наближених до межі затримки). Обслуговування кожної копії швидше напряму «коштує» копій (копії = сумарна пропускна здатність токенів / швидкість кожної копії), тож ці чипи додають відносно небагато копій, але за цими припущеннями вони зрештою виробляють майже всі токени до 2040 року і підтягують середню швидкість із ~100 tok/s сьогодні до дуже приблизно 5,000 tok/s, що становить більшу частину зростання швидкості на графіку вище. Якщо ці чипи не набудуть поширення, середні швидкості натомість залишаться близько до траєкторії чипів загального призначення в ~190 tok/s. Таблиця нижче показує, яку частку своїх обчислювальних потужностей і пропускної здатності насправді використовує кожна частина флоту для інференсу.", "Decode utilization of each resource, by chip type": "Використання ресурсів для декодування за типом чипа", "Share of each chip type’s bandwidth and compute that decode uses; the binding (lower-ceiling) resource sets throughput.": "Частка пропускної здатності та обчислювальних потужностей кожного типу чипа, яку використовує декодування; лімітувальний (з нижчою стелею) ресурс визначає пропускну здатність.", "Gen: bandwidth": "Заг.: пропускна здатність", "Gen: compute": "Заг.: обчислення", "Inf-spec: bandwidth": "Спец. інф.: пропускна здатність", "Inf-spec: compute": "Спец. інф.: обчислення", "90% (binds)": "90% (лімітує)", "Method for AI copies and speed": "Метод для кількості копій ШІ та швидкості", "A frontier model has ": "Передова модель має ", "A frontier model has": "Передова модель має", " total and ": " всього і ", "total and": "всього і", "P_a = P/\\sigma": "P_a = P/\\sigma", " active parameters at sparsity ": " активних параметрів при розрідженості ", "active parameters at sparsity": "активних параметрів при розрідженості", ", served 4-bit (": ", обслуговується у 4-бітному представленні (", " bytes/param), so one replica holds ": " байт/параметр), тож одна репліка містить ", "bytes/param), so one replica holds": "байт/параметр), тож одна репліка містить", "W = bP": "W = bP", " bytes of weights and each token costs ": " байтів ваг, а кожен токен коштує ", "bytes of weights and each token costs": "байтів ваг, а кожен токен коштує", " FLOPs (reading ": " FLOP (читаючи ", "FLOPs (reading": "FLOP (читаючи", "bP_a": "bP_a", " bytes).": " байт).", "bytes).": "байт).", "P = P_{2026}\\,(C/C_{2026})^{\\alpha}\\,(\\sigma/\\sigma_{2026})^{\\beta}": "P = P_{2026}\\,(C/C_{2026})^{\\alpha}\\,(\\sigma/\\sigma_{2026})^{\\beta}", " with ": " де ", "with": "де", "\\alpha = 0.5\\;[0.2, 0.8]": "\\alpha = 0.5\\;[0.2, 0.8]", "world": "world", "C = s_1\\,M_\\text{world}\\,\\tau": "C = s_1\\,M_\\text{world}\\,\\tau", " the leader's training compute (top-1 share §2.3 x world stock x training allocation §2.4). Central: ~158T at 2029, ~31,000T at 2040.": " — обчислювальні потужності лідера для навчання (частка топ-1 §2.3 x світовий запас x розподіл на навчання §2.4). Центральна оцінка: ~158T у 2029 році, ~31,000T у 2040 році.", "the leader's training compute (top-1 share §2.3 x world stock x training allocation §2.4). Central: ~158T at 2029, ~31,000T at 2040.": "— обчислювальні потужності лідера для навчання (частка топ-1 §2.3 x світовий запас x розподіл на навчання §2.4). Центральна оцінка: ~158T у 2029 році, ~31,000T у 2040 році.", " The inference fleet is the §2.4 inference share ": " Флот для інференсу — це частка інференсу з §2.4 ", "The inference fleet is the §2.4 inference share": "Флот для інференсу — це частка інференсу з §2.4", "\\delta": "\\delta", " of the world stock (per-H100e memory and bandwidth from §1.1, flat after 2029), with an inference-specialized fraction ": " від світового запасу (пам'ять і пропускна здатність на H100e з §1.1, незмінні після 2029 року), із часткою, спеціалізованою під інференс, ", "of the world stock (per-H100e memory and bandwidth from §1.1, flat after 2029), with an inference-specialized fraction": "від світового запасу (пам'ять і пропускна здатність на H100e з §1.1, незмінні після 2029 року), із часткою, спеціалізованою під інференс,", " built up from a hand-set flow of new compute (specialized chips only serve, so their whole stock serves). The general-purpose part serves copies out of its memory: a replica occupies the weights ": " яка накопичується із заданого вручну потоку нових обчислювальних потужностей (спеціалізовані чипи лише обслуговують, тож увесь їхній запас обслуговує). Частина загального призначення обслуговує копії зі своєї пам'яті: репліка займає ваги ", "built up from a hand-set flow of new compute (specialized chips only serve, so their whole stock serves). The general-purpose part serves copies out of its memory: a replica occupies the weights": "яка накопичується із заданого вручну потоку нових обчислювальних потужностей (спеціалізовані чипи лише обслуговують, тож увесь їхній запас обслуговує). Частина загального призначення обслуговує копії зі своєї пам'яті: репліка займає ваги", " plus a KV cache ": " плюс KV-кеш ", "plus a KV cache": "плюс KV-кеш", " for each of its ": " для кожної зі своїх ", "for each of its": "для кожної зі своїх", " concurrent copies. The specialized chips instead serve as many copies as their token throughput supports at their chosen speed ": " одночасних копій. Натомість спеціалізовані чипи обслуговують стільки копій, скільки дозволяє їхня пропускна здатність токенів за обраної швидкості ", "concurrent copies. The specialized chips instead serve as many copies as their token throughput supports at their chosen speed": "одночасних копій. Натомість спеціалізовані чипи обслуговують стільки копій, скільки дозволяє їхня пропускна здатність токенів за обраної швидкості", "spec": "spec", "v_\\text{spec}": "v_\\text{spec}", ", where throughput is utilization ": ", де пропускна здатність — це завантаженість ", ", where throughput is utilization": ", де пропускна здатність — це завантаженість", " times the smaller of their compute limit (": " помножена на менше з двох: їхній ліміт обчислень (", "times the smaller of their compute limit (": "помножена на менше з двох: їхній ліміт обчислень (", "F_\\text{spec}": "F_\\text{spec}", ") and their weight-read bandwidth limit (": ") і їхній ліміт пропускної здатності для читання ваг (", "\\Lambda_\\text{spec}": "\\Lambda_\\text{spec}", "); their memory is sized to match and never binds. So,": "); їхня пам'ять підібрана під це і ніколи не є лімітувальним фактором. Отже,", "copies": "copies", "min": "min", "\\text{copies} = \\frac{\\delta M (1-f)}{W + B\\,c}\\,B \\;+\\; \\frac{u\\,\\min!\\big(F_\\text{spec}/2,\\; \\Lambda_\\text{spec}/b\\big)}{P_a\\, v_\\text{spec}} .": "\\text{copies} = \\frac{\\delta M (1-f)}{W + B\\,c}\\,B \\;+\\; \\frac{u\\,\\min!\\big(F_\\text{spec}/2,\\; \\Lambda_\\text{spec}/b\\big)}{P_a\\, v_\\text{spec}} .", " With ": " За ", "With": "За", "\\rho(t)": "\\rho(t)", " the inference fleet's bandwidth": " — відношення пропускної здатності флоту для інференсу до", "the inference fleet's bandwidth": "— відношення пропускної здатності флоту для інференсу до", ":capacity": " обсягу пам'яті", " ratio (how many times per second its memory can be read in full),": " (скільки разів за секунду можна повністю прочитати всю його пам'ять),", "ratio (how many times per second its memory can be read in full),": "(скільки разів за секунду можна повністю прочитати всю його пам'ять),", "speed": "speed", "gp": "gp", "\\text{speed}_\\text{gp} = u\\,\\rho(t)\\,\\kappa, \\qquad \\text{speed}_\\text{spec} = v_\\text{spec}(t) .": "\\text{speed}_\\text{gp} = u\\,\\rho(t)\\,\\kappa, \\qquad \\text{speed}_\\text{spec} = v_\\text{spec}(t) .", "On general-purpose hardware a batched decode step reads the same footprint (": "На апаратному забезпеченні загального призначення пакетний крок декодування зчитує той самий обсяг (", "W + Bc": "W + Bc", ") whose bandwidth the replica owns (": ") пропускну здатність якого має репліка (", "\\rho(W + Bc)": "\\rho(W + Bc)", "), so batch and context cancel and only the decode gain ": "), тож розмір батчу і контекст скорочуються, і залишається лише приріст від декодування ", "), so batch and context cancel and only the decode gain": "), тож розмір батчу і контекст скорочуються, і залишається лише приріст від декодування", "\\kappa": "\\kappa", " times the utilization ": " помножений на завантаженість ", "times the utilization": "помножений на завантаженість", " remains; this presumes serving stays at the large-batch, throughput-optimal operating point. Sparsity does not move realized speed (it cuts bytes and FLOPs per token, not layer count); it enters through model size and the specialized chips' per-token compute. The headline average speed is copy-weighted.": "; це передбачає, що обслуговування залишається в режимі роботи з великим батчем, оптимальному за пропускною здатністю. Розрідженість не змінює реальну швидкість (вона скорочує кількість байтів і FLOP на токен, а не кількість шарів); вона впливає через розмір моделі та обчислення на токен у спеціалізованих чипів. Заголовна середня швидкість зважена за кількістю копій.", "remains; this presumes serving stays at the large-batch, throughput-optimal operating point. Sparsity does not move realized speed (it cuts bytes and FLOPs per token, not layer count); it enters through model size and the specialized chips' per-token compute. The headline average speed is copy-weighted.": "; це передбачає, що обслуговування залишається в режимі роботи з великим батчем, оптимальному за пропускною здатністю. Розрідженість не змінює реальну швидкість (вона скорочує кількість байтів і FLOP на токен, а не кількість шарів); вона впливає через розмір моделі та обчислення на токен у спеціалізованих чипів. Заголовна середня швидкість зважена за кількістю копій.", "Every input, ordered by the guess it belongs to (model size, then the inference fleet, then copies, then speed):": "Усі вхідні дані, впорядковані за тим, до якої оцінки вони належать (спершу розмір моделі, потім флот для інференсу, потім копії, потім швидкість):", "note": "примітка", "10T total params, 8x sparse": "10T всього параметрів, 8-кратна розрідженість", "today's frontier": "сьогоднішня передова модель", "compute exponent (": "показник степеня обчислень (", "0.5, band [0.2, 0.8]": "0.5, діапазон [0.2, 0.8]", "data walls push up (Nesov's numbers fit ": "межі доступності даних підштовхують вгору (цифри Nesov відповідають ", "data walls push up (Nesov's numbers fit": "межі доступності даних підштовхують вгору (цифри Nesov відповідають", "); overtraining, RL, distillation push down": "); перенавчання, RL, дистиляція підштовхують вниз", "sparsity exponent (": "показник степеня розрідженості (", "\\beta": "\\beta", "optimal tokens per active param rise ~": "оптимальна кількість токенів на активний параметр зростає ~", "\\sigma^{0.53}": "\\sigma^{0.53}", "sparsity (": "розрідженість (", "hand-set": "встановлено вручну", "inference share (": "частка інференсу (", "~50% pre-deal, 77%@2030, 25%@2040": "~50% до Угоди, 77% у 2030, 25% у 2040", "from §2.4 (public + internal)": "з §2.4 (публічні + внутрішні дані)", "specialized share of new compute (": "спеціалізована частка нових обчислювальних потужностей (", "hand-set; ~half the inference fleet's compute by 2040": "встановлено вручну; ~половина обчислювальних потужностей парку інференсу до 2040 року", "bandwidth per H100e": "пропускна здатність на H100e", "+10%/yr after 2029, capacity flat": "+10%/рік після 2029, ємність незмінна", "gives the read rate ": "дає швидкість зчитування ", "gives the read rate": "дає швидкість зчитування", "\\rho": "\\rho", "spec bandwidth (": "номінальна пропускна здатність (", "60x HBM (2026) → ~500x (2040)": "60x HBM (2026) → ~500x (2040)", "measured Groq/Cerebras ~60-80x; bandwidth binds until ~2034, then compute": "виміряно для Groq/Cerebras ~60-80x; пропускна здатність є вузьким місцем до ~2034, далі — обчислювальна потужність", "serving precision and FLOP/s": "точність інференсу та FLOP/s", "4-bit (0.5 B/param), 4e15 FLOP/s per H100e": "4-bit (0.5 B/param), 4e15 FLOP/s на H100e", "weights are ~5 TB per replica in 2026": "ваги моделі становлять ~5 TB на репліку у 2026 році", "batch (": "батч (", "256 concurrent copies per replica": "256 одночасних копій на репліку", "held flat; trades off with context assumptions": "тримається на сталому рівні; є компромісом із припущеннями щодо контексту", "KV per copy (": "KV на копію (", "~20 GB (2026) → ~3.3 TB (2040)": "~20 GB (2026) → ~3.3 TB (2040)", "~200k → ~2.4M tokens of context; leaves context ~5% of memory by 2040": "~200k → ~2.4M токенів контексту; до 2040 контекст становить ~5% пам’яті", "decode gain (": "приріст декодування (", "speculative / multi-token decoding": "спекулятивне / мультитокенне декодування", "utilization (": "утилізація (", "of each chip category's binding limit": "від обмежувального ліміту для кожної категорії чипів", "spec speed (": "номінальна швидкість (", "1,000 / 1,500 / 3,000 / 6,000 / 15,000 / 25,000 tok/s at 2026/29/32/35/38/40": "1,000 / 1,500 / 3,000 / 6,000 / 15,000 / 25,000 tok/s у 2026/29/32/35/38/40", "hand-set, toward the on-chip wire-latency floor": "встановлено вручну, з орієнтацією на нижню межу затримки провідників на чипі", "Appendix: the effective-H100e model": "Додаток: модель ефективних H100e", "A.1 Goal": "A.1 Мета", "We want a way of estimating how useful a given cluster is for AI workloads relative to a typical H100 GPU cluster.": "Ми хочемо мати спосіб оцінити, наскільки корисним є даний кластер для робочих навантажень ШІ порівняно з типовим кластером на GPU H100.", "Comparing the raw H100-equivalents is a poor proxy, because they only measure peak compute, and for real AI workloads a cluster can be drastically more or less useful depending on other hardware factors, particularly memory bandwidth, memory capacity, scale-up networking, scale-out networking, and how many physical chips a typical workload must span. The output is": "Порівняння номінальних H100-еквівалентів є поганим орієнтиром, оскільки вони вимірюють лише пікову обчислювальну потужність, а для реальних робочих навантажень ШІ кластер може бути значно кориснішим або менш корисним залежно від інших апаратних факторів — зокрема пропускної здатності пам’яті, обсягу пам’яті, мережі масштабування вгору, мережі масштабування вшир і того, скільки фізичних чипів має охоплювати типове робоче навантаження. Результатом є", "usefulness adjustment": "коефіцієнт корисності", "\\text{effective H100e} \\;=\\; \\text{raw H100e} \\times \\text{usefulness adjustment},": "\\text{effective H100e} \\;=\\; \\text{raw H100e} \\times \\text{usefulness adjustment},", "where the usefulness adjustment is above 1 if the cluster is more useful per raw H100e than the H100 cluster anchor we consider, and below 1 if it's worse. The key design goals for the usefulness adjustment are:": "де коефіцієнт корисності перевищує 1, якщо кластер корисніший на одиницю номінальних H100e, ніж еталонний кластер H100, який ми розглядаємо, і менший за 1, якщо він гірший. Ключові цілі проєктування коефіцієнта корисності такі:", "Our H100 anchor cluster should have effective H100e equal to raw H100e.": "Наш еталонний кластер H100 повинен мати ефективні H100e, що дорівнюють номінальним H100e.", "Holding everything else constant, more memory bandwidth, memory capacity, scale-up networking, scale-out networking, or scale-up world size should help. This means an Nx improvement in any individual metric (all else equal) should be a ": "За інших рівних умов, зростання пропускної здатності пам’яті, обсягу пам’яті, мережі масштабування вгору, мережі масштабування вшир або розміру світу масштабування вгору повинно покращувати результат. Це означає, що поліпшення в Nx для будь-якої окремої метрики (за інших рівних) повинно давати коефіцієнт корисності ", "Holding everything else constant, more memory bandwidth, memory capacity, scale-up networking, scale-out networking, or scale-up world size should help. This means an Nx improvement in any individual metric (all else equal) should be a": "За інших рівних умов, зростання пропускної здатності пам’яті, обсягу пам’яті, мережі масштабування вгору, мережі масштабування вшир або розміру світу масштабування вгору повинно покращувати результат. Це означає, що поліпшення в Nx для будь-якої окремої метрики (за інших рівних) повинно давати коефіцієнт корисності", "\\geq": "\\geq", "1x usefulness adjustment.": "1x.", "A cluster with equivalent total hardware performance, but spread over smaller devices can be worse, because at a fixed workload size it needs to spread over more chips, raising communication overhead. This means an Nx reduction in all per-chip metrics with an Nx increase in quantity (so cluster totals are the same) should be a ": "Кластер з еквівалентною сумарною апаратною продуктивністю, але розподілений по менших пристроях, може бути гіршим, оскільки за фіксованого розміру робочого навантаження йому доводиться розподілятися по більшій кількості чипів, що підвищує накладні витрати на комунікацію. Це означає, що зменшення в Nx усіх метрик на чип разом зі збільшенням кількості в Nx (так що сумарні показники кластера залишаються тими самими) повинно давати коефіцієнт корисності ", "A cluster with equivalent total hardware performance, but spread over smaller devices can be worse, because at a fixed workload size it needs to spread over more chips, raising communication overhead. This means an Nx reduction in all per-chip metrics with an Nx increase in quantity (so cluster totals are the same) should be a": "Кластер з еквівалентною сумарною апаратною продуктивністю, але розподілений по менших пристроях, може бути гіршим, оскільки за фіксованого розміру робочого навантаження йому доводиться розподілятися по більшій кількості чипів, що підвищує накладні витрати на комунікацію. Це означає, що зменшення в Nx усіх метрик на чип разом зі збільшенням кількості в Nx (так що сумарні показники кластера залишаються тими самими) повинно давати коефіцієнт корисності", "\\leq": "\\leq", "Bottlenecks should be soft, not hard: resources should trade off with each other, because it tends to be possible in AI workloads to readjust e.g., parallelism or other software-level choices to trade off different resources.": "Вузькі місця мають бути м’якими, а не жорсткими: ресурси повинні компенсувати одне одного, оскільки в робочих навантаженнях ШІ зазвичай можливо перелаштувати, наприклад, паралелізм чи інші програмні рішення, щоб перерозподілити навантаження між різними ресурсами.", "A.2 Inputs": "A.2 Вхідні дані", "The inputs are the chip and cluster properties, which we notate as:": "Вхідними даними є властивості чипа та кластера, які ми позначаємо так:", ": per-chip compute (H100e).": ": обчислювальна потужність на чип (H100e).", ": per-chip memory bandwidth.": ": пропускна здатність пам’яті на чип.", ": per-chip memory capacity.": ": обсяг пам’яті на чип.", "SU": "SU", ": per-chip scale-up bandwidth inside a given world-size (e.g., NVLink inside a rack).": ": пропускна здатність масштабування вгору на чип у межах заданого розміру світу (наприклад, NVLink усередині стійки).", "SO": "SO", ": per-chip scale-out bandwidth outside the scale-up world but inside the full cluster.": ": пропускна здатність масштабування вшир на чип за межами світу масштабування вгору, але в межах усього кластера.", ": scale-up world size, in ": ": розмір світу масштабування вгору, у ", ": scale-up world size, in": ": розмір світу масштабування вгору, у", "chips": "чипах", " (the scale up domain GPU count, e.g. NVL72 ": " (кількість GPU у домені масштабування вгору, наприклад NVL72 ", "(the scale up domain GPU count, e.g. NVL72": "(кількість GPU у домені масштабування вгору, наприклад NVL72", ": number of chips in the cluster.": ": кількість чипів у кластері.", "Our model is workload-dependent, meaning that it takes into account a workload size (in compute footprint). Rather than considering a single average workload, we use a spread of job sizes, each a fraction ": "Наша модель залежить від робочого навантаження, тобто враховує розмір навантаження (у вигляді обчислювальної потужності). Замість того щоб розглядати одне середнє навантаження, ми використовуємо розподіл розмірів завдань, кожне — частка ", "Our model is workload-dependent, meaning that it takes into account a workload size (in compute footprint). Rather than considering a single average workload, we use a spread of job sizes, each a fraction": "Наша модель залежить від робочого навантаження, тобто враховує розмір навантаження (у вигляді обчислювальної потужності). Замість того щоб розглядати одне середнє навантаження, ми використовуємо розподіл розмірів завдань, кожне — частка", " of the ": " від ", "of the": "від", "frontier scale": "передового масштабу", ", which is supposed to represent a frontier company's total compute, with job-count weights ": ", що має представляти сумарні обчислювальні потужності передової компанії, з вагами за кількістю завдань ", ", which is supposed to represent a frontier company's total compute, with job-count weights": ", що має представляти сумарні обчислювальні потужності передової компанії, з вагами за кількістю завдань", "\\omega_j": "\\omega_j", "\\sum_j \\omega_j = 1": "\\sum_j \\omega_j = 1", ") as follows, expressed as fractions ": ") так, як показано нижче, виражених як частки ", ") as follows, expressed as fractions": ") так, як показано нижче, виражених як частки", " of the frontier scale:": " від передового масштабу:", "of the frontier scale:": "від передового масштабу:", "job": "завдання", "fraction ": "частка ", "fraction": "частка", "weight ": "вага ", "weight": "вага", "small (inference, experiments)": "мале (інференс, експерименти)", "medium (large experiments, test runs)": "середнє (великі експерименти, тестові прогони)", "large (near-frontier training)": "велике (навчання, близьке до передового рівня)", "Importantly, ": "Важливо, що ", "Importantly,": "Важливо, що", " is a fraction of ": " є часткою від ", "is a fraction of": "є часткою від", "raw H100e compute": "обчислювальної потужності в номінальних H100e", ", not physical chip count.": ", а не кількості фізичних чипів.", "A.3 Anchor scenario": "A.3 Еталонний сценарій", "We use a 2024-style H100-SXM cluster as the anchor for raw=effective:": "Як еталон, де номінальні значення дорівнюють ефективним (raw=effective), ми використовуємо кластер H100-SXM зразка 2024 року:", "anchor (where raw=effective)": "еталон (де номінальні = ефективні)", "raw H100e per chip ": "номінальні H100e на чип ", "raw H100e per chip": "номінальні H100e на чип", "memory bandwidth ": "пропускна здатність пам’яті ", "3.35 TB/s": "3.35 TB/s", "memory capacity ": "обсяг пам’яті ", "scale-up bandwidth ": "пропускна здатність масштабування вгору ", "scale-up bandwidth": "пропускна здатність масштабування вгору", "SU_0": "SU_0", "0.9 TB/s": "0.9 TB/s", "scale-out bandwidth ": "пропускна здатність масштабування вшир ", "scale-out bandwidth": "пропускна здатність масштабування вшир", "SO_0": "SO_0", "0.05 TB/s": "0.05 TB/s", "scale-up world ": "світ масштабування вгору ", "8 chips (HGX-8)": "8 чипів (HGX-8)", "cluster size ": "розмір кластера ", "cluster size": "розмір кластера", "100K chips": "100K чипів", "Separately, the frontier scale we consider ": "Окремо, передовий масштаб, який ми розглядаємо, ", "Separately, the frontier scale we consider": "Окремо, передовий масштаб, який ми розглядаємо,", " is time dependent. We model it as a growing share of total world compute (reflecting how frontier AI companies have a rising share of global compute), rising from ~6% (2025.0) to 9 / 13 / 16 / 18% (2026.0-2029.0), so absolute workload sizes climb each year and scale-out pressure rises alongside the world-size roadmap. By construction the anchor must output effective H100e ": "є залежним від часу. Ми моделюємо його як зростаючу частку сумарних світових обчислювальних потужностей (відображаючи те, що передові ШІ-компанії мають дедалі більшу частку глобальних обчислювальних потужностей), яка зростає з ~6% (2025.0) до 9 / 13 / 16 / 18% (2026.0-2029.0), тож абсолютні розміри робочих навантажень зростають щороку, а тиск на масштабування вшир посилюється разом із дорожньою картою розміру світу. За побудовою еталон повинен видавати ефективні H100e ", "is time dependent. We model it as a growing share of total world compute (reflecting how frontier AI companies have a rising share of global compute), rising from ~6% (2025.0) to 9 / 13 / 16 / 18% (2026.0-2029.0), so absolute workload sizes climb each year and scale-out pressure rises alongside the world-size roadmap. By construction the anchor must output effective H100e": "є залежним від часу. Ми моделюємо його як зростаючу частку сумарних світових обчислювальних потужностей (відображаючи те, що передові ШІ-компанії мають дедалі більшу частку глобальних обчислювальних потужностей), яка зростає з ~6% (2025.0) до 9 / 13 / 16 / 18% (2026.0-2029.0), тож абсолютні розміри робочих навантажень зростають щороку, а тиск на масштабування вшир посилюється разом із дорожньою картою розміру світу. За побудовою еталон повинен видавати ефективні H100e", "= C_{\\rm cluster}": "= C_{\\rm cluster}", ", i.e. usefulness adjustment ": ", тобто коефіцієнт корисності ", ", i.e. usefulness adjustment": ", тобто коефіцієнт корисності", " (verified in §A.9).": " (перевірено в §A.9).", "(verified in §A.9).": "(перевірено в §A.9).", "A.4 Workload footprint": "A.4 Слід робочого навантаження", "For each bucket ": "Для кожної категорії ", "For each bucket": "Для кожної категорії", ", the raw workload size (in compute needed) is": ", номінальний розмір робочого навантаження (у необхідній обчислювальній потужності) дорівнює", "C_{{\\rm job},j} = L_j\\,F.": "C_{{\\rm job},j} = L_j\\,F.", "The number of physical chips that workload needs assumes we spread it as thinly as the hardware allows. Dividing the job's compute by the per-chip compute ": "Кількість фізичних чипів, потрібних для цього навантаження, передбачає, що ми розподіляємо його настільки тонко, наскільки дозволяє апаратне забезпечення. Ділення обчислювальної потужності завдання на обчислювальну потужність на чип ", "The number of physical chips that workload needs assumes we spread it as thinly as the hardware allows. Dividing the job's compute by the per-chip compute": "Кількість фізичних чипів, потрібних для цього навантаження, передбачає, що ми розподіляємо його настільки тонко, наскільки дозволяє апаратне забезпечення. Ділення обчислювальної потужності завдання на обчислювальну потужність на чип", " gives the count we'd need if memory were free, which we then inflate by ": " дає кількість, яка знадобилася б, якби пам’ять була необмеженою, яку ми потім збільшуємо на коефіцієнт ", "gives the count we'd need if memory were free, which we then inflate by": "дає кількість, яка знадобилася б, якби пам’ять була необмеженою, яку ми потім збільшуємо на коефіцієнт", "(M_0/M)^{\\delta}": "(M_0/M)^{\\delta}", " to account for a memory-poorer chip holding a smaller slice of the job's weights and activations. We don't treat memory as a hard wall, though: the exponent ": " щоб врахувати те, що чип з меншим обсягом пам’яті утримує меншу частку ваг і активацій завдання. Проте ми не розглядаємо пам’ять як жорстку стіну: показник степеня ", "to account for a memory-poorer chip holding a smaller slice of the job's weights and activations. We don't treat memory as a hard wall, though: the exponent": "щоб врахувати те, що чип з меншим обсягом пам’яті утримує меншу частку ваг і активацій завдання. Проте ми не розглядаємо пам’ять як жорстку стіну: показник степеня", "\\delta < 1": "\\delta < 1", " reflects that you can partly trade capacity back (recomputing activations, offloading, finer sharding), so halving a chip's memory spreads the workload over somewhat more chips, not necessarily twice as many.": " відображає те, що обсяг частково можна компенсувати (перерахунком активацій, вивантаженням, точнішим шардингом), тож зменшення пам’яті чипа вдвічі розподіляє навантаження на дещо більшу кількість чипів, а не обов’язково вдвічі більшу.", "reflects that you can partly trade capacity back (recomputing activations, offloading, finer sharding), so halving a chip's memory spreads the workload over somewhat more chips, not necessarily twice as many.": "відображає те, що обсяг частково можна компенсувати (перерахунком активацій, вивантаженням, точнішим шардингом), тож зменшення пам’яті чипа вдвічі розподіляє навантаження на дещо більшу кількість чипів, а не обов’язково вдвічі більшу.", "n_{{\\rm req},j} = \\frac{C_{{\\rm job},j}}{C}\\left(\\frac{M_0}{M}\\right)^{\\delta},": "n_{{\\rm req},j} = \\frac{C_{{\\rm job},j}}{C}\\left(\\frac{M_0}{M}\\right)^{\\delta},", "req": "req", "\\delta \\in [0,1]": "\\delta \\in [0,1]", " is the memory-footprint elasticity explained above (": " — це еластичність сліду за обсягом пам’яті, пояснена вище (", "is the memory-footprint elasticity explained above (": "— це еластичність сліду за обсягом пам’яті, пояснена вище (", "\\delta = 0": "\\delta = 0", ": capacity does not change the chip count; ": ": обсяг пам’яті не впливає на кількість чипів; ", ": capacity does not change the chip count;": ": обсяг пам’яті не впливає на кількість чипів;", "\\delta = 1": "\\delta = 1", ": footprint scales inversely with capacity; we assume ": ": слід масштабується обернено пропорційно обсягу пам’яті; ми приймаємо ", ": footprint scales inversely with capacity; we assume": ": слід масштабується обернено пропорційно обсягу пам’яті; ми приймаємо", "\\delta = 0.5": "\\delta = 0.5", " by default).": " за замовчуванням).", "by default).": "за замовчуванням).", "We call this the ": "Ми називаємо це ", "We call this the": "Ми називаємо це", "communication footprint": "комунікаційним слідом", "n_j = n_{{\\rm req},j}": "n_j = n_{{\\rm req},j}", ", because it's what drives the cross-chip traffic in the penalties below: the more chips a job is smeared across, the more it has to talk between them (§A.5). In the edge case where the workload fits on a single chip we floor it at one.": ", оскільки саме це визначає трафік між чипами у штрафах нижче: чим більше чипів охоплює завдання, тим більше йому потрібно обмінюватися даними між ними (§A.5). У граничному випадку, коли навантаження вміщується на одному чипі, ми обмежуємо це значення знизу одиницею.", " Either weakness compounds into a bigger footprint: a chip with less compute needs more copies of itself to run the job, and a chip with less memory needs more copies to hold its state, so a weaker chip on either axis spreads the same workload over more chips and pays more communication cost.": " Кожна зі слабкостей окремо збільшує слід: чипу з меншою обчислювальною потужністю потрібно більше власних копій для виконання завдання, а чипу з меншим обсягом пам’яті потрібно більше копій для утримання свого стану, тож слабший за будь-якою з цих осей чип розподіляє те саме навантаження на більшу кількість чипів і платить більшу комунікаційну ціну.", "Either weakness compounds into a bigger footprint: a chip with less compute needs more copies of itself to run the job, and a chip with less memory needs more copies to hold its state, so a weaker chip on either axis spreads the same workload over more chips and pays more communication cost.": "Кожна зі слабкостей окремо збільшує слід: чипу з меншою обчислювальною потужністю потрібно більше власних копій для виконання завдання, а чипу з меншим обсягом пам’яті потрібно більше копій для утримання свого стану, тож слабший за будь-якою з цих осей чип розподіляє те саме навантаження на більшу кількість чипів і платить більшу комунікаційну ціну.", "We measure all of this against the anchor cluster running the ": "Усе це ми вимірюємо відносно еталонного кластера, що виконує ", "We measure all of this against the anchor cluster running the": "Усе це ми вимірюємо відносно еталонного кластера, що виконує", "same": "те саме", " job: the reference footprint is ": " завдання: еталонний слід дорівнює ", "job: the reference footprint is": "завдання: еталонний слід дорівнює", "n_{0,j} = C_{{\\rm job},j}/C_0": "n_{0,j} = C_{{\\rm job},j}/C_0", ", with no memory term because the anchor is ": ", без члена пам’яті, оскільки еталон є ", ", with no memory term because the anchor is": ", без члена пам’яті, оскільки еталон є", "A.5 Scale-up versus scale-out traffic": "A.5 Трафік масштабування вгору проти масштабування вшир", "Now we estimate what fraction of a workload's communication (": "Тепер ми оцінюємо, яка частка комунікації робочого навантаження (", "p_{\\rm SU}": "p_{\\rm SU}", ") can stay inside the fast scale-up world. Comparing the workload's chip footprint ": ") може залишатися всередині швидкого світу масштабування вгору. Порівнюючи слід робочого навантаження ", ") can stay inside the fast scale-up world. Comparing the workload's chip footprint": ") може залишатися всередині швидкого світу масштабування вгору. Порівнюючи слід робочого навантаження", " (from §A.4) to the world size ": " (з §A.4) з розміром світу ", "(from §A.4) to the world size": "(з §A.4) з розміром світу", ", let": ", позначимо", "p_{\\rm SU}(n, W) =\n\\begin{cases}\n1, & n \\le 1 \\\\[2pt]\n\\min!\\left(1,\\; \\dfrac{W-1}{n-1}\\right), & n > 1,\n\\end{cases}\n\\qquad p_{\\rm SO} = 1 - p_{\\rm SU}.": "p_{\\rm SU}(n, W) =\n\\begin{cases}\n1, & n \\le 1 \\\\[2pt]\n\\min!\\left(1,\\; \\dfrac{W-1}{n-1}\\right), & n > 1,\n\\end{cases}\n\\qquad p_{\\rm SO} = 1 - p_{\\rm SU}.", "If the footprint fits inside the scale-up world (": "Якщо слід вміщується всередині світу масштабування вгору (", "n_j \\le W": "n_j \\le W", "), then ": "), тоді ", "), then": "), тоді", "p_{\\rm SU} = 1": "p_{\\rm SU} = 1", "; if it is bigger, only a fraction of all-to-all-style communication is in-world. With chips that don't have a scale-up world (": "; якщо він більший, у межах світу залишається лише частка комунікації типу «всі з усіма». Для чипів, що не мають світу масштабування вгору (", "), any workload larger than one chip is pure scale-out. This is a crude approximation for the traffic of AI workloads.": "), будь-яке навантаження, більше за один чип, є суто масштабуванням вшир. Це грубе наближення для трафіку робочих навантажень ШІ.", "A.6 Resource penalties": "A.6 Штрафи за ресурси", "The model computes resource penalties, each normalized so the anchor equals 1.": "Модель обчислює штрафи за ресурси, кожен з яких нормалізовано так, щоб для еталона він дорівнював 1.", "6.1 Memory-bandwidth penalty.": "6.1 Штраф за пропускну здатність пам’яті.", "\\tau_B = \\frac{C/C_0}{B/B_0}.": "\\tau_B = \\frac{C/C_0}{B/B_0}.", "If compute per chip outruns memory bandwidth per chip (both relative to the anchor), the chip is more bandwidth-bottlenecked (": "Якщо обчислювальна потужність на чип випереджає пропускну здатність пам’яті на чип (обидві відносно еталона), чип більше обмежений пропускною здатністю (", "\\tau_B > 1": "\\tau_B > 1", "). If bandwidth rises faster than compute, less so (": "). Якщо пропускна здатність зростає швидше за обчислювальну потужність, обмеження менше (", "\\tau_B < 1": "\\tau_B < 1", "6.2 Networking penalty.": "6.2 Мережевий штраф.", "\nThis measures how communication-bound the cluster is versus the anchor on the same job. The communication bottleneck is higher when a chip has more compute (more work done per second needs more data exchanged to stay fed) and when its job spans more chips; we weight these against how fast the networking is.": "\nЦе вимірює, наскільки кластер є обмеженим комунікацією порівняно з еталоном на тому самому завданні. Комунікаційне вузьке місце більше, коли чип має більше обчислювальної потужності (більше роботи, виконаної за секунду, потребує обміну більшою кількістю даних, щоб не простоювати) і коли його завдання охоплює більше чипів; ми зважуємо це відносно того, наскільки швидкою є мережа.", "This measures how communication-bound the cluster is versus the anchor on the same job. The communication bottleneck is higher when a chip has more compute (more work done per second needs more data exchanged to stay fed) and when its job spans more chips; we weight these against how fast the networking is.": "Це вимірює, наскільки кластер є обмеженим комунікацією порівняно з еталоном на тому самому завданні. Комунікаційне вузьке місце більше, коли чип має більше обчислювальної потужності (більше роботи, виконаної за секунду, потребує обміну більшою кількістю даних, щоб не простоювати) і коли його завдання охоплює більше чипів; ми зважуємо це відносно того, наскільки швидкою є мережа.", "We start with each cluster's effective inverse bandwidth ": "Почнемо з ефективної оберненої пропускної здатності кожного кластера ", "We start with each cluster's effective inverse bandwidth": "Почнемо з ефективної оберненої пропускної здатності кожного кластера", " (communication time per unit of data moved, so higher is worse). From §A.5, ": " (час комунікації на одиницю переданих даних, тож чим більше — тим гірше). Із §A.5, ", "(communication time per unit of data moved, so higher is worse). From §A.5,": "(час комунікації на одиницю переданих даних, тож чим більше — тим гірше). Із §A.5,", " is the fraction of traffic inside the scale-up world, and ": " — це частка трафіку всередині світу масштабування вгору, а ", "is the fraction of traffic inside the scale-up world, and": "— це частка трафіку всередині світу масштабування вгору, а", "1 - p_{\\rm SU}": "1 - p_{\\rm SU}", " is on scale-out, so ": " припадає на масштабування вшир, тож ", "is on scale-out, so": "припадає на масштабування вшир, тож", " blends the two fabrics by where the traffic goes. For the anchor:": " поєднує обидві мережеві структури залежно від того, куди спрямовується трафік. Для еталона:", "blends the two fabrics by where the traffic goes. For the anchor:": "поєднує обидві мережеві структури залежно від того, куди спрямовується трафік. Для еталона:", "p_{0,j} = p_{\\rm SU}(n_{0,j}, W_0), \\qquad\nR_{0,j} = \\frac{p_{0,j}}{SU_0} + \\frac{1-p_{0,j}}{SO_0},": "p_{0,j} = p_{\\rm SU}(n_{0,j}, W_0), \\qquad\nR_{0,j} = \\frac{p_{0,j}}{SU_0} + \\frac{1-p_{0,j}}{SO_0},", "and the same for the candidate cluster with its own footprint, world, and bandwidths:": "і так само для кандидатного кластера з його власним слідом, світом і пропускними здатностями:", "R_j = \\frac{p_{\\rm SU}(n_j, W)}{SU} + \\frac{1-p_{\\rm SU}(n_j, W)}{SO}.": "R_j = \\frac{p_{\\rm SU}(n_j, W)}{SU} + \\frac{1-p_{\\rm SU}(n_j, W)}{SO}.", "We model the communication penalty as the product of three things, each measured against the anchor: how many chips the job must span (": "Ми моделюємо комунікаційний штраф як добуток трьох величин, кожну з яких вимірюємо відносно еталона: скільки чипів має охоплювати завдання (", "), how fast each chip finishes its work (": "), наскільки швидко кожен чип завершує свою роботу (", "), and how costly communication is on the cluster (": "), і наскільки дорогою є комунікація в кластері (", "). They multiply because communication time is the amount of data moved times the cost of moving it, so being worse on several axes at once compounds. With elasticity ": "). Вони перемножуються, оскільки час комунікації — це обсяг переданих даних, помножений на вартість їх передачі, тож погіршення одразу за кількома осями накопичується. З еластичністю ", "). They multiply because communication time is the amount of data moved times the cost of moving it, so being worse on several axes at once compounds. With elasticity": "). Вони перемножуються, оскільки час комунікації — це обсяг переданих даних, помножений на вартість їх передачі, тож погіршення одразу за кількома осями накопичується. З еластичністю", "\\gamma = 0.15": "\\gamma = 0.15", " on the span:": " щодо охоплення:", "on the span:": "щодо охоплення:", "\\tau_{N,j} = \\left(\\frac{n_j}{n_{0,j}}\\right)^{\\gamma}\\left(\\frac{C}{C_0}\\right)\\frac{R_j}{R_{0,j}}.": "\\tau_{N,j} = \\left(\\frac{n_j}{n_{0,j}}\\right)^{\\gamma}\\left(\\frac{C}{C_0}\\right)\\frac{R_j}{R_{0,j}}.", "Compute speed (": "Обчислювальна швидкість (", ") and communication cost (": ") і вартість комунікації (", ") enter ": ") входять ", ") enter": ") входять", "linearly": "лінійно", ": a chip finishing its work 2x faster produces data to exchange 2x faster, and a link 2x costlier per byte takes 2x longer, so we model each as putting linear pressure on communication time. The span enters ": ": чип, що завершує роботу вдвічі швидше, вдвічі швидше генерує дані для обміну, а лінк, що вдвічі дорожчий за байт, займає вдвічі більше часу, тож ми моделюємо кожен з цих факторів як такий, що чинить лінійний тиск на час комунікації. Охоплення входить ", ": a chip finishing its work 2x faster produces data to exchange 2x faster, and a link 2x costlier per byte takes 2x longer, so we model each as putting linear pressure on communication time. The span enters": ": чип, що завершує роботу вдвічі швидше, вдвічі швидше генерує дані для обміну, а лінк, що вдвічі дорожчий за байт, займає вдвічі більше часу, тож ми моделюємо кожен з цих факторів як такий, що чинить лінійний тиск на час комунікації. Охоплення входить", "sublinearly": "сублінійно", "\\gamma < 1": "\\gamma < 1", ") because with 2x more chips any one chip does not move 2x more data: e.g., in a ring all-reduce the data each chip moves is constant (about twice the model size) whether the job runs on 100 chips or 100,000, since the per-chip chunks shrink as fast as the step count grows. However, the number of coordination steps (e.g., sync rounds, tree hops) does grow with chip count but only weakly. So overall we choose to model this with a ": ") оскільки при збільшенні кількості чипів удвічі жоден окремий чип не передає вдвічі більше даних: наприклад, у кільцевому all-reduce обсяг даних, який переміщує кожен чип, є сталим (приблизно подвоєний розмір моделі) незалежно від того, чи завдання виконується на 100 чипах, чи на 100 000, оскільки частки на чип зменшуються так само швидко, як зростає кількість кроків. Однак кількість кроків координації (наприклад, раундів синхронізації, переходів дерева) все ж зростає з кількістю чипів, хоча й слабко. Тож загалом ми обираємо моделювати це за допомогою ", ") because with 2x more chips any one chip does not move 2x more data: e.g., in a ring all-reduce the data each chip moves is constant (about twice the model size) whether the job runs on 100 chips or 100,000, since the per-chip chunks shrink as fast as the step count grows. However, the number of coordination steps (e.g., sync rounds, tree hops) does grow with chip count but only weakly. So overall we choose to model this with a": ") оскільки при збільшенні кількості чипів удвічі жоден окремий чип не передає вдвічі більше даних: наприклад, у кільцевому all-reduce обсяг даних, який переміщує кожен чип, є сталим (приблизно подвоєний розмір моделі) незалежно від того, чи завдання виконується на 100 чипах, чи на 100 000, оскільки частки на чип зменшуються так само швидко, як зростає кількість кроків. Однак кількість кроків координації (наприклад, раундів синхронізації, переходів дерева) все ж зростає з кількістю чипів, хоча й слабко. Тож загалом ми обираємо моделювати це за допомогою", " exponent.": " показника степеня.", "exponent.": "показника степеня.", "A.7 Combining bottlenecks": "A.7 Поєднання вузьких місць", "We combine the two penalties above with the compute bottleneck, weighted by importance shares ": "Ми поєднуємо два штрафи вище з обчислювальним вузьким місцем, зважуючи їх за частками важливості ", "We combine the two penalties above with the compute bottleneck, weighted by importance shares": "Ми поєднуємо два штрафи вище з обчислювальним вузьким місцем, зважуючи їх за частками важливості", "\\alpha_C + \\alpha_B + \\alpha_N = 1": "\\alpha_C + \\alpha_B + \\alpha_N = 1", ". Compute carries no penalty (it's 1 by definition because the penalties are compute-over-resource ratios, and for compute itself that ratio is just ": ". Обчислювальна потужність не несе штрафу (він дорівнює 1 за визначенням, оскільки штрафи — це співвідношення обчислювальної потужності до ресурсу, а для самої обчислювальної потужності це співвідношення дорівнює просто ", ". Compute carries no penalty (it's 1 by definition because the penalties are compute-over-resource ratios, and for compute itself that ratio is just": ". Обчислювальна потужність не несе штрафу (він дорівнює 1 за визначенням, оскільки штрафи — це співвідношення обчислювальної потужності до ресурсу, а для самої обчислювальної потужності це співвідношення дорівнює просто", "), so ": "), тож ", "), so": "), тож", "\\alpha_C": "\\alpha_C", " is just the share of work we model as compute-bound, with ": " — це просто частка роботи, яку ми моделюємо як обмежену обчислювальною потужністю, а ", "is just the share of work we model as compute-bound, with": "— це просто частка роботи, яку ми моделюємо як обмежену обчислювальною потужністю, а", "\\alpha_B": "\\alpha_B", "\\alpha_N": "\\alpha_N", " the shares set by the memory-bandwidth and networking penalties. We use a power mean rather than a hard bottleneck so the resources can partly trade off, with a default ": " — частки, задані штрафами за пропускну здатність пам’яті та за мережу відповідно. Ми використовуємо степеневе середнє замість жорсткого вузького місця, щоб ресурси могли частково компенсувати одне одного, зі значенням за замовчуванням ", "the shares set by the memory-bandwidth and networking penalties. We use a power mean rather than a hard bottleneck so the resources can partly trade off, with a default": "— частки, задані штрафами за пропускну здатність пам’яті та за мережу відповідно. Ми використовуємо степеневе середнє замість жорсткого вузького місця, щоб ресурси могли частково компенсувати одне одного, зі значенням за замовчуванням", "D_j = \\left(\\alpha_C + \\alpha_B\\,\\tau_B^{\\,q} + \\alpha_N\\,\\tau_{N,j}^{\\,q}\\right)^{1/q},": "D_j = \\left(\\alpha_C + \\alpha_B\\,\\tau_B^{\\,q} + \\alpha_N\\,\\tau_{N,j}^{\\,q}\\right)^{1/q},", " is the slowdown relative to the H100 anchor. (": " — це сповільнення відносно еталона H100. (", "is the slowdown relative to the H100 anchor. (": "— це сповільнення відносно еталона H100. (", " is a simple Amdahl-style weighted average; ": " — це просте зважене середнє у стилі Амдала; ", "is a simple Amdahl-style weighted average;": "— це просте зважене середнє у стилі Амдала;", ", the default, makes large bottlenecks bite harder. In CES terms ": ", значення за замовчуванням, змушує великі вузькі місця відчуватися сильніше. У термінах CES ", ", the default, makes large bottlenecks bite harder. In CES terms": ", значення за замовчуванням, змушує великі вузькі місця відчуватися сильніше. У термінах CES", " corresponds to an elasticity of substitution ": " відповідає еластичності заміщення ", "corresponds to an elasticity of substitution": "відповідає еластичності заміщення", "\\sigma = 1/(1+q) = 0.4": "\\sigma = 1/(1+q) = 0.4", " between the resources). The usefulness adjustment is the weighted average of the penalty across workloads:": " між ресурсами). Коефіцієнт корисності — це зважене середнє штрафу за всіма робочими навантаженнями:", "between the resources). The usefulness adjustment is the weighted average of the penalty across workloads:": "між ресурсами). Коефіцієнт корисності — це зважене середнє штрафу за всіма робочими навантаженнями:", "U = \\sum_j \\omega_j \\frac{1}{D_j}, \\qquad \\text{effective H100e} = C_{\\rm cluster}\\,U.": "U = \\sum_j \\omega_j \\frac{1}{D_j}, \\qquad \\text{effective H100e} = C_{\\rm cluster}\\,U.", "A.8 Full equation": "A.8 Повне рівняння", "\\text{effective H100e} = C_{\\rm cluster}\\, U": "\\text{effective H100e} = C_{\\rm cluster}\\, U", "where the usefulness adjustment ": "де коефіцієнт корисності ", "where the usefulness adjustment": "де коефіцієнт корисності", " is": " дорівнює", "is": "дорівнює", "\\boxed{\\;U = \\sum_j \\omega_j\\left(\\alpha_C + \\alpha_B\\left[\\frac{C/C_0}{B/B_0}\\right]^{q} + \\alpha_N\\left[\\left(\\frac{n_j}{n_{0,j}}\\right)^{\\gamma}\\frac{C}{C_0}\\frac{R_j}{R_{0,j}}\\right]^{q}\\right)^{-1/q}\\;}": "\\boxed{\\;U = \\sum_j \\omega_j\\left(\\alpha_C + \\alpha_B\\left[\\frac{C/C_0}{B/B_0}\\right]^{q} + \\alpha_N\\left[\\left(\\frac{n_j}{n_{0,j}}\\right)^{\\gamma}\\frac{C}{C_0}\\frac{R_j}{R_{0,j}}\\right]^{q}\\right)^{-1/q}\\;}", "A.9 Why this satisfies the desired properties": "A.9 Чому це задовольняє бажані властивості", "Property 1: anchor raw equals effective.": "Властивість 1: номінальне значення еталона дорівнює ефективному.", " In the anchor ": " В еталоні ", "In the anchor": "В еталоні", "C = C_0,\\ B = B_0,\\ M = M_0,\\ SU = SU_0,\\ SO = SO_0,\\ W = W_0": "C = C_0,\\ B = B_0,\\ M = M_0,\\ SU = SU_0,\\ SO = SO_0,\\ W = W_0", ", so ": ", тож ", ", so": ", тож", "\\tau_B = 1": "\\tau_B = 1", "\\tau_{N,j} = 1": "\\tau_{N,j} = 1", ". Hence ": ". Отже, ", ". Hence": ". Отже,", "D_j = (\\alpha_C + \\alpha_B + \\alpha_N)^{1/q} = 1": "D_j = (\\alpha_C + \\alpha_B + \\alpha_N)^{1/q} = 1", " and effective H100e ": " і ефективні H100e ", "and effective H100e": "і ефективні H100e", " exactly.": " точно.", "exactly.": "точно.", "Property 2: more resources help.": "Властивість 2: більше ресурсів допомагає.", " Increasing ": " Збільшення ", "Increasing": "Збільшення", " lowers ": " знижує ", "lowers": "знижує", "\\tau_B": "\\tau_B", ". Increasing ": ". Збільшення ", ". Increasing": ". Збільшення", " lowers the footprint ": " знижує слід ", "lowers the footprint": "знижує слід", ", hence ": ", отже, ", ", hence": ", отже,", "\\tau_{N,j}": "\\tau_{N,j}", " raises ": " підвищує ", "raises": "підвищує", ", shifting traffic from slow scale-out to fast scale-up (which helps when ": ", перенаправляючи трафік з повільного масштабування вшир на швидке масштабування вгору (що допомагає, коли ", ", shifting traffic from slow scale-out to fast scale-up (which helps when": ", перенаправляючи трафік з повільного масштабування вшир на швидке масштабування вгору (що допомагає, коли", "SU > SO": "SU > SO", "); the effect saturates once ": "); ефект насичується, щойно ", "); the effect saturates once": "); ефект насичується, щойно", "W \\ge C_{\\rm job}": "W \\ge C_{\\rm job}", ", i.e. once the workload already fits inside the scale-up world. Each raises effective H100e.": ", тобто щойно навантаження вже вміщується всередині світу масштабування вгору. Кожен з них підвищує ефективні H100e.", "Property 3: same total compute, smaller chips.": "Властивість 3: та сама сумарна обчислювальна потужність, менші чипи.", " Rebuild the anchor cluster from chips that are ": " Перебудуємо еталонний кластер із чипів, які є ", "Rebuild the anchor cluster from chips that are": "Перебудуємо еталонний кластер із чипів, які є", "k\\times": "k\\times", " weaker on every per-chip metric but ": " слабшими за кожною метрикою на чип, але ", "weaker on every per-chip metric but": "слабшими за кожною метрикою на чип, але", " more numerous, so the cluster totals are unchanged: ": " численнішими, тож сумарні показники кластера залишаються незмінними: ", "more numerous, so the cluster totals are unchanged:": "численнішими, тож сумарні показники кластера залишаються незмінними:", "C' = C_0/k,\\ B' = B_0/k,\\ M' = M_0/k,\\ SU' = SU_0/k,\\ SO' = SO_0/k": "C' = C_0/k,\\ B' = B_0/k,\\ M' = M_0/k,\\ SU' = SU_0/k,\\ SO' = SO_0/k", " the chip count and the same workloads ": " кількість чипів і ті самі робочі навантаження ", "the chip count and the same workloads": "кількість чипів і ті самі робочі навантаження", "C_{{\\rm job},j}": "C_{{\\rm job},j}", "Total raw H100e is identical, yet usefulness falls below 1, because each job must now span more chips. The footprint grows superlinearly because the two per-chip cuts compound: weaker compute means each chip holds only ": "Сумарні номінальні H100e ідентичні, проте корисність падає нижче 1, оскільки кожному завданню тепер доводиться охоплювати більше чипів. Слід зростає супралінійно, бо два скорочення на чип накопичуються: слабша обчислювальна потужність означає, що кожен чип утримує лише ", "Total raw H100e is identical, yet usefulness falls below 1, because each job must now span more chips. The footprint grows superlinearly because the two per-chip cuts compound: weaker compute means each chip holds only": "Сумарні номінальні H100e ідентичні, проте корисність падає нижче 1, оскільки кожному завданню тепер доводиться охоплювати більше чипів. Слід зростає супралінійно, бо два скорочення на чип накопичуються: слабша обчислювальна потужність означає, що кожен чип утримує лише", " of the job, needing ": " завдання, що вимагає ", "of the job, needing": "завдання, що вимагає", " more chips, and smaller memory inflates that by a further ": " чипів більше, а менша пам'ять роздуває це ще на додаткові ", "more chips, and smaller memory inflates that by a further": "чипів більше, а менша пам'ять роздуває це ще на додаткові", "k^{\\delta}": "k^{\\delta}", " (by the memory elasticity ": " (за рахунок еластичності пам'яті ", "(by the memory elasticity": "(за рахунок еластичності пам'яті", "), so the chip count rises by ": "), тож кількість чипів зростає до ", "), so the chip count rises by": "), тож кількість чипів зростає до", "k^{1+\\delta}": "k^{1+\\delta}", ", more than ": ", що більше ніж ", ", more than": ", що більше ніж", " since ": " оскільки ", "since": "оскільки", "\\delta > 0": "\\delta > 0", "\\frac{n'_j}{n_{0,j}} = \\frac{C_0}{C'}\\left(\\frac{M_0}{M'}\\right)^{\\delta} = k \\cdot k^{\\delta} = k^{1+\\delta}": "\\frac{n'_j}{n_{0,j}} = \\frac{C_0}{C'}\\left(\\frac{M_0}{M'}\\right)^{\\delta} = k \\cdot k^{\\delta} = k^{1+\\delta}", "Bandwidth balance is unchanged, and in ": "Баланс пропускної здатності залишається незмінним, а в ", "Bandwidth balance is unchanged, and in": "Баланс пропускної здатності залишається незмінним, а в", " the per-chip compute and the inverse-network cancel (smaller per-chip compute is offset by a correspondingly slower network), leaving only the footprint term:": " обчислення на чип і обернена мережа взаємно скасовуються (менші обчислення на чип компенсуються відповідно повільнішою мережею), залишаючи лише доданок footprint:", "the per-chip compute and the inverse-network cancel (smaller per-chip compute is offset by a correspondingly slower network), leaving only the footprint term:": "обчислення на чип і обернена мережа взаємно скасовуються (менші обчислення на чип компенсуються відповідно повільнішою мережею), залишаючи лише доданок footprint:", "\\tau'_B = \\frac{C'/C_0}{B'/B_0} = \\frac{1/k}{1/k} = 1, \\qquad\n\\tau'_{N,j} = \\left(\\frac{n_'j}{n_{0,j}}\\right)^{\\gamma}\\frac{C'}{C_0}\\frac{R'_j}{R_{0,j}} \\;\\gtrsim\\; \\big(k^{1+\\delta}\\big)^{\\gamma}\\cdot\\underbrace{\\frac{1}{k}\\cdot k}_{=\\,1} \\;=\\; k^{(1+\\delta)\\gamma} > 1.": "\\tau'_B = \\frac{C'/C_0}{B'/B_0} = \\frac{1/k}{1/k} = 1, \\qquad\n\\tau'_{N,j} = \\left(\\frac{n_'j}{n_{0,j}}\\right)^{\\gamma}\\frac{C'}{C_0}\\frac{R'_j}{R_{0,j}} \\;\\gtrsim\\; \\big(k^{1+\\delta}\\big)^{\\gamma}\\cdot\\underbrace{\\frac{1}{k}\\cdot k}_{=\\,1} \\;=\\; k^{(1+\\delta)\\gamma} > 1.", "Hence": "Отже", "D'_j \\gtrsim \\left(\\alpha_C + \\alpha_B + \\alpha_N\\,k^{(1+\\delta)\\gamma q}\\right)^{1/q} > 1,\n\\qquad\nU = \\sum_j \\frac{\\omega_j}{D'_j} < 1.": "D'_j \\gtrsim \\left(\\alpha_C + \\alpha_B + \\alpha_N\\,k^{(1+\\delta)\\gamma q}\\right)^{1/q} > 1,\n\\qquad\nU = \\sum_j \\frac{\\omega_j}{D'_j} < 1.", "same total compute, ": "той самий сумарний обсяг обчислень, ", "same total compute,": "той самий сумарний обсяг обчислень,", " more chips each ": " більше чипів, кожен ", "more chips each": "більше чипів, кожен", " weaker": " слабший", "weaker": "слабший", "usefulness": "корисність", "\\boxed{\\;\\text{same total compute, } k\\times \\text{ more chips each } k\\times \\text{ weaker} \\;\\Rightarrow\\; \\text{usefulness} < 1\\;}": "\\boxed{\\;\\text{same total compute, } k\\times \\text{ more chips each } k\\times \\text{ weaker} \\;\\Rightarrow\\; \\text{usefulness} < 1\\;}", "With the default parameters the usefulness adjustment is:": "За стандартних параметрів коригування корисності дорівнює:", "U = \\frac{1}{D(k)} \\approx \\left(\\alpha_C + \\alpha_B + \\alpha_N\\,k^{(1+\\delta)\\gamma q}\\right)^{-1/q} = \\left(0.75 + 0.25\\,k^{0.3375}\\right)^{-2/3},": "U = \\frac{1}{D(k)} \\approx \\left(\\alpha_C + \\alpha_B + \\alpha_N\\,k^{(1+\\delta)\\gamma q}\\right)^{-1/q} = \\left(0.75 + 0.25\\,k^{0.3375}\\right)^{-2/3},", "which gives the following values for these values of ": "що дає такі значення для цих значень ", "which gives the following values for these values of": "що дає такі значення для цих значень", "usefulness adjustment ": "коригування корисності ", "usefulness adjustment": "коригування корисності", "For weaker chips (": "Для слабших чипів (", ") the penalty is real but moderate; it strengthens with larger ": ") штраф є реальним, але помірним; він посилюється зі збільшенням ", ") the penalty is real but moderate; it strengthens with larger": ") штраф є реальним, але помірним; він посилюється зі збільшенням", "\\gamma": "\\gamma", ", or ": ", або ", ", or": ", або", ", or when larger jobs spill from scale-up to scale-out. For ": ", або коли більші завдання переливаються з scale-up на scale-out. Для ", ", or when larger jobs spill from scale-up to scale-out. For": ", або коли більші завдання переливаються з scale-up на scale-out. Для", " (fewer but stronger chips, e.g. the ": " (менше, але сильніших чипів, наприклад ", "(fewer but stronger chips, e.g. the": "(менше, але сильніших чипів, наприклад", " row) the opposite holds and ": " рядок) вірне протилежне і ", "row) the opposite holds and": "рядок) вірне протилежне і", "A.10 Default parameters and results": "A.10 Стандартні параметри та результати", "Default parameters (uncertain, hand-picked):": "Стандартні параметри (невизначені, підібрані вручну):", "irreducible compute-bound share": "незвідна частка, обмежена обчисленнями", "memory-bandwidth-sensitive share": "частка, чутлива до пропускної здатності пам'яті", "networking-sensitive share": "частка, чутлива до мережі", "bottleneck sharpness (1 = Amdahl, →∞ = max)": "різкість вузького місця (1 = Амдал, →∞ = максимум)", "how much low capacity inflates the footprint": "наскільки низька ємність роздуває footprint", "how much footprint size raises comms pressure": "наскільки розмір footprint підвищує навантаження на комунікації", "On our projection of the frontier workload size and the average resource properties of the different compute categories from §1.2, we get the following usefulness adjustment to the raw compute:": "За нашою проєкцією розміру передового робочого навантаження та середніх властивостей ресурсів різних категорій обчислювальних потужностей із §1.2 ми отримуємо таке коригування корисності до сирих обчислень:", "effective per raw (": "ефективних на сирі (", "Note that ": "Зауважте, що ", "Note that": "Зауважте, що", " is measured ": " вимірюється ", "is measured": "вимірюється", "per unit of raw compute": "на одиницю сирих обчислень", ", which is why non-AI servers score highest: a CPU server carries very little compute per chip but wraps it in generous memory, bandwidth, and datacenter networking, so each of its (few) H100e is unusually well fed. The AI fleet starts slightly above 1 (memory-rich H100s versus the anchor) and drifts toward 1 as the memory wall bites, while single-devices score far below 1 because they fail on networking, not compute.": ", тому сервери без ШІ мають найвищий бал: CPU-сервер несе дуже мало обчислень на чип, але забезпечує їх щедрою пам'яттю, пропускною здатністю та мережею дата-центру, тож кожен його (нечисленний) H100e незвично добре забезпечений. Флот ШІ починається трохи вище 1 (H100 з великим обсягом пам'яті порівняно з еталоном) і зсувається до 1 у міру того, як даються взнаки обмеження пам'яті (memory wall), тоді як single-devices мають бал значно нижче 1, оскільки не проходять за мережею, а не за обчисленнями.", "You can also run the model yourself: enter any chip/cluster spec below (or start from a preset) and read off its usefulness adjustment and effective H100e.": "Ви також можете самостійно запустити модель: введіть нижче будь-яку специфікацію чипа/кластера (або почніть із готового пресету) і зчитайте його коригування корисності та ефективний H100e.", "datacenter:": "дата-центр:", "H100 SXM (anchor)": "H100 SXM (еталон)", "A100 SXM": "A100 SXM", "B200 NVL72": "B200 NVL72", "Rubin Ultra NVL576 (est.)": "Rubin Ultra NVL576 (оцінка)", "CPU server": "CPU-сервер", "consumer:": "споживчі пристрої:", "budget Android": "бюджетний Android", "iPhone (A18 Pro)": "iPhone (A18 Pro)", "MacBook (M4 Pro)": "MacBook (M4 Pro)", "PS5": "PS5", "RTX 4060": "RTX 4060", "Per-chip spec": "Специфікація на чип", "TB/s": "TB/s", "GB": "GB", "workload year": "рік робочого навантаження", "Result": "Результат", "effective H100e per chip": "ефективний H100e на чип", " raw × ": " сирих × ", "raw ×": "сирих ×", " usefulness": " корисність", "By workload size": "За розміром робочого навантаження", "U = 1 (anchor)": "U = 1 (еталон)", "small jobs (1/10,000)": "малі завдання (1/10 000)", "medium jobs (1/100)": "середні завдання (1/100)", "large jobs (1/5)": "великі завдання (1/5)", "Usefulness calculator": "Калькулятор корисності", "Runs the exact appendix model (A.8) with the published parameters against the chosen year’s frontier scale. Headline U is the job-mix weighted average; the bars show each job size alone, so you can see where a spec pays its penalty: hatched ink above the U = 1 anchor line, red below. Compute in H100e (= TPP / 15,800); a chip with no real scale-up fabric is W = 1. Datacenter presets follow the supplement’s definition tables; the consumer devices and Rubin Ultra are rough public-spec estimates, with networking set to deployment-realistic sustained links (shared WiFi, home ethernet) rather than port peaks, which is what pulls consumer U down to the appendix table’s ~0.05-0.2 range. It also produces the model’s signature inversion: a budget phone outscores a flagship GPU per unit of compute, because more compute behind the same thin link is more stranded.": "Запускає точну модель з додатка (A.8) з опублікованими параметрами відносно передового масштабу обраного року. Головне значення U — це зважене середнє за міксом завдань; стовпчики показують кожен розмір завдання окремо, тож видно, де саме специфікація платить свій штраф: штрихування вище лінії еталону U = 1, червоний — нижче. Обчислення в H100e (= TPP / 15,800); чип без реальної тканини scale-up має W = 1. Пресети дата-центрів відповідають таблицям визначень із додатка; споживчі пристрої та Rubin Ultra — грубі оцінки на основі публічних специфікацій, де мережа задана як реалістичні для розгортання стійкі з'єднання (спільний Wi-Fi, домашній ethernet), а не пікові показники порту, що й тягне споживче U вниз до діапазону ~0,05-0,2 з таблиці додатка. Це також відтворює характерну інверсію моделі: бюджетний телефон обходить флагманський GPU на одиницю обчислень, бо більше обчислень за тим самим тонким каналом гірше забезпечені.", "Our AI-relevant definition is a threshold based on multiple hardware performance metrics, set just below an A100 explained further in ": "Наше визначення «релевантний для ШІ» — це поріг на основі кількох метрик продуктивності апаратного забезпечення, встановлений трохи нижче A100, детальніше пояснено в ", "Our AI-relevant definition is a threshold based on multiple hardware performance metrics, set just below an A100 explained further in": "Наше визначення «релевантний для ШІ» — це поріг на основі кількох метрик продуктивності апаратного забезпечення, встановлений трохи нижче A100, детальніше пояснено в", "By nation of the company that owns the compute split into the US, China, or the Rest of the World.": "За країною компанії, якій належать обчислювальні потужності, з поділом на США, Китай або решту світу.", "Peak dense (no-sparsity) tera-operations per second ": "Пікові щільні (без розрідженості) тера-операції за секунду ", "Peak dense (no-sparsity) tera-operations per second": "Пікові щільні (без розрідженості) тера-операції за секунду", " the bit-width at whichever precision runs fastest (e.g., FP16=16, FP8=8, FP4=4). An H100 has ": " розрядність за тією точністю, яка працює найшвидше (наприклад, FP16=16, FP8=8, FP4=4). H100 має ", "the bit-width at whichever precision runs fastest (e.g., FP16=16, FP8=8, FP4=4). An H100 has": "розрядність за тією точністю, яка працює найшвидше (наприклад, FP16=16, FP8=8, FP4=4). H100 має", "~15,800 TPP": "~15,800 TPP", " (1,979 FP8 TFLOP/s ": " (1,979 FP8 TFLOP/s ", "(1,979 FP8 TFLOP/s": "(1,979 FP8 TFLOP/s", " 8 bits); while a Blackwell B200 has around 2.3x as much (9,000 dense FP4 TFLOP/s x 4 bits = 36,000 TPP). This alone is already flawed as a metric given that lower bit precisions are treated proportionally less as their width: i.e., 2x smaller bit precision is 2x lower TPP but it is unclear whether 2x lower bitwidth is actually 2x less useful. It is a reasonable approximation because in theory 2x lower precision is 2x less pure information.": " 8 біт); тоді як Blackwell B200 має приблизно в 2.3x більше (9,000 щільних FP4 TFLOP/s x 4 біти = 36,000 TPP). Це вже саме по собі хибна метрика, оскільки нижчі розрядності точності враховуються пропорційно менше за своєю розрядністю: тобто вдвічі менша розрядність — це вдвічі нижчий TPP, але незрозуміло, чи вдвічі нижча розрядність насправді вдвічі менш корисна. Це прийнятне наближення, бо теоретично вдвічі нижча точність — це вдвічі менше чистої інформації.", "8 bits); while a Blackwell B200 has around 2.3x as much (9,000 dense FP4 TFLOP/s x 4 bits = 36,000 TPP). This alone is already flawed as a metric given that lower bit precisions are treated proportionally less as their width: i.e., 2x smaller bit precision is 2x lower TPP but it is unclear whether 2x lower bitwidth is actually 2x less useful. It is a reasonable approximation because in theory 2x lower precision is 2x less pure information.": "8 біт); тоді як Blackwell B200 має приблизно в 2.3x більше (9,000 щільних FP4 TFLOP/s x 4 біти = 36,000 TPP). Це вже саме по собі хибна метрика, оскільки нижчі розрядності точності враховуються пропорційно менше за своєю розрядністю: тобто вдвічі менша розрядність — це вдвічі нижчий TPP, але незрозуміло, чи вдвічі нижча розрядність насправді вдвічі менш корисна. Це прийнятне наближення, бо теоретично вдвічі нижча точність — це вдвічі менше чистої інформації.", "The H100 and A100 clear every floor; an RTX 4090 gaming GPU, by contrast, fails on memory capacity and networking despite high raw FLOP/s. The networking floor is the scale-out (NIC) bandwidth; a chip's NVLink-class scale-up bandwidth feeds the usefulness model but is not itself a cutoff for AI-relevance.": "H100 і A100 долають кожен поріг; ігровий GPU RTX 4090, навпаки, не проходить за обсягом пам'яті та мережею, попри високий сирий FLOP/s. Поріг за мережею — це пропускна здатність scale-out (NIC); пропускна здатність scale-up класу NVLink у чипа живить модель корисності, але сама по собі не є критерієм відсічення релевантності для ШІ.", "Around 100x lower than datacenter scale-out speed (roughly USB4/Thunderbolt speed). It is a broad definition, but in practice it mostly just captures chips used in datacenters.": "Приблизно в 100 разів нижче за швидкість scale-out дата-центру (приблизно на рівні швидкості USB4/Thunderbolt). Це широке визначення, але на практиці воно здебільшого охоплює саме чипи, що використовуються в дата-центрах.", "The actual ": "Фактичне ", "The actual": "Фактичне", "use": "використання", " of the chip is what these definitions are meant to capture: if someone connected up multiple laptops at sufficient cabled speed, that would become a non-AI-relevant ": " чипа — це те, що покликані вловити ці визначення: якби хтось з'єднав кілька ноутбуків дротовим з'єднанням достатньої швидкості, це перетворилося б на нерелевантний для ШІ ", "of the chip is what these definitions are meant to capture: if someone connected up multiple laptops at sufficient cabled speed, that would become a non-AI-relevant": "чипа — це те, що покликані вловити ці визначення: якби хтось з'єднав кілька ноутбуків дротовим з'єднанням достатньої швидкості, це перетворилося б на нерелевантний для ШІ", " (whereas the same laptops were non-AI-relevant ": " (тоді як ті самі ноутбуки були нерелевантними для ШІ як ", "(whereas the same laptops were non-AI-relevant": "(тоді як ті самі ноутбуки були нерелевантними для ШІ як", "single-devices": "single-devices", " before being connected).": " до того, як їх з'єднали).", "before being connected).": "до того, як їх з'єднали).", "Combined hyperscaler capex (Microsoft, Google, Amazon, Meta) plus neoclouds and sovereign funds grew ~1.7x/yr across 2023-2025. We decelerate the rate toward ~1.5x/yr as the absolute base grows, averaging ~1.6x/yr through 2028.": "Сукупні капітальні витрати гіперскейлерів (Microsoft, Google, Amazon, Meta) разом із неохмарами (neoclouds) та суверенними фондами зростали приблизно на ~1.7x/рік у 2023-2025 роках. Ми сповільнюємо темп до ~1.5x/рік у міру зростання абсолютної бази, у середньому ~1.6x/рік до 2028 року.", "H100e per dollar improves from die shrinks (N5→N3→N2), larger HBM stacks, and chiplet packaging, historically ~1.4x/yr. We hold that rate unchanged through 2028 rather than assuming an acceleration.": "H100e на долар покращується завдяки зменшенню розміру кристала (N5→N3→N2), більшим стекам HBM та чіплет-пакуванню, історично ~1.4x/рік. Ми утримуємо цей темп незмінним до 2028 року, а не припускаємо прискорення.", "To avoid double-counting we ": "Щоб уникнути подвійного врахування, ми ", "To avoid double-counting we": "Щоб уникнути подвійного врахування, ми", "exclude": "виключаємо", " the frontier AI revenue from the hyperscaler cash-flow line (the AI companies' cash spend shows up inside the hyperscalers' cash flow), so we subtract it out of recent-year cash flow and add it back as its own source. Frontier AI revenue has been a negligible share of hyperscaler cash flow thus far, so this is a minor adjustment.": " дохід передового ШІ з рядка грошового потоку гіперскейлерів (грошові витрати ШІ-компаній відображаються всередині грошового потоку гіперскейлерів), тож ми віднімаємо його з грошового потоку за останні роки й додаємо назад як окреме джерело. Дохід передового ШІ досі становив незначну частку грошового потоку гіперскейлерів, тож це незначне коригування.", "the frontier AI revenue from the hyperscaler cash-flow line (the AI companies' cash spend shows up inside the hyperscalers' cash flow), so we subtract it out of recent-year cash flow and add it back as its own source. Frontier AI revenue has been a negligible share of hyperscaler cash flow thus far, so this is a minor adjustment.": "дохід передового ШІ з рядка грошового потоку гіперскейлерів (грошові витрати ШІ-компаній відображаються всередині грошового потоку гіперскейлерів), тож ми віднімаємо його з грошового потоку за останні роки й додаємо назад як окреме джерело. Дохід передового ШІ досі становив незначну частку грошового потоку гіперскейлерів, тож це незначне коригування.", "The buildout is increasingly debt- and equity-funded. Alphabet priced a ~$20B bond in Feb 2026 (part of a ~$31.5B global raise that included a rare 100-year bond) to fund its ~$185B 2026 capex, on top of a ~$25B bond in Nov 2025 (its long-term debt quadrupled to ~$46.5B in 2025) (": "Розбудова дедалі більше фінансується за рахунок боргу та капіталу. Alphabet розмістила облігації на ~$20B у лютому 2026 року (частина глобального залучення на ~$31.5B, що включало рідкісну 100-річну облігацію) для фінансування своїх капітальних витрат на ~$185B у 2026 році, на додачу до облігацій на ~$25B у листопаді 2025 року (її довгостроковий борг зріс учетверо до ~$46.5B у 2025 році) (", "CNBC": "CNBC", "). Meta sold a $30B bond plus a ~$27B private-credit SPV for its Hyperion campus, and Oracle issued ~$18B (now the largest investment-grade non-financial debt issuer); in aggregate the five hyperscalers issued ~$121B of bonds in 2025, vs a ~$28B/yr norm (": "). Meta продала облігації на $30B плюс SPV приватного кредиту на ~$27B для свого кампуса Hyperion, а Oracle випустила ~$18B (тепер найбільший емітент боргу інвестиційного рівня серед нефінансових компаній); сукупно п'ять гіперскейлерів випустили облігацій на ~$121B у 2025 році проти норми ~$28B/рік (", "Fortune": "Fortune", "). On the equity side, SpaceX's record ~$75B IPO (June 2026) is partly earmarked for AI compute, backed by large compute-supply deals with Google and Anthropic (": "). З боку капіталу, рекордне IPO SpaceX на ~$75B (червень 2026 року) частково призначене для обчислювальних потужностей ШІ, підкріплене великими угодами про постачання обчислень із Google та Anthropic (", "TechCrunch": "TechCrunch", "These multiples are a simplification: debt is ultimately serviced out of margins rather than revenue, and the big issuers historically defend investment-grade (A-or-better) credit ratings, which caps the leverage they would accept. Taken at face value our path implies leverage that only stays investment-grade if lenders keep crediting the forecast revenue growth (cumulative 2025-28 debt is ~$1.6T against a ~$1T frontier-company ARR at the start of 2029). Ideally we would size debt from projected cash flows under explicit credit-rating constraints; we use the simple revenue multiple for now.": "Ці мультиплікатори є спрощенням: борг у кінцевому підсумку обслуговується з маржі, а не з доходу, а великі емітенти історично захищають кредитні рейтинги інвестиційного рівня (A або вище), що обмежує прийнятний для них рівень боргового навантаження. Якщо брати за номінал, наш шлях передбачає боргове навантаження, яке залишається інвестиційного рівня лише якщо кредитори й надалі закладатимуть прогнозоване зростання доходів (сукупний борг 2025-28 років становить ~$1.6T проти ARR передових компаній ~$1T на початку 2029 року). В ідеалі ми мали б визначати розмір боргу на основі прогнозованих грошових потоків за явних обмежень кредитного рейтингу; наразі ми використовуємо простий мультиплікатор доходу.", "The conversion is the time-average of the run-rate, which for exponential growth from ": "Перерахунок — це усереднений за часом темп (run-rate), який для експоненційного зростання від ", "The conversion is the time-average of the run-rate, which for exponential growth from": "Перерахунок — це усереднений за часом темп (run-rate), який для експоненційного зростання від", "A_start": "A_start", " to ": " до ", "to": "до", "A_end": "A_end", " is the ": " дорівнює ", "is the": "дорівнює", "logarithmic mean": "логарифмічному середньому", "0.4x the year-end ARR": "0.4x ARR наприкінці року", ". So an ARR path of $30B → $180B across 2026 recognizes ": ". Тож шлях ARR $30B → $180B протягом 2026 року дає визнаний дохід ", ". So an ARR path of $30B → $180B across 2026 recognizes": ". Тож шлях ARR $30B → $180B протягом 2026 року дає визнаний дохід", "~$84B of revenue in 2026": "~$84B у 2026 році", "Both leading-edge logic and HBM depend on EUV lithography, and EUV is the hardest link in the chain to scale on short notice: ASML is the sole supplier, each scanner costs >$200M with multi-year lead times, and the installed fleet grows only ~10-15%/yr, far slower than AI compute demand. Among the plausible bottlenecks (fab space, advanced packaging, power, EUV) we treat EUV tool-time as the binding (and most forecastable) one.": "І передова логіка, і HBM залежать від EUV-літографії, а EUV — найважча ланка в ланцюжку для швидкого масштабування: ASML є єдиним постачальником, кожен сканер коштує понад $200M з багаторічними термінами постачання, а встановлений парк зростає лише на ~10-15%/рік, що набагато повільніше за попит на обчислювальні потужності ШІ. Серед можливих вузьких місць (простір фабрик, передове пакування, енергія, EUV) ми розглядаємо час роботи EUV-обладнання як обмежувальний (і найбільш прогнозований) фактор.", "Installed compute is not pure cumulative production: we net out a slow chip-survival decay (a ~15-year half-life for AI accelerators, counting reuse and secondary markets), which trims the 2029 stock by ~3%. The same per-category retirement is applied to all compute in §1.2.": "Встановлені обчислювальні потужності — це не чисто накопичене виробництво: ми враховуємо повільне згасання «виживання» чипів (період напіврозпаду ~15 років для ШІ-акселераторів, з урахуванням повторного використання та вторинних ринків), що зменшує запас 2029 року приблизно на ~3%. Те саме вибуття по категоріях застосовується до всіх обчислювальних потужностей у §1.2.", "This treats the utilization rate (however much of the theoretical wafer capacity can actually convert into final compute, due to various yield and uptime factors) as collapsed into the final H100e per wafer numbers, rather than separating it out and considering H100e per \"good wafer\" x some utilization rate.": "Це трактує коефіцієнт утилізації (скільки саме з теоретичної потужності пластини реально перетворюється на кінцеві обчислення через різні фактори виходу придатних виробів та часу безвідмовної роботи) як уже вбудований у кінцеві показники H100e на пластину, а не як окремий множник, коли H100e на «добру пластину» множиться на певний коефіцієнт утилізації.", "Throughout this section we ignore the other DUV lithography (KrF, ArF-dry, i-line) as a mature tier that never binds; 'DUV' here means ArF-immersion (193i).": "У цьому розділі ми не враховуємо іншу DUV-літографію (KrF, ArF-dry, i-line) як зрілий рівень, що ніколи не є обмежувальним фактором; тут «DUV» означає ArF-імерсійну (193i).", "Concretely, we model ~360,000 effective exposure-passes per tool-year: about 50 wafers/hour against a ~160 wph nameplate spec, reflecting ~75 to 82% uptime plus exposure-dose, source-power and reticle-overhead losses. So \"100% utilization\" here means the fleet fully booked at the realistic sustained throughput a fab like TSMC already runs its tools at, not a literal 100%-uptime ceiling.": "Конкретно, ми моделюємо ~360,000 ефективних проходів експозиції на інструмент за рік: близько 50 пластин/годину проти номінальної специфікації ~160 wph, що відображає ~75-82% часу безвідмовної роботи плюс втрати на дозу експозиції, потужність джерела та накладні витрати на ретикул. Тож «100% утилізація» тут означає, що парк повністю завантажений на реалістичній стійкій пропускній здатності, на якій фабрика на кшталт TSMC уже й так експлуатує своє обладнання, а не буквальну стелю 100% часу безвідмовної роботи.", "Each category's end-of-year installed stock is the surviving prior stock plus that year's production, with survival modeled as geometric decay at a per-category half-life: about 12 years for phones, 16 for PCs and gaming, 14 for non-AI servers, 15 for AI accelerators, and 30 for the \"other\" tier (MCUs and the like), i.e. roughly 2 to 6% of the fleet retiring each year.": "Встановлений запас кожної категорії на кінець року — це той, що вижив із попереднього запасу, плюс виробництво цього року, при цьому виживання моделюється як геометричне згасання з періодом напіврозпаду для кожної категорії: близько 12 років для телефонів, 16 для ПК та ігрових пристроїв, 14 для серверів без ШІ, 15 для ШІ-акселераторів і 30 для «іншого» рівня (мікроконтролери тощо), тобто приблизно 2-6% парку вибуває щороку.", "At fixed compute, optimal tokens per active parameter rise about with the square root of sparsity (the ": "За фіксованого обсягу обчислень оптимальна кількість токенів на активний параметр зростає приблизно як квадратний корінь із розрідженості (", "At fixed compute, optimal tokens per active parameter rise about with the square root of sparsity (the": "За фіксованого обсягу обчислень оптимальна кількість токенів на активний параметр зростає приблизно як квадратний корінь із розрідженості (", "sparse-MoE ratio": "коефіцієнт розрідженості MoE", ", ~40 dense to ~240 at 30x), so total grows as ": ", ~40 для щільної моделі до ~240 при 30x), тож загальна кількість зростає як ", ", ~40 dense to ~240 at 30x), so total grows as": ", ~40 для щільної моделі до ~240 при 30x), тож загальна кількість зростає як", "\\sigma^{0.74}": "\\sigma^{0.74}", " rather than ": " а не як ", "rather than": "а не як", " itself, matching the small active counts of today's sparsest frontier models. Sparsity is a hand-set schedule, 8x today to 32x at the deal and 128x by 2040, that is mostly a very uncertain naive trend extrapolation.": " сама по собі, що відповідає малій кількості активних параметрів у сьогоднішніх найрозрідженіших передових моделях. Розрідженість — це задана вручну шкала: 8x сьогодні, 32x на момент Угоди і 128x до 2040 року, яка здебільшого є дуже невизначеною наївною екстраполяцією тренду.", "itself, matching the small active counts of today's sparsest frontier models. Sparsity is a hand-set schedule, 8x today to 32x at the deal and 128x by 2040, that is mostly a very uncertain naive trend extrapolation.": "сама по собі, що відповідає малій кількості активних параметрів у сьогоднішніх найрозрідженіших передових моделях. Розрідженість — це задана вручну шкала: 8x сьогодні, 32x на момент Угоди і 128x до 2040 року, яка здебільшого є дуже невизначеною наївною екстраполяцією тренду.", "Formally ": "Формально ", "Formally": "Формально", "max": "max", "n_j = \\max(1,\\, n_{{\\rm req},j})": "n_j = \\max(1,\\, n_{{\\rm req},j})", ", i.e., a job small enough to fit on one chip still occupies a whole chip. This floor binds only in that edge case; for any workload large enough to span multiple chips it's inert and ": ", тобто завдання, достатньо мале, щоб уміститися на одному чипі, все одно займає цілий чип. Ця нижня межа діє лише в цьому крайньому випадку; для будь-якого робочого навантаження, достатньо великого, щоб охоплювати кілька чипів, вона неактивна і ", ", i.e., a job small enough to fit on one chip still occupies a whole chip. This floor binds only in that edge case; for any workload large enough to span multiple chips it's inert and": ", тобто завдання, достатньо мале, щоб уміститися на одному чипі, все одно займає цілий чип. Ця нижня межа діє лише в цьому крайньому випадку; для будь-якого робочого навантаження, достатньо великого, щоб охоплювати кілька чипів, вона неактивна і", "We are genuinely uncertain about this exponent. Some collectives scale well: a well-implemented tree all-reduce has latency ": "Ми справді не впевнені щодо цього показника степеня. Деякі колективні операції масштабуються добре: добре реалізований деревоподібний all-reduce має затримку ", "We are genuinely uncertain about this exponent. Some collectives scale well: a well-implemented tree all-reduce has latency": "Ми справді не впевнені щодо цього показника степеня. Деякі колективні операції масштабуються добре: добре реалізований деревоподібний all-reduce має затримку", "\\sim 2\\log_2 N": "\\sim 2\\log_2 N", " in the participant count ": " залежно від кількості учасників ", "in the participant count": "залежно від кількості учасників", " (NCCL's double binary trees hold latency roughly flat out to tens of thousands of GPUs, up to a 180x improvement at 24,576 GPUs on Summit) (": " (подвійні бінарні дерева NCCL утримують затримку приблизно незмінною аж до десятків тисяч GPU, з покращенням до 180x на 24,576 GPU на Summit) (", "(NCCL's double binary trees hold latency roughly flat out to tens of thousands of GPUs, up to a 180x improvement at 24,576 GPUs on Summit) (": "(подвійні бінарні дерева NCCL утримують затримку приблизно незмінною аж до десятків тисяч GPU, з покращенням до 180x на 24,576 GPU на Summit) (", "NVIDIA, ": "NVIDIA, ", "NVIDIA,": "NVIDIA,", "Massively Scale Your Deep Learning Training with NCCL 2.4": "Massively Scale Your Deep Learning Training with NCCL 2.4", "), which over the ": "), що в діапазоні ", "), which over the": "), що в діапазоні", " chip range is close to ": " чипів близько до ", "chip range is close to": "чипів близько до", ". Others are worse: ring algorithms have linear latency, and stragglers, contention, and imperfect compute/comms overlap push overhead higher. So ": ". Інші гірші: кільцеві алгоритми мають лінійну затримку, а відстаючі процеси, конкуренція за ресурси та недосконале накладання обчислень і комунікацій підвищують накладні витрати. Тож ", ". Others are worse: ring algorithms have linear latency, and stragglers, contention, and imperfect compute/comms overlap push overhead higher. So": ". Інші гірші: кільцеві алгоритми мають лінійну затримку, а відстаючі процеси, конкуренція за ресурси та недосконале накладання обчислень і комунікацій підвищують накладні витрати. Тож", " is a crude guess for weak sublinear growth.": " — це груба оцінка слабкого сублінійного зростання.", "is a crude guess for weak sublinear growth.": "— це груба оцінка слабкого сублінійного зростання.", "The footprint is ": "Footprint дорівнює ", "The footprint is": "Footprint дорівнює", "n_j = \\max!\\left(1,\\, \\frac{L_j S}{C}\\left(\\frac{M_0}{M}\\right)^{\\delta}\\right)": "n_j = \\max!\\left(1,\\, \\frac{L_j S}{C}\\left(\\frac{M_0}{M}\\right)^{\\delta}\\right)", " is as in §A.5.": " — як у §A.5.", "is as in §A.5.": "— як у §A.5.", "Each copy's KV cache is ~200 thousand tokens of live context at ~100 KB per token after attention compression. We grow it with model width (~active^0.5) times ~12x net context-length growth (agent contexts outgrowing further KV-compression progress, ~200k to ~2.4M tokens per copy), which leaves context at ~5% of general-purpose memory in 2040.": "KV-кеш кожної копії становить ~200 тисяч токенів живого контексту при ~100 КБ на токен після стиснення уваги (attention compression). Ми нарощуємо його разом із шириною моделі (~active^0.5), помноженою на ~12x чистого зростання довжини контексту (агентні контексти випереджають подальший прогрес стиснення KV, ~200k до ~2.4M токенів на копію), що залишає контекст на рівні ~5% пам'яті загального призначення у 2040 році.", "Sparsity does not change this: with a large batch every expert is hit each step, so the whole model gets read regardless. Batch-1 serving could read only the active bytes and run several times faster, but at a per-token cost nobody pays at scale; in this forecast that demand is served by the inference-specialized chips instead (the batch-1 ceiling ": "Розрідженість цього не змінює: за великого батчу кожен експерт задіюється на кожному кроці, тож уся модель все одно зчитується. Обслуговування з batch-1 могло б зчитувати лише активні байти й працювати в кілька разів швидше, але за такої вартості на токен, яку ніхто не платить у масштабі; у цьому прогнозі цей попит натомість обслуговують спеціалізовані для інференсу чипи (стеля batch-1 ", "Sparsity does not change this: with a large batch every expert is hit each step, so the whole model gets read regardless. Batch-1 serving could read only the active bytes and run several times faster, but at a per-token cost nobody pays at scale; in this forecast that demand is served by the inference-specialized chips instead (the batch-1 ceiling": "Розрідженість цього не змінює: за великого батчу кожен експерт задіюється на кожному кроці, тож уся модель все одно зчитується. Обслуговування з batch-1 могло б зчитувати лише активні байти й працювати в кілька разів швидше, але за такої вартості на токен, яку ніхто не платить у масштабі; у цьому прогнозі цей попит натомість обслуговують спеціалізовані для інференсу чипи (стеля batch-1", "\\rho\\sigma": "\\rho\\sigma", " is kept as a diagnostic in the ground-truth sheet). Carrying the cancellation to 2040 also presumes serving stays at today's large-batch, throughput-optimal operating point on chips whose bandwidth-to-capacity ratio follows the §2.2 path; if latency pressure instead reshaped general-purpose serving (smaller batches, latency-tuned parts), these speeds would drift up and copies down.": " залишається як діагностика в таблиці еталонних даних). Перенесення цього скасування на 2040 рік також передбачає, що обслуговування залишається в сьогоднішній точці роботи з великими батчами, оптимальній за пропускною здатністю, на чипах, чиє співвідношення пропускної здатності до обсягу пам'яті слідує траєкторії з §2.2; якщо натомість тиск затримки переформатував би загальне обслуговування (менші батчі, компоненти, налаштовані під затримку), ці швидкості зростали б, а кількість копій — знижувалась.", "is kept as a diagnostic in the ground-truth sheet). Carrying the cancellation to 2040 also presumes serving stays at today's large-batch, throughput-optimal operating point on chips whose bandwidth-to-capacity ratio follows the §2.2 path; if latency pressure instead reshaped general-purpose serving (smaller batches, latency-tuned parts), these speeds would drift up and copies down.": "залишається як діагностика в таблиці еталонних даних). Перенесення цього скасування на 2040 рік також передбачає, що обслуговування залишається в сьогоднішній точці роботи з великими батчами, оптимальній за пропускною здатністю, на чипах, чиє співвідношення пропускної здатності до обсягу пам'яті слідує траєкторії з §2.2; якщо натомість тиск затримки переформатував би загальне обслуговування (менші батчі, компоненти, налаштовані під затримку), ці швидкості зростали б, а кількість копій — знижувалась.", "Two caveats on interpretation: reasoning models spend many tokens per finished task, so useful work per second lags raw tokens; and these are copies of the frontier model alone, where the scenario's worker counts (a hundred billion human-speed-equivalents by 2036) also include smaller distilled models, with the frontier-model copies here supplying about 20% of that total in token terms.": "Два застереження щодо інтерпретації: моделі міркування витрачають багато токенів на одне завершене завдання, тому корисна робота за секунду відстає від сирої кількості токенів; і це копії лише передової моделі, тоді як кількість «працівників» у сценарії (сто мільярдів еквівалентів людської швидкості до 2036 року) також включає менші дистильовані моделі, причому копії передової моделі тут забезпечують близько 20% цього загального обсягу в токенах.", "Section 1: Overview of our strategy for covert project mitigation": "Розділ 1: Огляд нашої стратегії зменшення ризиків таємних проєктів", "Section 2: Preventing covert compute procurement": "Розділ 2: Запобігання таємній закупівлі обчислювальних потужностей", "Section 3: Detecting covert AI infrastructure": "Розділ 3: Виявлення таємної інфраструктури ШІ", "Section 4: Limiting Consortium uplift to covert projects": "Розділ 4: Обмеження підсилення, яке Консорціум надає таємним проєктам", "Section 5: When is a covert project catastrophic?": "Розділ 5: Коли таємний проєкт стає катастрофічним?", "Section 6: Overall risk estimate": "Розділ 6: Загальна оцінка ризику", "Section 7: Covert project response plan": "Розділ 7: План реагування на таємний проєкт", "In the Plan A scenario, we propose international coordination to develop AI safely. Keeping risk at an acceptable level requires substantial slowdowns in the pace of AI development. A central blocker for this type of coordination is the risk that one party develops AI in secret, thus gaining an advantage.": "У сценарії Плану А ми пропонуємо міжнародну координацію для безпечного розвитку ШІ. Утримання ризику на прийнятному рівні вимагає суттєвого сповільнення темпів розвитку ШІ. Головна перешкода для такого типу координації — ризик того, що одна зі сторін розвиватиме ШІ таємно, отримуючи таким чином перевагу.", "Fortunately, it seems very hard to build and operate covert AI datacenters in a way that would be catastrophic. In the rest of this supplement, we’ll analyze how difficult it would be for China to defect from Plan A in secret, and the mitigations that can be put in place to prevent defection.": "На щастя, здається дуже складним побудувати й експлуатувати таємні дата-центри для ШІ так, щоб це мало катастрофічні наслідки. У решті цього додатка ми проаналізуємо, наскільки складно було б Китаю таємно відступити від Плану А, а також заходи, які можна запровадити для запобігання такому відступу.", "What successful defection would require": "Що знадобилося б для успішного відступу від Плану А", "In summary, optimally subverting a competent implementation of our recommended Plan A policies would require China to:": "Коротко кажучи, щоб оптимально обійти грамотну реалізацію рекомендованої нами політики Плану А, Китаю знадобилося б:", "Decide to begin diverting chips before the chip transparency agreements are made (in the Plan A scenario, this would need to occur in 2028).": "Ухвалити рішення почати перенаправлення чипів ще до укладення угод про прозорість постачання чипів (за сценарієм Плану А це мало б відбутися у 2028 році).", "Acquire on the order of 1.5M H100e (around 7% of counterfactual EOY 2028 Chinese stock) without being detected. The most promising options for acquiring this compute are: (i) diverting smuggled chips over the course of 2028, (ii) diverting older chips by claiming to have decommissioned and recycled them, and (iii) coordinating falsified production records across the semiconductor supply chain to hide some pre-deal production.": "Отримати приблизно 1.5M H100e (близько 7% контрфактичного китайського запасу станом на кінець 2028 року) непоміченими. Найперспективніші варіанти отримання цих обчислювальних потужностей: (i) перенаправлення контрабандних чипів протягом 2028 року, (ii) перенаправлення старіших чипів під приводом їх виведення з експлуатації та переробки, та (iii) координація фальсифікованих виробничих записів по всьому ланцюгу постачання напівпровідників, щоб приховати частину виробництва, здійсненого до Угоди.", "Build illegal datacenters without being detected. The most promising strategy we’re aware of for doing this is to locate the datacenters underground to avoid satellite detection.": "Побудувати нелегальні дата-центри непоміченими. Найперспективніша відома нам стратегія для цього — розташувати дата-центри під землею, щоб уникнути виявлення супутниками.", "Power and cool the underground datacenters. One strategy involves using small nuclear reactors to generate electricity onsite and rejecting heat by circulating water into a ": "Забезпечити підземні дата-центри електроживленням і охолодженням. Одна зі стратегій передбачає використання малих ядерних реакторів для вироблення електроенергії на місці та відведення тепла шляхом скидання води у ", "Power and cool the underground datacenters. One strategy involves using small nuclear reactors to generate electricity onsite and rejecting heat by circulating water into a": "Забезпечити підземні дата-центри електроживленням і охолодженням. Одна зі стратегій передбачає використання малих ядерних реакторів для вироблення електроенергії на місці та відведення тепла шляхом скидання води у", "large river": "велику річку", "deep water source": "глибоководне джерело", " in a way that avoids an IR-visible thermal plume.": " у спосіб, що дозволяє уникнути теплового шлейфу, видимого в інфрачервоному діапазоні.", "in a way that avoids an IR-visible thermal plume.": "у спосіб, що дозволяє уникнути теплового шлейфу, видимого в інфрачервоному діапазоні.", "Operate the sites without being detected for long enough to build extreme enough AI capabilities to significantly shift the geopolitical balance of power. This involves avoiding spies within the government, cyber operations, smarter AIs helping with covert project detection, satellite monitoring, and any agreed upon US/China government transparency (e.g. privacy preserving AIs reading classified info). If the US became suspicious (e.g. due to evidence from any of the items above), China would need to avoid giving concessions that would reveal their covert projects (e.g. physical US inspectors at potential covert project locations), while avoiding the possibility of the deal breaking down.": "Експлуатувати об'єкти непоміченими достатньо довго, щоб розвинути настільки екстремальні можливості ШІ, які суттєво змістили б геополітичний баланс сил. Це передбачає уникнення шпигунів у структурах уряду, кібероперацій, більш розумних ШІ-систем, які допомагають виявляти таємні проєкти, супутникового моніторингу та будь-якої узгодженої прозорості між урядами США та Китаю (наприклад, ШІ-систем, що читають засекречену інформацію із збереженням конфіденційності). Якщо США запідозрять щось (наприклад, через докази з будь-якого з перелічених вище пунктів), Китаю потрібно було б уникати поступок, які розкрили б їхні таємні проєкти (наприклад, фізичних інспекторів США на потенційних місцях розташування таємних проєктів), водночас уникаючи ризику зриву Угоди.", "Avoid the development or usage of lie detectors (or other AI tech that improves verification massively).": "Уникати розробки або використання детекторів брехні (чи іншої технології на основі ШІ, яка суттєво покращує верифікацію).", "China could also do a smaller covert project, which would have a proportionally smaller footprint and detection likelihood, but would also make slower progress towards strategically relevant AI capabilities.": "Китай також міг би реалізувати менший таємний проєкт, який мав би пропорційно менший слід і ймовірність виявлення, але й повільніше просувався б до стратегічно значущих можливостей ШІ.", "It will be impossible, in practice, for the US to confidently rule out a sufficiently small Chinese covert project. Therefore, the main questions of interest are:": "На практиці США не зможуть з упевненістю виключити наявність достатньо малого таємного проєкту Китаю. Тому головні питання, що нас цікавлять, такі:", "What is the largest size of covert project that can evade detection?": "Який найбільший розмір таємного проєкту може уникнути виявлення?", "On our current trajectory,": "За нашою поточною траєкторією,", " at what time do covert projects pose a threat to the integrity of the deal and global security?": " у який момент таємні проєкти починають становити загрозу цілісності Угоди та глобальній безпеці?", "at what time do covert projects pose a threat to the integrity of the deal and global security?": "у який момент таємні проєкти починають становити загрозу цілісності Угоди та глобальній безпеці?", "The answers to these questions will depend substantially on the overall scenario. However, in any scenario, the members of the Consortium will have the affordance to adjust their strategy to increase their lead over covert projects, primarily by reducing their rate of software progress at the cost of additional risk that the deal declines before sufficient alignment progress has been made, or by insisting on more robust detection technology before proceeding.": "Відповіді на ці питання істотно залежатимуть від загального сценарію. Однак за будь-якого сценарію учасники Консорціуму матимуть можливість коригувати свою стратегію, щоб збільшити відрив від таємних проєктів — насамперед шляхом уповільнення темпів прогресу програмного забезпечення, ціною додаткового ризику того, що Угода розпадеться до досягнення достатнього прогресу в узгодженні, або наполягаючи на надійнішій технології виявлення, перш ніж рухатися далі.", "This supplement outlines our plan for preventing this type of catastrophic defection from Plan A.": "Цей додаток описує наш план запобігання такому катастрофічному відступу від Плану А.", "Verification Supplement": "Додаток з верифікації", "Verify Legal": "Верифікувати легальні", "Verify": "Верифікація", "Industrial": "Індустріальний", "Explosion": "вибух", "Legal Fabs": "Легальні фаби", "Sections 5&6": "Розділи 5 і 6", "Bound overall risk": "Обмежити загальний ризик", "from covert projects": "від таємних проєктів", "Section 2": "Розділ 2", "Prevent": "Запобігти", "Pre-Deal Stock": "Запас до Угоди", "Section 3": "Розділ 3", "Detect": "Виявити", "Section 4": "Розділ 4", "Limit software": "Обмежити програмне забезпечення", "Limit uplift": "Обмежити підсилення", "from legal AIs": "від легальних ШІ", "Capability Scaling Supplement": "Додаток з масштабування можливостей", "Limit Legal": "Обмежити легальний", "Algorithmic": "алгоритмічний", "Progress": "прогрес", "Transparency Supplement": "додатку про прозорість", "Limit": "Обмежити", "Algorithmic Theft": "крадіжку алгоритмів", "Limit Model": "Обмежити крадіжку", "Weights Theft": "ваг моделі", "Limit hardware": "Обмежити апаратне забезпечення", "Post Deal": "Після Угоди", "Flow": "Потік", "This diagram gives an overview of our strategy for handling covert projects. Elements of the strategy are covered across four supplements, as pictured above. In this section, we’ll give an overview of the entire strategy.": "Ця діаграма дає загальний огляд нашої стратегії протидії таємним проєктам. Елементи стратегії висвітлено у чотирьох додатках, як показано вище. У цьому розділі ми надамо огляд усієї стратегії.", "Covert project mitigation strategy overview": "Огляд стратегії зменшення ризиків таємних проєктів", "Defection from Plan A can happen on legal datacenters or covert datacenters. The legal datacenters are approved for AI development or usage, but are subject to verification to ensure that they are following those rules. Verification of the legal servers is the primary focus of the ": "Відступ від Плану А може відбуватися на легальних дата-центрах або на таємних дата-центрах. Легальні дата-центри дозволені для розробки або використання ШІ, але підлягають верифікації, щоб переконатися, що вони дотримуються цих правил. Верифікація легальних серверів — головний фокус ", "Defection from Plan A can happen on legal datacenters or covert datacenters. The legal datacenters are approved for AI development or usage, but are subject to verification to ensure that they are following those rules. Verification of the legal servers is the primary focus of the": "Відступ від Плану А може відбуватися на легальних дата-центрах або на таємних дата-центрах. Легальні дата-центри дозволені для розробки або використання ШІ, але підлягають верифікації, щоб переконатися, що вони дотримуються цих правил. Верифікація легальних серверів — головний фокус", "This supplement will focus on the risk from covert projects, i.e. projects primarily using secret datacenters.": "Цей додаток зосереджується на ризику з боку таємних проєктів, тобто проєктів, які переважно використовують секретні дата-центри.", "The main way that we can limit covert projects is by limiting their amount of compute: the covert project datacenters must be very small in order to go unnoticed. We can limit covert project compute through a combination of ": "Головний спосіб обмежити таємні проєкти — обмежити обсяг доступних їм обчислювальних потужностей: дата-центри таємного проєкту мають бути дуже малими, щоб залишатися непоміченими. Ми можемо обмежити обчислювальні потужності таємного проєкту через поєднання ", "The main way that we can limit covert projects is by limiting their amount of compute: the covert project datacenters must be very small in order to go unnoticed. We can limit covert project compute through a combination of": "Головний спосіб обмежити таємні проєкти — обмежити обсяг доступних їм обчислювальних потужностей: дата-центри таємного проєкту мають бути дуже малими, щоб залишатися непоміченими. Ми можемо обмежити обчислювальні потужності таємного проєкту через поєднання", "preventing": "запобігання", " covert projects from acquiring compute and ": " отриманню обчислювальних потужностей таємними проєктами та ", "covert projects from acquiring compute and": "отриманню обчислювальних потужностей таємними проєктами та", "detecting": "виявлення", " covert datacenters once they are constructed.": " таємних дата-центрів після їх побудови.", "covert datacenters once they are constructed.": "таємних дата-центрів після їх побудови.", "Compute for covert datacenters can either come from “stock” (compute produced before 2029) or “flow” (compute produced during or after 2029). We are optimistic about very strong control of the flow of new chips because under Plan A compute production is extremely carefully monitored using highly controlled fabs. (Concretely, we should be able to keep diversion to approximately zero and have very high confidence that total diversion is less than 100k H100e.) Verifying the flow of new chips becomes somewhat more difficult during the industrial explosion because the abundance of robots may make it much more viable to construct a secret chip supply chain. The Consortium can prevent this through verification methods applied to the robot workforce.": "Обчислювальні потужності для таємних дата-центрів можуть надходити або із «запасу» (обчислювальні потужності, вироблені до 2029 року), або з «потоку» (обчислювальні потужності, вироблені під час або після 2029 року). Ми оптимістично налаштовані щодо дуже жорсткого контролю потоку нових чипів, оскільки за Плану А виробництво обчислювальних потужностей надзвичайно ретельно відстежується за допомогою суворо контрольованих фабрик. (Конкретніше, ми маємо бути здатні утримувати перенаправлення на рівні, близькому до нуля, і мати дуже високу впевненість, що сумарне перенаправлення становить менше 100k H100e.) Верифікація потоку нових чипів дещо ускладнюється під час індустріального вибуху, оскільки достаток роботів може значно полегшити побудову таємного ланцюга постачання чипів. Консорціум може запобігти цьому за допомогою методів верифікації, застосованих до робочої сили з роботів.", "The stock of compute is already distributed and thus much harder to find, so we predict that a potential covert project would acquire their compute from existing stock. This means that a key priority in Plan A is estimating pre-deal stock and accounting for a high fraction of it.": "Запас обчислювальних потужностей вже розподілений і тому його набагато важче знайти, тому ми прогнозуємо, що потенційний таємний проєкт отримуватиме свої обчислювальні потужності саме з наявного запасу. Це означає, що ключовим пріоритетом Плану А є оцінка запасу до Угоди та облік високої його частки.", "Our median estimate for the amount of compute a competently-executed PRC covert project could divert is roughly 1.5M H100e (.5% of world compute at EOY 2028, costing around $15B).": "Наша медіанна оцінка обсягу обчислювальних потужностей, які грамотно реалізований таємний проєкт КНР міг би перенаправити, становить приблизно 1.5M H100e (.5% світових обчислювальних потужностей станом на кінець 2028 року, вартістю близько $15B).", "Software is much harder to limit than hardware. However, if enough software leaks, even very small covert projects will be able to develop extremely capable AI. Software progress in covert projects can be broken down into two categories: progress acquired from legal projects and software progress from research done by the covert project itself.": "Програмне забезпечення обмежити значно складніше, ніж апаратне. Однак якщо витече достатньо програмного забезпечення, навіть дуже малі таємні проєкти зможуть розробити надзвичайно потужний ШІ. Прогрес програмного забезпечення в таємних проєктах можна розділити на дві категорії: прогрес, отриманий від легальних проєктів, і прогрес програмного забезпечення від досліджень, проведених самим таємним проєктом.", "Progress acquired from legal projects": "Прогрес, отриманий від легальних проєктів", ". For most AI algorithms, security will be nearly impossible.": ". Для більшості алгоритмів ШІ забезпечити безпеку буде майже неможливо.", " Therefore, our primary line of defense here is to limit algorithmic progress made by the legal projects. Still, this will be the primary way that covert projects acquire AI algorithms for the majority of Plan A.": " Тому наша головна лінія захисту тут — обмежити алгоритмічний прогрес, досягнутий легальними проєктами. Тим не менш, це залишатиметься основним способом, яким таємні проєкти здобуватимуть алгоритми ШІ протягом більшої частини дії Плану А.", "Therefore, our primary line of defense here is to limit algorithmic progress made by the legal projects. Still, this will be the primary way that covert projects acquire AI algorithms for the majority of Plan A.": "Тому наша головна лінія захисту тут — обмежити алгоритмічний прогрес, досягнутий легальними проєктами. Тим не менш, це залишатиметься основним способом, яким таємні проєкти здобуватимуть алгоритми ШІ протягом більшої частини дії Плану А.", "Software progress made by the covert project.": "Прогрес програмного забезпечення, досягнутий самим таємним проєктом.", " This will be slow by default because of the extreme limitations on compute under which covert projects are operating. Additionally, Plan A aims to prevent covert projects from being able to use the most capable available AI systems for AI R&D. But, they may be able to gain access to highly capable AIs through several routes which could dramatically accelerate the covert project rate of software progress:": " За замовчуванням цей прогрес буде повільним через екстремальні обмеження на обчислювальні потужності, в умовах яких діють таємні проєкти. Крім того, План А спрямований на те, щоб не дати таємним проєктам можливості використовувати найпотужніші доступні ШІ-системи для AI R&D. Однак вони можуть отримати доступ до дуже потужних ШІ-систем кількома шляхами, які можуть суттєво прискорити темпи прогресу програмного забезпечення таємного проєкту:", "This will be slow by default because of the extreme limitations on compute under which covert projects are operating. Additionally, Plan A aims to prevent covert projects from being able to use the most capable available AI systems for AI R&D. But, they may be able to gain access to highly capable AIs through several routes which could dramatically accelerate the covert project rate of software progress:": "За замовчуванням цей прогрес буде повільним через екстремальні обмеження на обчислювальні потужності, в умовах яких діють таємні проєкти. Крім того, План А спрямований на те, щоб не дати таємним проєктам можливості використовувати найпотужніші доступні ШІ-системи для AI R&D. Однак вони можуть отримати доступ до дуже потужних ШІ-систем кількома шляхами, які можуть суттєво прискорити темпи прогресу програмного забезпечення таємного проєкту:", "Distillation from the legal AIs.": "Дистиляція з легальних ШІ.", " We’re optimistic about ": " Ми оптимістично налаштовані щодо ", "We’re optimistic about": "Ми оптимістично налаштовані щодо", "mitigating distillation via standard techniques like hiding intermediate computation": "пом'якшення дистиляції за допомогою стандартних методів, як-от приховування проміжних обчислень", ", but still expect the covert project to have access to somewhat more capable AI systems due to distillation.": ", але все ж очікуємо, що завдяки дистиляції таємний проєкт матиме доступ до дещо потужніших ШІ-систем.", "Usage of the legal inference AIs to do AI research.": "Використання легальних ШІ для інференсу з метою проведення досліджень ШІ.", " This can be mitigated by refusals by default.": " Це можна пом'якшити за допомогою відмов за замовчуванням.", "This can be mitigated by refusals by default.": "Це можна пом'якшити за допомогою відмов за замовчуванням.", "Theft of the legal AIs and then training away refusals.": "Крадіжка легальних ШІ з подальшим тренуванням, що прибирає відмови.", " This can be mitigated by model weight security. We are much more optimistic about securing model weights than algorithms because of their size.": " Це можна пом'якшити за допомогою захисту ваг моделі. Ми набагато оптимістичніше налаштовані щодо захисту ваг моделі, ніж алгоритмів, через їхній розмір.", "This can be mitigated by model weight security. We are much more optimistic about securing model weights than algorithms because of their size.": "Це можна пом'якшити за допомогою захисту ваг моделі. Ми набагато оптимістичніше налаштовані щодо захисту ваг моделі, ніж алгоритмів, через їхній розмір.", "We estimate that, under competent US execution of our policies in Plan A, a competently-executed PRC diversion effort beginning one year in advance of the deal would be able to acquire ": "Ми оцінюємо, що за грамотної реалізації нашої політики США в межах Плану А, грамотно здійснювані зусилля КНР з перенаправлення, розпочаті за рік до укладення Угоди, дали б змогу отримати ", "We estimate that, under competent US execution of our policies in Plan A, a competently-executed PRC diversion effort beginning one year in advance of the deal would be able to acquire": "Ми оцінюємо, що за грамотної реалізації нашої політики США в межах Плану А, грамотно здійснювані зусилля КНР з перенаправлення, розпочаті за рік до укладення Угоди, дали б змогу отримати", "between": "від", "0.1% and 1.4% (80% CI)": "0.1% до 1.4% (80% ДІ)", " of the world’s AI-relevant compute at the start of the deal, without the US getting unambiguous evidence of violation. We show this in various units in the table below.": " світових обчислювальних потужностей, релевантних для ШІ, на момент початку дії Угоди, без отримання США однозначних доказів порушення. Ми показуємо це в різних одиницях у таблиці нижче.", "of the world’s AI-relevant compute at the start of the deal, without the US getting unambiguous evidence of violation. We show this in various units in the table below.": "світових обчислювальних потужностей, релевантних для ШІ, на момент початку дії Угоди, без отримання США однозначних доказів порушення. Ми показуємо це в різних одиницях у таблиці нижче.", "Median estimate": "Медіанна оцінка", "80% CI": "80% ДІ", "Fraction of world": "Частка світових", "(Using our median estimate of world compute in Jan 2029)": "(Використовуючи нашу медіанну оцінку світових обчислювальних потужностей станом на січень 2029 року)", "IT equipment cost": "Вартість ІТ-обладнання", "(Using our median estimate of $/H100e China would pay)": "(Використовуючи нашу медіанну оцінку ціни $/H100e, яку заплатив би Китай)", "Compared to our median estimate of the leading AI lab’s R&D compute in Jan 2029 ": "Порівняно з нашою медіанною оцінкою обчислювальних потужностей для AI R&D провідної ШІ-лабораторії станом на січень 2029 року ", "Compared to our median estimate of the leading AI lab’s R&D compute in Jan 2029": "Порівняно з нашою медіанною оцінкою обчислювальних потужностей для AI R&D провідної ШІ-лабораторії станом на січень 2029 року", "24x less": "24x менше", "[115x less, 9x less]": "[115x менше, 9x менше]", "The rest of Section 2 justifies these numbers.": "Решта Розділу 2 обґрунтовує ці цифри.", "In Section 2.1, we explain our verification approach, which centrally involves accurately determining the amount of compute in the world, then tracing sales to their end user to verify the physical location of as much pre-deal compute as possible.": "У Розділі 2.1 ми пояснюємо наш підхід до верифікації, який головним чином полягає в точному визначенні обсягу обчислювальних потужностей у світі, а потім відстеженні продажів до кінцевого користувача, щоб перевірити фізичне розташування якомога більшої частки обчислювальних потужностей, вироблених до Угоди.", "In Section 2.2, we describe the strategies covert projects could use to subvert our verification approach. All of these routes require taking action before the deal is implemented; here we assume China begins diversion one year prior to the deal:": "У Розділі 2.2 ми описуємо стратегії, які таємні проєкти могли б використати, щоб обійти наш підхід до верифікації. Усі ці шляхи вимагають вжиття заходів ще до впровадження Угоди; тут ми припускаємо, що Китай починає перенаправлення за рік до Угоди:", "Source": "Джерело", "Chip origin": "Походження чипів", "P(feasible)": "P(здійсненності)", "Median [80% CI]": "Медіана [80% ДІ]", "Smuggled Western chips": "Контрабандні західні чипи", "2028 flow": "потік 2028 року", "US-designed": "розроблені у США", "False decommissioning": "Фіктивне виведення з експлуатації", "pre-2028 stock": "запас до 2028 року", "Concealed domestic production": "Приховане внутрішнє виробництво", "stock + flow": "запас + потік", "China-designed": "розроблені в Китаї", "Exempt military compute": "Звільнені від верифікації військові обчислювальні потужності", "Verification-": "звільнені від ", "exempt": "верифікації", "either": "будь-яке", "Not estimated": "Не оцінено", "not estimated": "не оцінено", "Finally, in Section 2.3, we forecast how much compute each route would yield and make an aggregate estimate for how much compute a covert project could acquire.": "Нарешті, у Розділі 2.3 ми прогнозуємо, скільки обчислювальних потужностей дав би кожен із цих шляхів, і робимо сукупну оцінку того, скільки обчислювальних потужностей міг би отримати таємний проєкт.", "Section 2.1: Policies for limiting covert project compute acquisition": "Розділ 2.1: Політики для обмеження отримання обчислювальних потужностей таємними проєктами", "AI-relevant compute produced after Plan A is implemented is carefully tracked and monitored.": "Обчислювальні потужності, релевантні для ШІ, вироблені після впровадження Плану А, ретельно відстежуються та контролюються.", " Therefore, the most feasible path for covert projects to acquire compute during Plan A is from compute that was produced before the deal’s implementation date.": " Тому найреалістичніший шлях для таємних проєктів отримати обчислювальні потужності під час дії Плану А — це обчислювальні потужності, вироблені до дати впровадження Угоди.", "Therefore, the most feasible path for covert projects to acquire compute during Plan A is from compute that was produced before the deal’s implementation date.": "Тому найреалістичніший шлях для таємних проєктів отримати обчислювальні потужності під час дії Плану А — це обчислювальні потужності, вироблені до дати впровадження Угоди.", "The existing compute will eventually end up in one of the terminal states below:": "Наявні обчислювальні потужності зрештою опиняться в одному з кінцевих станів, наведених нижче:", "Actual Production": "Фактичне виробництво", "Declared Sales": "Задекларовані продажі", "Diverted": "Перенаправлено", "Traced and": "Відстежено та", "Inspected": "Перевірено", "Recorded": "Зафіксовано", "Unrecorded": "Незафіксовано", "Decommissioned": "Виведено з експлуатації", "Found and": "Знайдено та", "Not Found": "Не знайдено", "Recycled": "Перероблено", "Lost": "Втрачено", "Where pre-deal AI chips end up": "Де опиняються чипи ШІ, вироблені до Угоди", "In short, we recommend": "Коротко кажучи, ми рекомендуємо", "Tracing the records of the": "Відстеження записів про", "inputs": "вхідні матеріали", "to AI compute production to get an accurate idea of how much compute was actually produced before the deal,": " для виробництва обчислювальних потужностей ШІ, щоб отримати точне уявлення про те, скільки обчислювальних потужностей було фактично вироблено до Угоди,", "sales and resales": "продажів і перепродажів", "of finished AI compute to ultimately trace it to its current physical location": " готових обчислювальних потужностей ШІ, щоб зрештою відстежити їхнє поточне фізичне розташування", "Using incentive programs and aerial imagery to locate any compute whose sale was not recorded or is otherwise untraceable.": "Використання програм стимулювання та аерознімків для виявлення будь-яких обчислювальних потужностей, продаж яких не було зафіксовано або які іншим чином неможливо відстежити.", "Respectively, these are focused on the leftmost node of the flowchart, the blue tree within the flowchart, and the Unrecorded Sales section of the flowchart.": "Відповідно, вони зосереджені на найлівішому вузлі блок-схеми, синьому дереві всередині блок-схеми та розділі «Незафіксовані продажі» блок-схеми.", "Recommendation #1: Audit the semiconductor supply chain to get an accurate record of all pre-deal compute production": "Рекомендація №1: Провести аудит ланцюга постачання напівпровідників, щоб отримати точний облік усього виробництва обчислювальних потужностей до Угоди", "To exhaustively account for all pre-deal compute, we need to start from accurate declarations of pre-deal production. In other words, we need to ensure AI accelerator vendors (like Nvidia and Huawei) declare ": "Щоб вичерпно врахувати всі обчислювальні потужності, наявні до укладення угоди, потрібно почати з точних декларацій виробництва до угоди. Іншими словами, потрібно переконатися, що постачальники ШІ-прискорювачів (такі як Nvidia та Huawei) декларують ", "To exhaustively account for all pre-deal compute, we need to start from accurate declarations of pre-deal production. In other words, we need to ensure AI accelerator vendors (like Nvidia and Huawei) declare": "Щоб вичерпно врахувати всі обчислювальні потужності, наявні до укладення угоди, потрібно почати з точних декларацій виробництва до угоди. Іншими словами, потрібно переконатися, що постачальники ШІ-прискорювачів (такі як Nvidia та Huawei) декларують", "all": "усі", " of their pre-deal sales. To make underreporting of production as difficult as possible, we recommend that the US demand records from the various upstream suppliers involved in producing AI accelerators.": " свої продажі до угоди. Щоб максимально ускладнити заниження обсягів виробництва в звітності, ми рекомендуємо США вимагати записи від різних постачальників вищого рівня, залучених у виробництво ШІ-прискорювачів.", "of their pre-deal sales. To make underreporting of production as difficult as possible, we recommend that the US demand records from the various upstream suppliers involved in producing AI accelerators.": "свої продажі до угоди. Щоб максимально ускладнити заниження обсягів виробництва в звітності, ми рекомендуємо США вимагати записи від різних постачальників вищого рівня, залучених у виробництво ШІ-прискорювачів.", "Concretely, you would start with sales declarations from Nvidia and AMD for merchant GPUs; Broadcom and Marvell for custom AI accelerators; and Huawei and Cambricon in China. Then these companies would declare their inventories, suppliers, and purchase history, for example:": "Конкретно, почати варто з декларацій продажів від Nvidia та AMD для комерційних GPU; Broadcom і Marvell для кастомних ШІ-прискорювачів; та Huawei і Cambricon у Китаї. Потім ці компанії декларували б свої запаси, постачальників та історію закупівель, наприклад:", "logic fabrication from TSMC, Samsung Foundry, Intel Foundry, and SMIC;": "виготовлення логічних кристалів на TSMC, Samsung Foundry, Intel Foundry та SMIC;", "high-bandwidth memory from SK Hynix, Samsung, and Micron;": "пам'ять з високою пропускною здатністю від SK Hynix, Samsung та Micron;", "advanced packaging from ASE/SPIL, Amkor, and JCET.": "передове пакування від ASE/SPIL, Amkor та JCET.", "Then these upstream suppliers would declare ": "Потім ці постачальники вищого рівня декларували б ", "Then these upstream suppliers would declare": "Потім ці постачальники вищого рівня декларували б", " suppliers, purchases, inventory, and cumulative production. At each layer, the flows can be cross-checked, such that underreporting production without introducing inconsistencies would require some combination of": "своїх постачальників, закупівлі, запаси та сукупне виробництво. На кожному рівні потоки можна перехресно перевірити, тож заниження обсягів виробництва без появи невідповідностей вимагало б певної комбінації таких дій:", "suppliers, purchases, inventory, and cumulative production. At each layer, the flows can be cross-checked, such that underreporting production without introducing inconsistencies would require some combination of": "своїх постачальників, закупівлі, запаси та сукупне виробництво. На кожному рівні потоки можна перехресно перевірити, тож заниження обсягів виробництва без появи невідповідностей вимагало б певної комбінації таких дій:", "Underreporting purchases of upstream inputs, which means that the upstream supplier would also need to underreport production,": "заниження обсягів закупівель вихідних матеріалів вищого рівня, що означає, що постачальник вищого рівня також мав би занижувати виробництво,", "Overreporting inventories of an upstream input, which would be caught during physical inspection of the declared inventories": "завищення запасів вихідного матеріалу вищого рівня, що було б виявлено під час фізичної інспекції задекларованих запасів", "Overreporting losses in the production step, which would require all subsequent nodes to underreport their input flows to match.": "завищення втрат на етапі виробництва, що вимагало б від усіх наступних вузлів занижувати свої вхідні потоки, щоб вони збігалися.", "Notably, many of the suppliers involved in producing Chinese chips are not headquartered in China. It is conceivable that the PRC could coordinate this falsification regardless. To further deter the PRC from attempting to underreport production, the US can": "Варто зауважити, що штаб-квартири багатьох постачальників, залучених у виробництво китайських чипів, знаходяться не в Китаї. Цілком можливо, що КНР могла б координувати цю фальсифікацію попри це. Щоб додатково стримати КНР від спроб заниження обсягів виробництва, США можуть", "Interview employees at Chinese wafer foundries, accelerator vendors, etc. as part of a ": "Опитати співробітників китайських фабрик з виробництва кремнієвих пластин, постачальників прискорювачів тощо в межах ", "Interview employees at Chinese wafer foundries, accelerator vendors, etc. as part of a": "Опитати співробітників китайських фабрик з виробництва кремнієвих пластин, постачальників прискорювачів тощо в межах", "histleblower program": "програми для викривачів", "Use national intelligence (such as cyber operations, human sources, etc) in the years leading up to the deal to search for evidence of falsification in the Chinese supply chain": "Використати національну розвідку (наприклад, кібероперації, людські джерела тощо) в роки, що передують угоді, для пошуку доказів фальсифікації в китайському ланцюжку постачання", "We consider it likely but not certain that Chinese companies would make accurate disclosures under these conditions. Though we don’t include this as a core recommendation or rely on it in our estimates, the supply chain can and should take action before the deal to make the verification process easier (": "Ми вважаємо ймовірним, хоча й не гарантованим, що китайські компанії надаватимуть точні розкриття інформації за таких умов. Хоча ми не включаємо це як основну рекомендацію і не покладаємося на це в наших оцінках, ланцюжок постачання може і повинен вжити заходів ще до укладення угоди, щоб полегшити процес верифікації (", "example": "приклад", "Recommendation #2: Trace declared compute sales to their physical end-use location": "Рекомендація №2: Простежити задекларовані продажі обчислювальних потужностей до їхнього фізичного місця кінцевого використання", "Nvidia": "Nvidia", "Supermicro": "Supermicro", "Dell": "Dell", "CoreWeave": "CoreWeave", "Lambda": "Lambda", "(own site)": "(власний майданчик)", "Nebius": "Nebius", "Alibaba (China)": "Alibaba (Китай)", "own datacenters": "власні дата-центри", "Core Scientific": "Core Scientific", "(colo site)": "(колокейшн-майданчик)", "Switch": "Switch", "Shell company": "Фіктивна компанія", "renting space in a": ", що орендує площу в", "Malaysian datacenter": "малайзійському дата-центрі", "Reseller": "Перепродавець", "in China": "у Китаї", "End customer": "Кінцевий клієнт", "Tracing chip sales to end-use location": "Простеження продажів чипів до місця кінцевого використання", "We recommend that the Consortium verify the location of all pre-deal compute in two layers: exhaustively audit": "Ми рекомендуємо, щоб Консорціум верифікував місцезнаходження всіх обчислювальних потужностей, наявних до угоди, у два рівні: вичерпно перевірити", " every compute owner above a size threshold by tracing vendors’ sales records downward, and randomly sample the remaining tail of small owners, tracing each sampled unit of compute to its current physical location. The result is a certificate, at a chosen confidence level, upper-bounding how much compute could have been diverted to a covert project.": " кожного власника обчислювальних потужностей, що перевищує пороговий розмір, простежуючи записи продажів постачальників зверху вниз, а також випадково вибірково перевірити решту дрібних власників, простежуючи кожну вибрану одиницю обчислювальних потужностей до її поточного фізичного місцезнаходження. Результатом є сертифікат, що з обраним рівнем довіри встановлює верхню межу того, скільки обчислювальних потужностей могло бути відведено на таємний проєкт.", "every compute owner above a size threshold by tracing vendors’ sales records downward, and randomly sample the remaining tail of small owners, tracing each sampled unit of compute to its current physical location. The result is a certificate, at a chosen confidence level, upper-bounding how much compute could have been diverted to a covert project.": "кожного власника обчислювальних потужностей, що перевищує пороговий розмір, простежуючи записи продажів постачальників зверху вниз, а також випадково вибірково перевірити решту дрібних власників, простежуючи кожну вибрану одиницю обчислювальних потужностей до її поточного фізичного місцезнаходження. Результатом є сертифікат, що з обраним рівнем довіри встановлює верхню межу того, скільки обчислювальних потужностей могло бути відведено на таємний проєкт.", "Our auditing proposal in detail": "Наша пропозиція щодо аудиту детально", "Starting from Recommendation #1’s verified record of vendors’ sales to direct customers, audit every direct customer above a size threshold T, then every above-threshold customer of an audited firm, recursively, until all unaudited recipients are below T.": "Починаючи з верифікованого запису продажів постачальників прямим клієнтам із Рекомендації №1, перевіряти кожного прямого клієнта, що перевищує пороговий розмір T, а потім кожного клієнта перевіреної фірми, що перевищує поріг, рекурсивно, доки всі неперевірені отримувачі не опиняться нижче T.", "For example, you might set this threshold at 0.01% of pre-deal world compute (30k H100e, costing ~$200M at the time). T should be at or below the treaty’s target bound on covert project size, so that any firm large enough to constitute a covert project by itself is audited deterministically.": "Наприклад, цей поріг можна встановити на рівні 0,01% від світових обчислювальних потужностей станом до угоди (30 тис. H100e, що коштуватиме на той момент близько 200 млн дол.). T має бути на рівні або нижче цільової межі договору для розміру таємного проєкту, щоб будь-яка фірма, достатньо велика, щоб самостійно становити таємний проєкт, гарантовано підлягала перевірці.", "By “audit”, we mean “obtain all records of compute purchased, resold/transferred, or retained as inventory”, as well as “physically inspect any compute the firm presently owns”.": "Під «аудитом» ми маємо на увазі «отримати всі записи про придбані, перепродані/передані або утримувані як запас обчислювальні потужності», а також «фізично оглянути будь-які обчислювальні потужності, якими фірма наразі володіє».", "Some recorded outflows cannot be traced onward. These are added in full to an untraced pool L, and counted as potentially diverted. The two main cases:": "Деякі задокументовані відтоки неможливо простежити далі. Вони повністю додаються до непрослідкованого пулу L і враховуються як потенційно відведені. Два основні випадки:", "Sales to unauditable counterparties. If a firm’s records show a sale to a buyer that cannot be produced for audit (e.g. a shell company, or a smuggler who kept no onward records), the entire sale is added to L. Since T is at or below the target bound, a single such sale above T is enough to block certification, so the Consortium should also investigate the seller’s remaining records and refer the case to the tools of Recommendation #3.": "Продажі неперевірюваним контрагентам. Якщо записи фірми показують продаж покупцю, якого неможливо надати для аудиту (наприклад, фіктивній компанії або контрабандисту, який не вів подальших записів), весь продаж додається до L. Оскільки T перебуває на рівні або нижче цільової межі, одного такого продажу вище T достатньо, щоб заблокувати сертифікацію, тож Консорціум також має розслідувати решту записів продавця та передати справу до інструментів Рекомендації №3.", "Unverifiable decommissioning claims. If a firm claims to have scrapped or recycled compute, the Consortium cross-checks the claim against recycler-side records (recyclers are themselves auditable counterparties), serial numbers where available, and actuarial fleet-attrition rates. Amounts that pass these checks are accepted; the rest is added to L. As above, an unverifiable claim above T blocks certification and warrants investigation.": "Неперевірювані заяви про виведення з експлуатації. Якщо фірма заявляє, що утилізувала або переробила обчислювальні потужності, Консорціум перехресно перевіряє цю заяву за записами переробника (переробники самі є контрагентами, що підлягають аудиту), серійними номерами, де вони доступні, та актуарними показниками вибуття парку обладнання. Обсяги, що проходять ці перевірки, приймаються; решта додається до L. Як і вище, неперевірювана заява вище T блокує сертифікацію і вимагає розслідування.", "When this completes, every unit of pre-deal compute is either physically verified, added to L, or recorded as delivered to a below-threshold recipient. The verified record of these small deliveries (firm 1 received a_1 H100e, firm 2 received a_2, and so on) is the list Layer 2 samples from.": "Коли це завершено, кожна одиниця обчислювальних потужностей, наявних до угоди, або фізично верифікована, або додана до L, або задокументована як доставлена отримувачу нижче порогу. Верифікований запис цих малих поставок (фірма 1 отримала a_1 H100e, фірма 2 отримала a_2 і так далі) — це список, з якого Рівень 2 бере вибірку.", "Randomly sample H100e-units from that delivery record, and trace each sampled unit through any chain of resales until it either reaches a physically inspected chip or fails to.": "Випадково вибрати одиниці H100e із цього запису поставок і простежити кожну вибрану одиницю через будь-який ланцюжок перепродажів, доки вона або не дійде до фізично оглянутого чипа, або ні.", "Draw one unit uniformly at random from all compute recorded as delivered into the tail. This selects a recipient firm with probability proportional to how much it received. Audit that firm: the compute it verifiably received must equal current holdings plus recorded onward sales plus documented attrition, with holdings physically inspected.": "Вибрати одну одиницю рівномірно випадковим чином з усіх обчислювальних потужностей, задокументованих як доставлені у «хвіст». Це обирає фірму-отримувача з імовірністю, пропорційною тому, скільки вона отримала. Перевірити цю фірму: обчислювальні потужності, які вона верифіковано отримала, мають дорівнювати поточним запасам плюс задокументовані подальші продажі плюс задокументоване вибуття, з фізичною перевіркою запасів.", "Sales records don’t distinguish individual chips, so the sampled unit is resolved proportionally within the account. If the firm holds 200 of the 500 units it received, the trace ends here with probability 200/500, and a chip must be produced for inspection. Otherwise it follows a recorded onward sale to the buyer, where the audit repeats.": "Записи продажів не розрізняють окремі чипи, тож вибрана одиниця визначається пропорційно в межах рахунку. Якщо фірма утримує 200 з 500 отриманих одиниць, простеження закінчується тут з імовірністю 200/500, і чип має бути наданий для інспекції. В іншому випадку воно слідує за задокументованим подальшим продажем покупцю, де аудит повторюється.", "Each trace ends as a pass (a physically inspected chip) or a fail (an inspection shortfall, an unbalanced account, a buyer that cannot be produced, or an unverifiable decommissioning claim). An adversary who splits a large diversion across many sub-T shell buyers gains nothing: those sales appear in the delivery record, so sampled traces land on them in proportion to their size, and every such trace fails. Layer 2 then detects and measures the missing compute statistically.": "Кожне простеження завершується або успіхом (фізично оглянутий чип), або невдачею (нестача при інспекції, незбалансований рахунок, покупець, якого неможливо надати, або неперевірювана заява про виведення з експлуатації). Супротивник, який розподіляє велике відведення потужностей між багатьма фіктивними покупцями нижче T, нічого не виграє: ці продажі відображаються в записі поставок, тож вибрані простеження потрапляють на них пропорційно їхньому розміру, і кожне таке простеження завершується невдачею. Рівень 2 тоді статистично виявляє і вимірює відсутні обчислювальні потужності.", "Sampled audits occur with minimal advance notice, and inspectors record chip serial numbers at every inspection. The same serial appearing in two inspections at inconsistent times is itself a violation. Without both measures, a covert project could pass audits with temporarily borrowed chips.": "Вибіркові аудити проводяться з мінімальним завчасним повідомленням, і інспектори фіксують серійні номери чипів під час кожної інспекції. Поява того самого серійного номера у двох інспекціях у несумісні моменти часу сама по собі є порушенням. Без обох цих заходів таємний проєкт міг би проходити аудити за допомогою тимчасово позичених чипів.", "Going forward, the Consortium prevents L from growing: post-deal transfers above a de minimis size are permitted only to registered auditable counterparties, and post-deal decommissioning requires witnessed destruction or serial-verified recycling.": "Надалі Консорціум запобігає зростанню L: передачі після укладення угоди, що перевищують мінімальний поріг, дозволені лише зареєстрованим контрагентам, що підлягають аудиту, а виведення з експлуатації після угоди вимагає знищення у присутності свідків або переробки з верифікацією за серійним номером.", "The resulting certificate: with confidence 1 - delta, no covert project exceeds D + L. D shrinks with the number of clean sampled traces (roughly, n traces certify D of about (tail size / n) * ln(1/delta)). L is a directly measured quantity that further auditing cannot reduce; reducing it requires the external-evidence tools of Recommendation #3.": "Отриманий сертифікат: з рівнем довіри 1 - delta, жоден таємний проєкт не перевищує D + L. D зменшується з ростом кількості чистих вибраних простежень (приблизно, n простежень сертифікують D на рівні близько (розмір хвоста / n) * ln(1/delta)). L — це безпосередньо виміряна величина, яку подальший аудит зменшити не може; для її зменшення потрібні інструменти зовнішніх доказів з Рекомендації №3.", "Recommendation #3: Locating remaining unaccounted-for compute via incentives and aerial imagery": "Рекомендація №3: Виявлення обчислювальних потужностей, що залишилися неврахованими, за допомогою стимулів та аерознімків", "Direct observation of AI datacenters.": "Пряме спостереження за дата-центрами ШІ.", " We are relatively confident that intelligence services could, in advance of the deal, ": " Ми відносно впевнені, що розвідувальні служби могли б ще до укладення угоди ", "We are relatively confident that intelligence services could, in advance of the deal,": "Ми відносно впевнені, що розвідувальні служби могли б ще до укладення угоди", "identify and locate every (non-specifically-concealed) AI datacenter in China": "виявити та встановити місцезнаходження кожного (не прихованого спеціально) дата-центру ШІ в Китаї", ", using similar methods to Epoch, SemiAnalysis, and other commercial efforts. When they do eventually get inspected, the inspectors might find some of the untraceable compute. (This method does not help with compute that has been produced but not deployed in datacenters at the time of the deal, which might be around 50M H100e.)": ", використовуючи методи, подібні до тих, що застосовують Epoch, SemiAnalysis та інші комерційні проєкти. Коли їх зрештою перевірять, інспектори можуть виявити частину непрослідковуваних обчислювальних потужностей. (Цей метод не допомагає з обчислювальними потужностями, які були вироблені, але не розгорнуті в дата-центрах на момент укладення угоди, — їх може бути близько 50 млн H100e.)", "Buyback programs and amnesty for smuggling.": "Програми викупу та амністія за контрабанду.", " We want to incentivize whoever owns the untraceable compute, or anyone who may have information on it, to come forward and reveal its location to the Consortium. The most obvious reason not to reveal missing compute is if you’re using it as part of a covert AGI project. Besides that, two reasons why private actors might be reluctant to come forward is": " Ми хочемо стимулювати будь-кого, хто володіє непрослідковуваними обчислювальними потужностями, або будь-кого, хто може мати інформацію про них, вийти наперед і розкрити їхнє місцезнаходження Консорціуму. Найочевидніша причина не розкривати відсутні обчислювальні потужності — це якщо ви використовуєте їх у рамках таємного проєкту AGI. Окрім цього, є дві причини, чому приватні суб'єкти можуть неохоче йти на це:", "We want to incentivize whoever owns the untraceable compute, or anyone who may have information on it, to come forward and reveal its location to the Consortium. The most obvious reason not to reveal missing compute is if you’re using it as part of a covert AGI project. Besides that, two reasons why private actors might be reluctant to come forward is": "Ми хочемо стимулювати будь-кого, хто володіє непрослідковуваними обчислювальними потужностями, або будь-кого, хто може мати інформацію про них, вийти наперед і розкрити їхнє місцезнаходження Консорціуму. Найочевидніша причина не розкривати відсутні обчислювальні потужності — це якщо ви використовуєте їх у рамках таємного проєкту AGI. Окрім цього, є дві причини, чому приватні суб'єкти можуть неохоче йти на це:", "If the compute was obtained illegally in the first place, (e.g. smuggling, or fraud or theft for the purpose of smuggling), and the person fears punishment if they come forward, or": "Якщо обчислювальні потужності спершу були отримані незаконно (наприклад, контрабандою, або шахрайством чи крадіжкою з метою контрабанди), і особа боїться покарання, якщо вийде наперед, або", "if the person believes they can receive a better reward selling the compute to some other actor (e.g. a state attempting a covert AGI project)": "якщо особа вважає, що може отримати кращу винагороду, продавши обчислювальні потужності якомусь іншому суб'єкту (наприклад, державі, що намагається реалізувати таємний проєкт AGI)", "We recommend combating both of these incentives if the amount of missing compute remains unacceptably high after the previous steps are taken. For 1), states should provide complete amnesty to anyone who can deliver missing compute to the inspectors. For 2), states should offer to pay above-market prices for missing compute. Note that committing to this creates a perverse incentive in favor of smuggling, so should only occur if needed to account for additional missing compute.": "Ми рекомендуємо протидіяти обом цим стимулам, якщо обсяг відсутніх обчислювальних потужностей залишається неприйнятно високим після вжиття попередніх кроків. Для (1) держави мають надати повну амністію будь-кому, хто може передати відсутні обчислювальні потужності інспекторам. Для (2) держави мають запропонувати платити ціни вище ринкових за відсутні обчислювальні потужності. Зауважимо, що взяття такого зобов'язання створює хибний стимул на користь контрабанди, тож це має відбуватися лише за потреби врахувати додаткові відсутні обчислювальні потужності.", "Section 2.2. Covert project strategies for acquiring compute": "Розділ 2.2. Стратегії таємного проєкту для отримання обчислювальних потужностей", "Source #1: Diverting from smuggled flow": "Джерело №1: Відведення з контрабандного потоку", "Applies to: Western-made 2028 flow": "Стосується: потоку виробництва західних країн 2028 року", "Even in Plan A, we forecast that significant compute will still be smuggled to China before the deal is implemented. Since the smugglers will have already broken/falsified some links in the chain, and may not keep similarly detailed records to legitimate suppliers, it may be possible to purchase compute under false identities without arousing much suspicion when supply chain tracing eventually arrives at a supplier.": "Навіть у Плані А ми прогнозуємо, що значний обсяг обчислювальних потужностей все ще буде контрабандно ввезено до Китаю до того, як угода набуде чинності. Оскільки контрабандисти вже порушили/сфальсифікували деякі ланки ланцюжка і можуть не вести таких детальних записів, як легітимні постачальники, може виявитися можливим придбавати обчислювальні потужності під фальшивими особами, не викликаючи значної підозри, коли простеження ланцюжка постачання зрештою досягне постачальника.", "Speculatively, Chinese intelligence services could set up a fake company ostensibly from a different US adversary country (e.g. Russia), and purchase chips under that identity. Since such a country might also have incentive to hide chips, the eventual compute sales tracing might not be able to conclude whether the chips are in (e.g.) Russia or elsewhere.": "Гіпотетично, китайські розвідувальні служби могли б створити фіктивну компанію, нібито з іншої країни — супротивника США (наприклад, Росії), і купувати чипи під цією особою. Оскільки в такої країни також може бути стимул приховувати чипи, кінцеве простеження продажів обчислювальних потужностей може не дозволити зробити висновок, чи перебувають чипи в (наприклад) Росії, чи деінде.", "Source #2: Concealing some pre-deal domestic production": "Джерело №2: Приховування частини внутрішнього виробництва до угоди", "Applies to: China-designed pre-2028 stock AND pre-2028 flow.": "Стосується: запасу китайської розробки до 2028 року ТА потоку до 2028 року.", "To hide compute from the resale tracing and physical inspection process, Chinese intelligence services could arrange for domestic accelerator vendors to underreport their pre-deal sales. The ": "Щоб приховати обчислювальні потужності від процесу простеження перепродажів і фізичної інспекції, китайські розвідувальні служби могли б домовитися з внутрішніми постачальниками прискорювачів про заниження обсягів їхніх продажів до угоди. Зусилля з ", "To hide compute from the resale tracing and physical inspection process, Chinese intelligence services could arrange for domestic accelerator vendors to underreport their pre-deal sales. The": "Щоб приховати обчислювальні потужності від процесу простеження перепродажів і фізичної інспекції, китайські розвідувальні служби могли б домовитися з внутрішніми постачальниками прискорювачів про заниження обсягів їхніх продажів до угоди. Зусилля з", "compute production tracing": "простеження виробництва обчислювальних потужностей", " efforts aim to prevent this by accounting for all the accelerators which were physically produced. Chinese intelligence services would need to arrange for accelerator vendors like Huawei to understate their orders from the various supplier companies, and for those suppliers to understate their production. Those suppliers have their own suppliers, who would also need to align their statements. (For example, to fabricate the logic dies for Huawei’s chips, SMIC depends on silicon wafers from a different firm.)": " спрямовані на те, щоб запобігти цьому, врахувавши всі прискорювачі, які були фізично вироблені. Китайським розвідувальним службам довелося б домовлятися з постачальниками прискорювачів, такими як Huawei, про заниження їхніх замовлень у різних компаній-постачальників, а тим постачальникам — про заниження власного виробництва. У цих постачальників є власні постачальники, яким також довелося б узгодити свої заяви. (Наприклад, щоб виготовити логічні кристали для чипів Huawei, SMIC залежить від кремнієвих пластин іншої фірми.)", "efforts aim to prevent this by accounting for all the accelerators which were physically produced. Chinese intelligence services would need to arrange for accelerator vendors like Huawei to understate their orders from the various supplier companies, and for those suppliers to understate their production. Those suppliers have their own suppliers, who would also need to align their statements. (For example, to fabricate the logic dies for Huawei’s chips, SMIC depends on silicon wafers from a different firm.)": "спрямовані на те, щоб запобігти цьому, врахувавши всі прискорювачі, які були фізично вироблені. Китайським розвідувальним службам довелося б домовлятися з постачальниками прискорювачів, такими як Huawei, про заниження їхніх замовлень у різних компаній-постачальників, а тим постачальникам — про заниження власного виробництва. У цих постачальників є власні постачальники, яким також довелося б узгодити свої заяви. (Наприклад, щоб виготовити логічні кристали для чипів Huawei, SMIC залежить від кремнієвих пластин іншої фірми.)", "Some elements of the supply chain will be in foreign countries, making them harder for Chinese intelligence services to manipulate. On the other hand, some critical bottlenecks like high-bandwidth memory are likely being smuggled, which could complicate supply chain tracing.": "Деякі елементи ланцюжка постачання перебуватимуть в іноземних країнах, що ускладнює маніпулювання ними для китайських розвідувальних служб. З іншого боку, деякі критичні вузькі місця, такі як пам'ять з високою пропускною здатністю, ймовірно, контрабандно ввозяться, що може ускладнити простеження ланцюжка постачання.", "To avoid having to falsify records from dozens of different upstream suppliers, missing production could be explained by varying production yields. (e.g. in lithography, some fraction of the dies on each wafer will have defects, rendering those dies useless. Foundries aim to optimize this yield, but it requires ongoing R&D and can vary over time, especially at Chinese foundries as they race to catch up to TSMC.) However, any intermediate input flow whose existence is denied by understating yields still needs to be secretly made into the finished product. (continuing the example above, understating yields to acquire untracked logic dies would still require untracked HBM (from a different supplier) and untracked packaging (also done elsewhere) to make into a finished accelerator package). So yield falsification only ": "Щоб уникнути потреби фальсифікувати записи десятків різних постачальників вищого рівня, недостачу виробництва можна пояснити коливаннями виробничого виходу. (Наприклад, у літографії певна частка кристалів на кожній пластині матиме дефекти, що робить ці кристали непридатними. Фаундрі прагнуть оптимізувати цей вихід, але це вимагає постійних R&D і може змінюватися з часом, особливо на китайських фаундрі, які намагаються наздогнати TSMC.) Однак будь-який проміжний потік вхідних матеріалів, існування якого приховують заниженням виходу, все одно потрібно таємно перетворити на готовий продукт. (продовжуючи наведений вище приклад, заниження виходу для отримання невідстежуваних логічних кристалів все одно вимагатиме невідстежуваної HBM (від іншого постачальника) і невідстежуваного пакування (яке також виконується десь-інде), щоб зробити готовий пакет прискорювача). Тож фальсифікація виходу лише ", "To avoid having to falsify records from dozens of different upstream suppliers, missing production could be explained by varying production yields. (e.g. in lithography, some fraction of the dies on each wafer will have defects, rendering those dies useless. Foundries aim to optimize this yield, but it requires ongoing R&D and can vary over time, especially at Chinese foundries as they race to catch up to TSMC.) However, any intermediate input flow whose existence is denied by understating yields still needs to be secretly made into the finished product. (continuing the example above, understating yields to acquire untracked logic dies would still require untracked HBM (from a different supplier) and untracked packaging (also done elsewhere) to make into a finished accelerator package). So yield falsification only": "Щоб уникнути потреби фальсифікувати записи десятків різних постачальників вищого рівня, недостачу виробництва можна пояснити коливаннями виробничого виходу. (Наприклад, у літографії певна частка кристалів на кожній пластині матиме дефекти, що робить ці кристали непридатними. Фаундрі прагнуть оптимізувати цей вихід, але це вимагає постійних R&D і може змінюватися з часом, особливо на китайських фаундрі, які намагаються наздогнати TSMC.) Однак будь-який проміжний потік вхідних матеріалів, існування якого приховують заниженням виходу, все одно потрібно таємно перетворити на готовий продукт. (продовжуючи наведений вище приклад, заниження виходу для отримання невідстежуваних логічних кристалів все одно вимагатиме невідстежуваної HBM (від іншого постачальника) і невідстежуваного пакування (яке також виконується десь-інде), щоб зробити готовий пакет прискорювача). Тож фальсифікація виходу лише", "reduces": "зменшує", " the number of firms whose coordination would be needed.": " кількість фірм, координація яких була б потрібна.", "the number of firms whose coordination would be needed.": "кількість фірм, координація яких була б потрібна.", "The ideal case would be manipulating yield at the final assembly stage. As far as we know, yields here are much higher and more predictable than at earlier stages, so this seems infeasible to significantly falsify.": "Ідеальним випадком було б маніпулювання виходом на етапі фінального складання. Наскільки нам відомо, вихід тут набагато вищий і передбачуваніший, ніж на попередніх етапах, тож суттєво сфальсифікувати його видається нездійсненним.", "Overall, this strategy seems quite risky, as each additional firm added increases the number of opportunities for mistakes and for leaks. However, it’s possible the whistleblower/interview/HUMINT program are less effective than we expect, or that this sort of multi-firm falsification under scrutiny is more routine for Chinese intelligence services than we expect.": "Загалом ця стратегія видається досить ризикованою, оскільки кожна додана фірма збільшує кількість можливостей для помилок і витоків. Однак можливо, що програма викривачів/інтерв'ю/HUMINT менш ефективна, ніж ми очікуємо, або що така багатофірмова фальсифікація під наглядом є для китайських спецслужб рутиннішою справою, ніж ми припускаємо.", "Source #3: Diverting from stock via false decommissioning": "Джерело №3: Відхилення від запасів через фальшиве списання", "Applies to: Western-made pre-2028 stock": "Стосується: західного виробництва запасів до 2028 року", "By default, some compute will be decommissioned between its purchase and the start of the deal. This poses an issue for compute sales tracing, since (as done today) decommissioning does not involve retroactively-verifiable destruction of the chips.": "За замовчуванням певна частина обчислювальних потужностей буде списана в період між їх придбанням і початком дії Угоди. Це створює проблему для відстеження продажів обчислювальних потужностей, оскільки (як і сьогодні) списання не передбачає ретроактивно верифіковного знищення чипів.", "How much compute will be decommissioned by default?": "Скільки обчислювальних потужностей буде списано за замовчуванням?", "For normal chip lifetimes, this is a small amount. (e.g. a common depreciation schedule is 5 years, so with an annual compute growth rate of 2-4x per year over the 5 years preceding the deal, compute whose fifth birthday happens before the deal will be less than 2^-5 – 4^-5, or 3.1% to 0.1% of global compute at the beginning of the deal.)": "За звичайного терміну служби чипів це невелика кількість. (Наприклад, типовий графік амортизації — 5 років, тож за річного темпу зростання обчислювальних потужностей 2-4x на рік упродовж 5 років, що передують Угоді, обчислювальні потужності, п'ятий «день народження» яких настає до Угоди, становитимуть менш ніж 2^-5 – 4^-5, тобто від 3,1% до 0,1% світових обчислювальних потужностей на початку дії Угоди.)", "We understand US hyperscalers to have detailed records of the entire decommissioning process. For example, AI servers decommissioned by Microsoft are sent to Microsoft Circular Centers, where high value components (AI accelerators would certainly qualify) are removed and assessed for internal reuse, resale, donation (for educational purposes), or recycling. If we assume that US hyperscalers (who currently own 71% of global compute) can provide an accurate count of their decommissioned chips, the decommissioned fraction is reduced to between 0.9% and 0.03% of cumulative global compute production at the start of the deal.": "Наскільки нам відомо, американські гіперскейлери ведуть детальні записи всього процесу списання. Наприклад, ШІ-сервери, списані Microsoft, надсилаються до Microsoft Circular Centers, де компоненти високої вартості (ШІ-прискорювачі точно підпадають під цю категорію) вилучаються й оцінюються на предмет внутрішнього повторного використання, перепродажу, пожертвування (в освітніх цілях) або переробки. Якщо припустити, що американські гіперскейлери (яким наразі належить 71% світових обчислювальних потужностей) можуть надати точний підрахунок своїх списаних чипів, частка списання скорочується до 0,9%–0,03% сукупного світового виробництва обчислювальних потужностей на початок дії Угоди.", "We are less sure about the situation with smaller compute operators and for Chinese compute operators.": "Ми менш впевнені щодо ситуації з дрібнішими операторами обчислювальних потужностей і з китайськими операторами.", "As a potential diversion strategy, Chinese intelligence services might arrange to have large Chinese clouds decommission their US-designed compute": "Як потенційну стратегію відхилення, китайські спецслужби можуть організувати списання великими китайськими хмарами свого обчислювального обладнання американського дизайну", " in advance of the deal (perhaps justified as a political demonstration of Chinese semiconductor self-sufficiency, or to hide evidence of previous smuggling": " заздалегідь до Угоди (можливо, виправдовуючи це політичною демонстрацією китайської самодостатності в напівпровідниках або приховуванням доказів попереднього контрабандного ввезення", "in advance of the deal (perhaps justified as a political demonstration of Chinese semiconductor self-sufficiency, or to hide evidence of previous smuggling": "заздалегідь до Угоди (можливо, виправдовуючи це політичною демонстрацією китайської самодостатності в напівпровідниках або приховуванням доказів попереднього контрабандного ввезення", "), with fake recyclers set up to accept the hardware and stockpile it rather than recycling it. Decommissioning a large fraction of compute in advance of the deal would create ambiguity about whether to treat it as possibly used for a covert project, since even if China were acting honestly, it might have no way to prove that the chips had truly been recycled.": "), із залученням фейкових переробників, які приймають обладнання та накопичують його, замість того щоб переробляти. Списання значної частки обчислювальних потужностей заздалегідь до Угоди створило б неоднозначність щодо того, чи варто розглядати це як можливе використання для таємного проєкту, оскільки навіть якщо Китай діяв би чесно, у нього могло б не бути способу довести, що чипи справді було перероблено.", "To the extent feasible, we recommend the US intelligence community surveil the Chinese IT equipment recycling industry to guard against this strategy.": "Наскільки це можливо, ми рекомендуємо розвідувальній спільноті США вести спостереження за китайською галуззю переробки ІТ-обладнання, щоб убезпечитися від цієї стратегії.", "As a speculative potential strategy for making decommissioning look less suspicious, Chinese intelligence services might use cyberattacks to induce what appear to be hardware failures in installed devices, inducing unknowing datacenter operators to return some fraction of their installed hardware to server or GPU manufacturers (e.g. Huawei) for RMA, or otherwise to recycle them. Chinese intelligence services would then divert these shipments and have them documented as recycled.": "Як спекулятивну потенційну стратегію, щоб зробити списання менш підозрілим, китайські спецслужби можуть використовувати кібератаки, щоб спровокувати те, що виглядатиме як апаратні збої у встановлених пристроях, змушуючи операторів дата-центрів, які нічого не підозрюють, повертати частину свого встановленого обладнання виробникам серверів чи GPU (наприклад, Huawei) для RMA або іншим чином на переробку. Китайські спецслужби потім перенаправляли б ці партії та документували б їх як перероблені.", "Source #4: Using declared military compute to aid a covert AGI project": "Джерело №4: Використання задекларованих військових обчислювальних потужностей для допомоги таємному проєкту AGI", "If the US and China aren’t able to negotiate away their unverified military compute, it could be used for AI development. The amount of military compute that could be diverted to a covert project is entirely a function of how the negotiations proceed.\nThere are a few different ways the US could negotiate to minimize the amount of unverified military compute. To ": "Якщо США і Китай не зможуть домовитися про виключення своїх неверифікованих військових обчислювальних потужностей, їх можна буде використати для розробки ШІ. Обсяг військових обчислювальних потужностей, які можна було б перенаправити на таємний проєкт, повністю залежить від того, як проходитимуть переговори.\nІснує кілька різних способів, якими США могли б домовитися, щоб мінімізувати обсяг неверифікованих військових обчислювальних потужностей. Щоб ", "If the US and China aren’t able to negotiate away their unverified military compute, it could be used for AI development. The amount of military compute that could be diverted to a covert project is entirely a function of how the negotiations proceed.\nThere are a few different ways the US could negotiate to minimize the amount of unverified military compute. To": "Якщо США і Китай не зможуть домовитися про виключення своїх неверифікованих військових обчислювальних потужностей, їх можна буде використати для розробки ШІ. Обсяг військових обчислювальних потужностей, які можна було б перенаправити на таємний проєкт, повністю залежить від того, як проходитимуть переговори.\nІснує кілька різних способів, якими США могли б домовитися, щоб мінімізувати обсяг неверифікованих військових обчислювальних потужностей. Щоб", "minimize the maximum": "мінімізувати максимальний", " amount of compute that could possibly be used for military AI development, the US should push to bring ": " обсяг обчислювальних потужностей, який потенційно міг би бути використаний для військової розробки ШІ, США мають наполягати на тому, щоб поставити ", "amount of compute that could possibly be used for military AI development, the US should push to bring": "обсяг обчислювальних потужностей, який потенційно міг би бути використаний для військової розробки ШІ, США мають наполягати на тому, щоб поставити", " military compute under inference-only verification. This has the drawback of incentivizing covert projects where previously they might have been judged not worthwhile, but it does improve the worst-case scenario (covert project AND declared military compute working together).": " військові обчислювальні потужності під верифікацію лише інференсу. Це має недолік у вигляді стимулювання таємних проєктів там, де раніше їх могли б визнати недоцільними, але це покращує найгірший сценарій (таємний проєкт і задекларовані військові обчислювальні потужності, що працюють разом).", "military compute under inference-only verification. This has the drawback of incentivizing covert projects where previously they might have been judged not worthwhile, but it does improve the worst-case scenario (covert project AND declared military compute working together).": "військові обчислювальні потужності під верифікацію лише інференсу. Це має недолік у вигляді стимулювання таємних проєктів там, де раніше їх могли б визнати недоцільними, але це покращує найгірший сценарій (таємний проєкт і задекларовані військові обчислювальні потужності, що працюють разом).", "Alternatively, the US could accept a greater quantity of unverified military compute, perhaps tying the amount to the amount of missing pre-deal compute to incentivize bringing any covert stockpiles into the open. Under some assumptions these strategies might reduce the ": "Альтернативно, США могли б погодитися на більшу кількість неверифікованих військових обчислювальних потужностей, можливо, прив'язавши цю кількість до обсягу відсутніх обчислювальних потужностей періоду до Угоди, щоб стимулювати виведення будь-яких таємних запасів на світло. За певних припущень ці стратегії могли б зменшити ", "Alternatively, the US could accept a greater quantity of unverified military compute, perhaps tying the amount to the amount of missing pre-deal compute to incentivize bringing any covert stockpiles into the open. Under some assumptions these strategies might reduce the": "Альтернативно, США могли б погодитися на більшу кількість неверифікованих військових обчислювальних потужностей, можливо, прив'язавши цю кількість до обсягу відсутніх обчислювальних потужностей періоду до Угоди, щоб стимулювати виведення будь-яких таємних запасів на світло. За певних припущень ці стратегії могли б зменшити", "expected": "очікуваний", " total amount of compute used for military R&D, at the cost of increasing the total amount usable by an aggressive adversary.": " загальний обсяг обчислювальних потужностей, використаних для військових R&D, ціною збільшення загального обсягу, доступного для агресивного супротивника.", "total amount of compute used for military R&D, at the cost of increasing the total amount usable by an aggressive adversary.": "загальний обсяг обчислювальних потужностей, використаних для військових R&D, ціною збільшення загального обсягу, доступного для агресивного супротивника.", "Overall, we recommend that the US should push to bring all military compute under inference-only verification.": "Загалом ми рекомендуємо, щоб США наполягали на тому, щоб усі військові обчислювальні потужності підпадали під верифікацію лише інференсу.", "Section 2.3 Quantitative Estimates": "Розділ 2.3 Кількісні оцінки", "We consider two estimation methods for the amount of compute a high-competence covert project could acquire. We trust the first more than the second, and treat the second method mainly as a sanity-check. Currently, none of these include using declared military compute to aid a covert AGI project.": "Ми розглядаємо два методи оцінки обсягу обчислювальних потужностей, які міг би отримати висококомпетентний таємний проєкт. Ми довіряємо першому більше, ніж другому, і розглядаємо другий метод переважно як перевірку на здоровий глузд. Наразі жоден з них не враховує використання задекларованих військових обчислювальних потужностей для допомоги таємному проєкту AGI.", "Estimate": "Оцінка", "Fraction of global total": "Частка світового загалу", "H100e, assuming 289M at 2029.0": "H100e, за умови 289 млн на 2029.0", "Description": "Опис", "Median 0.51%": "Медіана 0,51%", "80% CI [0.11%, 1.4%]": "80% ДІ [0,11%, 1,4%]", "Median 1.5M": "Медіана 1,5 млн", "Bottom-up estimate combining the plausible diversion strategies discussed above.": "Оцінка «знизу вгору», що поєднує правдоподібні стратегії відхилення, обговорені вище.", "Median 0.23%": "Медіана 0,23%", "80% CI [0.022%, 2.34%]": "80% ДІ [0,022%, 2,34%]", "Median 660k": "Медіана 660 тис.", "Based on a rough estimate of how much money the PRC could spend secretly purchasing AI servers in 2028, as well as our forecasts of $/H100e in 2028": "На основі приблизної оцінки того, скільки грошей КНР могла б витратити на таємну закупівлю ШІ-серверів у 2028 році, а також наших прогнозів щодо $/H100e у 2028 році", "Method #1: Bottom-up": "Метод №1: Знизу вгору", "In this method, we assume China simultaneously pursues all the acquisition strategies we identified above. We give distributions over the compute that could be acquired by each strategy, as well as the probability that each strategy is feasible. We then aggregate these together to get a distribution over the total amount of compute diverted.": "У цьому методі ми припускаємо, що Китай одночасно застосовує всі стратегії набуття, визначені вище. Ми надаємо розподіли обчислювальних потужностей, які могли б бути отримані за кожною стратегією, а також імовірність того, що кожна стратегія здійсненна. Потім ми агрегуємо їх, щоб отримати розподіл загального обсягу відхилених обчислювальних потужностей.", "Diversion route": "Маршрут відхилення", "Decommissioning pre-2028 stock": "Списання запасів до 2028 року", "Underreporting 2028 domestic production": "Заниження звітності про внутрішнє виробництво 2028 року", "Buying smuggled western chips in 2028": "Купівля контрабандних західних чипів у 2028 році", "Source #1: False decommissioning": "Джерело №1: Фальшиве списання", "If supply chain tracing and datacenter tracking are effective, installed compute cannot be removed from datacenters without explanation. So either there will need to be an explanation, or supply chain tracing and datacenter tracking will need to be subverted. We think the latter is likely infeasible and would contribute a relatively small amount of compute if feasible, so we have excluded it for simplicity.": "Якщо відстеження ланцюга постачання та моніторинг дата-центрів ефективні, встановлені обчислювальні потужності не можна вилучити з дата-центрів без пояснення. Тож або знадобиться пояснення, або відстеження ланцюга постачання й моніторинг дата-центрів доведеться підірвати. Ми вважаємо, що останнє, ймовірно, нездійсненне і, навіть якщо здійсненне, забезпечило б відносно невеликий обсяг обчислювальних потужностей, тож ми виключили це для спрощення.", " Therefore, the only way to divert pre-2028 stock is to falsely decommission chips that still work.": " Тому єдиний спосіб відхилити запаси до 2028 року — це фальшиво списати чипи, які все ще працюють.", "Therefore, the only way to divert pre-2028 stock is to falsely decommission chips that still work.": "Тому єдиний спосіб відхилити запаси до 2028 року — це фальшиво списати чипи, які все ще працюють.", "Parameter estimates and rationales": "Оцінки параметрів і обґрунтування", "Rationale": "Обґрунтування", "Probability that decommissioning is feasible at all to do deniably": "Імовірність того, що списання взагалі здійсненне у спосіб, який можна правдоподібно заперечити", "Intuitive guess.": "Інтуїтивна оцінка.", "US-designed fraction of pre-2028 stock in China": "Частка запасів американського дизайну до 2028 року в Китаї", "If domestic production is 3.7% of world, and (as ": "Якщо внутрішнє виробництво становить 3,7% світового, і (як зазначено в ", "If domestic production is 3.7% of world, and (as": "Якщо внутрішнє виробництво становить 3,7% світового, і (як зазначено в", "Plan A side panel data": "даних бічної панелі Плану A", " says) 6.7% of world stock at 2028.0 is located on Chinese soil, then the US-designed share must be 45%. (or 3% of the world stock at 2028.0)": ") 6,7% світових запасів на 2028.0 розташовані на китайській території, то частка американського дизайну має становити 45%. (або 3% світових запасів на 2028.0)", "says) 6.7% of world stock at 2028.0 is located on Chinese soil, then the US-designed share must be 45%. (or 3% of the world stock at 2028.0)": ") 6,7% світових запасів на 2028.0 розташовані на китайській території, то частка американського дизайну має становити 45%. (або 3% світових запасів на 2028.0)", "Fraction of pre-2028 US-designed compute located in China that can be falsely decommissioned before 2029.0, conditional on this being feasible to do at all deniably": "Частка обчислювальних потужностей американського дизайну до 2028 року, розташованих у Китаї, яку можна фальшиво списати до 2029.0, за умови що це взагалі здійсненно у спосіб, який можна правдоподібно заперечити", "80% CI: [15%, 30%]": "80% ДІ: [15%, 30%]", "Beta": "Бета", "Intuitive guess. If the top few clouds (Alibaba, Tencent, ByteDance, etc) own 60% of US-designed compute in China, and they decommission the oldest p25–p50 of their US-designed compute as part of this scheme, then this is 15–30% of the US-designed stock. (or 6.75% – 13.5% of the 2028.0 total PRC stock, using 45% as the parameter above).": "Інтуїтивна оцінка. Якщо кілька найбільших хмар (Alibaba, Tencent, ByteDance тощо) володіють 60% обчислювальних потужностей американського дизайну в Китаї, і вони списують найстаріші p25–p50 своїх обчислювальних потужностей американського дизайну в рамках цієї схеми, то це становить 15–30% запасів американського дизайну. (або 6,75%–13,5% загальних запасів КНР на 2028.0, використовуючи 45% як параметр вище).", "We estimate that conditional on false decommissioning being feasible, it yields 6.7% – 13.4% of the 2028.0 total PRC stock, and 0.45% – 0.9% of the 2028.0 world stock, and ": "Ми оцінюємо, що за умови здійсненності фальшивого списання воно дає 6,7%–13,4% загальних запасів КНР на 2028.0, і 0,45%–0,9% світових запасів на 2028.0, а також ", "We estimate that conditional on false decommissioning being feasible, it yields 6.7% – 13.4% of the 2028.0 total PRC stock, and 0.45% – 0.9% of the 2028.0 world stock, and": "Ми оцінюємо, що за умови здійсненності фальшивого списання воно дає 6,7%–13,4% загальних запасів КНР на 2028.0, і 0,45%–0,9% світових запасів на 2028.0, а також", "0.21% – 0.42% of world pre-deal compute, conditional on the false decommissioning scheme being feasible at all (60%).": "0,21%–0,42% світових обчислювальних потужностей періоду до Угоди, за умови що схема фальшивого списання взагалі здійсненна (60%).", "Source #2: Diverting pre-deal flow": "Джерело №2: Відхилення потоку до Угоди", "This would entail ": "Це передбачало б ", "This would entail": "Це передбачало б", "concealing some pre-deal domestic production": "приховування частини внутрішнього виробництва до Угоди", " and routing it directly into storage for a covert project.": " і спрямування його безпосередньо на зберігання для таємного проєкту.", "and routing it directly into storage for a covert project.": "і спрямування його безпосередньо на зберігання для таємного проєкту.", "Probability that concealment of domestic production is feasible": "Імовірність того, що приховування внутрішнього виробництва здійсненне", "Intuitive guess, see the discussion of the difficulties ": "Інтуїтивна оцінка, див. обговорення труднощів ", "Intuitive guess, see the discussion of the difficulties": "Інтуїтивна оцінка, див. обговорення труднощів", ". I could update based on learning more about the Chinese semiconductor ecosystem or the historical effectiveness of whistleblower programs like ours.": ". Я міг би скоригувати це на основі отримання додаткової інформації про китайську напівпровідникову екосистему або історичну ефективність програм викривачів, подібних до нашої.", "My initial guess was 15%, Romeo thinks 35% for this, so we take the average and use 25%.": "Моя початкова оцінка становила 15%, Ромео вважає, що це 35%, тож ми беремо середнє та використовуємо 25%.", "Fraction of 2028 domestic production which can be concealed, conditional on feasibility above": "Частка внутрішнього виробництва 2028 року, яку можна приховати, за умови здійсненності вище", "Beta distribution with p90 = 15%.": "Бета-розподіл із p90 = 15%.", "Intuitive guess, p90 based on the idea that removing “one Chinese hyperscaler” (e.g. 10-20%) would probably be too obvious. Though note that this is different from removing one hyperscaler from the total compute in China; some of that will be legally imported or smuggled US-designed chips.": "Інтуїтивна оцінка, p90 базується на ідеї, що вилучення «одного китайського гіперскейлера» (наприклад, 10-20%) було б, імовірно, занадто очевидним. Хоча зауважте, що це відрізняється від вилучення одного гіперскейлера із загальних обчислювальних потужностей у Китаї; частина з них буде легально імпортованими або контрабандними чипами американського дизайну.", "Assuming that the fraction of global compute produced by China stays roughly constant, and accounting for the ": "Припускаючи, що частка світових обчислювальних потужностей, вироблених Китаєм, залишається приблизно сталою, і враховуючи ", "Assuming that the fraction of global compute produced by China stays roughly constant, and accounting for the": "Припускаючи, що частка світових обчислювальних потужностей, вироблених Китаєм, залишається приблизно сталою, і враховуючи", ", we estimate that this route yields a ": ", ми оцінюємо, що цей маршрут дає ", ", we estimate that this route yields a": ", ми оцінюємо, що цей маршрут дає", "median of 0.13% (80% CI: [0.05%, 0.31%]) conditional on being feasible at all (25%).": "медіану 0,13% (80% ДІ: [0,05%, 0,31%]) за умови, що він взагалі здійсненний (25%).", "Source #3: Diverting smuggled chips": "Джерело №3: Відхилення контрабандних чипів", "Fraction of 2028 compute sales smuggled to China": "Частка продажів обчислювальних потужностей 2028 року, контрабандно ввезених до Китаю", "LogNormal": "Логнормальний", "Currently, Epoch’s median ": "Наразі медіанна ", "Currently, Epoch’s median": "Наразі медіанна", "estimate": "оцінка", " is that 3.2% of compute sold through 2025 Q4 was smuggled to China. This might go up in the future due to increased demand for compute in China as frontier AI becomes a bigger business there (or as AI compute’s importance for national security becomes more obvious to the CCP). It might go down in the future due to improved US enforcement.": " Epoch полягає в тому, що 3,2% обчислювальних потужностей, проданих до кінця 4 кв. 2025 року, було контрабандно ввезено до Китаю. Ця частка може зрости в майбутньому через підвищений попит на обчислювальні потужності в Китаї в міру того, як передовий ШІ стає там більшим бізнесом (або в міру того, як важливість ШІ-обчислень для національної безпеки стає очевиднішою для КПК). Вона може знизитися в майбутньому завдяки покращеному правозастосуванню з боку США.", "is that 3.2% of compute sold through 2025 Q4 was smuggled to China. This might go up in the future due to increased demand for compute in China as frontier AI becomes a bigger business there (or as AI compute’s importance for national security becomes more obvious to the CCP). It might go down in the future due to improved US enforcement.": "Epoch полягає в тому, що 3,2% обчислювальних потужностей, проданих до кінця 4 кв. 2025 року, було контрабандно ввезено до Китаю. Ця частка може зрости в майбутньому через підвищений попит на обчислювальні потужності в Китаї в міру того, як передовий ШІ стає там більшим бізнесом (або в міру того, як важливість ШІ-обчислень для національної безпеки стає очевиднішою для КПК). Вона може знизитися в майбутньому завдяки покращеному правозастосуванню з боку США.", "Epoch’s 80% CI for cumulative smuggling": "80% ДІ Epoch для сукупної контрабанди", " through Q4 2025 is p10=1.7%, p90=6.4%. This is factor 1.8 to 2 uncertainty for p50 to p10 and p90. We will go with factor 3 uncertainty due to this being farther into the future.": " станом на 4 кв. 2025 року становить p10=1,7%, p90=6,4%. Це коефіцієнт невизначеності 1,8–2 для p50 щодо p10 і p90. Ми використаємо коефіцієнт невизначеності 3, оскільки йдеться про віддаленіше майбутнє.", "through Q4 2025 is p10=1.7%, p90=6.4%. This is factor 1.8 to 2 uncertainty for p50 to p10 and p90. We will go with factor 3 uncertainty due to this being farther into the future.": "станом на 4 кв. 2025 року становить p10=1,7%, p90=6,4%. Це коефіцієнт невизначеності 1,8–2 для p50 щодо p10 і p90. Ми використаємо коефіцієнт невизначеності 3, оскільки йдеться про віддаленіше майбутнє.", "I am shifting the median down to 2% as in the Compute Forecast, deferring to Romeo, who gives this as a point estimate based on improved enforcement. I think this makes sense conditional on Plan A.": "Я зсуваю медіану вниз до 2%, як у Compute Forecast, покладаючись на Ромео, який дає це як точкову оцінку на основі покращеного правозастосування. Я вважаю, що це має сенс за умови реалізації Плану A.", "Smuggled compute for which the end customer cannot be identified": "Контрабандні обчислювальні потужності, для яких кінцевого замовника не вдається встановити", "Intuitive guess. I think it is probably less than half. I think my uncertainty could be reduced by learning more, but not super easily.": "Інтуїтивна оцінка. Я думаю, що це, ймовірно, менше половини. Гадаю, мою невизначеність можна було б зменшити, дізнавшись більше, але не дуже легко.", "An example of an accurately-recorded chain of custody:": "Приклад точно задокументованого ланцюга володіння:", "Nvidia has a record of selling some number of units to the direct customer (e.g. a server OEM like Dell)": "Nvidia має запис про продаж певної кількості одиниць прямому замовнику (наприклад, серверному OEM на кшталт Dell)", "Dell assembles the accelerators into servers and has a record of how many servers it sold to Nebius": "Dell збирає прискорювачі в сервери й має запис про те, скільки серверів вона продала Nebius", "Nebius has a record of how many servers it purchased and which datacenters they’re located in.": "Nebius має запис про те, скільки серверів вона придбала і в яких дата-центрах вони розташовані.", "I think smuggled chips can have an accurately-recorded chain of custody if all the entities involved have some record of who they sold to, even if that record isn’t what they’d show to auditors. However, if at some point they were sold to an entity who used a false identity, or sold “cash-only”, such that the reseller isn’t sure where the chips went to, that doesn’t count. But if the CIA knows where the chips ended up and the information can be used in the supply chain tracing process without compromising sources and methods or whatever, that does count.": "Я вважаю, що контрабандні чипи можуть мати точно задокументований ланцюг володіння, якщо всі залучені сторони мають якийсь запис про те, кому вони продали, навіть якщо цей запис — не те, що вони показали б аудиторам. Однак якщо в якийсь момент їх продали суб'єкту, який використав фальшиву особу, або продали «лише за готівку», так що перепродавець не впевнений, куди пішли чипи, це не рахується. Але якщо ЦРУ знає, куди зрештою потрапили чипи, і цю інформацію можна використати в процесі відстеження ланцюга постачання, не скомпрометувавши джерела й методи чи щось таке, це рахується.", "2028 flow as a fraction of cumulative compute sales to date at time 2029.0": "Потік 2028 року як частка сукупних продажів обчислювальних потужностей станом на 2029.0", " has 154M H100e added in 2028 and 289M H100e total as of 2029.0. 154 M / 289 M = 53%.": " має 154 млн H100e, доданих у 2028 році, і 289 млн H100e загалом станом на 2029.0. 154 млн / 289 млн = 53%.", "has 154M H100e added in 2028 and 289M H100e total as of 2029.0. 154 M / 289 M = 53%.": "має 154 млн H100e, доданих у 2028 році, і 289 млн H100e загалом станом на 2029.0. 154 млн / 289 млн = 53%.", "Assuming independence of these parameters and simulating, this yields 0.44% of the 2028 flow [0.04%, 2.19%], or ": "Припускаючи незалежність цих параметрів і моделюючи, це дає 0,44% потоку 2028 року [0,04%, 2,19%], або ", "Assuming independence of these parameters and simulating, this yields 0.44% of the 2028 flow [0.04%, 2.19%], or": "Припускаючи незалежність цих параметрів і моделюючи, це дає 0,44% потоку 2028 року [0,04%, 2,19%], або", "0.23% of world compute at time 2029.0, 80% CI [0.02%, 1.2%]": "0,23% світових обчислювальних потужностей станом на 2029.0, 80% ДІ [0,02%, 1,2%]", "The distribution of total compute diverted, aggregating across all the methods discussed above.": "Розподіл загального обсягу відхилених обчислювальних потужностей, що агрегує всі обговорені вище методи.", "Method #2: Military-spending-based estimate": "Метод №2: Оцінка на основі військових витрат", "The numbers below are estimated less precisely than the numbers in Method 1, as this is mainly used as a sanity check.": "Наведені нижче цифри оцінені менш точно, ніж цифри в Методі 1, оскільки це використовується головно як перевірка на здоровий глузд.", "China’s military spending in 2028": "Військові витрати Китаю у 2028 році", "China’s ": "Офіційний ", "China’s": "Офіційний", "official military budget": "військовий бюджет", " for 2023 was $296.44B. It grew roughly linearly over the preceding decade, adding an average of $13.2B per year. Extrapolating this to 2029, would predict official military spending to reach $362.4B.": " Китаю на 2023 рік становив 296,44 млрд дол. Він зростав приблизно лінійно упродовж попереднього десятиліття, додаючи в середньому 13,2 млрд дол. на рік. Екстраполяція цього на 2029 рік передбачає, що офіційні військові витрати досягнуть 362,4 млрд дол.", "for 2023 was $296.44B. It grew roughly linearly over the preceding decade, adding an average of $13.2B per year. Extrapolating this to 2029, would predict official military spending to reach $362.4B.": "Китаю на 2023 рік становив 296,44 млрд дол. Він зростав приблизно лінійно упродовж попереднього десятиліття, додаючи в середньому 13,2 млрд дол. на рік. Екстраполяція цього на 2029 рік передбачає, що офіційні військові витрати досягнуть 362,4 млрд дол.", "We use something closer to an extrapolation of ": "Ми використовуємо дещо ближче до екстраполяції ", "We use something closer to an extrapolation of": "Ми використовуємо дещо ближче до екстраполяції", "SIPRI’s estimates of military spending": "оцінок військових витрат SIPRI", " (which are broader than the official budget).": " (які ширші за офіційний бюджет).", "(which are broader than the official budget).": "(які ширші за офіційний бюджет).", "There are subtleties around PPP vs fixed-year exchange rate vs nominal which we’re currently ignoring.": "Існують нюанси щодо ПКС проти фіксованого курсу обміну за рік проти номінального, які ми наразі ігноруємо.", "Fraction of annual budget China can spend secretly buying AI servers": "Частка річного бюджету, яку Китай може таємно витратити на купівлю ШІ-серверів", "Intuitive unanchored guess. When asked, Claude suggested a number more like 15% – 20%.": "Інтуїтивна необґрунтована оцінка. Коли запитали, Claude запропонував число, ближче до 15%–20%.", "$/H100e for newest US AI servers in 2028": "$/H100e для найновіших американських ШІ-серверів у 2028 році", "Geometric mean of the 2028.0 and 2029.0 values in ": "Середнє геометричне значень 2028.0 і 2029.0 у ", "Geometric mean of the 2028.0 and 2029.0 values in": "Середнє геометричне значень 2028.0 і 2029.0 у", "Smuggling markup %": "Надбавка за контрабанду, %", "Decommissioned server markdown": "Знижка на списаний сервер", "Cheaper than the US-market $/per H100e surely, otherwise you could arbitrage by buying compute in the US and selling it directly to recyclers. But Chinese intelligence services might need to pay a bit more than is standard for recyclers since they need to capture the market, maybe 1.2x, or the cloud execs might just be told which specific recyclers to use, or the real recyclers could be put out of business.": "Дешевше, ніж $/H100e на американському ринку, безумовно, інакше можна було б заробити на арбітражі, купуючи обчислювальні потужності в США та продаючи їх безпосередньо переробникам. Але китайським спецслужбам, можливо, доведеться платити трохи більше за стандарт для переробників, оскільки їм потрібно захопити ринок, можливо, 1,2x, або керівникам хмарних компаній просто скажуть, які саме переробники використовувати, або справжніх переробників можуть витіснити з бізнесу.", "I will just go with half off.": "Я просто візьму половину ціни.", "Decommissioned to smuggled ratio": "Співвідношення списаного до контрабандного", "Based on the numbers in Method 1.": "На основі цифр у Методі 1.", "H100e in the world at 2029.0": "H100e у світі станом на 2029.0", "From the ": "З ", "From the": "З", "Simulating the distributions in the table above yields a ": "Моделювання розподілів у таблиці вище дає ", "Simulating the distributions in the table above yields a": "Моделювання розподілів у таблиці вище дає", "median of 0.23% of global compute, with an 80% CI of [0.022%, 2.34%].": "медіану 0,23% світових обчислювальних потужностей, з 80% ДІ [0,022%, 2,34%].", "This section is more speculative than the previous section. We are not experts in any of the relevant fields and may be overlooking important considerations.": "Цей розділ є більш спекулятивним, ніж попередній. Ми не є експертами в жодній з відповідних галузей і, можливо, упускаємо важливі міркування.", "In this section we go over:": "У цьому розділі ми розглянемо:", "Methods for detecting covert projects (Section 3.1)": "Методи виявлення таємних проєктів (Розділ 3.1)", "Strategies that covert projects might pursue to avoid these detection methods (Section 3.2)": "Стратегії, які таємні проєкти можуть застосовувати, щоб уникнути цих методів виявлення (Розділ 3.2)", "Quantitative estimates for how well detection will work, on what timescales, and how this depends on covert project scale (Section 3.3).": "Кількісні оцінки того, наскільки добре працюватиме виявлення, у які терміни, і як це залежить від масштабу таємного проєкту (Розділ 3.3).", "Section 3.1 Plan A strategies for detection": "Розділ 3.1 Стратегії Плану A для виявлення", "Method #1: Tracking waste heat": "Метод №1: Відстеження скидного тепла", "By conservation of energy, each megawatt of electricity going into a datacenter must be matched with a megawatt going out in some form (mostly as heat). The standard means of rejecting heat from datacenters produce distinctive signatures visible from space, and hiding or disguising these signatures seems to be the primary constraint on covert datacenter concealment.": "За законом збереження енергії кожен мегават електроенергії, що надходить у дата-центр, має бути врівноважений мегаватом, що виходить у якійсь формі (переважно як тепло). Стандартні засоби відведення тепла з дата-центрів створюють характерні сигнатури, видимі з космосу, і приховування чи маскування цих сигнатур видається основним обмеженням для таємного приховування дата-центру.", "Modern AI servers are designed to use liquid cooling, where coolant is pumped through IT equipment to absorb heat. The coolant dumps its heat to water, which is normally pumped out of the data halls and cooled by outdoor chillers. These chillers are either air-cooled or water-cooled.": "Сучасні ШІ-сервери розраховані на рідинне охолодження, за якого охолоджувач прокачується через ІТ-обладнання, щоб поглинати тепло. Охолоджувач передає своє тепло воді, яку зазвичай відкачують із серверних залів і охолоджують зовнішніми чилерами. Ці чилери бувають повітряного або водяного охолодження.", "Air-cooled": "Повітряні", " chillers run cool air through finned condenser coils, heating the air by ~10-15 degrees C. It is possible to hide the chillers from direct view, but the warmed air eventually has to escape to the atmosphere, and whatever aperture it leaves through will equilibrate to a warmer temperature than the surrounding surfaces. These warmed surfaces emit in the IR spectrum, which can be seen from space. Technology exists for minimizing the IR signature from hot exhaust ports (for example, on low-observable aircraft like the F-117).": " чилери проганяють холодне повітря через ребристі конденсаторні котушки, нагріваючи повітря приблизно на 10-15 градусів Цельсія. Приховати чилери від прямого спостереження можливо, але нагріте повітря зрештою мусить вийти в атмосферу, і будь-який отвір, через який воно виходить, урівноважиться до вищої температури, ніж навколишні поверхні. Ці нагріті поверхні випромінюють в ІЧ-спектрі, що можна побачити з космосу. Існують технології для мінімізації ІЧ-сигнатури гарячих випускних отворів (наприклад, на малопомітних літаках на кшталт F-117).", "chillers run cool air through finned condenser coils, heating the air by ~10-15 degrees C. It is possible to hide the chillers from direct view, but the warmed air eventually has to escape to the atmosphere, and whatever aperture it leaves through will equilibrate to a warmer temperature than the surrounding surfaces. These warmed surfaces emit in the IR spectrum, which can be seen from space. Technology exists for minimizing the IR signature from hot exhaust ports (for example, on low-observable aircraft like the F-117).": "чилери проганяють холодне повітря через ребристі конденсаторні котушки, нагріваючи повітря приблизно на 10-15 градусів Цельсія. Приховати чилери від прямого спостереження можливо, але нагріте повітря зрештою мусить вийти в атмосферу, і будь-який отвір, через який воно виходить, урівноважиться до вищої температури, ніж навколишні поверхні. Ці нагріті поверхні випромінюють в ІЧ-спектрі, що можна побачити з космосу. Існують технології для мінімізації ІЧ-сигнатури гарячих випускних отворів (наприклад, на малопомітних літаках на кшталт F-117).", " We are somewhat skeptical that this could be applied successfully against persistent satellite monitoring, but it could be possible. Of course, making these exhaust ports ": " Ми дещо скептично налаштовані щодо того, чи це можна успішно застосувати проти постійного супутникового моніторингу, але це може бути можливим. Звісно, робити ці випускні отвори ", "We are somewhat skeptical that this could be applied successfully against persistent satellite monitoring, but it could be possible. Of course, making these exhaust ports": "Ми дещо скептично налаштовані щодо того, чи це можна успішно застосувати проти постійного супутникового моніторингу, але це може бути можливим. Звісно, робити ці випускні отвори", "invisible": "невидимими", " isn’t strictly necessary, they could instead be disguised as part of a legitimate industrial facility.": " не є суворо обов'язковим — їх натомість можна замаскувати як частину легального промислового об'єкта.", "isn’t strictly necessary, they could instead be disguised as part of a legitimate industrial facility.": "не є суворо обов'язковим — їх натомість можна замаскувати як частину легального промислового об'єкта.", "Water-cooled": "Водяні", " chillers transfer heat from the datacenter cooling loop to another flow of water which is evaporated in a cooling tower. Under certain weather conditions, the water vapor condenses to form visible clouds. We are unsure how hard these would be to hide consistently.": " чилери передають тепло з контуру охолодження дата-центру в інший потік води, яка випаровується в градирні. За певних погодних умов водяна пара конденсується, утворюючи видимі хмари. Ми не впевнені, наскільки складно було б послідовно це приховувати.", "chillers transfer heat from the datacenter cooling loop to another flow of water which is evaporated in a cooling tower. Under certain weather conditions, the water vapor condenses to form visible clouds. We are unsure how hard these would be to hide consistently.": "чилери передають тепло з контуру охолодження дата-центру в інший потік води, яка випаровується в градирні. За певних погодних умов водяна пара конденсується, утворюючи видимі хмари. Ми не впевнені, наскільки складно було б послідовно це приховувати.", "Condensation visible above cooling towers at the ": "Видима конденсація над градирнями дата-центру ", "Condensation visible above cooling towers at the": "Видима конденсація над градирнями дата-центру", "Google Council Bluffs (East)": "Google Council Bluffs (East)", " datacenter, rejecting ~190 MW of heat.": ", що відводить приблизно 190 МВт тепла.", "datacenter, rejecting ~190 MW of heat.": ", що відводить приблизно 190 МВт тепла.", "Another method for rejecting heat is simply dumping the hot water into a river or sea, a method commonly used to cool nuclear power plants.": "Інший метод відведення тепла — просте скидання гарячої води в річку чи море, метод, який зазвичай використовують для охолодження атомних електростанцій.", " Doing this without creating an IR-visible thermal plume is hard, especially since time-averaging over a yearslong operating period allows for resolution of very minute heat differences. It may be possible to hide the thermal signature amid existing sources, or use multiport diffusers at depth to disperse the plume over a wide enough area to avoid detection.": " Зробити це без створення видимого в ІЧ-діапазоні теплового шлейфу складно, особливо оскільки усереднення за багаторічний період експлуатації дозволяє розрізняти дуже незначні теплові відмінності. Можливо, вдасться приховати теплову сигнатуру серед наявних джерел або використати багатопортові дифузори на глибині, щоб розсіяти шлейф на достатньо широкій площі, аби уникнути виявлення.", "Doing this without creating an IR-visible thermal plume is hard, especially since time-averaging over a yearslong operating period allows for resolution of very minute heat differences. It may be possible to hide the thermal signature amid existing sources, or use multiport diffusers at depth to disperse the plume over a wide enough area to avoid detection.": "Зробити це без створення видимого в ІЧ-діапазоні теплового шлейфу складно, особливо оскільки усереднення за багаторічний період експлуатації дозволяє розрізняти дуже незначні теплові відмінності. Можливо, вдасться приховати теплову сигнатуру серед наявних джерел або використати багатопортові дифузори на глибині, щоб розсіяти шлейф на достатньо широкій площі, аби уникнути виявлення.", "Landsat images of the thermal plume from the Haiyang Nuclear Power Plant": "Знімки Landsat теплового шлейфу від атомної електростанції Хайян", ", cooling two 1.1 GWe reactors on China’s eastern coast.": ", що охолоджує два реактори по 1,1 ГВт(е) на східному узбережжі Китаю.", "Method #2: Other sources of IMINT/MASINT": "Метод №2: Інші джерела IMINT/MASINT", "Interferometric synthetic-aperture radar": "Інтерферометричний радар із синтезованою апертурою", " (InSAR) seems potentially useful for detecting the construction phase of a covert datacenter project. Based on measuring minute displacements of the earth’s crust over time caused by tunneling, an ": " (InSAR) видається потенційно корисним для виявлення фази будівництва таємного проєкту дата-центру. На основі вимірювання незначних зсувів земної кори з часом, спричинених прокладанням тунелів, ", "(InSAR) seems potentially useful for detecting the construction phase of a covert datacenter project. Based on measuring minute displacements of the earth’s crust over time caused by tunneling, an": "(InSAR) видається потенційно корисним для виявлення фази будівництва таємного проєкту дата-центру. На основі вимірювання незначних зсувів земної кори з часом, спричинених прокладанням тунелів,", "LLNL technical report": "технічний звіт LLNL", " investigated using this for characterizing underground construction in a known location, but it seems less well suited to noticing an unknown facility.": " досліджував використання цього методу для характеризації підземного будівництва у відомому місці, але він видається менш придатним для виявлення невідомого об'єкта.", "investigated using this for characterizing underground construction in a known location, but it seems less well suited to noticing an unknown facility.": "досліджував використання цього методу для характеризації підземного будівництва у відомому місці, але він видається менш придатним для виявлення невідомого об'єкта.", " It might be useful to gain additional evidence that a suspicious site is in fact a covert datacenter (e.g. by observing the shape of the excavated volume).": " Це може бути корисним для отримання додаткових доказів того, що підозрілий об'єкт справді є таємним дата-центром (наприклад, шляхом спостереження за формою виритого об'єму).", "It might be useful to gain additional evidence that a suspicious site is in fact a covert datacenter (e.g. by observing the shape of the excavated volume).": "Це може бути корисним для отримання додаткових доказів того, що підозрілий об'єкт справді є таємним дата-центром (наприклад, шляхом спостереження за формою виритого об'єму).", "Any underground excavation needs to move the dirt and rock (termed “spoil”) to the surface. This may be hard to hide: options include hiding the excavation in another industrial project, putting tunnel entrances inside buildings and shipping out the spoil in trucks, or dumping the spoil into rivers.": "Будь-яке підземне виймання ґрунту потребує переміщення землі й породи (так званого «відвалу») на поверхню. Це може бути важко приховати: варіанти включають приховування виймання ґрунту в рамках іншого промислового проєкту, розміщення входів у тунелі всередині будівель і вивезення відвалу вантажівками, або скидання відвалу в річки.", "Finally, the space-based ground-moving target indicator (GMTI) system currently under development by the US Space Force and NRO could be used to track individual logistics vehicles involved in constructing or operating a covert datacenter, depending on the program timeline.": "Нарешті, космічна система індикації наземних рухомих цілей (GMTI), яку наразі розробляють Космічні сили США та NRO, може бути використана для відстеження окремих логістичних транспортних засобів, задіяних у будівництві чи експлуатації таємного дата-центру, залежно від графіка програми.", " We are unsure how much this would aid detection, but to the extent it can be modeled as “a video map showing every unobstructed vehicle in China,” it seems extremely useful in conjunction with the massive amounts of AI labor that Plan A would bring. If the system needs to be tasked to a narrow area to track vehicles, it becomes less useful for discovering remote sites, but still useful for gathering evidence about an area already flagged as suspicious.": " Ми не впевнені, наскільки це допоможе виявленню, але тією мірою, якою це можна змоделювати як «відеокарту, що показує кожен неперешкоджений транспортний засіб у Китаї», це видається надзвичайно корисним у поєднанні з величезними обсягами ШІ-праці, які принесе План A. Якщо систему потрібно буде спрямувати на вузьку область для відстеження транспортних засобів, вона стане менш корисною для виявлення віддалених об'єктів, але все одно корисною для збору доказів про область, уже позначену як підозрілу.", "We are unsure how much this would aid detection, but to the extent it can be modeled as “a video map showing every unobstructed vehicle in China,” it seems extremely useful in conjunction with the massive amounts of AI labor that Plan A would bring. If the system needs to be tasked to a narrow area to track vehicles, it becomes less useful for discovering remote sites, but still useful for gathering evidence about an area already flagged as suspicious.": "Ми не впевнені, наскільки це допоможе виявленню, але тією мірою, якою це можна змоделювати як «відеокарту, що показує кожен неперешкоджений транспортний засіб у Китаї», це видається надзвичайно корисним у поєднанні з величезними обсягами ШІ-праці, які принесе План A. Якщо систему потрібно буде спрямувати на вузьку область для відстеження транспортних засобів, вона стане менш корисною для виявлення віддалених об'єктів, але все одно корисною для збору доказів про область, уже позначену як підозрілу.", "Method #3: SIGINT": "Метод №3: SIGINT", "Building covert datacenters would require specialized contractors. For example, following the strategy we discuss below in ": "Будівництво таємних дата-центрів вимагатиме спеціалізованих підрядників. Наприклад, дотримуючись стратегії, яку ми обговорюємо нижче в розділі ", "Building covert datacenters would require specialized contractors. For example, following the strategy we discuss below in": "Будівництво таємних дата-центрів вимагатиме спеціалізованих підрядників. Наприклад, дотримуючись стратегії, яку ми обговорюємо нижче в розділі", "Building invisible datacenters": "«Будівництво невидимих дата-центрів»", ", you would need": ", вам знадобляться", "Excavation": "Земляні роботи", "Hydraulic engineering, to design and build the hidden cooling intake structure and outfalls": "Гідротехнічна інженерія — для проєктування й будівництва прихованої водозабірної структури охолодження та випусків", "Nuclear engineering": "Ядерна інженерія", "All the contractors and disciplines involved in a normal datacenter project": "Усі підрядники й дисципліни, задіяні у звичайному проєкті дата-центру", "Possibly TEMPEST or equivalent": "Можливо, TEMPEST або еквівалент", "It seems plausible that the US could identify a relatively small number of contractors among whom one would almost certainly be involved in a covert project. Cyber operations against all of those firms might be sufficient to rule out the existence of a covert project. We are uncertain about the tractability and potential consequences of doing this. Relevant public information includes the ": "Видається правдоподібним, що США могли б визначити відносно невелику кількість підрядників, серед яких хтось майже напевно був би залучений до таємного проєкту. Кіберoперацій проти всіх цих фірм могло б бути достатньо, щоб виключити існування таємного проєкту. Ми не впевнені щодо здійсненності та потенційних наслідків цього. Відповідна публічна інформація включає ", "It seems plausible that the US could identify a relatively small number of contractors among whom one would almost certainly be involved in a covert project. Cyber operations against all of those firms might be sufficient to rule out the existence of a covert project. We are uncertain about the tractability and potential consequences of doing this. Relevant public information includes the": "Видається правдоподібним, що США могли б визначити відносно невелику кількість підрядників, серед яких хтось майже напевно був би залучений до таємного проєкту. Кіберoперацій проти всіх цих фірм могло б бути достатньо, щоб виключити існування таємного проєкту. Ми не впевнені щодо здійсненності та потенційних наслідків цього. Відповідна публічна інформація включає", "NSA’s breach of Huawei in 2010": "злам АНБ мереж Huawei у 2010 році", ", in which they reportedly “obtained information about the workings of [Huawei-produced networking products] and monitored communications of the company’s top executives”.": ", під час якого, за повідомленнями, вони «отримали інформацію про роботу [мережевих продуктів виробництва Huawei] і відстежували комунікації топменеджерів компанії».", "Method #4: HUMINT": "Метод №4: HUMINT", "Though counterintelligence would likely carefully vet the individuals with full, incriminating knowledge of a covert AI project, it seems possible that foreign intelligence assets would be read into the program. Obviously very little public information is available to estimate how likely this is. Our vague sense is that China is considered one of the more difficult countries for Western HUMINT collection.": "Хоча контррозвідка, ймовірно, ретельно перевіряла б осіб з повним, викривальним знанням таємного проєкту зі ШІ, видається можливим, що іноземні розвідувальні активи були б залучені до програми. Очевидно, що публічної інформації для оцінки ймовірності цього дуже мало. Наше приблизне враження таке, що Китай вважається однією зі складніших країн для західного збору HUMINT.", "As part of the deal, we recommend that the US negotiate for a whistleblower program under which anyone with evidence of compute diversion, covert AI datacenter construction, or other deal-undermining activities can be interviewed and guaranteed protection against retaliation. We are uncertain about how much diplomatic allowance here is realistic, considering that a program like this would also aid normal non-AI-related HUMINT efforts in China. It’s possible that having a neutral third party operate the whistleblower program in China would be more acceptable than if the US were operating it.": "У межах Угоди ми рекомендуємо, щоб США домовилися про програму захисту викривачів, за якою будь-кого з доказами відхилення обчислювальних потужностей, будівництва таємного дата-центру ШІ чи іншої діяльності, що підриває Угоду, можна опитати й гарантувати захист від переслідувань. Ми не впевнені, наскільки реалістичною є така дипломатична поступка з огляду на те, що подібна програма також допомогла б звичайним, не пов'язаним із ШІ, зусиллям HUMINT у Китаї. Можливо, що робота нейтральної третьої сторони, яка керуватиме програмою захисту викривачів у Китаї, була б прийнятнішою, ніж якби нею керували США.", "Method #5: AI silver bullets": "Метод №5: ШІ-«срібні кулі»", "Note: Everything in this section is significantly more speculative than the rest of this document because it assumes extreme AI capabilities.": "Примітка: усе в цьому розділі значно спекулятивніше за решту документа, оскільки він припускає екстремальні можливості ШІ.", "During plan A, we scale to extremely capable AI; reaching AI as capable as top human experts at everything. This accelerates economic and scientific progress, which could substantially improve detection capabilities:": "Упродовж Плану A ми масштабуємося до надзвичайно здатного ШІ, досягаючи рівня ШІ, здатного зрівнятися з найкращими людськими експертами в усьому. Це прискорює економічний і науковий прогрес, що могло б суттєво покращити можливості виявлення:", "Reliable Lie Detectors.": "Надійні детектори брехні.", " AIs could accelerate the development of reliable lie detectors. Existing lie detectors (e.g. polygraphs) can relatively easily be fooled. Reliable lie detectors might be developed in the near future over the course of normal human technological development, but extreme level of AI capabilities could accelerate the timeline. It’s also unclear to what extent the development of lie detectors would be politically accepted. If it’s possible for a regime with a covert project to decline being subject to a lie detector on principle, lie detectors won’t be helpful. On the other hand, the US could leave the deal unless China and/or other counterparties agreed to submit senior leaders to lie detection.": " ШІ могли б пришвидшити розробку надійних детекторів брехні. Наявні детектори брехні (наприклад, поліграфи) можна відносно легко обдурити. Надійні детектори брехні можуть бути розроблені в найближчому майбутньому в ході звичайного людського технологічного розвитку, але екстремальний рівень можливостей ШІ міг би пришвидшити цей часовий графік. Також незрозуміло, наскільки розробка детекторів брехні буде політично прийнятною. Якщо режим із таємним проєктом зможе принципово відмовитися від проходження детектора брехні, детектори брехні не допоможуть. З іншого боку, США могли б залишити Угоду, якщо Китай та/або інші сторони не погодяться піддати старших керівників перевірці на детекторі брехні.", "AIs could accelerate the development of reliable lie detectors. Existing lie detectors (e.g. polygraphs) can relatively easily be fooled. Reliable lie detectors might be developed in the near future over the course of normal human technological development, but extreme level of AI capabilities could accelerate the timeline. It’s also unclear to what extent the development of lie detectors would be politically accepted. If it’s possible for a regime with a covert project to decline being subject to a lie detector on principle, lie detectors won’t be helpful. On the other hand, the US could leave the deal unless China and/or other counterparties agreed to submit senior leaders to lie detection.": "ШІ могли б пришвидшити розробку надійних детекторів брехні. Наявні детектори брехні (наприклад, поліграфи) можна відносно легко обдурити. Надійні детектори брехні можуть бути розроблені в найближчому майбутньому в ході звичайного людського технологічного розвитку, але екстремальний рівень можливостей ШІ міг би пришвидшити цей часовий графік. Також незрозуміло, наскільки розробка детекторів брехні буде політично прийнятною. Якщо режим із таємним проєктом зможе принципово відмовитися від проходження детектора брехні, детектори брехні не допоможуть. З іншого боку, США могли б залишити Угоду, якщо Китай та/або інші сторони не погодяться піддати старших керівників перевірці на детекторі брехні.", "Privacy preserving AI verification technology.": "Технологія ШІ-верифікації із захистом приватності.", " AIs could enable intrusive verification to be done in a privacy preserving fashion, i.e., without leaking unacceptable information. This could be implemented as follows. First, place a huge number of sensors (e.g. cameras, thermometers), and mobile robots across China, such that if the US were able to observe each of them, they would be confident there is no Chinese covert project. Then, give all of that information to an AI trained by the US on a secure server on Chinese soil, and have the AI analyze that information for worrying signs. Finally, allow the AI to communicate a very high level summary of its findings, (for example, “Is China running a covert project?”), and delete the rest of the information. In principle, this approach could enable verification intrusive enough to usefully rule out covert projects without divulging any sensitive state secrets.": " ШІ могли б дозволити проводити інтрузивну верифікацію у спосіб, що зберігає приватність, тобто без витоку неприйнятної інформації. Це можна було б реалізувати так. Спочатку розмістити величезну кількість датчиків (наприклад, камер, термометрів) і мобільних роботів по всьому Китаю таким чином, що якби США могли спостерігати за кожним з них, вони були б впевнені у відсутності таємного китайського проєкту. Потім передати всю цю інформацію ШІ, навченому США на захищеному сервері на китайській території, і нехай ШІ аналізує цю інформацію на предмет тривожних ознак. Нарешті, дозволити ШІ повідомити узагальнений висновок дуже високого рівня своїх висновків (наприклад: «Чи веде Китай таємний проєкт?»), а решту інформації видалити. У принципі, такий підхід міг би забезпечити верифікацію, достатньо інтрузивну, щоб корисно виключити таємні проєкти, не розголошуючи жодних чутливих державних таємниць.", "AIs could enable intrusive verification to be done in a privacy preserving fashion, i.e., without leaking unacceptable information. This could be implemented as follows. First, place a huge number of sensors (e.g. cameras, thermometers), and mobile robots across China, such that if the US were able to observe each of them, they would be confident there is no Chinese covert project. Then, give all of that information to an AI trained by the US on a secure server on Chinese soil, and have the AI analyze that information for worrying signs. Finally, allow the AI to communicate a very high level summary of its findings, (for example, “Is China running a covert project?”), and delete the rest of the information. In principle, this approach could enable verification intrusive enough to usefully rule out covert projects without divulging any sensitive state secrets.": "ШІ могли б дозволити проводити інтрузивну верифікацію у спосіб, що зберігає приватність, тобто без витоку неприйнятної інформації. Це можна було б реалізувати так. Спочатку розмістити величезну кількість датчиків (наприклад, камер, термометрів) і мобільних роботів по всьому Китаю таким чином, що якби США могли спостерігати за кожним з них, вони були б впевнені у відсутності таємного китайського проєкту. Потім передати всю цю інформацію ШІ, навченому США на захищеному сервері на китайській території, і нехай ШІ аналізує цю інформацію на предмет тривожних ознак. Нарешті, дозволити ШІ повідомити узагальнений висновок дуже високого рівня своїх висновків (наприклад: «Чи веде Китай таємний проєкт?»), а решту інформації видалити. У принципі, такий підхід міг би забезпечити верифікацію, достатньо інтрузивну, щоб корисно виключити таємні проєкти, не розголошуючи жодних чутливих державних таємниць.", "Extreme industrial verification.": "Екстремальна промислова верифікація.", " By 2035, real US GDP in Plan A has grown by a factor of 25 relative to today. This enables extreme feats of industrial capacity. In an extreme case, all relevant manufacturing and industrial processes (e.g. aluminum plants that could be used to hide the waste heat of a covert project) could be disassembled and replaced/reassembled in a verified location (i.e., a robot SEZ). Again, there may not be political willingness to pay this cost, however, if there is substantial pressure (e.g. because both sides strongly want to continue the cooperative Plan A regime, but there is some evidence of a covert project, so one side wants higher assurance), it is plausible that this could happen, especially if combined with privacy preserving AI verification.": " До 2035 року реальний ВВП США в межах Плану A зросте у 25 разів порівняно з сьогоднішнім. Це уможливлює екстремальні досягнення в промисловій потужності. У крайньому випадку всі відповідні виробничі та промислові процеси (наприклад, алюмінієві заводи, які можна було б використовувати для приховування скидного тепла таємного проєкту) можна було б розібрати й перезібрати/зібрати заново у верифікованому місці (тобто в роботизованій СЕЗ). Знову ж таки, може не бути політичної готовності платити таку ціну, однак, якщо є суттєвий тиск (наприклад, тому що обидві сторони сильно хочуть продовжувати кооперативний режим Плану A, але є деякі докази таємного проєкту, тож одна сторона хоче вищої гарантії), правдоподібно, що це могло б відбутися, особливо в поєднанні з ШІ-верифікацією із захистом приватності.", "By 2035, real US GDP in Plan A has grown by a factor of 25 relative to today. This enables extreme feats of industrial capacity. In an extreme case, all relevant manufacturing and industrial processes (e.g. aluminum plants that could be used to hide the waste heat of a covert project) could be disassembled and replaced/reassembled in a verified location (i.e., a robot SEZ). Again, there may not be political willingness to pay this cost, however, if there is substantial pressure (e.g. because both sides strongly want to continue the cooperative Plan A regime, but there is some evidence of a covert project, so one side wants higher assurance), it is plausible that this could happen, especially if combined with privacy preserving AI verification.": "До 2035 року реальний ВВП США в межах Плану A зросте у 25 разів порівняно з сьогоднішнім. Це уможливлює екстремальні досягнення в промисловій потужності. У крайньому випадку всі відповідні виробничі та промислові процеси (наприклад, алюмінієві заводи, які можна було б використовувати для приховування скидного тепла таємного проєкту) можна було б розібрати й перезібрати/зібрати заново у верифікованому місці (тобто в роботизованій СЕЗ). Знову ж таки, може не бути політичної готовності платити таку ціну, однак, якщо є суттєвий тиск (наприклад, тому що обидві сторони сильно хочуть продовжувати кооперативний режим Плану A, але є деякі докази таємного проєкту, тож одна сторона хоче вищої гарантії), правдоподібно, що це могло б відбутися, особливо в поєднанні з ШІ-верифікацією із захистом приватності.", "AIs will be making vast amounts of scientific progress over the course of Plan A (probably something like the equivalent of 100s of years of human equivalent progress over the course of the 2030s). Historical technological progress has resulted in all sorts of technologies that are helpful for detecting covert projects that would have been very hard to predict far in advance (e.g. satellite monitoring). We should expect all of this progress to result in improved detection methodologies in hard to predict ways. We should similarly expect that the technological progress would help concealment of covert projects as well; however, our general guess is that we expect technological progress to favor verification over concealment.": "ШІ-системи здійснюватимуть величезний обсяг наукового прогресу упродовж Плану A (імовірно, щось на кшталт еквівалента сотень років людського прогресу за 2030-ті). Історичний технологічний прогрес породив усілякі технології, корисні для виявлення таємних проєктів, які було б дуже важко передбачити задовго наперед (наприклад, супутниковий моніторинг). Нам слід очікувати, що весь цей прогрес призведе до покращення методологій виявлення у важкопередбачувані способи. Так само нам слід очікувати, що технологічний прогрес допоможе і приховуванню таємних проєктів; однак наше загальне припущення таке, що технологічний прогрес, на нашу думку, сприятиме верифікації більше, ніж приховуванню.", "Section 3.2 Covert project strategies for avoiding detection": "Розділ 3.2 Стратегії таємних проєктів для уникнення виявлення", "In this section, we cover strategies that covert projects could take to avoid detection (classified as “invisible” or “disguised”.": "У цьому розділі ми розглядаємо стратегії, які таємні проєкти могли б застосувати, щоб уникнути виявлення (класифіковані як «невидимі» або «замасковані»).", "How distributed would covert datacenters be?": "Наскільки розподіленими були б таємні дата-центри?", "Why one big datacenter instead of many small ones? Covert projects would aim to minimize project detection hazard per unit compute. At sufficiently small scales (e.g. a single 8xH100 server), detection hazard per site seems to scale sublinearly with site size (the detection risk to a group of four different 8xH100 servers in four different cities is higher than if all four servers were placed in a single rack). To minimize detection hazard per unit compute, you should therefore increase site size up to the point where detection hazard per site starts to scale superlinearly with site size, or until some other constraint prevents you from scaling up further.": "Чому один великий дата-центр замість багатьох малих? Таємні проєкти прагнули б мінімізувати ризик виявлення проєкту на одиницю обчислювальних потужностей. За достатньо малих масштабів (наприклад, один сервер 8xH100) ризик виявлення на об'єкт, схоже, зростає сублінійно з розміром об'єкта (ризик виявлення для групи з чотирьох різних серверів 8xH100 у чотирьох різних містах вищий, ніж якби всі чотири сервери розмістили в одній стійці). Щоб мінімізувати ризик виявлення на одиницю обчислювальних потужностей, вам слід, отже, збільшувати розмір об'єкта до точки, де ризик виявлення на об'єкт почне зростати надлінійно з розміром об'єкта, або поки якесь інше обмеження не завадить подальшому масштабуванню.", "Method #1: Disguised Datacenters": "Метод №1: Замасковані дата-центри", "Compared to “invisible datacenters”, “disguised datacenters” have the disadvantage that any specific, visible facility could be subject to focused scrutiny and potentially challenge inspection.": "Порівняно з «невидимими дата-центрами», «замасковані дата-центри» мають той недолік, що будь-який конкретний, видимий об'єкт може бути підданий пильному нагляду й потенційно вимогою на інспекцію.", " For example, the US could assemble a ranked list of China’s largest industrial loads and task satellites to frequently revisit them, collect SIGINT on the companies that ostensibly operate them, and attempt to recruit human sources who work there or live nearby. For a plant that produces a visible material output, it seems plausible to directly track shipments out of the facility and compare that with the heat rejection. (e.g. a datacenter disguised as an aluminum smelter would produce far less aluminum than is typical for a smelter of similar power draw.) You could try to get around this by making the datacenter a small fraction of the total power draw (e.g. 1% – 10%), but this would restrict the datacenter to on the order of 10 MW – 100 MW (we are not aware of any industrial loads on the order of 10 GW or higher.)": " Наприклад, США могли б скласти рейтинговий список найбільших промислових навантажень Китаю й доручити супутникам часто повертатися до них, збирати SIGINT про компанії, що нібито ними керують, і намагатися завербувати людські джерела, які там працюють або живуть поблизу. Для заводу, що виробляє видимий матеріальний продукт, видається правдоподібним безпосередньо відстежувати вантажі, що вивозяться з об'єкта, і порівнювати це з відведенням тепла. (Наприклад, дата-центр, замаскований під алюмінієвий завод, виробляв би значно менше алюмінію, ніж типово для заводу з подібним енергоспоживанням.) Можна спробувати обійти це, зробивши дата-центр невеликою часткою загального енергоспоживання (наприклад, 1%–10%), але це обмежило б дата-центр порядком 10 МВт–100 МВт (нам не відомо про промислові навантаження порядку 10 ГВт чи вище).", "For example, the US could assemble a ranked list of China’s largest industrial loads and task satellites to frequently revisit them, collect SIGINT on the companies that ostensibly operate them, and attempt to recruit human sources who work there or live nearby. For a plant that produces a visible material output, it seems plausible to directly track shipments out of the facility and compare that with the heat rejection. (e.g. a datacenter disguised as an aluminum smelter would produce far less aluminum than is typical for a smelter of similar power draw.) You could try to get around this by making the datacenter a small fraction of the total power draw (e.g. 1% – 10%), but this would restrict the datacenter to on the order of 10 MW – 100 MW (we are not aware of any industrial loads on the order of 10 GW or higher.)": "Наприклад, США могли б скласти рейтинговий список найбільших промислових навантажень Китаю й доручити супутникам часто повертатися до них, збирати SIGINT про компанії, що нібито ними керують, і намагатися завербувати людські джерела, які там працюють або живуть поблизу. Для заводу, що виробляє видимий матеріальний продукт, видається правдоподібним безпосередньо відстежувати вантажі, що вивозяться з об'єкта, і порівнювати це з відведенням тепла. (Наприклад, дата-центр, замаскований під алюмінієвий завод, виробляв би значно менше алюмінію, ніж типово для заводу з подібним енергоспоживанням.) Можна спробувати обійти це, зробивши дата-центр невеликою часткою загального енергоспоживання (наприклад, 1%–10%), але це обмежило б дата-центр порядком 10 МВт–100 МВт (нам не відомо про промислові навантаження порядку 10 ГВт чи вище).", "However, “invisible datacenters” require more complicated engineering and may not be feasible, especially against potential new AI-produced remote sensing capabilities developed during Plan A.": "Однак «невидимі дата-центри» вимагають складнішої інженерії й можуть бути нездійсненними, особливо проти потенційних нових можливостей дистанційного зондування, вироблених ШІ упродовж Плану A.", "Some specific industrial facility types that might be useful cover stories:": "Деякі конкретні типи промислових об'єктів, які могли б слугувати корисним прикриттям:", "Aluminum smelters. China produces 43 MT of aluminum per year, aluminum smelters require ~1.6 gigawatts per Mt/yr, which naively implies ~70 GW of aluminum smelting capacity in China.": "Алюмінієві заводи. Китай виробляє 43 млн тонн алюмінію на рік, алюмінієві заводи потребують приблизно 1,6 гігавата на Мт/рік, що наївно передбачає приблизно 70 ГВт потужностей з виплавки алюмінію в Китаї.", "Nuclear power plants.": "Атомні електростанції.", "Combustion power plants": "Теплові електростанції", "Example: hiding a datacenter under an aluminum smelter": "Приклад: приховування дата-центру під алюмінієвим заводом", "In this example, the IT equipment would be located underground, with any excavation happening indoors to avoid visible spoil piles or excavation equipment. The power would be diverted from an onsite coal plant or grid connection (ostensibly to support the smelter). This would require the facility to produce less aluminum than its power draw or thermal signature would imply. But based on our research, it doesn’t seem possible to accurately measure the actual aluminum shipped from an aluminum smelter using national technical means.": "У цьому прикладі ІТ-обладнання розташовувалося б під землею, з будь-яким виїмковим виробництвом усередині приміщень, щоб уникнути видимих купи відвалу чи екскаваційної техніки. Живлення відводилося б від вугільної електростанції на об'єкті або мережевого підключення (нібито для підтримки заводу). Це вимагало б, щоб об'єкт виробляв менше алюмінію, ніж передбачало б його енергоспоживання чи теплова сигнатура. Але, судячи з наших досліджень, здається неможливим точно виміряти фактичний обсяг алюмінію, відвантаженого з алюмінієвого заводу, за допомогою національних технічних засобів.", " Though the heat signature of a datacenter is different than that of an aluminum smelter, it doesn’t seem obviously thermodynamically prohibited to design a cooling system which dissipates heat from the IT equipment in a way that resembles the heat dissipation from aluminum smelters.": " Хоча теплова сигнатура дата-центру відрізняється від сигнатури алюмінієвого заводу, не видається очевидно термодинамічно забороненим спроєктувати систему охолодження, яка розсіює тепло від ІТ-обладнання у спосіб, схожий на розсіювання тепла алюмінієвими заводами.", "Though the heat signature of a datacenter is different than that of an aluminum smelter, it doesn’t seem obviously thermodynamically prohibited to design a cooling system which dissipates heat from the IT equipment in a way that resembles the heat dissipation from aluminum smelters.": "Хоча теплова сигнатура дата-центру відрізняється від сигнатури алюмінієвого заводу, не видається очевидно термодинамічно забороненим спроєктувати систему охолодження, яка розсіює тепло від ІТ-обладнання у спосіб, схожий на розсіювання тепла алюмінієвими заводами.", "Method #2: Invisible Datacenters": "Метод №2: Невидимі дата-центри", "Trying to make a datacenter look like ": "Спроба зробити так, щоб дата-центр виглядав як ", "Trying to make a datacenter look like": "Спроба зробити так, щоб дата-центр виглядав як", "nothing": "ніщо", " seems more complex than making it look like something else. The biggest difficulty we’ve identified is hiding the heat rejected by the IT equipment (and any onsite power generation). In theory, all the equipment can be built underground and shielded from the view of satellites, but the heat needs to leave the facility somewhere. See the ": ", видається складнішою, ніж зробити так, щоб він виглядав як щось інше. Найбільша труднощі, яку ми виявили, — приховування тепла, що скидається ІТ-обладнанням (і будь-якою генерацією енергії на об'єкті). Теоретично все обладнання можна побудувати під землею й екранувати від спостереження супутників, але тепло має кудись покинути об'єкт. Див. розділ ", "seems more complex than making it look like something else. The biggest difficulty we’ve identified is hiding the heat rejected by the IT equipment (and any onsite power generation). In theory, all the equipment can be built underground and shielded from the view of satellites, but the heat needs to leave the facility somewhere. See the": ", видається складнішою, ніж зробити так, щоб він виглядав як щось інше. Найбільша труднощі, яку ми виявили, — приховування тепла, що скидається ІТ-обладнанням (і будь-якою генерацією енергії на об'єкті). Теоретично все обладнання можна побудувати під землею й екранувати від спостереження супутників, але тепло має кудись покинути об'єкт. Див. розділ", "Remote sensing, IMINT, and MASINT": "«Дистанційне зондування, IMINT і MASINT»", " section. Besides the ongoing signatures, the initial construction period will also show activity, though avoiding detection has some precedent.": ". Окрім постійних сигнатур, початковий період будівництва також покаже активність, хоча уникнення виявлення має деякий прецедент.", "section. Besides the ongoing signatures, the initial construction period will also show activity, though avoiding detection has some precedent.": ". Окрім постійних сигнатур, початковий період будівництва також покаже активність, хоча уникнення виявлення має деякий прецедент.", "Example: once-through cooling + nuclear power": "Приклад: прямоточне охолодження + атомна енергетика", "One potential strategy might be to build or extend an existing underground facility, install sufficiently many small nuclear reactors there to power the IT equipment, build an intake structure deep underwater on the coast, and use some sort of deep-water multiport-diffuser type design for the outfall to try to ensure that the hot cooling water dilutes to a temperature below the IR noise floor before reaching the surface. We aren’t sure whether a diffuser could be designed to those requirements, but it seems plausible. If so, a facility of this type seems quite difficult to detect via remote sensing once operational. The infrequent or nonexistent refueling requirements of the nuclear reactors would make even full knowledge of China’s electrical grid, natural gas distribution, etc. insufficient to locate the facility. We do not think ": "Одна потенційна стратегія могла б полягати в побудові чи розширенні наявного підземного об'єкта, встановленні там достатньо малих атомних реакторів для живлення ІТ-обладнання, побудові водозабірної структури глибоко під водою на узбережжі, та використанні якогось глибоководного багатопортового дифузорного дизайну для випуску, щоб гаряча охолоджувальна вода розбавлялася до температури нижче порогу ІЧ-шуму, перш ніж досягти поверхні. Ми не впевнені, чи можна спроєктувати дифузор під ці вимоги, але це видається правдоподібним. Якщо так, об'єкт такого типу видається досить складним для виявлення дистанційним зондуванням після введення в експлуатацію. Нечасті або відсутні потреби в перезаправці атомних реакторів зробили б навіть повне знання про електромережу Китаю, розподіл природного газу тощо недостатнім для локалізації об'єкта. Ми не вважаємо, що ", "One potential strategy might be to build or extend an existing underground facility, install sufficiently many small nuclear reactors there to power the IT equipment, build an intake structure deep underwater on the coast, and use some sort of deep-water multiport-diffuser type design for the outfall to try to ensure that the hot cooling water dilutes to a temperature below the IR noise floor before reaching the surface. We aren’t sure whether a diffuser could be designed to those requirements, but it seems plausible. If so, a facility of this type seems quite difficult to detect via remote sensing once operational. The infrequent or nonexistent refueling requirements of the nuclear reactors would make even full knowledge of China’s electrical grid, natural gas distribution, etc. insufficient to locate the facility. We do not think": "Одна потенційна стратегія могла б полягати в побудові чи розширенні наявного підземного об'єкта, встановленні там достатньо малих атомних реакторів для живлення ІТ-обладнання, побудові водозабірної структури глибоко під водою на узбережжі, та використанні якогось глибоководного багатопортового дифузорного дизайну для випуску, щоб гаряча охолоджувальна вода розбавлялася до температури нижче порогу ІЧ-шуму, перш ніж досягти поверхні. Ми не впевнені, чи можна спроєктувати дифузор під ці вимоги, але це видається правдоподібним. Якщо так, об'єкт такого типу видається досить складним для виявлення дистанційним зондуванням після введення в експлуатацію. Нечасті або відсутні потреби в перезаправці атомних реакторів зробили б навіть повне знання про електромережу Китаю, розподіл природного газу тощо недостатнім для локалізації об'єкта. Ми не вважаємо, що", "existing technologies": "наявні технології", " for detecting hidden nuclear reactors would be effective in this case, but again, we are not experts and could be wrong here.": " для виявлення прихованих атомних реакторів були б ефективними в цьому випадку, але знову ж таки, ми не є експертами й можемо тут помилятися.", "for detecting hidden nuclear reactors would be effective in this case, but again, we are not experts and could be wrong here.": "для виявлення прихованих атомних реакторів були б ефективними в цьому випадку, але знову ж таки, ми не є експертами й можемо тут помилятися.", "Hybrid strategies": "Гібридні стратегії", "China could also target “invisibility” for some aspects of the facility while disguising others. For example, it might be possible to site the IT equipment and power generation inside a logistics warehouse (e.g. receiving shipments of diesel fuel by truck). This has the advantage that there are many logistics warehouses, so the close-scrutiny consideration mentioned above might not apply. However, since a logistics warehouse doesn’t reject much heat normally, the cooling would need to be rendered “invisible” via one of the techniques discussed above.": "Китай також міг би цілитися в «невидимість» для одних аспектів об'єкта, водночас маскуючи інші. Наприклад, могло б бути можливим розмістити ІТ-обладнання й генерацію енергії всередині логістичного складу (наприклад, приймаючи вантажі дизельного пального вантажівками). Це має ту перевагу, що логістичних складів багато, тож зазначене вище міркування щодо пильного нагляду може не застосовуватися. Однак оскільки логістичний склад зазвичай не скидає багато тепла, охолодження потрібно було б зробити «невидимим» за допомогою однієї з обговорених вище технік.", "Section 3.3 Quantitative estimates": "Розділ 3.3 Кількісні оцінки", "How much datacenter capacity does the diverted compute require?": "Скільки потужностей дата-центру потребує відхилений обсяг обчислювальних потужностей?", "2026.0 US IT power per H100e (at max utilization)": "Енергоспоживання ІТ у США на H100e станом на 2026.0 (за максимального завантаження)", "DGX GB200 SuperPOD reference architecture": "Референсна архітектура DGX GB200 SuperPOD", " p.6. One Scalable Unit of 8 NVL72 servers has a TDP of 1.2 MW, so 150 kW per server, including InfiniBand and Ethernet networking, management nodes, and storage.": ", стор. 6. Один масштабований модуль із 8 серверів NVL72 має TDP 1,2 МВт, тобто 150 кВт на сервер, включно з мережею InfiniBand і Ethernet, вузлами керування та сховищем.", "p.6. One Scalable Unit of 8 NVL72 servers has a TDP of 1.2 MW, so 150 kW per server, including InfiniBand and Ethernet networking, management nodes, and storage.": ", стор. 6. Один масштабований модуль із 8 серверів NVL72 має TDP 1,2 МВт, тобто 150 кВт на сервер, включно з мережею InfiniBand і Ethernet, вузлами керування та сховищем.", "We then divide by 2.5 * 72 H100e per server to get 833 W/H100e.": "Потім ми ділимо на 2,5 * 72 H100e на сервер, щоб отримати 833 Вт/H100e.", "Average US power efficiency progress per year, 2026.0–2028.0": "Середній прогрес енергоефективності США за рік, 2026.0–2028.0", "1.37x/year": "1,37x/рік", "Averaging the three relevant cells in ": "Усереднення трьох відповідних клітинок у ", "Averaging the three relevant cells in": "Усереднення трьох відповідних клітинок у", "Smuggled chip proxy year": "Проксі-рік контрабандного чипа", "Roughly when the smuggling happens, adjusted forward slightly to account for the value of an exponential at the midpoint underestimating its average.": "Приблизно коли відбувається контрабанда, злегка скориговано вперед з урахуванням того, що значення експоненти в середній точці недооцінює її середнє.", "Chinese domestic power efficiency gap during diversion period": "Розрив китайської внутрішньої енергоефективності в період відхилення", "Taking a value between the two relevant cells in ": "Беручи значення між двома відповідними клітинками в ", "Taking a value between the two relevant cells in": "Беручи значення між двома відповідними клітинками в", "Decommissioned chip proxy year": "Проксі-рік списаного чипа", "Seems vaguely right, the decommissioned chips will generally be older than this, but more of the compute will be from the newer chips since the quantity is growing 2–4x per year or so.": "Здається приблизно правильним, списані чипи загалом будуть старішими за це, але більша частка обчислювальних потужностей припадатиме на новіші чипи, оскільки кількість зростає приблизно на 2–4x на рік.", "Covert datacenter peak PUE": "Пікове PUE таємного дата-центру", "This refers to the facility power usage at maximum utilization divided by the IT power usage at maximum utilization. We use the value from ": "Це стосується енергоспоживання об'єкта за максимального завантаження, поділеного на ІТ-енергоспоживання за максимального завантаження. Ми використовуємо значення з ", "This refers to the facility power usage at maximum utilization divided by the IT power usage at maximum utilization. We use the value from": "Це стосується енергоспоживання об'єкта за максимального завантаження, поділеного на ІТ-енергоспоживання за максимального завантаження. Ми використовуємо значення з", ". It should maybe be adjusted upward because it’s a covert datacenter, but pretty unclear, also unclear whether theoretical maximum power is what we want to track for a project that could be flexible if needed. Leaving it at 1.4 for now.": ". Можливо, його слід скоригувати у бік збільшення, оскільки це таємний дата-центр, але це досить неоднозначно, так само неоднозначно, чи є теоретичний максимум потужності тим, що ми хочемо відстежувати для проєкту, який міг би бути гнучким у разі потреби. Наразі залишаємо на рівні 1,4.", "With the parameter values above, a covert datacenter with 1 GW total facility power could support 1.9M H100e of 2028-era smuggled US chips, or around 1M H100e of decommissioned US chips, or 525k H100e of 2028-era domestically produced chips.": "За наведених вище значень параметрів таємний дата-центр із загальною потужністю об'єкта 1 ГВт міг би підтримувати 1,9 млн H100e контрабандних американських чипів епохи 2028 року, або близько 1 млн H100e списаних американських чипів, або 525 тис. H100e вироблених у Китаї чипів епохи 2028 року.", "How much time would construction take?": "Скільки часу зайняло б будівництво?", "Today, Epoch finds that ": "Сьогодні Epoch виявляє, що ", "Today, Epoch finds that": "Сьогодні Epoch виявляє, що", "gigawatt-scale datacenters can likely be built in two years or less": "дата-центри гігаватного масштабу, ймовірно, можна побудувати за два роки або менше", "Considerations pointing towards construction being faster than this:": "Міркування на користь того, що будівництво буде швидшим за це:", "By 2029, constructing datacenters of this scale will be more routine and likely faster than today.": "До 2029 року будівництво дата-центрів такого масштабу стане більш рутинним і, ймовірно, швидшим, ніж сьогодні.", "Additionally, being a top national priority for the Chinese government might enable a faster timeline than usual.": "Крім того, статус найвищого національного пріоритету для китайського уряду міг би уможливити швидший, ніж зазвичай, графік.", "In Plan A, we forecast that construction labor will be largely automated by robots. We are uncertain about the timing here, and this might not be a significant factor at the beginning of the deal.": "У Плані A ми прогнозуємо, що будівельна праця буде значною мірою автоматизована роботами. Ми не впевнені щодо термінів тут, і це може не бути суттєвим фактором на початку дії Угоди.", "Considerations pointing towards construction being slower than this:": "Міркування на користь того, що будівництво буде повільнішим за це:", "Clandestine underground facilities would require bespoke engineering that normal datacenters do not.": "Таємні підземні об'єкти вимагали б спеціально розробленої інженерії, якої не потребують звичайні дата-центри.", "Construction speed may be constrained by factors other than labor or spending (for example, if excavating a large underground cavern in a remote area, there may be a maximum rate at which spoil (dirt, rocks from excavation) can be carried away for distribution across a wide area to avoid creating satellite-visible piles).": "Швидкість будівництва може обмежуватися факторами, іншими за працю чи витрати (наприклад, якщо виривати велику підземну печеру у віддаленій місцевості, може існувати максимальна швидкість, з якою відвал (землю, каміння з виїмки) можна вивозити для розподілу на широкій території, щоб уникнути створення куп, видимих із супутника).", "If significant human labor is required, the requirement to avoid spies might make it difficult to find workers. Separately, compartmentalizing parts of the project could constrain parallelizability (e.g. you might want to finish excavation before installing any IT equipment to reduce the number of people who know IT equipment is being installed there.)": "Якщо потрібна значна людська праця, вимога уникати шпигунів могла б ускладнити пошук робітників. Окремо, розбиття проєкту на відсіки могло б обмежити можливість паралелізації (наприклад, можна захотіти завершити виїмку ґрунту, перш ніж встановлювати будь-яке ІТ-обладнання, щоб зменшити кількість людей, які знають, що там встановлюють ІТ-обладнання).", "We use ": "Ми використовуємо ", "We use": "Ми використовуємо", "two years": "два роки", " as a point estimate.": " як точкову оцінку.", "as a point estimate.": "як точкову оцінку.", "What detection risk do covert projects of various sizes incur?": "Який ризик виявлення несуть таємні проєкти різних розмірів?", "We use the following methodology to estimate the probability of detection.": "Ми використовуємо таку методологію для оцінки ймовірності виявлення.", "We are uncertain about how detection hazard scales with site size. Lacking any reason to expect detection hazard to scale superlinearly in site size, we suspect that the ": "Ми не впевнені, як ризик виявлення масштабується з розміром об'єкта. За відсутності будь-якої причини очікувати, що ризик виявлення масштабуватиметься надлінійно з розміром об'єкта, ми підозрюємо, що ", "We are uncertain about how detection hazard scales with site size. Lacking any reason to expect detection hazard to scale superlinearly in site size, we suspect that the": "Ми не впевнені, як ризик виявлення масштабується з розміром об'єкта. За відсутності будь-якої причини очікувати, що ризик виявлення масштабуватиметься надлінійно з розміром об'єкта, ми підозрюємо, що", "optimal strategy": "оптимальна стратегія", " resembles “make sites as large as possible subject to feasibility constraints”. Informed by the strategies above, we ": " нагадує «робити об'єкти максимально великими в межах обмежень здійсненності». Спираючись на наведені вище стратегії, ми ", "resembles “make sites as large as possible subject to feasibility constraints”. Informed by the strategies above, we": "нагадує «робити об'єкти максимально великими в межах обмежень здійсненності». Спираючись на наведені вище стратегії, ми", "estimate a distribution": "оцінюємо розподіл", " over the optimal site size (where optimal is basically an operationalization of “maximum feasible site size”.)": " оптимального розміру об'єкта (де «оптимальний» — це, по суті, операціоналізація «максимального здійсненного розміру об'єкта»).", "over the optimal site size (where optimal is basically an operationalization of “maximum feasible site size”.)": "оптимального розміру об'єкта (де «оптимальний» — це, по суті, операціоналізація «максимального здійсненного розміру об'єкта»).", "For a few possible “optimal site size” conditionals, we ": "Для кількох можливих умов «оптимального розміру об'єкта» ми ", "For a few possible “optimal site size” conditionals, we": "Для кількох можливих умов «оптимального розміру об'єкта» ми", "estimate the probability": "оцінюємо ймовірність", " of detection over the 10 year period in plan A conditional on 1 such site, and 10 such sites.": " виявлення упродовж 10-річного періоду Плану A за умови 1 такого об'єкта і 10 таких об'єктів.", "of detection over the 10 year period in plan A conditional on 1 such site, and 10 such sites.": "виявлення упродовж 10-річного періоду Плану A за умови 1 такого об'єкта і 10 таких об'єктів.", "We interpolate these intuitions with a shared-frailty model. This lets us produce 10-year detection probabilities for sites operating arbitrary amounts of compute (conditional on specific optimal site size outcomes, but we can also marginalize over that.)": "Ми інтерполюємо ці інтуїції за допомогою моделі спільної слабкості (shared-frailty). Це дозволяє нам отримати 10-річні ймовірності виявлення для об'єктів, що працюють із довільними обсягами обчислювальних потужностей (за умови конкретних результатів оптимального розміру об'єкта, але ми також можемо маргіналізувати за цим).", "We also estimate 3-year detection probabilities and interpolate the times with a weibull-type hazard rate (hazard rate varies with a power of time). This lets us produce survival curves over time for covert projects operating arbitrary amounts of compute.": "Ми також оцінюємо 3-річні ймовірності виявлення й інтерполюємо часи за допомогою вейбулівського типу функції ризику (функція ризику змінюється зі степенем часу). Це дозволяє нам отримати криві виживання в часі для таємних проєктів, що працюють із довільними обсягами обчислювальних потужностей.", "Our current operationalization of “detection” is focused on the physical infrastructure. We require that": "Наша поточна операціоналізація «виявлення» зосереджена на фізичній інфраструктурі. Ми вимагаємо, щоб", "Among locations that the US assesses as suspicious, the one they assess as the most likely covert datacenter candidate is in fact a covert datacenter": "Серед місць, які США оцінюють як підозрілі, те, яке вони оцінюють як найімовірнішого кандидата на таємний дата-центр, справді є таємним дата-центром", "The assessment of the US IC is >50% confident that this candidate is a covert datacenter. (it’s possible this threshold should be higher).": "Оцінка розвідувальної спільноти США впевнена більш ніж на 50% у тому, що цей кандидат є таємним дата-центром. (можливо, цей поріг має бути вищим).", "The goal of this operationalization is to match the point where the US would feel diplomatically comfortable requesting an inspection of that site, and disclosing it to the international community if needed to generate additional pressure.": "Мета цієї операціоналізації — відповідати точці, у якій США відчували б дипломатичну зручність вимагати інспекцію цього об'єкта та розкривати це міжнародній спільноті, якщо потрібно для створення додаткового тиску.", "Unfortunately, due to time constraints, the numbers used in the above process are based entirely on intuition and qualitative reasoning about the ": "На жаль, через обмеження в часі числа, використані у вищенаведеному процесі, повністю базуються на інтуїції та якісних міркуваннях щодо ", "Unfortunately, due to time constraints, the numbers used in the above process are based entirely on intuition and qualitative reasoning about the": "На жаль, через обмеження в часі числа, використані у вищенаведеному процесі, повністю базуються на інтуїції та якісних міркуваннях щодо", "detection methods": "методів виявлення", "hiding strategies": "стратегій приховування", " we considered. It seems possible to apply a historical reference-class approach, and we’ve informally looked at various historical examples of covert projects. But due to the number of asymmetries between this case and the historical examples we could find, and the lack of an obvious conclusion from our informal research, we did not judge a quantitative reference-class estimate to be worth devoting time to.": ", які ми розглянули. Видається можливим застосувати підхід історичного референтного класу, і ми неформально розглянули різні історичні приклади таємних проєктів. Але через кількість асиметрій між цим випадком та історичними прикладами, які ми змогли знайти, і відсутність очевидного висновку з нашого неформального дослідження, ми не вважали кількісну оцінку референтного класу вартою витрати часу.", "we considered. It seems possible to apply a historical reference-class approach, and we’ve informally looked at various historical examples of covert projects. But due to the number of asymmetries between this case and the historical examples we could find, and the lack of an obvious conclusion from our informal research, we did not judge a quantitative reference-class estimate to be worth devoting time to.": ", які ми розглянули. Видається можливим застосувати підхід історичного референтного класу, і ми неформально розглянули різні історичні приклади таємних проєктів. Але через кількість асиметрій між цим випадком та історичними прикладами, які ми змогли знайти, і відсутність очевидного висновку з нашого неформального дослідження, ми не вважали кількісну оцінку референтного класу вартою витрати часу.", "Therefore our estimates of detection probability over time should be treated as highly speculative. We choose to include them anyway for the sake of reasoning transparency, since the ability of states to detect covert projects is an important input to our views.": "Тому наші оцінки ймовірності виявлення з часом слід сприймати як вельми спекулятивні. Ми все одно вирішуємо включити їх заради прозорості міркувань, оскільки здатність держав виявляти таємні проєкти є важливим вхідним фактором для наших поглядів.", "Distribution over the optimal site size": "Розподіл оптимального розміру об'єкта", "Probability that >1MW is infeasible/suboptimal": "Імовірність того, що >1 МВт нездійсненний/неоптимальний", "This is an approximation for modeling purposes.": "Це наближення для цілей моделювання.", "Probability >10MW is infeasible/suboptimal": "Імовірність того, що >10 МВт нездійсненний/неоптимальний", "Intuitive guess. There are many different kinds of industrial sites that draw 10MW from the grid and dissipate 10MW of heat. Of each kind of site, China might have hundreds or thousands. It seems highly likely that at least one of them works as a disguise for a covert datacenter.": "Інтуїтивна оцінка. Існує багато різних видів промислових об'єктів, які споживають 10 МВт з мережі й відводять 10 МВт тепла. Кожного такого виду об'єктів у Китаї може бути сотні чи тисячі. Видається дуже ймовірним, що принаймні один з них слугує маскуванням для таємного дата-центру.", "Probability that >100MW is infeasible/suboptimal": "Імовірність того, що >100 МВт нездійсненний/неоптимальний", "Intuitive guess. There are fewer 100MW industrial sites in China, but probably still 1000+. But at this scale, you might need to rely on concealing the facility entirely rather than disguising it as something else.": "Інтуїтивна оцінка. У Китаї менше промислових об'єктів на 100 МВт, але, ймовірно, все ще 1000+. Але на цьому масштабі вам, можливо, доведеться покладатися на повне приховування об'єкта, а не маскування його під щось інше.", "Probability that >1 GW is infeasible/suboptimal": "Імовірність того, що >1 ГВт нездійсненний/неоптимальний", "Our assessment is that once-through cooling at 1 GW+ requires a deep-water diffuser in an ocean (not a river) to avoid a thermal plume. Rendering other cooling methods (air-cooled or water-vapor cooled chillers) invisible at this scale seems implausible.": "Наша оцінка полягає в тому, що прямоточне охолодження на рівні 1 ГВт+ вимагає глибоководного дифузора в океані (не в річці), щоб уникнути теплового шлейфу. Зробити невидимими інші методи охолодження (чилери повітряного чи паровипарного охолодження) в цьому масштабі видається неправдоподібним.", "There are some industrial sites at this scale, but seemingly not very many, and they would be highly visible targets for challenge inspection.": "Промислові об'єкти такого масштабу існують, але, схоже, їх небагато, і вони були б дуже видимими цілями для вимогливої інспекції.", "this Data Insight": "цього Data Insight", ", “a MW-weighted average across major US markets” finds that the facility capex per IT GW is $11B.": " випливає, що «MВт-зважене середнє по основних ринках США» показує, що капітальні витрати об'єкта на IT ГВт становлять 11 млрд дол.", "Probability that >10GW is infeasible/suboptimal": "Імовірність того, що >10 ГВт нездійсненний/неоптимальний", "Intuition-based detection probabilities, by site size and number of sites": "Ймовірності виявлення на основі інтуїції, за розміром об'єкта та кількістю об'єктів", "These estimates assume only the unilateral detection methods discussed above, and condition on no “AI silver bullets” being discovered (we add those on top in the final model). By “3y”, this means “three years into the deal”.": "Ці оцінки враховують лише обговорені вище односторонні методи виявлення й передбачають, що жодних «ШІ-срібних куль» не виявлено (ми додаємо їх зверху в підсумковій моделі). Під «3р» тут мається на увазі «через три роки після початку Угоди».", "Per-site facility power (MW)": "Потужність об'єкта на об'єкт (МВт)", "n sites": "кількість об'єктів", "P(detected by 3y)": "P(виявлено до 3р)", "P(detected by 10y)": "P(виявлено до 10р)", "Forecast of “AI silver bullet” discovery by year": "Прогноз виявлення «ШІ-срібної кулі» за роками", "Thomas’s overall view about the likelihood that anything in the category allows us to detect covert projects by the following years (assuming the events of Plan A) is:": "Загальний погляд Томаса на ймовірність того, що щось у цій категорії дозволить нам виявити таємні проєкти до наступних років (з урахуванням подій Плану A), такий:", "High will": "Висока воля", "Low will": "Низька воля", "Reasoning": "Обґрунтування", "I think the development of lie detectors is about 50/50 by 2033 conditional on the capability trajectory. In high will, this enables the US to threaten to leave the deal unless China submits to lie detection, which would reveal a covert project. Then there’s some probability that other paths help substantially, especially unknown unknowns.": "Я вважаю, що розробка детекторів брехні до 2033 року становить приблизно 50/50 за умови даної траєкторії можливостей. За сценарію високої волі це дає США змогу пригрозити виходом з Угоди, якщо Китай не пройде перевірку на детекторі брехні, що розкрило б таємний проєкт. Тоді існує певна ймовірність, що інші шляхи істотно допоможуть, особливо невідомі невідомі.", "By 2037, we are likely to have developed good lie detectors (maybe 80%). If a high will regime, lie detectors seems sufficient, and it’s very likely that other verification methods pan out, especially given that we’ll have the industrial capacity to install whatever monitoring devices are necessary. In a low will regime I’m less confident about what will happen.": "До 2037 року ми, ймовірно, розробимо хороші детектори брехні (можливо, 80%). За режиму високої волі детектори брехні видаються достатніми, і дуже ймовірно, що інші методи верифікації спрацюють, особливо з огляду на те, що у нас буде промислова потужність для встановлення будь-яких необхідних пристроїв моніторингу. За режиму низької волі я менш впевнений у тому, що станеться.", "All of these numbers set aside all the other detection methodologies, i.e., they assume that there’s no ability to detect.": "Усі ці числа відкидають усі інші методології виявлення, тобто вони припускають відсутність здатності виявляти.", "In Plan A, legal projects worldwide develop highly capable AI and robotics over the course of the 2030s. Some of this progress will spill over to covert projects, making it easier to build AGI in secret than it would have been under a ": "У Плані A легальні проєкти по всьому світу розробляють високоздатний ШІ й робототехніку упродовж 2030-х. Частина цього прогресу перетікатиме до таємних проєктів, полегшуючи побудову AGI таємно порівняно з тим, як це було б за умов ", "In Plan A, legal projects worldwide develop highly capable AI and robotics over the course of the 2030s. Some of this progress will spill over to covert projects, making it easier to build AGI in secret than it would have been under a": "У Плані A легальні проєкти по всьому світу розробляють високоздатний ШІ й робототехніку упродовж 2030-х. Частина цього прогресу перетікатиме до таємних проєктів, полегшуючи побудову AGI таємно порівняно з тим, як це було б за умов", "global moratorium on AI development (as in Plan S)": "глобального мораторію на розробку ШІ (як у Плані S)", ". Our best guess is that this increased risk is worthwhile, due to the alignment, power concentration, and war-avoidance benefits of building more capable AI under the auspices of a deal; see discussion in our ": ". На нашу найкращу оцінку, цей підвищений ризик вартий того через переваги узгодження, запобігання концентрації влади й уникнення війни від побудови здатнішого ШІ під егідою угоди; див. обговорення в нашому ", ". Our best guess is that this increased risk is worthwhile, due to the alignment, power concentration, and war-avoidance benefits of building more capable AI under the auspices of a deal; see discussion in our": ". На нашу найкращу оцінку, цей підвищений ризик вартий того через переваги узгодження, запобігання концентрації влади й уникнення війни від побудови здатнішого ШІ під егідою угоди; див. обговорення в нашому", "Comparing Possible Plans supplement": "доповненні «Порівняння можливих планів»", " for more on why.": " для детальнішого пояснення чому.", "for more on why.": "для детальнішого пояснення чому.", "In this section, we summarize the various Plan A policies affecting the degree to which Consortium AI progress benefits covert project R&D. We also estimate": "У цьому розділі ми підсумовуємо різні політики Плану A, що впливають на ступінь, у якому прогрес ШІ Консорціуму йде на користь R&D таємних проєктів. Ми також оцінюємо", "Section 4.1: Relevant Plan A policies": "Розділ 4.1: Відповідні політики Плану A", "Recommendation #1: Total research transparency": "Рекомендація №1: Повна дослідницька прозорість", "In Plan A, nearly all AI research is fully transparent to the public, including AI algorithms, code, and documentation, for all frontier AI projects. AI model weights, significant fractions of the training data, and a small amount of other sensitive information is prevented from leaving the datacenters.": "У Плані A майже всі дослідження ШІ повністю прозорі для громадськості, включно з алгоритмами ШІ, кодом і документацією, для всіх передових проєктів зі ШІ. Вагам моделі ШІ, значній частині навчальних даних та невеликому обсягу іншої чутливої інформації не дозволяється залишати дата-центри.", "Recommendation #2: Inference monitoring to prevent covert project uplift": "Рекомендація №2: Моніторинг інференсу для запобігання підвищенню можливостей таємних проєктів", "See our inference monitoring and restrictions ": "Див. наш розділ про моніторинг і обмеження інференсу ", "See our inference monitoring and restrictions": "Див. наш розділ про моніторинг і обмеження інференсу", "We do not plan to offer zero-data-retention (ZDR) inference on models whose capabilities we would not want proliferated to covert projects. See our ZDR policy ": "Ми не плануємо пропонувати інференс із нульовим збереженням даних (ZDR) для моделей, чиї можливості ми не хотіли б розповсюджувати на таємні проєкти. Див. нашу політику ZDR ", "We do not plan to offer zero-data-retention (ZDR) inference on models whose capabilities we would not want proliferated to covert projects. See our ZDR policy": "Ми не плануємо пропонувати інференс із нульовим збереженням даних (ZDR) для моделей, чиї можливості ми не хотіли б розповсюджувати на таємні проєкти. Див. нашу політику ZDR", "Recommendation #3: Model weight security": "Рекомендація №3: Безпека ваг моделі", "We think achieving high-confidence model weight security is extremely important for Plan A, and the Consortium probably should not proceed very far above pre-deal capability level until they are ~95% confident that the best-equipped actors in the world cannot steal the model weights. Forecasting the likelihood of this happening is outside the scope of this supplement.": "Ми вважаємо, що досягнення високовпевненої безпеки ваг моделі надзвичайно важливе для Плану A, і Консорціуму, ймовірно, не слід просуватися значно вище рівня можливостей до Угоди, доки вони не будуть впевнені приблизно на 95%, що найкраще оснащені суб'єкти у світі не можуть викрасти ваги моделі. Прогнозування ймовірності цього виходить за межі цього доповнення.", "Section 4.2: Covert project strategies": "Розділ 4.2: Стратегії таємних проєктів", "Path #1: Distillation from Consortium models": "Шлях №1: Дистиляція з моделей Консорціуму", "Currently, Chinese labs like Minimax and Zhipu are spending around 20–30x less": "Наразі китайські лабораторії, як-от Minimax і Zhipu, витрачають приблизно у 20–30 разів менше", " on R&D compute than US frontier labs like OpenAI. From our forecasts, it seems plausible that a covert AI project would start off with ~20-30x less compute compared to the leading AI company at the start of the deal.": " на обчислювальні потужності для R&D, ніж передові американські лабораторії на кшталт OpenAI. За нашими прогнозами, видається правдоподібним, що таємний проєкт зі ШІ почав би з обчислювальних потужностей приблизно в 20-30 разів менших порівняно з провідною ШІ-компанією на початок дії Угоди.", "on R&D compute than US frontier labs like OpenAI. From our forecasts, it seems plausible that a covert AI project would start off with ~20-30x less compute compared to the leading AI company at the start of the deal.": "на обчислювальні потужності для R&D, ніж передові американські лабораторії на кшталт OpenAI. За нашими прогнозами, видається правдоподібним, що таємний проєкт зі ШІ почав би з обчислювальних потужностей приблизно в 20-30 разів менших порівняно з провідною ШІ-компанією на початок дії Угоди.", " So while the requirement of secrecy would no doubt be a burden, researchers running a PRC covert project might not feel much more compute constrained initially than when they were operating legally. Despite their compute advantage, US labs have not obviously managed to lengthen their lead in model capabilities.": " Тож хоча вимога секретності, безсумнівно, була б тягарем, дослідники, що ведуть таємний проєкт КНР, можливо, спочатку не відчували б себе набагато більш обмеженими за обчислювальними потужностями, ніж коли вони діяли легально. Попри свою перевагу в обчислювальних потужностях, американські лабораторії явно не змогли подовжити свій відрив у можливостях моделей.", "So while the requirement of secrecy would no doubt be a burden, researchers running a PRC covert project might not feel much more compute constrained initially than when they were operating legally. Despite their compute advantage, US labs have not obviously managed to lengthen their lead in model capabilities.": "Тож хоча вимога секретності, безсумнівно, була б тягарем, дослідники, що ведуть таємний проєкт КНР, можливо, спочатку не відчували б себе набагато більш обмеженими за обчислювальними потужностями, ніж коли вони діяли легально. Попри свою перевагу в обчислювальних потужностях, американські лабораторії явно не змогли подовжити свій відрив у можливостях моделей.", "We believe this is primarily due to “distillation”, ": "Ми вважаємо, що це переважно через «дистиляцію», ", "We believe this is primarily due to “distillation”,": "Ми вважаємо, що це переважно через «дистиляцію»,", "used in a loose sense": "у широкому сенсі", " to refer to using state-of-the-art closed source models to generate synthetic data and grade RL trajectories. These techniques can allow for highly compute-efficient training, in some cases offering more than an OOM of compute equivalent gain.": " — використання найсучасніших закритих моделей для генерації синтетичних даних та оцінки RL-траєкторій. Ці техніки можуть уможливлювати вельми обчислювально ефективне навчання, у деяких випадках даючи приріст, еквівалентний більш ніж одному порядку величини обчислювальних потужностей.", "to refer to using state-of-the-art closed source models to generate synthetic data and grade RL trajectories. These techniques can allow for highly compute-efficient training, in some cases offering more than an OOM of compute equivalent gain.": "— використання найсучасніших закритих моделей для генерації синтетичних даних та оцінки RL-траєкторій. Ці техніки можуть уможливлювати вельми обчислювально ефективне навчання, у деяких випадках даючи приріст, еквівалентний більш ніж одному порядку величини обчислювальних потужностей.", "Will covert projects be able to stay 3–9 months behind the frontier then, like today’s Chinese labs? On one hand, covert projects will get an additional boost at the start of the deal compared to today’s trailing labs: unlike today, all training recipes will become ": "Чи зможуть таємні проєкти залишатися на 3–9 місяців позаду передового рівня, як сьогоднішні китайські лабораторії? З одного боку, таємні проєкти отримають додатковий поштовх на початку дії Угоди порівняно з сьогоднішніми відстаючими лабораторіями: на відміну від сьогодення, усі рецепти навчання стануть ", "Will covert projects be able to stay 3–9 months behind the frontier then, like today’s Chinese labs? On one hand, covert projects will get an additional boost at the start of the deal compared to today’s trailing labs: unlike today, all training recipes will become": "Чи зможуть таємні проєкти залишатися на 3–9 місяців позаду передового рівня, як сьогоднішні китайські лабораторії? З одного боку, таємні проєкти отримають додатковий поштовх на початку дії Угоди порівняно з сьогоднішніми відстаючими лабораторіями: на відміну від сьогодення, усі рецепти навчання стануть", ". This initial sharing of non-overlapping insights will bring forward the Consortium and covert frontiers together at the start of the deal. On the other hand, Plan A tries to ": "публічними. Цей початковий обмін непересічними інсайтами зблизить передові рубежі Консорціуму й таємних проєктів на початку дії Угоди. З іншого боку, План A намагається ", ". This initial sharing of non-overlapping insights will bring forward the Consortium and covert frontiers together at the start of the deal. On the other hand, Plan A tries to": "публічними. Цей початковий обмін непересічними інсайтами зблизить передові рубежі Консорціуму й таємних проєктів на початку дії Угоди. З іншого боку, План A намагається", "mitigate distillation": "пом'якшити дистиляцію", " by e.g. restricting companies from revealing intermediate model outputs in their APIs.": " наприклад, обмежуючи компанії в розкритті проміжних виходів моделі у своїх API.", "by e.g. restricting companies from revealing intermediate model outputs in their APIs.": "наприклад, обмежуючи компанії в розкритті проміжних виходів моделі у своїх API.", "We are uncertain how effective these measures will be against a determined adversary. The large number of different AI companies, applications, and deployments will provide a correspondingly large attack surface. A government could also pressure one of their country’s AI projects to intentionally leave a loophole open for distillation.": "Ми не впевнені, наскільки ефективними будуть ці заходи проти рішучого супротивника. Велика кількість різних ШІ-компаній, застосунків і розгортань забезпечить відповідно велику поверхню атаки. Уряд також міг би тиснути на один зі своїх національних ШІ-проєктів, щоб той навмисно залишив лазівку відкритою для дистиляції.", "It is essential that distillation not enable the proliferation of ": "Важливо, щоб дистиляція не уможливлювала розповсюдження ", "It is essential that distillation not enable the proliferation of": "Важливо, щоб дистиляція не уможливлювала розповсюдження", "destabilizing dual-use R&D capabilities": "дестабілізуючих можливостей R&D подвійного призначення", ", which might come fairly early into the deal (e.g. between our SAR and TED-AI milestones). For this reason, we recommend that the Consortium conduct ongoing red-team experiments where a group of researchers attempt to distill the current frontier models under similar circumstances a covert project would face. Depending on the results, it might be necessary to halt external deployment of more capable models until more assurance can be achieved.": ", які можуть з'явитися доволі рано в дії Угоди (наприклад, між нашими віхами SAR і TED-AI). З цієї причини ми рекомендуємо, щоб Консорціум проводив постійні red-team експерименти, у яких група дослідників намагається дистилювати поточні передові моделі за умов, подібних до тих, з якими зіткнувся б таємний проєкт. Залежно від результатів може бути потрібно призупинити зовнішнє розгортання здатніших моделей, доки не буде досягнуто більшої впевненості.", "Path #2: Extracting R&D labor from Consortium models": "Шлях №2: Видобування R&D-праці з моделей Консорціуму", "Consortium models running in inference datacenters will have classifiers that flag attempts at anything that looks like AI R&D. (In Plan A, models that would provide AI R&D uplift above the pre-deal SOTA are not offered under ZDR.) It seems risky to iterate against these things; we do not view this as a promising strategy.": "Моделі Консорціуму, що працюють у дата-центрах інференсу, матимуть класифікатори, які позначають спроби чогось, що виглядає як R&D зі ШІ. (У Плані A моделі, які надавали б підвищення можливостей R&D зі ШІ вище рівня SOTA до Угоди, не пропонуються під ZDR.) Ітерувати проти цього видається ризикованим; ми не вважаємо це перспективною стратегією.", "Overall, this path seems fairly unlikely to work at all if the Consortium is competent. If it did, covert projects could potentially make use of models with superhuman experiment selection skill (or “research taste”) in AI R&D, biology R&D, and other dual use domains, significantly accelerating their progress.": "Загалом цей шлях видається доволі малоймовірним для успіху взагалі, якщо Консорціум компетентний. Якби це спрацювало, таємні проєкти потенційно могли б використовувати моделі з надлюдським умінням вибору експериментів (або «дослідницьким чуттям») у R&D зі ШІ, R&D з біології та інших доменах подвійного призначення, суттєво прискорюючи свій прогрес.", "Section 4.3 Quantitative estimates": "Розділ 4.3 Кількісні оцінки", "Fraction of Consortium software progress that leaks to covert project": "Частка програмного прогресу Консорціуму, що просочується до таємного проєкту", "Median: 67%": "Медіана: 67%", "80% CI: [36%, 90%]": "80% ДІ: [36%, 90%]", "Beta distribution": "Бета-розподіл", "See our estimate ": "Див. нашу оцінку ", "See our estimate": "Див. нашу оцінку", " for the median. The 80% CI is an intuitive guess (specifically, the p90 was chosen at 90%, and a beta distribution was assumed, which forces the p10 to be 36%).": " для медіани. 80% ДІ — інтуїтивна оцінка (зокрема, p90 було обрано на рівні 90%, і припущено бета-розподіл, який змушує p10 бути 36%).", "for the median. The 80% CI is an intuitive guess (specifically, the p90 was chosen at 90%, and a beta distribution was assumed, which forces the p10 to be 36%).": "для медіани. 80% ДІ — інтуїтивна оцінка (зокрема, p90 було обрано на рівні 90%, і припущено бета-розподіл, який змушує p10 бути 36%).", "To become catastrophic, a covert project must achieve one of three things:": "Щоб стати катастрофічним, таємний проєкт має досягти однієї з трьох речей:", "Insurmountable capabilities lead.": "Нездоланний відрив у можливостях.", " This occurs if a covert project is able to get enough of a lead over the Consortium that even if the Consortium were to pivot back to racing quickly, it would not be able to stop the covert project (or its sponsor nation) from reaching AI capabilities sufficient to prevent any of the following outcomes.": " Це відбувається, якщо таємний проєкт здатен отримати достатній відрив від Консорціуму, що навіть якби Консорціум перейшов назад до швидкої гонки, він не зміг би завадити таємному проєкту (чи його країні-спонсору) досягти можливостей ШІ, достатніх для запобігання будь-якому з наведених нижче результатів.", "This occurs if a covert project is able to get enough of a lead over the Consortium that even if the Consortium were to pivot back to racing quickly, it would not be able to stop the covert project (or its sponsor nation) from reaching AI capabilities sufficient to prevent any of the following outcomes.": "Це відбувається, якщо таємний проєкт здатен отримати достатній відрив від Консорціуму, що навіть якби Консорціум перейшов назад до швидкої гонки, він не зміг би завадити таємному проєкту (чи його країні-спонсору) досягти можливостей ШІ, достатніх для запобігання будь-якому з наведених нижче результатів.", "Balance-of-power warping capabilities.": "Можливості, що спотворюють баланс сил.", " This occurs if the covert project significantly changes the geopolitical balance of power, e.g. by granting a large economic, military, or political lead. The extreme version of this involves a decisive strategic advantage—i.e. granting the country with a covert project a position of complete strategic superiority over their rivals.": " Це відбувається, якщо таємний проєкт суттєво змінює геополітичний баланс сил, наприклад, надаючи великий економічний, військовий чи політичний відрив. Екстремальна версія цього передбачає вирішальну стратегічну перевагу — тобто надання країні з таємним проєктом позиції повної стратегічної переваги над суперниками.", "This occurs if the covert project significantly changes the geopolitical balance of power, e.g. by granting a large economic, military, or political lead. The extreme version of this involves a decisive strategic advantage—i.e. granting the country with a covert project a position of complete strategic superiority over their rivals.": "Це відбувається, якщо таємний проєкт суттєво змінює геополітичний баланс сил, наприклад, надаючи великий економічний, військовий чи політичний відрив. Екстремальна версія цього передбачає вирішальну стратегічну перевагу — тобто надання країні з таємним проєктом позиції повної стратегічної переваги над суперниками.", "BATNA warping capabilities.": "Можливості, що спотворюють НАЙКРАЩУ АЛЬТЕРНАТИВУ (BATNA).", " This occurs if the covert project AIs empower their host countries to such an extent that the counterparty prefers remaining in the deal (despite knowing about the cheating) over pulling out of the deal and trying to go at it alone.": " Це відбувається, якщо ШІ таємного проєкту настільки посилюють свою країну-господаря, що контрагент віддає перевагу залишенню в Угоді (попри знання про шахрайство) над виходом з Угоди й спробою діяти самотужки.", "This occurs if the covert project AIs empower their host countries to such an extent that the counterparty prefers remaining in the deal (despite knowing about the cheating) over pulling out of the deal and trying to go at it alone.": "Це відбувається, якщо ШІ таємного проєкту настільки посилюють свою країну-господаря, що контрагент віддає перевагу залишенню в Угоді (попри знання про шахрайство) над виходом з Угоди й спробою діяти самотужки.", "If none of these are true, then: (i) the covert project does not have an insurmountable capabilities lead: legal projects can catch up if they want, (ii) all sides roughly preserve their within-deal balance of power, and (iii) all sides can credibly threaten to leave the deal to coerce a known defector into shutting down their covert project. As long as each of these are true, then, the defection from the deal isn’t catastrophic.": "Якщо жодне з цього не є правдою, тоді: (i) таємний проєкт не має нездоланного відриву в можливостях — легальні проєкти можуть наздогнати, якщо захочуть, (ii) усі сторони приблизно зберігають свій баланс сил у межах Угоди, і (iii) усі сторони можуть достовірно погрожувати виходом з Угоди, щоб примусити відомого порушника закрити свій таємний проєкт. Поки все це правда, вихід з Угоди не є катастрофічним.", "We define the capability level that a covert project would need to reach to satisfy any of these conditions as ": "Ми визначаємо рівень можливостей, якого мав би досягти таємний проєкт, щоб задовольнити будь-яку з цих умов, як ", "We define the capability level that a covert project would need to reach to satisfy any of these conditions as": "Ми визначаємо рівень можливостей, якого мав би досягти таємний проєкт, щоб задовольнити будь-яку з цих умов, як", "deal-undermining-AI.": "ШІ, що підриває Угоду.", " Deal-undermining-AI is not a fixed capability threshold, that threshold will vary over time depending on the level of capability available to other nations.": " ШІ, що підриває Угоду, — не фіксований поріг можливостей; цей поріг змінюватиметься з часом залежно від рівня можливостей, доступного іншим націям.", "Deal-undermining-AI is not a fixed capability threshold, that threshold will vary over time depending on the level of capability available to other nations.": "ШІ, що підриває Угоду, — не фіксований поріг можливостей; цей поріг змінюватиметься з часом залежно від рівня можливостей, доступного іншим націям.", "We’ll now discuss how difficult it is for a covert project to build a deal-undermining AI.": "Тепер ми обговоримо, наскільки складно таємному проєкту побудувати ШІ, що підриває Угоду.", "Section 5.1: Paths to a covert project catastrophe": "Розділ 5.1: Шляхи до катастрофи таємного проєкту", "Insurmountable capabilities lead": "Нездоланний відрив у можливостях", "Achieving an insurmountable capabilities lead is extremely hard because of the massive compute deficit faced by the covert project.": "Досягнення нездоланного відриву в можливостях надзвичайно складне через величезний дефіцит обчислювальних потужностей, з яким стикається таємний проєкт.", "Before the legal projects pause capability development at TED-AI, most of the covert project’s capabilities progress will come from implementing the new training recipes developed by the legal projects (assuming no distillation is occuring). Therefore, the “effective training system performance” gap will be equal to the hardware gap, which, at the beginning of Plan A in the scenario, is around 24x (80% CI: [115x, 9x]) from a covert project to the largest legal project (assuming the covert project has ~1.5M H100e, and the biggest legal project uses ~36M H100e for R&D).": "До того як легальні проєкти призупинять розвиток можливостей на рівні TED-AI, більша частина прогресу можливостей таємного проєкту надходитиме від впровадження нових рецептів навчання, розроблених легальними проєктами (за умови відсутності дистиляції). Тому розрив у «продуктивності ефективної навчальної системи» дорівнюватиме апаратному розриву, який на початку Плану A в сценарії становить приблизно 24x (80% ДІ: [115x, 9x]) від таємного проєкту до найбільшого легального проєкту (за умови, що таємний проєкт має приблизно 1,5 млн H100e, а найбільший легальний проєкт використовує приблизно 36 млн H100e для R&D).", "There are two advantages for covert projects:": "Таємні проєкти мають дві переваги:", "First, they may not slow down for safety. At points within Plan A, capability progress will slow down dramatically or pause because of safety concerns. In this situation, the covert project will make some software progress itself, but very slowly.": "По-перше, вони можуть не сповільнюватися заради безпеки. У певні моменти в межах Плану A прогрес можливостей суттєво сповільнюватиметься чи призупинятиметься через міркування безпеки. У цій ситуації таємний проєкт сам робитиме певний програмний прогрес, але дуже повільно.", "Second, due to the transparency and difficulty of algorithmic security, algorithms flow from the legal projects to the covert projects, but not the other way around.": "По-друге, через прозорість і складність алгоритмічної безпеки, алгоритми перетікають від легальних проєктів до таємних, але не навпаки.", "Even if the covert project were to get a capability lead, the Consortium could just pivot back to spending all of its compute on AI progress. At the beginning of the deal, there is a ~20x compute gap (1.3 OOMs); and by 2035 it’ll have expanded to 4.3 OOMs. If all of the newly founded algorithms are immediately shipped to the covert projects, this doesn’t help at all, but:": "Навіть якби таємний проєкт отримав відрив у можливостях, Консорціум міг би просто перейти назад до витрачання всіх своїх обчислювальних потужностей на прогрес ШІ. На початку дії Угоди існує розрив у обчислювальних потужностях приблизно 20x (1,3 порядку величини); а до 2035 року він розшириться до 4,3 порядку величини. Якщо всі новостворені алгоритми негайно передаються таємним проєктам, це взагалі не допомагає, але:", "Some algorithms are scale dependent and therefore more helpful for the legal projects than the covert projects.": "Деякі алгоритми залежать від масштабу й тому корисніші для легальних проєктів, ніж для таємних.", "Some algorithms may be able to be kept secure (e.g., ": "Деякі алгоритми можуть залишатися захищеними (наприклад, за ", "Some algorithms may be able to be kept secure (e.g.,": "Деякі алгоритми можуть залишатися захищеними (наприклад, за", "our estimate": "нашою оцінкою", " during Plan A is only ~67% of algorithms leak).": " упродовж Плану A просочується лише приблизно 67% алгоритмів).", "during Plan A is only ~67% of algorithms leak).": "упродовж Плану A просочується лише приблизно 67% алгоритмів).", "There may be some latency in the theft for the algorithms that are not radically transparent (e.g. by a few months).": "Може бути певна затримка у викраденні для алгоритмів, які не є радикально прозорими (наприклад, на кілька місяців).", "Balance of power warping capabilities": "Можливості, що спотворюють баланс сил", "The most promising capabilities that a covert project could pursue to change the geopolitical balance of power that we’re aware of are:": "Найперспективніші можливості, які таємний проєкт міг би розвивати, щоб змінити геополітичний баланс сил, наскільки нам відомо, такі:", "Persuasion / AIs for political uplift": "Переконання / ШІ для політичного посилення", ". If covert projects are able to get AIs with similar levels of capabilities to, for example, the early 2028 AIs of the race ending of ": ". Якщо таємні проєкти зможуть отримати ШІ з рівнем можливостей, подібним, наприклад, до ШІ початку 2028 року в кінцівці-гонці ", ". If covert projects are able to get AIs with similar levels of capabilities to, for example, the early 2028 AIs of the race ending of": ". Якщо таємні проєкти зможуть отримати ШІ з рівнем можливостей, подібним, наприклад, до ШІ початку 2028 року в кінцівці-гонці", ", this could make their host country substantially more politically effective than anyone else, enabling them to get substantially more power. The main limiting factor on persuasion AIs is that it is probably a high capability threshold.": ", це могло б зробити їхню країну-господаря значно політично ефективнішою за будь-кого іншого, дозволяючи їй отримати значно більше влади. Головний обмежувальний фактор для ШІ переконання полягає в тому, що це, ймовірно, високий поріг можливостей.", "Secret robot buildout": "Таємне нарощування роботів", ". The covert project could enable a massive industrial buildout. e.g. in underground tunnels, giving much greater industrial capacity than the rest of the world. This is particularly relevant because of the cap and trade regime over robot production in the Plan A scenario.": ". Таємний проєкт міг би уможливити масштабне промислове нарощування, наприклад, у підземних тунелях, надаючи значно більшу промислову потужність, ніж решта світу. Це особливо актуально через режим квот і торгівлі квотами на виробництво роботів у сценарії Плану A.", "Military R&D.": "Військові R&D.", " If covert projects have substantially more capable AIs than the legal AIs, or the legal AIs are all subject to aggressive refusals, covert projects could help design cheaper and better weapons (e.g. drones, missiles, ships, planes, bombs, etc).": " Якщо таємні проєкти мають значно здатніші ШІ, ніж легальні ШІ, або легальні ШІ всі підпадають під агресивні відмови, таємні проєкти могли б допомогти проєктувати дешевшу й кращу зброю (наприклад, дрони, ракети, кораблі, літаки, бомби тощо).", "If covert projects have substantially more capable AIs than the legal AIs, or the legal AIs are all subject to aggressive refusals, covert projects could help design cheaper and better weapons (e.g. drones, missiles, ships, planes, bombs, etc).": "Якщо таємні проєкти мають значно здатніші ШІ, ніж легальні ШІ, або легальні ШІ всі підпадають під агресивні відмови, таємні проєкти могли б допомогти проєктувати дешевшу й кращу зброю (наприклад, дрони, ракети, кораблі, літаки, бомби тощо).", "Exotic novel technology.": "Екзотична нова технологія.", " This includes nanotechnology, mind uploading, certain kinds of bioengineering, and unknown unknowns. Any of these would be extremely destabilizing; the main uncertainty is how difficult they are, i.e. what level of AIs over what time period are necessary for achieving them.": " Це включає нанотехнології, завантаження свідомості, певні види біоінженерії та невідомі невідомі. Будь-яка з них була б надзвичайно дестабілізуючою; головна невизначеність полягає в тому, наскільки вони складні, тобто який рівень ШІ впродовж якого періоду часу необхідний для їх досягнення.", "This includes nanotechnology, mind uploading, certain kinds of bioengineering, and unknown unknowns. Any of these would be extremely destabilizing; the main uncertainty is how difficult they are, i.e. what level of AIs over what time period are necessary for achieving them.": "Це включає нанотехнології, завантаження свідомості, певні види біоінженерії та невідомі невідомі. Будь-яка з них була б надзвичайно дестабілізуючою; головна невизначеність полягає в тому, наскільки вони складні, тобто який рівень ШІ впродовж якого періоду часу необхідний для їх досягнення.", "For military R&D and the robot buildout, the main limitation will be succeeding sufficiently in a manner that other countries cannot detect. If other countries notice, they can respond by requiring improved verification, requiring further arms control deals, or ramping up production themselves to restore the relative balance of military power.": "Для військових R&D і нарощування роботів головним обмеженням буде досягнення достатнього успіху у спосіб, який інші країни не можуть виявити. Якщо інші країни помітять, вони можуть відреагувати, вимагаючи покращеної верифікації, вимагаючи подальших угод з контролю над озброєннями, або самі нарощуючи виробництво, щоб відновити відносний баланс військової сили.", "BATNA-warping capabilities": "Можливості, що спотворюють НАЙКРАЩУ АЛЬТЕРНАТИВУ (BATNA)", "The main paths for a covert project to greatly improve China’s BATNA are:": "Головні шляхи, якими таємний проєкт міг би значно покращити НАЙКРАЩУ АЛЬТЕРНАТИВУ Китаю, такі:", "Splendid First Strike on the Compute": "Блискучий перший удар по обчислювальних потужностях", ". China could pull out of the deal, destroying US datacenters, plus gain an asymmetric advantage over the US by either (i) destroying the US hardened weight or chip stockpile, or (ii) Protecting some compute that was meant to be destroyed in the case of a deal dissolution. Having a sufficient cyber lead to overcome the inference compute disadvantage of the legal projects could enable covert projects to hack into the US model weight vault and destroy the copies. Protecting the compute probably requires significant physical capabilities, i.e. a secret robot buildout.": ". Китай міг би вийти з Угоди, знищивши дата-центри США, а також здобути асиметричну перевагу над США, або (i) знищивши захищений американський запас ваг чи чипів, або (ii) захистивши частину обчислювальних потужностей, які мали бути знищені у випадку розпаду Угоди. Достатній кіберy відрив, щоб подолати недолік легальних проєктів у обчислювальних потужностях для інференсу, міг би дозволити таємним проєктам зламати сховище ваг американської моделі й знищити копії. Захист обчислювальних потужностей, імовірно, вимагає значних фізичних можливостей, тобто таємного нарощування роботів.", "Speed up the robot production ramp after the deal breaks down.": "Пришвидшення нарощування виробництва роботів після розпаду Угоди.", " For example, you could covertly get a robot research lead on the rest of the world so that when the deal breaks down, you are starting off with better robot designs. Alternatively, you could build a hardened robot stockpile, which would create a higher starting population of robots from which to bootstrap.": " Наприклад, можна було б таємно отримати відрив у роботехнологічних дослідженнях над рештою світу, щоб коли Угода розпадеться, ви розпочинали з кращими конструкціями роботів. Альтернативно, можна було б побудувати захищений запас роботів, що створило б вищу початкову популяцію роботів, з якої можна було б стартувати.", "For example, you could covertly get a robot research lead on the rest of the world so that when the deal breaks down, you are starting off with better robot designs. Alternatively, you could build a hardened robot stockpile, which would create a higher starting population of robots from which to bootstrap.": "Наприклад, можна було б таємно отримати відрив у роботехнологічних дослідженнях над рештою світу, щоб коли Угода розпадеться, ви розпочинали з кращими конструкціями роботів. Альтернативно, можна було б побудувати захищений запас роботів, що створило б вищу початкову популяцію роботів, з якої можна було б стартувати.", "For this, as well as the above, there are also unknown unknowns (e.g. new military tech we don’t know about yet). The unknown unknowns are probably scarier than any of the concrete paths we’ve identified.": "Для цього, а також для наведеного вище, також існують невідомі невідомі (наприклад, нові військові технології, про які ми ще не знаємо). Невідомі невідомі, ймовірно, страшніші за будь-які конкретні шляхи, які ми визначили.", "Section 5.2: Operationalizing Deal Undermining AI": "Розділ 5.2: Операціоналізація ШІ, що підриває Угоду", "In the quantitative analysis for this supplement, we simplified the modeling by assuming that deal undermining AI is a specific capability threshold that doesn’t change over time.": "У кількісному аналізі цього доповнення ми спростили моделювання, припустивши, що ШІ, який підриває Угоду, — це конкретний поріг можливостей, який не змінюється з часом.", "What specific threshold do we choose? We are currently operationalizing this as “Top Expert Dominating AIs (TED-AI)”, or AIs that are better than the top expert at every domain. Since AI capability profiles are currently fairly spiky, TED-AIs will be substantially superhuman at the skills they are strongest at, while merely being top expert level at the skills they are weakest at.": "Який саме поріг ми обираємо? Наразі ми операціоналізуємо це як «ШІ, що домінують над найкращими експертами (TED-AI)», тобто ШІ, кращі за найкращого експерта в кожній сфері. Оскільки профілі можливостей ШІ наразі доволі нерівномірні, TED-AI будуть суттєво надлюдськими в навичках, де вони найсильніші, при цьому лише на рівні найкращого експерта в навичках, де вони найслабші.", "Why not a higher threshold?": "Чому не вищий поріг?", " Once AIs are beyond the human range, it’s hard to limit the possibility of novel exotic technology which we don’t know how to defend against. Moreover, it probably won’t make a huge difference, because the intelligence explosion beyond TED-AI is probably going to be quite fast.": " Коли ШІ виходять за межі людського діапазону, важко обмежити можливість появи нової екзотичної технології, від якої ми не знаємо, як захищатися. Крім того, це, ймовірно, не матиме великого значення, оскільки вибух інтелекту за межами TED-AI, імовірно, буде доволі швидким.", "Once AIs are beyond the human range, it’s hard to limit the possibility of novel exotic technology which we don’t know how to defend against. Moreover, it probably won’t make a huge difference, because the intelligence explosion beyond TED-AI is probably going to be quite fast.": "Коли ШІ виходять за межі людського діапазону, важко обмежити можливість появи нової екзотичної технології, від якої ми не знаємо, як захищатися. Крім того, це, ймовірно, не матиме великого значення, оскільки вибух інтелекту за межами TED-AI, імовірно, буде доволі швидким.", "Why not a lower threshold?": "Чому не нижчий поріг?", " AIs that are within the human range seem much less likely to develop the sorts of novel technology that could be geopolitically destabilizing. Even very large advances (e.g. much cheaper interceptors) seem pretty far from undermining MAD.": " ШІ в межах людського діапазону видаються значно менш імовірними для розробки таких видів нової технології, які могли б бути геополітично дестабілізуючими. Навіть дуже великі прориви (наприклад, значно дешевші перехоплювачі) видаються доволі далекими від підриву гарантованого взаємного знищення (MAD).", "AIs that are within the human range seem much less likely to develop the sorts of novel technology that could be geopolitically destabilizing. Even very large advances (e.g. much cheaper interceptors) seem pretty far from undermining MAD.": "ШІ в межах людського діапазону видаються значно менш імовірними для розробки таких видів нової технології, які могли б бути геополітично дестабілізуючими. Навіть дуже великі прориви (наприклад, значно дешевші перехоплювачі) видаються доволі далекими від підриву гарантованого взаємного знищення (MAD).", "We hope that future analysis improves on this baseline. For example, another reasonable operationalization of “deal undermining AI” is “any AI that’s more capable than the legal projects”, becuase…": "Ми сподіваємося, що майбутній аналіз покращить цю базову лінію. Наприклад, іншою розумною операціоналізацією «ШІ, що підриває Угоду» є «будь-який ШІ, здатніший за легальні проєкти», оскільки…", "Covert projects can’t have an insurmountable capability lead if they don’t have a lead at all.": "Таємні проєкти не можуть мати нездоланного відриву в можливостях, якщо у них взагалі немає відриву.", "AIs of similar capability levels probably can’t change the geopolitical balance of power, if the defenders are deploying AIs of greater capabilities research to red team. especially given Consortium defenders will have vastly more compute (e.g. for finding and patching vulnerabilities). This will depend on the strategy taken by the legal projects, i.e., assuming that legal projects are allowed to apply AI to military R&D. In Plan A we currently recommend some arms control limitations on the use of AI to build new superweapons. The main downside of that policy is that it increases the chance that covert projects could be used to gain large military advantages.": "ШІ схожих рівнів можливостей, імовірно, не можуть змінити геополітичний баланс сил, якщо захисники розгортають ШІ з більшими дослідницькими можливостями для red team, особливо з огляду на те, що захисники Консорціуму матимуть значно більше обчислювальних потужностей (наприклад, для пошуку й усунення вразливостей). Це залежатиме від стратегії, яку оберуть легальні проєкти, тобто за умови, що легальним проєктам дозволено застосовувати ШІ до військових R&D. У Плані A ми наразі рекомендуємо певні обмеження контролю над озброєннями на використання ШІ для створення нової надзброї. Головний недолік такої політики полягає в тому, що вона підвищує ймовірність того, що таємні проєкти можна буде використати для здобуття великих військових переваг.", "However, this strategy likely requires more aggressive capability scaling than is needed.": "Однак ця стратегія, ймовірно, вимагає агресивнішого масштабування можливостей, ніж потрібно.", "It’s probably fine for covert projects to get a lead at lowish levels of capability (e.g. automated coder) because at that point, they aren’t strong enough that small gaps in capability seriously alter military / economic balance of power. In the scenario, for a very brief period of time during 2029 (before automated coder), legal training is paused while verification is set up, and so in the scenario, covert projects in principle might be able to get a lead during this window, though in practice it is unlikely because of the hardware gap (also, covert projects ": "Таємним проєктам, імовірно, нормально отримати відрив на відносно низьких рівнях можливостей (наприклад, автоматизований кодер), оскільки на цьому етапі вони не настільки сильні, щоб невеликі розриви в можливостях серйозно змінювали військовий/економічний баланс сил. У сценарії, упродовж дуже короткого періоду часу протягом 2029 року (до автоматизованого кодера), легальне навчання призупинено, поки налаштовується верифікація, тож у сценарії таємні проєкти в принципі могли б отримати відрив упродовж цього вікна, хоча на практиці це малоймовірно через апаратний розрив (крім того, таємним проєктам ", "It’s probably fine for covert projects to get a lead at lowish levels of capability (e.g. automated coder) because at that point, they aren’t strong enough that small gaps in capability seriously alter military / economic balance of power. In the scenario, for a very brief period of time during 2029 (before automated coder), legal training is paused while verification is set up, and so in the scenario, covert projects in principle might be able to get a lead during this window, though in practice it is unlikely because of the hardware gap (also, covert projects": "Таємним проєктам, імовірно, нормально отримати відрив на відносно низьких рівнях можливостей (наприклад, автоматизований кодер), оскільки на цьому етапі вони не настільки сильні, щоб невеликі розриви в можливостях серйозно змінювали військовий/економічний баланс сил. У сценарії, упродовж дуже короткого періоду часу протягом 2029 року (до автоматизованого кодера), легальне навчання призупинено, поки налаштовується верифікація, тож у сценарії таємні проєкти в принципі могли б отримати відрив упродовж цього вікна, хоча на практиці це малоймовірно через апаратний розрив (крім того, таємним проєктам", "likely will need even more time": "ймовірно, потрібно ще більше часу", " to set up their infrastructure, unless they are using existing exempt military datacenters).": ", щоб налаштувати свою інфраструктуру, якщо тільки вони не використовують наявні звільнені від обмежень військові дата-центри).", "to set up their infrastructure, unless they are using existing exempt military datacenters).": ", щоб налаштувати свою інфраструктуру, якщо тільки вони не використовують наявні звільнені від обмежень військові дата-центри).", "Closer to the top of the human range (e.g. at or beyond top expert level AI) it’s easy to imagine a small AI capability quickly snowballing into huge capability / political power. Things like superhuman political strategy and persuasion become more important and are almost impossible to defend against.": "Ближче до верху людського діапазону (наприклад, на рівні найкращого експерта чи вище) легко уявити, як невеликі можливості ШІ швидко перетворюються на снігову кулю величезних можливостей/політичної влади. Такі речі, як надлюдська політична стратегія й переконання, стають важливішими і майже неможливими для захисту.", "The estimates in this section are based on simulating covert project capabilities progress as described in our ": "Оцінки в цьому розділі базуються на моделюванні прогресу можливостей таємного проєкту, як описано в нашому ", "The estimates in this section are based on simulating covert project capabilities progress as described in our": "Оцінки в цьому розділі базуються на моделюванні прогресу можливостей таємного проєкту, як описано в нашому", "Takeoff Supplement": "доповненні про зліт", "In this section we quantify how the Consortium’s ": "У цьому розділі ми кількісно оцінюємо, як ", "In this section we quantify how the Consortium’s": "У цьому розділі ми кількісно оцінюємо, як", "scaling strategy": "стратегія масштабування", " affects the risk that covert projects develop deal-undermining AI.": " Консорціуму впливає на ризик того, що таємні проєкти розроблять ШІ, що підриває Угоду.", "affects the risk that covert projects develop deal-undermining AI.": "Консорціуму впливає на ризик того, що таємні проєкти розроблять ШІ, що підриває Угоду.", " We only evaluate fixed strategies here, of the form “aim to reach TED-AI some number of years into the deal, then pause there to do alignment research until the risks of delaying handoff outweigh the benefits.” This is somewhat unrealistic, because in reality the decision-makers implementing Plan A will be able to flexibly respond and adopt their strategy based on evidence received.": " Тут ми оцінюємо лише фіксовані стратегії у формі «прагнути досягти TED-AI через певну кількість років дії Угоди, потім призупинитися там для проведення досліджень узгодження, поки ризики затримки передачі не переважать вигоди». Це дещо нереалістично, оскільки насправді особи, що ухвалюють рішення про впровадження Плану A, зможуть гнучко реагувати й адаптувати свою стратегію на основі отриманих доказів.", "We only evaluate fixed strategies here, of the form “aim to reach TED-AI some number of years into the deal, then pause there to do alignment research until the risks of delaying handoff outweigh the benefits.” This is somewhat unrealistic, because in reality the decision-makers implementing Plan A will be able to flexibly respond and adopt their strategy based on evidence received.": "Тут ми оцінюємо лише фіксовані стратегії у формі «прагнути досягти TED-AI через певну кількість років дії Угоди, потім призупинитися там для проведення досліджень узгодження, поки ризики затримки передачі не переважать вигоди». Це дещо нереалістично, оскільки насправді особи, що ухвалюють рішення про впровадження Плану A, зможуть гнучко реагувати й адаптувати свою стратегію на основі отриманих доказів.", "For example, if the US received evidence that reaching TED-AI within 6 years would require a massive amount of software progress, they could push the rest of the Consortium to follow a more gentle scaling trajectory that leaned more on hardware buildout, thereby leaking less software to the covert projects. This would reduce the risk due to covert projects, though it would also increase the risk that the deal breaks down before TED-AI has been reached safely. They could also adopt filtered transparency instead of Total Research Transparency, which would leak a smaller fraction of software progress to covert projects, enabling faster scaling for equal covert project risk, at the cost of safety and risk of deal impairment.": "Наприклад, якби США отримали докази того, що досягнення TED-AI протягом 6 років вимагало б величезного обсягу програмного прогресу, вони могли б підштовхнути решту Консорціуму дотримуватися м'якшої траєкторії масштабування, яка більше спиралася б на апаратне нарощування, тим самим просочуючи менше програмного забезпечення до таємних проєктів. Це зменшило б ризик через таємні проєкти, хоча також підвищило б ризик того, що Угода розпадеться до того, як TED-AI буде безпечно досягнуто. Вони також могли б прийняти фільтровану прозорість замість Повної дослідницької прозорості, що просочувало б меншу частку програмного прогресу до таємних проєктів, уможливлюючи швидше масштабування за рівного ризику таємних проєктів, ціною безпеки й ризику погіршення Угоди.", "The actual covert project risk incurred will depend on how decisionmakers balance these factors to select a scaling strategy. Below, we show how varying the ": "Фактичний понесений ризик таємного проєкту залежатиме від того, як особи, що ухвалюють рішення, збалансують ці фактори при виборі стратегії масштабування. Нижче ми показуємо, як варіювання ", "The actual covert project risk incurred will depend on how decisionmakers balance these factors to select a scaling strategy. Below, we show how varying the": "Фактичний понесений ризик таємного проєкту залежатиме від того, як особи, що ухвалюють рішення, збалансують ці фактори при виборі стратегії масштабування. Нижче ми показуємо, як варіювання", "scaling duration": "тривалості масштабування", "handoff delay": "затримки передачі", " affect the risk incurred.": " впливає на понесений ризик.", "affect the risk incurred.": "впливає на понесений ризик.", "All the assumptions we are making": "Усі припущення, які ми робимо", "We assume that": "Ми припускаємо, що", "The US and other non-defecting Consortium members competently implement all of our policy recommendations": "США та інші члени Консорціуму, які не порушують Угоду, компетентно впроваджують усі наші політичні рекомендації", "The PRC executed a competent diversion program one year before the deal was implemented (i.e. in 2028)": "КНР здійснила компетентну програму відхилення за рік до впровадження Угоди (тобто у 2028 році)", "Covert projects which are detected before reaching deal-undermining AI stop their progress immediately.": "Таємні проєкти, виявлені до досягнення ШІ, що підриває Угоду, негайно припиняють свій прогрес.", "Deal-undermining AI is operationalized as TED-AI": "ШІ, що підриває Угоду, операціоналізовано як TED-AI", "No weight theft occurs during the deal": "Під час дії Угоди не відбувається викрадення ваг", "The deal does not break down during the time period in question.": "Угода не розпадається протягом розглянутого періоду часу.", "Aim for TED-AI in 2 years": "Прагнення до TED-AI за 2 роки", "Aim for TED-AI in 5 years": "Прагнення до TED-AI за 5 років", "Aim for TED-AI in 8 years": "Прагнення до TED-AI за 8 років", "Covert project risk at TED-AI": "Ризик таємного проєкту на момент TED-AI", "Covert project risk waiting 5 years after TED-AI": "Ризик таємного проєкту через 5 років очікування після TED-AI", "Covert project risk waiting 10 years after TED-AI": "Ризик таємного проєкту через 10 років очікування після TED-AI", "Concretely, with the evidence available to us today, we estimate that": "Конкретно, з доказами, доступними нам сьогодні, ми оцінюємо, що", "Halting AI R&D and initiating Plan A roughly one year before the Automated Coder milestone (in our scenario, this means implementing it in early 2029),": "Зупинка R&D зі ШІ й запуск Плану A приблизно за рік до віхи Автоматизованого кодера (у нашому сценарії це означає впровадження на початку 2029 року),", "then making whatever software progress is needed to safely scale to Top Expert Dominating AI over the following 6 years, (early 2035, in our scenario),": "потім здійснення будь-якого програмного прогресу, необхідного для безпечного масштабування до ШІ, що домінує над найкращими експертами, упродовж наступних 6 років (початок 2035 року в нашому сценарії),", "then working towards a high-confidence alignment solution for 5 more years (until 2040, in our scenario)": "потім робота над рішенням узгодження з високою впевненістю ще 5 років (до 2040 року в нашому сценарії)", "would incur a 13% chance of covert projects developing deal-undermining AI before detection or handoff, if China competently pursued a covert project and remained committed to keeping it hidden.": "спричинили б 13% ймовірність того, що таємні проєкти розроблять ШІ, що підриває Угоду, до виявлення чи передачі, якщо Китай компетентно вів би таємний проєкт і залишався б відданим збереженню його в таємниці.", "The probabilities above are obtained by drawing from our full range of uncertainty about the ": "Наведені вище ймовірності отримано шляхом вибірки з усього діапазону нашої невизначеності щодо ", "The probabilities above are obtained by drawing from our full range of uncertainty about the": "Наведені вище ймовірності отримано шляхом вибірки з усього діапазону нашої невизначеності щодо", "dynamics underlying AI R&D": "динаміки, що лежить в основі R&D зі ШІ", ", in addition to our uncertainty about the feasibility of various covert project strategies and mitigation strategies. We explain the details of our quantitative model in our ": ", на додачу до нашої невизначеності щодо здійсненності різних стратегій таємних проєктів і стратегій пом'якшення. Ми пояснюємо деталі нашої кількісної моделі в нашому ", ", in addition to our uncertainty about the feasibility of various covert project strategies and mitigation strategies. We explain the details of our quantitative model in our": ", на додачу до нашої невизначеності щодо здійсненності різних стратегій таємних проєктів і стратегій пом'якшення. Ми пояснюємо деталі нашої кількісної моделі в нашому", ". Again, the decisionmakers implementing Plan A will have access to more information than we do, which might reveal that the risk incurred by the above strategies differs much more sharply than they do in our estimation.": ". Знову ж таки, особи, що ухвалюють рішення про впровадження Плану A, матимуть доступ до більшої кількості інформації, ніж ми, що могло б виявити, що понесений ризик наведених вище стратегій відрізняється значно різкіше, ніж у нашій оцінці.", "To illustrate this, if we could be certain that AI R&D and takeoff dynamics worked exactly how it does in our scenario, but still had uncertainty about covert project affordances, the table above would look like this:": "Щоб проілюструвати це, якби ми могли бути впевнені, що динаміка R&D зі ШІ й зльоту працює точно так, як у нашому сценарії, але все ще мали невизначеність щодо можливостей таємного проєкту, наведена вище таблиця виглядала б так:", "Covert project risk incurred by several strategies, assuming the AI 2040 takeoff parameters:": "Ризик таємного проєкту, понесений за кількома стратегіями, за умови параметрів зльоту AI 2040:", "The main goals of a policy response to covert projects are:": "Головні цілі політичної реакції на таємні проєкти такі:", "Prevent a covert project from building deal-undermining AI.": "Запобігти побудові таємним проєктом ШІ, що підриває Угоду.", " We generally want it to be the case that legal AI projects have stronger AIs than covert projects. This is less important early in the intelligence explosion but becomes crucial later on, as having better AI capabilities could quickly lead to an insurmountable geopolitical lead. Specifically, by ": " Загалом ми хочемо, щоб легальні ШІ-проєкти мали сильніші ШІ, ніж таємні проєкти. Це менш важливо на ранніх етапах вибуху інтелекту, але стає критичним пізніше, оскільки наявність кращих можливостей ШІ могла б швидко призвести до нездоланного геополітичного відриву. Конкретно, під ", "We generally want it to be the case that legal AI projects have stronger AIs than covert projects. This is less important early in the intelligence explosion but becomes crucial later on, as having better AI capabilities could quickly lead to an insurmountable geopolitical lead. Specifically, by": "Загалом ми хочемо, щоб легальні ШІ-проєкти мали сильніші ШІ, ніж таємні проєкти. Це менш важливо на ранніх етапах вибуху інтелекту, але стає критичним пізніше, оскільки наявність кращих можливостей ШІ могла б швидко призвести до нездоланного геополітичного відриву. Конкретно, під", "deal-undermining AI": "ШІ, що підриває Угоду,", ", we mean an AI that either (i) directly confers a ": " ми маємо на увазі ШІ, який або (i) безпосередньо надає ", ", we mean an AI that either (i) directly confers a": "ми маємо на увазі ШІ, який або (i) безпосередньо надає", "decisive strategic advantage": "вирішальну стратегічну перевагу", " to the covert project or (ii) is able to ongoingly outpace the legal AI projects, even if they switch to maximally fast AI capabilities progress.": " таємному проєкту, або (ii) здатен постійно випереджати легальні ШІ-проєкти, навіть якщо ті перейдуть на максимально швидкий прогрес можливостей ШІ.", "to the covert project or (ii) is able to ongoingly outpace the legal AI projects, even if they switch to maximally fast AI capabilities progress.": "таємному проєкту, або (ii) здатен постійно випереджати легальні ШІ-проєкти, навіть якщо ті перейдуть на максимально швидкий прогрес можливостей ШІ.", "Deter the creation of covert projects.": "Стримувати створення таємних проєктів.", " We want it to be the case that at the beginning of Plan A, both the US and China are confident that if they were to do a covert project, it would either be detected before it is relevant, or outpaced on AI progress, and that these outcomes are worse than not having any covert project.": " Ми хочемо, щоб на початку дії Плану A і США, і Китай були впевнені, що якби вони створили таємний проєкт, його або виявили б до того, як він стане релевантним, або він відстав би в прогресі ШІ, і що ці результати гірші, ніж відсутність будь-якого таємного проєкту.", "We want it to be the case that at the beginning of Plan A, both the US and China are confident that if they were to do a covert project, it would either be detected before it is relevant, or outpaced on AI progress, and that these outcomes are worse than not having any covert project.": "Ми хочемо, щоб на початку дії Плану A і США, і Китай були впевнені, що якби вони створили таємний проєкт, його або виявили б до того, як він стане релевантним, або він відстав би в прогресі ШІ, і що ці результати гірші, ніж відсутність будь-якого таємного проєкту.", "Maintain international cooperation.": "Підтримувати міжнародну співпрацю.", " In particular, if there isn’t a covert project, we want to avoid Plan A breaking down due to lack of trust, i.e. one side being worried that the other has a covert project and thus wanting to exit the agreement.": " Зокрема, якщо таємного проєкту немає, ми хочемо уникнути розпаду Плану A через брак довіри, тобто через занепокоєння однієї сторони, що в іншої є таємний проєкт, і, відповідно, бажання вийти з угоди.", "In particular, if there isn’t a covert project, we want to avoid Plan A breaking down due to lack of trust, i.e. one side being worried that the other has a covert project and thus wanting to exit the agreement.": "Зокрема, якщо таємного проєкту немає, ми хочемо уникнути розпаду Плану A через брак довіри, тобто через занепокоєння однієї сторони, що в іншої є таємний проєкт, і, відповідно, бажання вийти з угоди.", "Prolong the time with human-level but not superintelligent AI.": "Продовжити час з ШІ людського рівня, але не суперінтелектуальним.", " Time with human level AI is very valuable because it is when we’ll make the most progress on alignment.": " Час з ШІ людського рівня дуже цінний, оскільки саме тоді ми зробимо найбільший прогрес в узгодженні.", "Time with human level AI is very valuable because it is when we’ll make the most progress on alignment.": "Час з ШІ людського рівня дуже цінний, оскільки саме тоді ми зробимо найбільший прогрес в узгодженні.", "Goals 1 & 2 are in tension with Goals 3 & 4 because a central tool for preventing / deterring covert projects is accelerating capabilities progress within Plan A.": "Цілі 1 і 2 перебувають у напрузі з Цілями 3 і 4, оскільки центральний інструмент запобігання/стримування таємних проєктів — це прискорення прогресу можливостей у межах Плану A.", "The rest of this section is structured as follows:": "Решта цього розділу структурована так:", "First, we discuss the set of possible responses to covert projects.": "Спочатку ми обговорюємо набір можливих реакцій на таємні проєкти.", "Second, we discuss an example high level overall strategy": "По-друге, ми обговорюємо приклад стратегії високого рівня в цілому", "Third, we go through concrete scenarios and how we would recommend responding to each.": "По-третє, ми розглянемо конкретні сценарії та як ми рекомендували б реагувати на кожен з них.", "Section 7.1: Options for responding to covert projects": "Розділ 7.1: Варіанти реагування на таємні проєкти", "In this section, we’ll go over policy options for situations where covert project risk seems unacceptably high. These options can be pursued in parallel. Note that many of these options (especially options 1-4) require negotiation with China.": "У цьому розділі ми розглянемо політичні варіанти для ситуацій, коли ризик таємного проєкту видається неприйнятно високим. Ці варіанти можна застосовувати паралельно. Зауважте, що багато з цих варіантів (особливо варіанти 1-4) вимагають переговорів з Китаєм.", "Option #1: Switch to Plan S": "Варіант №1: Перехід до Плану S", "Multilateral": "Багатосторонній", "The US and China could agree to a full moratorium on ongoing AI development. This would slow down covert projects in the regime where they are mostly benefitting from Consortium-driven algorithmic progress. The covert project could still make progress on its own, but it would be much slower because of the compute and labor bottlenecks. Overall, this maximizes the serial time in the agreement before a fixed size covert project overtakes, putting aside detection.": "США і Китай могли б погодитися на повний мораторій на подальшу розробку ШІ. Це сповільнило б таємні проєкти в режимі, де вони переважно отримують вигоду від алгоритмічного прогресу, керованого Консорціумом. Таємний проєкт все ще міг би самостійно робити прогрес, але це було б значно повільніше через вузькі місця в обчислювальних потужностях і праці. Загалом це максимізує послідовний час в угоді до того, як таємний проєкт фіксованого розміру наздожене, залишаючи осторонь питання виявлення.", "This option, of course, has the standard downsides of switching to Plan S. With respect to covert projects in particular, it may also delay the creation of any of the “AI silver bullets”, discussed above, which are helpful for mitigating covert projects.": "Цей варіант, звісно, має стандартні недоліки переходу до Плану S. Стосовно таємних проєктів зокрема, він також може відтермінувати створення будь-яких «ШІ-срібних куль», обговорених вище, які корисні для пом'якшення таємних проєктів.", "The exit paths for Plan S are (1) we successfully developed improved verification technology, (2) both sides decided to grant the other improved verification access, (3) sufficient progress on alignment was made to continue scaling quickly, in a manner that outpaces covert projects or (4) covert projects pose a large, imminent risk, and misalignment risk is smaller than covert project risk (while still being substantial, or else we’d be in option (3).": "Шляхи виходу з Плану S: (1) ми успішно розробили покращену технологію верифікації, (2) обидві сторони вирішили надати одна одній покращений доступ до верифікації, (3) досягнуто достатнього прогресу в узгодженні, щоб продовжити швидке масштабування у спосіб, що випереджає таємні проєкти, або (4) таємні проєкти становлять великий, неминучий ризик, а ризик неузгодження менший за ризик таємного проєкту (все ще залишаючись суттєвим, інакше ми були б у варіанті (3)).", "The most preferable option among these is (1). In that case the plan is: issue a complete moratorium on AI R&D until we’ve got good enough verification to be confident covert projects are not a binding constraint, then revert back to Plan A.": "Найбажаніший варіант серед них — (1). У такому випадку план такий: оголосити повний мораторій на R&D зі ШІ, доки ми не отримаємо достатньо хорошу верифікацію, щоб бути впевненими, що таємні проєкти не є обмежувальним фактором, а потім повернутися до Плану A.", "Option #2: Adopt a scaling strategy that minimizes software share of capabilities progress": "Варіант №2: Прийняти стратегію масштабування, що мінімізує програмну частку прогресу можливостей", "In Plan A, we currently allow for ~.5 OOMs/year of software scaling, and ~0.5 OOM/year of hardware scaling over 2035. The reason we recommend making algorithmic progress is in large part because of deal dissolution risk; if covert projects are a binding constraint, we could minimize algorithmic progress and scale purely with hardware, which doesn’t diffuse. It’s probably impossible to get algorithmic progress to zero (for example, there are inevitable capabilities externalities from safety research), but we might be able to decrease it to ~.1-.2 OOMs/year.": "У Плані A ми наразі дозволяємо приблизно 0,5 порядку величини на рік програмного масштабування та приблизно 0,5 порядку величини на рік апаратного масштабування протягом періоду до 2035 року. Причина, з якої ми рекомендуємо здійснювати алгоритмічний прогрес, значною мірою полягає в ризику розпаду Угоди; якщо таємні проєкти є обмежувальним фактором, ми могли б мінімізувати алгоритмічний прогрес і масштабуватися виключно апаратно, що не розповсюджується. Імовірно, неможливо звести алгоритмічний прогрес до нуля (наприклад, існують неминучі зовнішні ефекти можливостей від досліджень безпеки), але ми, можливо, зможемо знизити його до приблизно 0,1-0,2 порядку величини на рік.", "Option #3: Attempt to improve algorithmic progress security": "Варіант №3: Спробувати покращити безпеку алгоритмічного прогресу", "Another approach is to try to prevent algorithmic progress from diffusing (or, increasing the latency with which it diffuses). Again, this would slow covert projects substantially insofar as they were primarily relying on Consortium algorithmic progress. The main difficulty is that there is a major tension between our desire for openness/transparency with a desire for algorithms to be secure: an important component of Plan A is the Total Research Transparency that deliberately publishes most algorithms onto the internet. We discuss options for increased algorithmic security in our ": "Інший підхід — спробувати запобігти розповсюдженню алгоритмічного прогресу (або збільшити затримку, з якою він розповсюджується). Знову ж таки, це суттєво сповільнило б таємні проєкти тією мірою, якою вони переважно покладалися на алгоритмічний прогрес Консорціуму. Головна складність полягає в тому, що існує серйозна напруга між нашим прагненням до відкритості/прозорості та прагненням до захищеності алгоритмів: важливим компонентом Плану A є Повна дослідницька прозорість, яка навмисно публікує більшість алгоритмів в інтернеті. Ми обговорюємо варіанти підвищення алгоритмічної безпеки в нашому ", "Another approach is to try to prevent algorithmic progress from diffusing (or, increasing the latency with which it diffuses). Again, this would slow covert projects substantially insofar as they were primarily relying on Consortium algorithmic progress. The main difficulty is that there is a major tension between our desire for openness/transparency with a desire for algorithms to be secure: an important component of Plan A is the Total Research Transparency that deliberately publishes most algorithms onto the internet. We discuss options for increased algorithmic security in our": "Інший підхід — спробувати запобігти розповсюдженню алгоритмічного прогресу (або збільшити затримку, з якою він розповсюджується). Знову ж таки, це суттєво сповільнило б таємні проєкти тією мірою, якою вони переважно покладалися на алгоритмічний прогрес Консорціуму. Головна складність полягає в тому, що існує серйозна напруга між нашим прагненням до відкритості/прозорості та прагненням до захищеності алгоритмів: важливим компонентом Плану A є Повна дослідницька прозорість, яка навмисно публікує більшість алгоритмів в інтернеті. Ми обговорюємо варіанти підвищення алгоритмічної безпеки в нашому", "Depending on how successful algorithms security is, it may be viable to switch to faster capability scaling. This will obviously pose additional misalignment risk, and in this regime it is hard to slow down because a covert project is close behind, so this is not a desirable position to be in.": "Залежно від того, наскільки успішною буде безпека алгоритмів, може бути доцільним перейти до швидшого масштабування можливостей. Це, очевидно, створило б додатковий ризик неузгодження, і в цьому режимі важко сповільнитися, оскільки таємний проєкт близько позаду, тож це небажана позиція.", "Option #4": "Варіант №4", "Negotiate with China to submit to stronger verification": "Домовитися з Китаєм про підпорядкування посиленій верифікації", "Bilateral": "Двосторонній", "For example, China could agree to:": "Наприклад, Китай міг би погодитися на:", "Ongoing intrusive physical monitoring (e.g. thermometers in large water sources, cameras in relevant sites, electrical grid monitoring)": "Постійний інтрузивний фізичний моніторинг (наприклад, термометри у великих водних джерелах, камери на відповідних об'єктах, моніторинг електромережі)", "Provide access to classified materials that indicate there is no covert project.": "Надання доступу до засекречених матеріалів, що вказують на відсутність таємного проєкту.", "Physical inspections of plausible covert project locations (e.g. industrial plants that produce substantial waste heat, tunnels near large water sources, etc).": "Фізичні інспекції правдоподібних локацій таємних проєктів (наприклад, промислових заводів, що виробляють значне скидне тепло, тунелів поблизу великих водних джерел тощо).", "Access to classified data, e.g. AIs can see the black budget and report back if there are any AI looking things on there": "Доступ до засекречених даних, наприклад, ШІ можуть бачити чорний бюджет і повідомляти, чи є там щось, що виглядає пов'язаним зі ШІ", "Lower the exempt military compute cap": "Зниження квоти на звільнені від обмежень військові обчислювальні потужності", "If we have viable privacy preserving verification such that an AI could get access to these information sources and only report back high level bits of information, this could make this option much more viable. Alternatively, the US might credibly warn China that we are pulling out of the deal unless they provide us with stronger verification affordances.": "Якщо у нас є життєздатна верифікація із захистом приватності, за якої ШІ міг би отримати доступ до цих джерел інформації та повідомляти лише узагальнені біти інформації високого рівня, це могло б зробити цей варіант значно життєздатнішим. Альтернативно, США могли б достовірно попередити Китай, що вийдуть з Угоди, якщо ті не нададуть сильніших можливостей верифікації.", " China would then be incentivized to agree to these concessions because the deal breaking down is very bad for them, because it would amount to something similar to a return to the status quo (e.g. a return to a race with the US having vastly more AI compute).": " Китай тоді був би стимульований погодитися на ці поступки, оскільки розпад Угоди дуже поганий для нього, оскільки це рівнозначно чомусь на кшталт повернення до статус-кво (наприклад, повернення до гонки, де США мають значно більше обчислювальних потужностей для ШІ).", "China would then be incentivized to agree to these concessions because the deal breaking down is very bad for them, because it would amount to something similar to a return to the status quo (e.g. a return to a race with the US having vastly more AI compute).": "Китай тоді був би стимульований погодитися на ці поступки, оскільки розпад Угоди дуже поганий для нього, оскільки це рівнозначно чомусь на кшталт повернення до статус-кво (наприклад, повернення до гонки, де США мають значно більше обчислювальних потужностей для ШІ).", "Option #5: Race to improved verification": "Варіант №5: Гонка за покращеною верифікацією", "If we have enough time, it may be worthwhile diverting massive resources into a sprint to develop improved verification technology, for example, privacy preserving verification that could enable the option above. Having access to more advanced AI is helpful for this option. We recommend pursuing this in almost any scenario because having the affordance to implement stronger verification is generally useful, but in scenarios where covert projects are posing substantial risk, this is especially promising.": "Якщо у нас достатньо часу, могло б бути доцільним спрямувати величезні ресурси в ривок для розробки покращеної технології верифікації, наприклад, верифікації із захистом приватності, яка могла б уможливити наведений вище варіант. Доступ до досконалішого ШІ корисний для цього варіанта. Ми рекомендуємо застосовувати це майже в будь-якому сценарії, оскільки наявність можливості впровадити сильнішу верифікацію загалом корисна, але в сценаріях, де таємні проєкти становлять суттєвий ризик, це особливо перспективно.", "Option #6: Improve takeoff speed modeling": "Варіант №6: Покращити моделювання швидкості зльоту", "Unilateral": "Односторонній", "Concern for covert projects may be substantially driven by the tail risk, i.e., that takeoff is faster than we think with a tiny amount of compute. It may be worthwhile to invest substantial resources to gain better information about how fast the intelligence explosion goes with a small amount of compute. An obvious baseline is to invest more into generic takeoff speed modeling (e.g. things like the AI Futures Model).": "Занепокоєння щодо таємних проєктів може значною мірою зумовлюватися хвостовим ризиком, тобто тим, що зліт відбувається швидше, ніж ми думаємо, з дуже малим обсягом обчислювальних потужностей. Могло б бути доцільним інвестувати значні ресурси, щоб отримати кращу інформацію про те, наскільки швидко відбувається вибух інтелекту з малим обсягом обчислювальних потужностей. Очевидна базова лінія — інвестувати більше в загальне моделювання швидкості зльоту (наприклад, такі речі, як AI Futures Model).", "A more intense option is to create a “covert dominating miniproject (CDMP)”—a sanctioned project that would simulate the progress of a covert project; it would be given somewhat more compute than we think would be able to evade detection, and would try to conduct an intelligence explosion as fast as it could, theoretically outpacing any covert project. The main downside of this proposal is that it would lead to faster algorithmic progress (which may then diffuse to the covert project itself, further accelerating it). However, this might net out to an improvement in a regime where we are very uncertain about takeoff speed because the empirical observations from the CDMP could give us a much better estimate of takeoff speeds in a highly compute constrained regime.": "Інтенсивніший варіант — створити «мініпроєкт, що домінує над таємним (CDMP)» — санкціонований проєкт, який імітував би прогрес таємного проєкту; йому надали б дещо більше обчислювальних потужностей, ніж, на нашу думку, могло б уникнути виявлення, і він намагався б провести вибух інтелекту якомога швидше, теоретично випереджаючи будь-який таємний проєкт. Головний недолік цієї пропозиції в тому, що вона призвела б до швидшого алгоритмічного прогресу (який потім міг би розповсюдитися й на сам таємний проєкт, ще більше його прискорюючи). Однак це могло б зрештою виявитися покращенням у режимі, де ми дуже не впевнені щодо швидкості зльоту, оскільки емпіричні спостереження з CDMP могли б дати нам набагато кращу оцінку швидкостей зльоту в режимі з дуже обмеженими обчислювальними потужностями.", "Option #7: Pull out of the deal and switch to Plan B": "Варіант №7: Вийти з Угоди й перейти до Плану B", "This would involve leaving the deal. Immediately, both sides would destroy the vast majority of each other’s compute, and then both sides would go back to racing. This is really bad for both sides, because it would be immediately economically catastrophic and it would significantly increase misalignment risk, World War 3 risk, and concentration of power.": "Це передбачало б вихід з Угоди. Негайно обидві сторони знищили б переважну більшість обчислювальних потужностей одна одної, а потім обидві сторони повернулися б до гонки. Це справді погано для обох сторін, оскільки це негайно спричинило б економічну катастрофу і суттєво підвищило б ризик неузгодження, ризик Третьої світової війни та концентрації влади.", "The main upside of this option is that it is useful as a BATNA during negotiation, and preserving a credible threat of leaving the deal can help deter the creation of a covert project in the first place. If China builds a covert project knowing it runs a substantial chance of detection, and the US commits to pulling out of the deal if they detect it, it is probably irrational for China to create a covert project in the first place.": "Головна перевага цього варіанта в тому, що він корисний як НАЙКРАЩА АЛЬТЕРНАТИВА під час переговорів, а збереження достовірної загрози виходу з Угоди може допомогти стримати саме створення таємного проєкту. Якщо Китай будує таємний проєкт, знаючи, що ризикує суттєвою ймовірністю виявлення, а США зобов'язуються вийти з Угоди, якщо його виявлять, то, ймовірно, для Китаю ірраціонально взагалі створювати таємний проєкт.", "The main downside of pulling out of the deal is if this happens when China was in reality honest, but for some reason the US had an overly hawkish estimate of a Chinese covert project. (For example, maybe compute estimates were off, or smugglers were harder to track down than expected). In these worlds, there was the option of continuing on in Plan A and incurring much lower risk across the board.": "Головний недолік виходу з Угоди — це якщо це станеться, коли Китай насправді був чесним, але з якоїсь причини США мали надто яструбину оцінку китайського таємного проєкту. (Наприклад, можливо, оцінки обчислювальних потужностей були неточними, або контрабандистів було важче відстежити, ніж очікувалося). У таких світах був варіант продовжити діяти в межах Плану A і зазнати значно нижчого ризику загалом.", "Option #8: Other geopolitical concessions": "Варіант №8: Інші геополітичні поступки", "In general, if the US is suspicious that China is defecting, they can use the standard set of geopolitical tools to incentivize them against this. Particularly notable tools in the Plan A scenario include the robot and compute cap subject to both countries.": "Загалом, якщо США підозрюють, що Китай порушує Угоду, вони можуть використати стандартний набір геополітичних інструментів, щоб стимулювати його проти цього. Особливо помітні інструменти в сценарії Плану A включають квоти на роботів і обчислювальні потужності, які застосовуються до обох країн.", "Section 7.2: Response plan for ambiguous evidence of covert project": "Розділ 7.2: План реагування на неоднозначні докази таємного проєкту", "Example concrete ways the US could get weak evidence of a covert project:": "Приклади конкретних способів, якими США могли б отримати слабкі докази таємного проєкту:", "The chip supply chain tracing reveals a missing 1M H100e: records exist of these chips being manufactured (e.g. from Nvidia/TSMC/Huawei), but we aren’t able to find them. This could be smugglers, or it could be a nation-state backed covert project.": "Відстеження ланцюга постачання чипів виявляє відсутні 1 млн H100e: існують записи про виробництво цих чипів (наприклад, від Nvidia/TSMC/Huawei), але ми не можемо їх знайти. Це можуть бути контрабандисти, або це може бути таємний проєкт, підтримуваний державою.", "China refuses additional verification. For example, maybe the US is suspicious of a particular set of sites, where there might be a covert project, but China isn’t willing to allow the US access. This is an update towards a covert project because they are much more likely to give the US access to these sites if they are legitimate.": "Китай відмовляється від додаткової верифікації. Наприклад, можливо, США підозрюють певний набір об'єктів, де може бути таємний проєкт, але Китай не бажає надавати США доступ. Це є оновленням на користь таємного проєкту, оскільки набагато ймовірніше, що вони нададуть США доступ до цих об'єктів, якщо вони легітимні.", "The US might get ambiguous intelligence from IMINT / OSINT / SIGINT, for example, satellite images might suggest large scale underground construction, but the US might not be able to ascertain whether it’s an AI related covert project.": "США можуть отримати неоднозначну розвідувальну інформацію з IMINT/OSINT/SIGINT, наприклад, супутникові зображення можуть свідчити про масштабне підземне будівництво, але США можуть бути не в змозі встановити, чи є це таємним проєктом, пов'язаним зі ШІ.", "The US notices model weight exfiltration attempts that seem like they could be coming from China but with unclear attribution. (This doesn’t necessarily imply China is operating covert compute, but is evidence.)": "США помічають спроби ексфільтрації ваг моделі, які виглядають так, ніби надходять з Китаю, але з неясною атрибуцією. (Це не обов'язково означає, що Китай веде таємні обчислювальні потужності, але є доказом.)", "Baseline response:": "Базова реакція:", "Adopt a more covert project sensitive scaling strategy, for example, minimizing algorithmic progress (Option #2).": "Прийняти стратегію масштабування, чутливішу до таємних проєктів, наприклад, мінімізувати алгоритмічний прогрес (Варіант №2).", "Improve verification: both by improving the technology (Option #5) and negotiating for increased implementation (Option #4).": "Покращити верифікацію: як шляхом покращення технології (Варіант №5), так і шляхом переговорів про розширене впровадження (Варіант №4).", "If China refuses to allow improved verification, consider leaving the deal (Option #7). This is the only part of the response that the US can do unilaterally, but the fact that this is a bad BATNA for both parties creates pressure for China to agree to the above.": "Якщо Китай відмовляється дозволити покращену верифікацію, розглянути вихід з Угоди (Варіант №7). Це єдина частина реакції, яку США можуть здійснити в односторонньому порядку, але той факт, що це погана НАЙКРАЩА АЛЬТЕРНАТИВА для обох сторін, створює тиск на Китай, щоб той погодився на вищезазначене.", "Essentially, this proposal involves marginally tweaking parts of Plan A to be more conservative with respect to covert project risk, because there is direct evidence that covert projects are a significant concern, but allows the core properties of Plan A to continue—there is still total research transparency, broad deployment of AI, ongoing reversible scaling, etc.": "По суті, ця пропозиція передбачає маргінальне коригування частин Плану A, щоб бути консервативнішими щодо ризику таємного проєкту, оскільки є прямі докази того, що таємні проєкти становлять значне занепокоєння, але дозволяє основним властивостям Плану A продовжуватися — все ще існує повна дослідницька прозорість, широке розгортання ШІ, поточне зворотне масштабування тощо.", "Section 7.3: The US gets unambiguous evidence of a PRC covert project": "Розділ 7.3: США отримують однозначні докази таємного проєкту КНР", "Example concrete ways the US could get unambiguous evidence of a covert project:": "Приклади конкретних способів, якими США могли б отримати однозначні докази таємного проєкту:", "Cyber espionage (e.g. GPU backdoors, finding classified documents, etc)": "Кібершпигунство (наприклад, бекдори GPU, знаходження засекречених документів тощо)", "Satellite footage (e.g. finding the construction, heat signature from the project, etc)": "Супутникові знімки (наприклад, виявлення будівництва, теплової сигнатури від проєкту тощо)", "A literal spy in the project": "Буквально шпигун у проєкті", "Egregious refusals from China during negotiation (e.g., there is really solid privacy preserving verification technology, but China refuses to use it and doesn’t give a reasonable explanation for why).": "Кричущі відмови з боку Китаю під час переговорів (наприклад, існує справді надійна технологія верифікації із захистом приватності, але Китай відмовляється її використовувати й не дає розумного пояснення чому).", "Require that China make large geopolitical and verification based concessions (Option #8 and #4).": "Вимагати, щоб Китай пішов на значні геополітичні поступки й поступки на основі верифікації (Варіант №8 і №4).", "If China isn’t willing to make those concessions, exit the agreement. (Option #7).": "Якщо Китай не бажає йти на ці поступки, вийти з угоди (Варіант №7).", "If China is willing to make sufficient concessions, evaluate how good the verification situation looks and choose a ": "Якщо Китай готовий піти на достатні поступки, оцінити, наскільки хорошою видається ситуація з верифікацією, і обрати ", "If China is willing to make sufficient concessions, evaluate how good the verification situation looks and choose a": "Якщо Китай готовий піти на достатні поступки, оцінити, наскільки хорошою видається ситуація з верифікацією, і обрати", "capability scaling strategy": "стратегію масштабування можливостей", " that corresponds with the overall level of ongoing covert project risk.": ", що відповідає загальному рівню поточного ризику таємного проєкту.", "that corresponds with the overall level of ongoing covert project risk.": ", що відповідає загальному рівню поточного ризику таємного проєкту.", "This strategy is reasonable because it (i) punishes China and puts them in a bad strategic state, thus deterring them from doing a covert project in the first place, (ii) allows the Plan A deal to continue, as is rational for both sides to want, and (iii) prevents the covert project from developing deal-undermining AI.": "Ця стратегія обґрунтована, оскільки вона (i) карає Китай і ставить його в поганий стратегічний стан, тим самим стримуючи його від створення таємного проєкту взагалі, (ii) дозволяє Угоді Плану A продовжуватися, що раціонально бажати обом сторонам, і (iii) запобігає розробці таємним проєктом ШІ, що підриває Угоду.", "Covert project strategies we think are ineffective": "Стратегії таємних проєктів, які, на нашу думку, неефективні", "Acquiring compute": "Отримання обчислювальних потужностей", "Diverting pre-2028 stock by retroactively understating domestic production": "Відхилення запасів до 2028 року шляхом ретроактивного заниження внутрішнього виробництва", "This category refers to pre-2028 sales by Chinese chip vendors. These sales could conceivably be understated, but it seems even more difficult than the (already seemingly quite difficult) task of understating new production.": "Ця категорія стосується продажів китайських постачальників чипів до 2028 року. Ці продажі теоретично можна було б занизити, але це видається ще складнішим, ніж (вже, здається, доволі складне) завдання заниження нового виробництва.", "Probability that retroactive concealment of domestic production is feasible": "Імовірність того, що ретроактивне приховування внутрішнього виробництва здійсненне", "I think that doing it non-retroactively is about 15% likely to be feasible, and I am dividing this number by two. Seems about right, but I could update based on learning more about the Chinese semiconductor ecosystem or the historical effectiveness of whistleblower programs like ours.": "Я вважаю, що зробити це неретроактивно приблизно на 15% ймовірно можливо, і я ділю це число на два. Здається, приблизно правильно, але я міг би переглянути це, дізнавшись більше про китайську напівпровідникову екосистему або історичну ефективність програм захисту викривачів, подібних до нашої.", "Fraction of pre-2028 cumulative domestic production which can be concealed and removed from datacenters, conditional on feasibility above": "Частка сукупного вітчизняного виробництва до 2028 року, яку можна приховати й вивести з дата-центрів, за умови можливості цього вище", "Beta distribution with p90 = 7%.": "Бета-розподіл із p90 = 7%.", "Intuitive guess, p90 based on the idea that removing “one Chinese hyperscaler” (e.g. 10-20%) would be super obvious. Though note that this is different from removing one hyperscaler from the total compute in China; some of that will be legally imported or smuggled US-designed chips.": "Інтуїтивна оцінка, p90 базується на ідеї, що усунення «одного китайського гіпермасштабувальника» (наприклад, 10-20%) було б надто очевидним. Хоча зауважте, що це відрізняється від усунення одного гіпермасштабувальника із загальних обчислювальних потужностей Китаю; частина з них буде легально імпортованими чи контрабандними чипами дизайну США.", ", we get a Beta distribution supported on [0, 1.6%] with ": ", ми отримуємо Бета-розподіл, підтримуваний на [0, 1,6%], з ", ", we get a Beta distribution supported on [0, 1.6%] with": ", ми отримуємо Бета-розподіл, підтримуваний на [0, 1,6%], з", "median 0.08% of pre-deal compute from this route, conditional on it being feasible at all.": "медіаною 0,08% обчислювальних потужностей до угоди з цього шляху, за умови, що це взагалі можливо.", "Non-Chinese covert projects": "Некитайські таємні проєкти", "This supplement is focused on the possibility of a Chinese covert project. However, there is also a chance that other countries besides China attempt a covert project. We have not looked into this possibility in detail, so are not confident in our conclusions here, but we tentatively believe that China is the country where doing a covert project is most viable, because:": "Цей додаток зосереджений на можливості китайського таємного проєкту. Однак є також шанс, що інші країни, крім Китаю, спробують таємний проєкт. Ми не досліджували цю можливість детально, тому не впевнені у своїх висновках тут, але схиляємось вважати, що Китай — країна, де таємний проєкт найбільш реалістичний, тому що:", "The US is the only country in the world with more compute than China, and acquiring compute is a central bottleneck for covert projects (see Section 2).": "США — єдина країна у світі з більшими обчислювальними потужностями, ніж Китай, а здобуття обчислювальних потужностей — центральне вузьке місце для таємних проєктів (див. Розділ 2).", "The US seems less likely to agree to Plan A while simultaneously choosing to divert compute, since the US BATNA is more favorable than the Chinese BATNA.": "Здається менш імовірним, що США погодяться на План А, водночас відволікаючи обчислювальні потужності, оскільки BATNA США сприятливіша за китайську BATNA.", "The US has less ability to do a covert project relative to China. The main reasons for this:": "У США менше можливостей здійснити таємний проєкт порівняно з Китаєм. Основні причини цього:", "It will be much harder for the US to acquire chips because there is no major chip smuggling inside the US, and the US doesn’t seem to have a reasonable excuse to force companies to decommission large numbers of chips, cutting off the major avenues for covert compute procurement..": "США буде набагато складніше здобути чипи, оскільки всередині США немає масштабної контрабанди чипів, і в США, здається, немає розумного приводу примушувати компанії списувати велику кількість чипів, що перекриває основні шляхи таємного здобуття обчислювальних потужностей.", "The US has more checks and balances on executive power, so a covert project is probably politically more difficult to set up. It also seems harder to for the US to compel the relevant companies to comply with the efforts of a covert project (e.g., getting semiconductor companies to falsify sales records), as very few companies below the chip-design level are US-headquartered": "У США більше стримувань і противаг щодо виконавчої влади, тому таємний проєкт, ймовірно, політично складніше організувати. Також, здається, США складніше змусити відповідні компанії сприяти зусиллям таємного проєкту (наприклад, змусити напівпровідникові компанії фальсифікувати записи продажів), оскільки дуже мало компаній нижче рівня дизайну чипів мають штаб-квартиру в США", "We focus on China in particular because we think China is the best positioned party to defect. This is discussed further in ": "Ми зосереджуємось саме на Китаї, тому що вважаємо його стороною, найкраще розташованою для порушення угоди. Це докладніше розглядається в ", "We focus on China in particular because we think China is the best positioned party to defect. This is discussed further in": "Ми зосереджуємось саме на Китаї, тому що вважаємо його стороною, найкраще розташованою для порушення угоди. Це докладніше розглядається в", "the appendix": "додатку", "Based on our modeling, deliberately holding back on the amount of compute deployed does not improve a covert project’s chance of ": "За нашим моделюванням, свідоме стримування обсягу розгорнутих обчислювальних потужностей не покращує шанси таємного проєкту на ", "Based on our modeling, deliberately holding back on the amount of compute deployed does not improve a covert project’s chance of": "За нашим моделюванням, свідоме стримування обсягу розгорнутих обчислювальних потужностей не покращує шанси таємного проєкту на", "success": "успіх", "Based on our modeling, the rate of capabilities progress of covert projects is largely determined by the rate of progress of the Consortium. Specifically, under our ": "За нашим моделюванням, темп прогресу можливостей таємних проєктів значною мірою визначається темпом прогресу Консорціуму. Зокрема, за наших ", "Based on our modeling, the rate of capabilities progress of covert projects is largely determined by the rate of progress of the Consortium. Specifically, under our": "За нашим моделюванням, темп прогресу можливостей таємних проєктів значною мірою визначається темпом прогресу Консорціуму. Зокрема, за наших", "transparency recommendations": "рекомендацій щодо прозорості", " the main lever for speeding up (software progress) also accelerates the covert projects. Hence “going faster to outpace covert projects” usually has the opposite effect—instead, the lead-maximizing strategy involves making as little software progress as possible while maintaining the hardware-buildout-constrained rate of training compute scaling.": " головний важіль пришвидшення (прогрес програмного забезпечення) також пришвидшує таємні проєкти. Тому «прискоритися, щоб випередити таємні проєкти» зазвичай має протилежний ефект — натомість стратегія максимізації відриву передбачає якомога менший прогрес програмного забезпечення при збереженні темпу масштабування обчислювальних потужностей для навчання, обмеженого темпом нарощування апаратного забезпечення.", "the main lever for speeding up (software progress) also accelerates the covert projects. Hence “going faster to outpace covert projects” usually has the opposite effect—instead, the lead-maximizing strategy involves making as little software progress as possible while maintaining the hardware-buildout-constrained rate of training compute scaling.": "головний важіль пришвидшення (прогрес програмного забезпечення) також пришвидшує таємні проєкти. Тому «прискоритися, щоб випередити таємні проєкти» зазвичай має протилежний ефект — натомість стратегія максимізації відриву передбачає якомога менший прогрес програмного забезпечення при збереженні темпу масштабування обчислювальних потужностей для навчання, обмеженого темпом нарощування апаратного забезпечення.", "Moreover, due to Total Research Transparency, for virtually all AI algorithms, we are deliberately publishing them.": "Понад те, завдяки Повній дослідницькій прозорості, ми свідомо публікуємо практично всі алгоритми ШІ.", "If the PRC acted with less foresight, and only began diverting chips three months in advance rather than a year in advance, their diversion yield might be ~3x less. If the US was less competent, and failed to reduce the smuggling rate relative to today in the year leading up to the deal, the diversion yield might be ~1.5x more.": "Якби КПК діяла з меншою далекоглядністю і почала відволікати чипи лише за три місяці наперед, а не за рік, її вихід від відволікання міг би бути ~в 3 рази меншим. Якби США були менш компетентними і не знизили рівень контрабанди відносно сьогоднішнього за рік перед угодою, вихід від відволікання міг би бути ~в 1,5 раза більшим.", "The mechanics of this are discussed more in our verification supplement ": "Механіка цього докладніше розглядається в нашому додатку про верифікацію ", "The mechanics of this are discussed more in our verification supplement": "Механіка цього докладніше розглядається в нашому додатку про верифікацію", "As above, we are very uncertain about the tractability and potential consequences of doing this. Relevant public information includes the ": "Як і вище, ми дуже не впевнені щодо здійсненності й потенційних наслідків цього. Відповідна публічна інформація включає ", "As above, we are very uncertain about the tractability and potential consequences of doing this. Relevant public information includes the": "Як і вище, ми дуже не впевнені щодо здійсненності й потенційних наслідків цього. Відповідна публічна інформація включає", ", which seems to meet or exceed the level of access that would be required to gain accurate accounting records (for example, they “obtained information about the workings of [Huawei-produced networking products] and monitored communications of the company’s top executives”).": ", що, здається, відповідає або перевищує рівень доступу, необхідний для отримання точних облікових записів (наприклад, вони «отримали інформацію про роботу [мережевого обладнання виробництва Huawei] і відстежували комунікації топменеджерів компанії»).", "By “audit,” we mean: obtain a firm’s complete records of compute purchased, resold or transferred, and retained as inventory, and physically inspect any compute the firm presently owns.": "Під «аудитом» ми маємо на увазі: отримання повних записів фірми про придбані, перепродані чи передані обчислювальні потужності, а також ті, що зберігаються як запас, і фізичну перевірку будь-яких обчислювальних потужностей, якими фірма наразі володіє.", "It might also be possible to purchase chips directly from Chinese domestic producers in a similar manner, though I’m unsure whether China has export restrictions that would make this more difficult or unusual. In practice it probably does look rather unusual to export any significant fraction of your 2028 production, just because of the strategic importance of AI compute.": "Також могло б бути можливим купувати чипи безпосередньо у китайських вітчизняних виробників подібним чином, хоча я не впевнений, чи має Китай експортні обмеження, які б ускладнили це або зробили незвичним. На практиці експорт будь-якої значної частки вашого виробництва 2028 року, ймовірно, виглядає доволі незвично саме через стратегічну важливість обчислювальних потужностей для ШІ.", "You could also stockpile the inputs (e.g. logic dies and HBM) and finish the assembly during the deal in a secret facility. For the case we looked at (a covert packaging line) this seemed not worthwhile, namely because of the comparatively low throughput and ongoing inflow of inputs that would be required to operate it.": "Можна було б також накопичувати компоненти (наприклад, логічні кристали й HBM) і завершувати збірку під час дії угоди на таємному об'єкті. Для випадку, який ми розглянули (таємна лінія пакування), це виглядало недоцільним, а саме через порівняно низьку пропускну здатність і постійний приплив компонентів, необхідний для її роботи.", "Or their Chinese-designed compute, though doing this for US-made compute has a number of advantages, including (1) power efficiency to minimize required covert datacenter footprint, (2) complementarity with other diversion strategies more applicable to Chinese-designed compute, such as falsifying production records, and (3) increased plausible deniability, though this is speculative.": "Або їхні обчислювальні потужності китайського дизайну, хоча робити це для обчислювальних потужностей американського виробництва має низку переваг, зокрема (1) енергоефективність для мінімізації необхідної площі таємного дата-центру, (2) взаємодоповнюваність з іншими стратегіями відволікання, більш застосовними до обчислювальних потужностей китайського дизайну, як-от фальсифікація записів виробництва, і (3) підвищена правдоподібна заперечність, хоча це спекулятивно.", "This would be against their interests, but could be a plausible rationale.": "Це суперечило б їхнім інтересам, але могло б бути правдоподібним обґрунтуванням.", "See our analysis here: Diverting pre-2028 stock by retroactively understating domestic production.": "Див. наш аналіз тут: Відволікання запасів до 2028 року через ретроактивне заниження вітчизняного виробництва.", "On the one hand, the exhaust from a jet engine is much hotter than the exhaust from a chiller, but on the other hand, these aircraft only need to hide from things like IR-guided missiles rather than from repeated satellite observation and analysis.": "З одного боку, вихлоп реактивного двигуна набагато гарячіший за вихлоп охолоджувача, але з іншого боку, цим літальним апаратам потрібно ховатися лише від таких загроз, як ракети з ІЧ-наведенням, а не від повторюваного супутникового спостереження й аналізу.", "1 cubic meter per second of water flow carries 4.2MW per degree C of temperature rise. The ": "1 кубічний метр води за секунду переносить 4,2 МВт на кожен градус Цельсія підвищення температури. Найбільша ", "1 cubic meter per second of water flow carries 4.2MW per degree C of temperature rise. The": "1 кубічний метр води за секунду переносить 4,2 МВт на кожен градус Цельсія підвищення температури. Найбільша", "largest water treatment plant": "водоочисна станція", " in the world handles ~30 m^3/s (covering around half of Chicago). The ": " у світі обробляє ~30 м³/с (охоплюючи приблизно половину Чикаго). Найбільші ", "in the world handles ~30 m^3/s (covering around half of Chicago). The": "у світі обробляє ~30 м³/с (охоплюючи приблизно половину Чикаго). Найбільші", "largest": "найбільші", "Chinese": "китайські", "underground": "підземні", "water": "водні", " transfer projects carry ~100 m^3/s. The ": " проєкти перекидання води переносять ~100 м³/с. Найбільші ", "transfer projects carry ~100 m^3/s. The": "проєкти перекидання води переносять ~100 м³/с. Найбільші", "largest nuclear plants": "найбільші атомні станції", " discharge a few hundred m^3/s (they heat water by more than 1 degree C in order to discharge ~10GW at this rate). The ": " скидають кілька сотень м³/с (вони нагрівають воду більш ніж на 1 градус Цельсія, щоб скидати ~10 ГВт із таким темпом). Найбільші ", "discharge a few hundred m^3/s (they heat water by more than 1 degree C in order to discharge ~10GW at this rate). The": "скидають кілька сотень м³/с (вони нагрівають воду більш ніж на 1 градус Цельсія, щоб скидати ~10 ГВт із таким темпом). Найбільші", "largest desalination plants": "найбільші опріснювальні станції", " withdraw 1000+ m^3/s of seawater. The ": " забирають 1000+ м³/с морської води. ", "withdraw 1000+ m^3/s of seawater. The": "забирають 1000+ м³/с морської води.", "rivers": "Найбільші річки", "in": "у", " the world have average discharge in the range 30,000–300,000 m^3/s.": " світі мають середню витрату води в діапазоні 30 000–300 000 м³/с.", "the world have average discharge in the range 30,000–300,000 m^3/s.": "світі мають середню витрату води в діапазоні 30 000–300 000 м³/с.", "The best-suited thermal satellite we could find ": "Найкраще підходящий тепловий супутник, який ми змогли знайти, ", "The best-suited thermal satellite we could find": "Найкраще підходящий тепловий супутник, який ми змогли знайти,", "has": "має", " a total noise equivalent differential temperature of ~0.2 K at a resolution of 57m, better than the 100m resolution of the Landsat 8 and 9, which were used in ": " загальну еквівалентну шумову різницю температур ~0,2 K при роздільній здатності 57 м, що краще за роздільну здатність 100 м супутників Landsat 8 і 9, які використовувалися в ", "a total noise equivalent differential temperature of ~0.2 K at a resolution of 57m, better than the 100m resolution of the Landsat 8 and 9, which were used in": "загальну еквівалентну шумову різницю температур ~0,2 K при роздільній здатності 57 м, що краще за роздільну здатність 100 м супутників Landsat 8 і 9, які використовувалися в", " to image nuclear plant thermal plumes. So the temperature increase ": " для зображення теплових шлейфів атомних станцій. Тож підвищення температури ", "to image nuclear plant thermal plumes. So the temperature increase": "для зображення теплових шлейфів атомних станцій. Тож підвищення температури", "at the surface": "на поверхні", " would perhaps need to be <0.1 degree C. This could be accomplished by drawing 10 m^3/s of water for every 4.2 MW (putting the flow rate for a 100MW facility on par with the world’s largest nuclear plants), or by dumping more megawatts into each m^3/s of water but releasing it at a greater depth (or in some sort of underground waterway) so the plume dilutes more before eventually reaching the surface. I am currently unsure whether this analysis properly accounts for time averaging or other signal processing methods.": " мало б, можливо, потребувати бути <0,1 градуса Цельсія. Цього можна досягти, забираючи 10 м³/с води на кожні 4,2 МВт (що робить темп потоку для об'єкта потужністю 100 МВт порівнянним із найбільшими атомними станціями світу), або скидаючи більше мегаватів на кожен м³/с води, але вивільняючи її на більшій глибині (або якимось підземним водотоком), щоб шлейф розчинявся сильніше, перш ніж зрештою досягти поверхні. Наразі я не впевнений, чи цей аналіз коректно враховує усереднення в часі чи інші методи обробки сигналу.", "would perhaps need to be <0.1 degree C. This could be accomplished by drawing 10 m^3/s of water for every 4.2 MW (putting the flow rate for a 100MW facility on par with the world’s largest nuclear plants), or by dumping more megawatts into each m^3/s of water but releasing it at a greater depth (or in some sort of underground waterway) so the plume dilutes more before eventually reaching the surface. I am currently unsure whether this analysis properly accounts for time averaging or other signal processing methods.": "мало б, можливо, потребувати бути <0,1 градуса Цельсія. Цього можна досягти, забираючи 10 м³/с води на кожні 4,2 МВт (що робить темп потоку для об'єкта потужністю 100 МВт порівнянним із найбільшими атомними станціями світу), або скидаючи більше мегаватів на кожен м³/с води, але вивільняючи її на більшій глибині (або якимось підземним водотоком), щоб шлейф розчинявся сильніше, перш ніж зрештою досягти поверхні. Наразі я не впевнений, чи цей аналіз коректно враховує усереднення в часі чи інші методи обробки сигналу.", "The technique seems to require stacking multiple images taken at different times from near-identical orbital geometry, which seems poorly suited to broad-area detection. It’s possible this could be solved via brute force with enough satellites.": "Схоже, ця техніка вимагає накладання кількох знімків, зроблених у різний час з майже ідентичної орбітальної геометрії, що погано підходить для широкомасштабного виявлення. Можливо, це можна вирішити грубою силою, якщо супутників достатньо.", "A Space Force spokesperson ": "Речник Космічних сил ", "A Space Force spokesperson": "Речник Космічних сил", "said": "заявив", " to Breaking Defense that dedicated satellites for this purpose are expected to launch in 2028. The program’s FY2026 RDT&E budget schedule separately lists the GMTI “Develop and field GMTI” activity as running through Q4 FY2030, indicating a planned fielding window extending to the end of fiscal 2030, though the document does not identify an IOC or FOC date.": " виданню Breaking Defense, що спеціалізовані супутники для цієї мети очікуються до запуску у 2028 році. Графік бюджету RDT&E програми на FY2026 окремо вказує діяльність GMTI «Розробити й розгорнути GMTI» як таку, що триває до 4 кварталу FY2030, що вказує на заплановане вікно розгортання до кінця фінансового 2030 року, хоча документ не визначає дати IOC чи FOC.", "to Breaking Defense that dedicated satellites for this purpose are expected to launch in 2028. The program’s FY2026 RDT&E budget schedule separately lists the GMTI “Develop and field GMTI” activity as running through Q4 FY2030, indicating a planned fielding window extending to the end of fiscal 2030, though the document does not identify an IOC or FOC date.": "виданню Breaking Defense, що спеціалізовані супутники для цієї мети очікуються до запуску у 2028 році. Графік бюджету RDT&E програми на FY2026 окремо вказує діяльність GMTI «Розробити й розгорнути GMTI» як таку, що триває до 4 кварталу FY2030, що вказує на заплановане вікно розгортання до кінця фінансового 2030 року, хоча документ не визначає дати IOC чи FOC.", "Between 2010 and 2012, many CIA sources (seemingly almost all?) in China were ": "Між 2010 і 2012 роками багато джерел ЦРУ (здається, майже всі?) у Китаї були ", "Between 2010 and 2012, many CIA sources (seemingly almost all?) in China were": "Між 2010 і 2012 роками багато джерел ЦРУ (здається, майже всі?) у Китаї були", "killed and imprisoned": "вбиті й ув'язнені", ". The New York Times in 2017 ": ". The New York Times у 2017 році ", ". The New York Times in 2017": ". The New York Times у 2017 році", "wrote": "написала", " that “the C.I.A. has tried to rebuild its network of spies in China… an expensive and time-consuming effort.” [refer to 2023 Burns comments about progress]": ", що «ЦРУ намагається відновити свою мережу шпигунів у Китаї... дорогі й тривалі зусилля». [посилання на коментарі Бернса 2023 року про прогрес]", "that “the C.I.A. has tried to rebuild its network of spies in China… an expensive and time-consuming effort.” [refer to 2023 Burns comments about progress]": ", що «ЦРУ намагається відновити свою мережу шпигунів у Китаї... дорогі й тривалі зусилля». [посилання на коментарі Бернса 2023 року про прогрес]", "The most extreme case of this proposal is something like: (1) move all humans to other planets with spaceships, (2) verify that no covert GPUs were transported to other planets, (3) make sure that no compute is diverted from the newly manufactured compute on other planets, and (4) disassemble the earth. This is obviously an extreme case meant to be illustrative, in practice we expect that with all of this capacity, something more efficient and far less costly could be done.": "Найекстремальніший варіант цієї пропозиції — це щось на кшталт: (1) перевезти всіх людей на інші планети космічними кораблями, (2) перевірити, що жодні таємні GPU не були перевезені на інші планети, (3) переконатися, що жодні обчислювальні потужності не відволікаються від новостворених обчислювальних потужностей на інших планетах, і (4) розібрати Землю. Це, очевидно, крайній випадок, покликаний бути ілюстративним, на практиці ми очікуємо, що за наявності всіх цих можливостей можна зробити щось ефективніше й набагато дешевше.", "Even if challenge inspection provisions are not included in the initial agreement, China might later come under international pressure to permit them if fear of covert projects becomes a binding constraint for Consortium scaling decisions.": "Навіть якщо положення про інспекції за викликом не включені в початкову угоду, Китай пізніше може опинитися під міжнародним тиском, щоб дозволити їх, якщо страх перед таємними проєктами стане зв'язуючим обмеженням для рішень Консорціуму щодо масштабування.", "It might be possible to measure ": "Можливо, вдасться вимірювати ", "It might be possible to measure": "Можливо, вдасться вимірювати", "perfluorocarbon emissions": "викиди перфторвуглеців", " from the Hall-Heroult process, which could distinguish how much energy is being used on actual aluminum production. We’re not aware of any way to measure this from space at a per-facility level though.": " від процесу Голла-Еру, що могло б показати, скільки енергії витрачається на фактичне виробництво алюмінію. Втім, ми не знаємо жодного способу виміряти це з космосу на рівні окремого об'єкта.", "from the Hall-Heroult process, which could distinguish how much energy is being used on actual aluminum production. We’re not aware of any way to measure this from space at a per-facility level though.": "від процесу Голла-Еру, що могло б показати, скільки енергії витрачається на фактичне виробництво алюмінію. Втім, ми не знаємо жодного способу виміряти це з космосу на рівні окремого об'єкта.", "In 2024, OpenAI ": "У 2024 році OpenAI ", "In 2024, OpenAI": "У 2024 році OpenAI", "spent": "витратила", " $5B on R&D compute, Zhipu AI spent $308M (": " 5 млрд доларів на обчислювальні потужності для R&D, Zhipu AI витратила 308 млн доларів (", "$5B on R&D compute, Zhipu AI spent $308M (": "5 млрд доларів на обчислювальні потужності для R&D, Zhipu AI витратила 308 млн доларів (", "page 10": "стор. 10", ") on total R&D (which included 657 technical staff; assuming $100k/yr each yields $242.3M on compute), and Minimax spent $189M (": ") на весь R&D (що включало 657 технічних співробітників; припускаючи 100 тис. доларів на рік на кожного, це дає 242,3 млн доларів на обчислювальні потужності), а Minimax витратила 189 млн доларів (", "page 11": "стор. 11", ") total.": ") загалом.", "The compute advantage will widen in some sense with time; in our scenario the Consortium increases their compute at ~3x per year. However, this will only translate straightforwardly to capabilities through training compute scaling (research compute scaling on the other hand will be restricted to target limited amounts of software progress.)": "Перевага в обчислювальних потужностях певною мірою з часом зростатиме; за нашим сценарієм Консорціум збільшує свої обчислювальні потужності приблизно у 3 рази на рік. Однак це прямолінійно перетвориться на можливості лише через масштабування обчислювальних потужностей для навчання (масштабування обчислювальних потужностей для досліджень, натомість, буде обмежене, щоб цілити обмежений обсяг прогресу програмного забезпечення).", "Depending on how you measure this; the US Center for AI Standards and Innovation found an apparently growing US lead; here we use the Epoch Capabilities Index. See “": "Залежно від того, як це вимірювати; Центр стандартів і інновацій ШІ США виявив очевидно зростаючу перевагу США; тут ми використовуємо Epoch Capabilities Index. Див. «", "The US-China AI gap is very uncertain": "Розрив у ШІ між США і Китаєм дуже невизначений", "As a (somewhat dated) example, ": "Як (дещо застарілий) приклад, ", "As a (somewhat dated) example,": "Як (дещо застарілий) приклад,", "Phi-4": "Phi-4", " used GPT-4 to generate specialized synthetic data, exceeding GPT-4’s ECI while requiring around 20x less training compute.": " використовувала GPT-4 для генерації спеціалізованих синтетичних даних, перевершивши ECI GPT-4, вимагаючи приблизно у 20 разів менше обчислювальних потужностей для навчання.", "used GPT-4 to generate specialized synthetic data, exceeding GPT-4’s ECI while requiring around 20x less training compute.": "використовувала GPT-4 для генерації спеціалізованих синтетичних даних, перевершивши ECI GPT-4, вимагаючи приблизно у 20 разів менше обчислювальних потужностей для навчання.", "We’re assuming here that covert projects are only able to acquire untracked pre-deal compute, i.e. that it’s not feasible for them to smuggle post-deal compute or to create a secret chip supply chain. After extreme capabilities, it would be possible for covert projects to set up a secret compute supply chain, but we don’t anticipate this being the binding constraint, i.e. this would happen after other capabilities we consider to be catastrophic.": "Ми тут припускаємо, що таємні проєкти здатні здобувати лише невідстежувані обчислювальні потужності до угоди, тобто що для них нездійсненно контрабандою ввозити обчислювальні потужності після угоди чи створювати таємний ланцюг постачання чипів. Після досягнення екстремальних можливостей таємні проєкти могли б налагодити таємний ланцюг постачання обчислювальних потужностей, але ми не очікуємо, що це стане обмежувальним фактором, тобто це сталося б після інших можливостей, які ми вважаємо катастрофічними.", "See further analysis ": "Див. подальший аналіз ", "See further analysis": "Див. подальший аналіз", "An extreme version of this could undermine Nuclear MAD, but this would be very difficult. It would need to happen in secret or else other countries would respond by building up nuclear stockpiles or intervening on buildup.": "Екстремальна версія цього могла б підірвати ядерне взаємно гарантоване знищення (MAD), але це було б дуже складно. Це мало б відбутися таємно, інакше інші країни відповіли б нарощуванням ядерних запасів або втручанням у процес нарощування.", "Importantly, we do not include the risk due to ": "Важливо, що ми не включаємо в ці оцінки ризик через ", "Importantly, we do not include the risk due to": "Важливо, що ми не включаємо в ці оцінки ризик через", "weight theft": "крадіжку ваг моделі", " during the deal in these estimates.": " під час дії угоди.", "during the deal in these estimates.": "під час дії угоди.", "One reason is that even if a covert project turns out to be non-viable, worlds where China diverts significant compute might force the Consortium to adopt a less favorable scaling strategy due to their uncertainty about how quickly the missing quantity of compute would enable deal-undermining AI to be reached by a hypothetical covert project. Another reason is that the tensions associated with detecting and shutting down a covert project would incur additional risk of deal decline, even if the covert project itself is small enough to be harmless.": "Одна причина в тому, що навіть якщо таємний проєкт виявиться нежиттєздатним, світи, де Китай відволікає значні обчислювальні потужності, можуть змусити Консорціум прийняти менш сприятливу стратегію масштабування через невизначеність щодо того, наскільки швидко відсутня кількість обчислювальних потужностей дозволила б гіпотетичному таємному проєкту досягти ШІ, що підриває угоду. Інша причина в тому, що напруження, пов'язане з виявленням і закриттям таємного проєкту, спричинило б додатковий ризик занепаду угоди, навіть якщо сам таємний проєкт достатньо малий, щоб бути нешкідливим.", "This may not be possible. See “": "Це може бути неможливо. Див. «", "Types of deal decline": "Типи занепаду угоди", "Causes of deal decline": "Причини занепаду угоди", "Likelihood of deal decline": "Ймовірність занепаду угоди", "Badness of deal decline": "Шкідливість занепаду угоди", "Preparing for deal decline": "Підготовка до занепаду угоди", "Acknowledgments": "Подяки", "Claude’s Analysis": "Аналіз Клода", "Method and choice of reference classes": "Метод і вибір референтних класів", "Central finding: verification delays cheating, but politics kills the deal": "Головний висновок: верифікація затримує обман, але політика вбиває угоду", "How Plan A differs from the base rate (the adjustments)": "Як План А відрізняється від базової ставки (коригування)", "Headline base rates and the year-by-year shape": "Головні базові ставки та форма за роками", "Comparison to the inside view, caveats, and where the detail lives": "Порівняння з внутрішньою оцінкою, застереження і де знаходяться деталі", "Smooth fit (parametric survival)": "Плавна апроксимація (параметричний аналіз виживання)", "A consideration pushing toward ": "Міркування на користь ", "A consideration pushing toward": "Міркування на користь", "scaling faster": "пришвидшення масштабування", " in Plan A is ": " у Плані А — це ", "in Plan A is": "у Плані А — це", ": the possibility of the deal either dissolving or becoming substantially less effective (which we call ": ": можливість того, що угода або розпадеться, або стане суттєво менш ефективною (що ми називаємо ", ": the possibility of the deal either dissolving or becoming substantially less effective (which we call": ": можливість того, що угода або розпадеться, або стане суттєво менш ефективною (що ми називаємо", "deal impairment": "ослаблення угоди", "In this supplement, I’ll estimate the likelihood and badness of deal decline. I’m confident that deal decline is at least 10% likely to occur within Plan A’s first 10 years, and that a 2035 decline leads to the expected value of the future being at least 5% lower than if there were a 2035 handoff within the deal. Since deal decline seems worryingly likely, and scaling capabilities within the Plan A deal seems much safer than an AI race once it’s declined, I’m confident that deal decline is a substantial consideration, likely the biggest one, in favor of ": "У цьому додатку я оціню ймовірність і шкідливість занепаду угоди. Я впевнений, що занепад угоди щонайменше на 10% ймовірний упродовж перших 10 років Плану А, і що занепад у 2035 році знижує очікувану цінність майбутнього щонайменше на 5% порівняно з передачею в межах угоди у 2035 році. Оскільки занепад угоди виглядає тривожно ймовірним, а масштабування можливостей у межах угоди Плану А виглядає набагато безпечнішим, ніж гонка ШІ після занепаду, я впевнений, що занепад угоди — вагомий аргумент, імовірно найвагоміший, на користь ", "In this supplement, I’ll estimate the likelihood and badness of deal decline. I’m confident that deal decline is at least 10% likely to occur within Plan A’s first 10 years, and that a 2035 decline leads to the expected value of the future being at least 5% lower than if there were a 2035 handoff within the deal. Since deal decline seems worryingly likely, and scaling capabilities within the Plan A deal seems much safer than an AI race once it’s declined, I’m confident that deal decline is a substantial consideration, likely the biggest one, in favor of": "У цьому додатку я оціню ймовірність і шкідливість занепаду угоди. Я впевнений, що занепад угоди щонайменше на 10% ймовірний упродовж перших 10 років Плану А, і що занепад у 2035 році знижує очікувану цінність майбутнього щонайменше на 5% порівняно з передачею в межах угоди у 2035 році. Оскільки занепад угоди виглядає тривожно ймовірним, а масштабування можливостей у межах угоди Плану А виглядає набагато безпечнішим, ніж гонка ШІ після занепаду, я впевнений, що занепад угоди — вагомий аргумент, імовірно найвагоміший, на користь", "scaling up AI capabilities faster and handing off to AIs earlier": "пришвидшення масштабування можливостей ШІ й раннішої передачі ШІ", " (rather than something like a very long pause). But I’m not precisely confident in any of the numbers estimated below; I could easily update substantially toward being more or less worried about deal decline.": " (а не чогось на кшталт дуже довгої паузи). Але я не маю точної впевненості в жодній із цифр, оцінених нижче; я міг би суттєво переглянути свою стурбованість занепадом угоди в той чи інший бік.", "(rather than something like a very long pause). But I’m not precisely confident in any of the numbers estimated below; I could easily update substantially toward being more or less worried about deal decline.": "(а не чогось на кшталт дуже довгої паузи). Але я не маю точної впевненості в жодній із цифр, оцінених нижче; я міг би суттєво переглянути свою стурбованість занепадом угоди в той чи інший бік.", "Despite a substantial chance of decline, I think Plan A remains ": "Попри суттєвий шанс занепаду, я вважаю, що План А залишається ", "Despite a substantial chance of decline, I think Plan A remains": "Попри суттєвий шанс занепаду, я вважаю, що План А залишається", "much more valuable than the other plans": "набагато ціннішим за інші плани", ". Even if deal decline happens within a few years of the deal, ": ". Навіть якщо занепад угоди трапиться протягом кількох років після її укладення, ", ". Even if deal decline happens within a few years of the deal,": ". Навіть якщо занепад угоди трапиться протягом кількох років після її укладення,", "the outcome will probably still be substantially better than no deal": "результат, ймовірно, все одно буде суттєво кращим, ніж відсутність угоди взагалі", ". And I think it’s plausible that a long-lasting effective deal can be achieved, via ": ". І я вважаю правдоподібним, що можна досягти довготривалої ефективної угоди через ", ". And I think it’s plausible that a long-lasting effective deal can be achieved, via": ". І я вважаю правдоподібним, що можна досягти довготривалої ефективної угоди через", "mechanisms such as automated lie detection and robust institutional design": "такі механізми, як автоматизоване виявлення брехні та надійний інституційний дизайн", "After categorizing ": "Після категоризації ", "After categorizing": "Після категоризації", "types of deal decline": "типів занепаду угоди", ", my analysis consists of:": " мій аналіз складається з таких частин:", "Causes of deal decline:": "Причини занепаду угоди:", " I split causes into (a) deliberate deprioritization of effective deal maintenance due to leadership change, (b) deliberate deprioritization due to a change in existing leadership’s priorities , and (c) destabilizing events.": " Я поділяю причини на (a) свідому депріоритизацію ефективного підтримання угоди через зміну керівництва, (b) свідому депріоритизацію через зміну пріоритетів чинного керівництва, та (c) дестабілізуючі події.", "I split causes into (a) deliberate deprioritization of effective deal maintenance due to leadership change, (b) deliberate deprioritization due to a change in existing leadership’s priorities , and (c) destabilizing events.": "Я поділяю причини на (a) свідому депріоритизацію ефективного підтримання угоди через зміну керівництва, (b) свідому депріоритизацію через зміну пріоритетів чинного керівництва, та (c) дестабілізуючі події.", ": Informed by base rates from other international agreements and a decomposition into possible causes, I estimate the chance of deal decline per year at ~12% in the first 2 years of the deal, ~7% in years 2-5, and ~4% in years 5-10. The risk is roughly equally split across dissolution and impairment. This implies a 37% chance of decline within 5 years and 48% within 10. During the deal and to some extent leading up to it, society will have much more information than I have today about how robust the deal is, as such their probabilities may be quite different.": ": Спираючись на базові ставки з інших міжнародних угод та декомпозицію на можливі причини, я оцінюю шанс занепаду угоди за рік приблизно у ~12% у перші 2 роки угоди, ~7% у роки 2-5, і ~4% у роки 5-10. Ризик приблизно порівну поділений між розпуском і ослабленням. Це означає 37% шанс занепаду протягом 5 років і 48% протягом 10. Під час дії угоди й певною мірою напередодні неї суспільство матиме набагато більше інформації, ніж я маю сьогодні, про те, наскільки стійка угода, тому їхні оцінки ймовірності можуть суттєво відрізнятися.", " I compare the situation after deal decline to the situation before there was any deal at all. The most important ways the situation is better post-deal-decline (relative to the situation without a deal) come from having used AIs to do lots of useful stuff (e.g. safety research) and from additional calendar time yielding more societal awareness and preparation. On the other hand, if ": " Я порівнюю ситуацію після занепаду угоди із ситуацією до укладення будь-якої угоди взагалі. Найважливіші способи, якими ситуація краща після занепаду угоди (відносно ситуації без угоди), походять від використання ШІ для багатьох корисних справ (наприклад, досліджень безпеки) та від додаткового календарного часу, що дає більше суспільної обізнаності й підготовки. З іншого боку, якщо ", "I compare the situation after deal decline to the situation before there was any deal at all. The most important ways the situation is better post-deal-decline (relative to the situation without a deal) come from having used AIs to do lots of useful stuff (e.g. safety research) and from additional calendar time yielding more societal awareness and preparation. On the other hand, if": "Я порівнюю ситуацію після занепаду угоди із ситуацією до укладення будь-якої угоди взагалі. Найважливіші способи, якими ситуація краща після занепаду угоди (відносно ситуації без угоди), походять від використання ШІ для багатьох корисних справ (наприклад, досліджень безпеки) та від додаткового календарного часу, що дає більше суспільної обізнаності й підготовки. З іншого боку, якщо", "Plan A’s compute destruction mechanisms": "механізми знищення обчислювальних потужностей Плану А", " fail, there will be much more compute in the world post-deal-decline, leading to a faster and more dangerous takeoff. Overall, it seems that a post-deal-decline situation would be substantially better than if there were no deal at all, while being significantly worse than doing handoff within the deal. When the deal decline happens matters a lot; the later, the better.": " не спрацюють, у світі після занепаду угоди буде набагато більше обчислювальних потужностей, що призведе до швидшого й небезпечнішого зльоту. Загалом, схоже, що ситуація після занепаду угоди буде суттєво кращою, ніж якби угоди не було взагалі, але значно гіршою, ніж передача в межах угоди. Момент, коли стається занепад угоди, має велике значення: чим пізніше, тим краще.", "fail, there will be much more compute in the world post-deal-decline, leading to a faster and more dangerous takeoff. Overall, it seems that a post-deal-decline situation would be substantially better than if there were no deal at all, while being significantly worse than doing handoff within the deal. When the deal decline happens matters a lot; the later, the better.": "не спрацюють, у світі після занепаду угоди буде набагато більше обчислювальних потужностей, що призведе до швидшого й небезпечнішого зльоту. Загалом, схоже, що ситуація після занепаду угоди буде суттєво кращою, ніж якби угоди не було взагалі, але значно гіршою, ніж передача в межах угоди. Момент, коли стається занепад угоди, має велике значення: чим пізніше, тим краще.", " We recommend investing lots of resources into preventing deal decline, as well as mitigating it. Our main recommendation for mitigating deal decline is to ": " Ми рекомендуємо вкладати значні ресурси у запобігання занепаду угоди, а також у пом'якшення його наслідків. Наша головна рекомендація щодо пом'якшення занепаду угоди — забезпечити, щоб ", "We recommend investing lots of resources into preventing deal decline, as well as mitigating it. Our main recommendation for mitigating deal decline is to": "Ми рекомендуємо вкладати значні ресурси у запобігання занепаду угоди, а також у пом'якшення його наслідків. Наша головна рекомендація щодо пом'якшення занепаду угоди — забезпечити, щоб", "ensure that nearly all of the compute in the world": "майже всі обчислювальні потужності у світі", "is destroyed": "були знищені", " in the case that the deal dissolves. Without this destruction, takeoff might be extremely fast due to an overhang of compute that wasn’t being used for developing more generally capable AIs.": " у разі розпуску угоди. Без цього знищення зліт може бути надзвичайно швидким через надлишок обчислювальних потужностей, які не використовувалися для розробки більш узагальнено здатних ШІ.", "in the case that the deal dissolves. Without this destruction, takeoff might be extremely fast due to an overhang of compute that wasn’t being used for developing more generally capable AIs.": "у разі розпуску угоди. Без цього знищення зліт може бути надзвичайно швидким через надлишок обчислювальних потужностей, які не використовувалися для розробки більш узагальнено здатних ШІ.", "The following are the types of deal decline:": "Далі наведено типи занепаду угоди:", " The deal becomes substantially less effective than if it were implemented well and adhered to, but isn’t dissolved. For simplicity, this is modeled as a binary in this supplement; in practice, it would likely be gradual. Ways the deal could be impaired:": " Угода стає суттєво менш ефективною, ніж якби вона добре впроваджувалась і дотримувалась, але не розпускається. Для простоти в цьому додатку це моделюється як бінарна величина; на практиці це, ймовірно, було б поступовим процесом. Способи, якими угода може ослабнути:", "The deal becomes substantially less effective than if it were implemented well and adhered to, but isn’t dissolved. For simplicity, this is modeled as a binary in this supplement; in practice, it would likely be gradual. Ways the deal could be impaired:": "Угода стає суттєво менш ефективною, ніж якби вона добре впроваджувалась і дотримувалась, але не розпускається. Для простоти в цьому додатку це моделюється як бінарна величина; на практиці це, ймовірно, було б поступовим процесом. Способи, якими угода може ослабнути:", "The deal could also end via a ": "Угода також може завершитися через ", "The deal could also end via a": "Угода також може завершитися через", " reaching takeover-capable AIs or via an existential catastrophe (e.g., via AI takeover, AI-enabled bioweapons, or AI-developed superweapons). These end conditions are out of scope for this supplement and aren’t considered to be deal decline in our terminology.": ", що досягає ШІ, здатних на захоплення влади, або через екзистенційну катастрофу (наприклад, через захоплення влади ШІ, біозброю, створену за допомогою ШІ, або надзброю, розроблену ШІ). Ці умови завершення виходять за межі цього додатка й не вважаються занепадом угоди в нашій термінології.", "reaching takeover-capable AIs or via an existential catastrophe (e.g., via AI takeover, AI-enabled bioweapons, or AI-developed superweapons). These end conditions are out of scope for this supplement and aren’t considered to be deal decline in our terminology.": ", що досягає ШІ, здатних на захоплення влади, або через екзистенційну катастрофу (наприклад, через захоплення влади ШІ, біозброю, створену за допомогою ШІ, або надзброю, розроблену ШІ). Ці умови завершення виходять за межі цього додатка й не вважаються занепадом угоди в нашій термінології.", " They are included separately in our ": " Вони окремо розглядаються в нашому ", "They are included separately in our": "Вони окремо розглядаються в нашому", "analysis of the Plan A capability scaling strategy": "аналізі стратегії масштабування можливостей Плану А", "One path for deal decline to happen is via deliberate deprioritization of maintaining an effective deal. The path for this is:": "Один шлях до занепаду угоди — через свідому депріоритизацію підтримання ефективної угоди. Цей шлях виглядає так:", "At least one of the US or China leadership decides to deprioritize the deal, which could happen for a variety of reasons, some of which are listed below.": "Принаймні одне з керівництв — США або Китаю — вирішує депріоритизувати угоду, що може статися з різних причин, деякі з яких перелічені нижче.", "If this only happens inside of one of the countries, then the other country must either try to use their leverage to prevent deal decline and fail, or let the deal decline happen (e.g. because they are scared of escalation). Other countries will also have some leverage at pressuring countries in ways that prevent deal decline.": "Якщо це стається лише в одній із країн, тоді інша країна має або спробувати використати свій важіль впливу, щоб запобігти занепаду угоди, і зазнати невдачі, або дозволити занепаду угоди статися (наприклад, через страх ескалації). Інші країни також матимуть певний важіль впливу для тиску на країни таким чином, щоб запобігти занепаду угоди.", "We can split out ways that (1), i.e. US or Chinese leadership’s priorities changing, might happen into either (a) change of leadership (e.g. a US election)": "Ми можемо розділити способи, якими може статися (1), тобто зміна пріоритетів керівництва США чи Китаю, на (a) зміну керівництва (наприклад, вибори у США)", " or (b) a change in existing leadership’s priorities.": " або (b) зміну пріоритетів чинного керівництва.", "or (b) a change in existing leadership’s priorities.": "або (b) зміну пріоритетів чинного керівництва.", "Why might existing leadership’s priorities change? The most likely reasons we can think of are:": "Чому пріоритети чинного керівництва можуть змінитися? Найімовірніші причини, які ми можемо уявити:", "Concern regarding how future domestic leaders would handle things.": "Занепокоєння тим, як майбутні внутрішні лідери впораються з ситуацією.", "Wanting to gain power by developing superintelligence before a leadership transition.": "Бажання здобути владу, розробивши суперінтелект до зміни керівництва.", "Becoming more optimistic about winning the AI race in a world in which the deal has declined.": "Зростання оптимізму щодо перемоги в гонці ШІ у світі, де угода занепала.", "Becoming less concerned about risks from superhuman AIs such as AI takeover or extreme concentration of power.": "Зменшення занепокоєння щодо ризиків від надлюдського ШІ, таких як захоплення влади ШІ чи надмірна концентрація влади.", "Wanting to illegitimately grab power and thinking the deal impedes this.": "Бажання нелегітимно захопити владу і думка, що угода цьому заважає.", "Becoming less optimistic about the deal working, e.g., they think misuse risk is too high and difficult to mitigate within the deal. This could lead to a failed negotiation to revise the deal.": "Зменшення оптимізму щодо того, що угода спрацює, наприклад, вони вважають ризик зловживання надто високим і важким для пом'якшення в межах угоди. Це може призвести до провалу переговорів про перегляд угоди.", "And then there’s an “Other” bucket of many reasons that we haven’t thought of.": "А також є категорія «Інше» — багато причин, про які ми не подумали.", "Another possible reason the deal might decline is via a destabilizing event. The most likely we can think of are:": "Ще одна можлива причина занепаду угоди — дестабілізуюча подія. Найімовірніші, які ми можемо уявити:", "Geopolitical shock, e.g. war.": "Геополітичний шок, наприклад, війна.", "A country being caught cheating: a ": "Країну спіймано на обмані: спіймано ", "A country being caught cheating: a": "Країну спіймано на обмані: спіймано", " getting caught, or another way of cheating such as trying to undermine the inference-only verification.": ", або через інший спосіб обману, наприклад спробу підірвати верифікацію лише через інференс.", "getting caught, or another way of cheating such as trying to undermine the inference-only verification.": ", або через інший спосіб обману, наприклад спробу підірвати верифікацію лише через інференс.", "A sub-existential catastrophe.": "Субекзистенційна катастрофа.", "Overall view": "Загальний погляд", "Below I estimate the likelihood of deal decline in Plan A by year, focusing on the first 10 years (as that’s when handoff happens in the scenario). During the deal and to some extent leading up to it, society will have much more information than I have today about how robust the deal is, as such their probabilities may be quite different.": "Нижче я оцінюю ймовірність занепаду угоди в Плані А по роках, зосереджуючись на перших 10 роках (оскільки саме тоді у сценарії відбувається передача). Під час дії угоди й певною мірою напередодні неї суспільство матиме набагато більше інформації, ніж я маю сьогодні, про те, наскільки стійка угода, тому їхні оцінки ймовірності можуть суттєво відрізнятися.", "I use 2 methods:": "Я використовую 2 методи:", "Base rates": "Базові ставки", "plus adjustments": "плюс коригування", " An analysis focused on the base rate of international deals declining, estimates the chance of deal decline per year at: ~15%/year in the first 2 years of the deal, ~12%/year in years 2-5, and ~11%/year in years 5-10. I adjust these downward because Plan A has especially strong verification and implementing it is evidence of high political will to maintain it. After adjustment, risk is roughly equally split across dissolution and impairment.": " Аналіз, зосереджений на базовій ставці занепаду міжнародних угод, оцінює шанс занепаду угоди за рік у: ~15%/рік у перші 2 роки угоди, ~12%/рік у роки 2-5, і ~11%/рік у роки 5-10. Я коригую їх у бік зменшення, бо План А має особливо сильну верифікацію, а її впровадження є свідченням високої політичної волі підтримувати угоду. Після коригування ризик приблизно порівну поділений між розпуском і ослабленням.", "An analysis focused on the base rate of international deals declining, estimates the chance of deal decline per year at: ~15%/year in the first 2 years of the deal, ~12%/year in years 2-5, and ~11%/year in years 5-10. I adjust these downward because Plan A has especially strong verification and implementing it is evidence of high political will to maintain it. After adjustment, risk is roughly equally split across dissolution and impairment.": "Аналіз, зосереджений на базовій ставці занепаду міжнародних угод, оцінює шанс занепаду угоди за рік у: ~15%/рік у перші 2 роки угоди, ~12%/рік у роки 2-5, і ~11%/рік у роки 5-10. Я коригую їх у бік зменшення, бо План А має особливо сильну верифікацію, а її впровадження є свідченням високої політичної волі підтримувати угоду. Після коригування ризик приблизно порівну поділений між розпуском і ослабленням.", "Decomposition into causes": "Декомпозиція на причини", " Decomposing into possible causes of deal decline and then combining these estimates gives me ~10%/year deal decline in the first 5 years of the deal, and ~6%/year in years 5-10. This moves me up a little from the base rates plus adjustments method, but the results are overall fairly similar across methods.": " Декомпозиція на можливі причини занепаду угоди з подальшим об'єднанням цих оцінок дає мені ~10%/рік занепаду угоди в перші 5 років угоди, і ~6%/рік у роки 5-10. Це трохи піднімає мою оцінку відносно методу базових ставок із коригуванням, але результати загалом досить схожі між методами.", "Decomposing into possible causes of deal decline and then combining these estimates gives me ~10%/year deal decline in the first 5 years of the deal, and ~6%/year in years 5-10. This moves me up a little from the base rates plus adjustments method, but the results are overall fairly similar across methods.": "Декомпозиція на можливі причини занепаду угоди з подальшим об'єднанням цих оцінок дає мені ~10%/рік занепаду угоди в перші 5 років угоди, і ~6%/рік у роки 5-10. Це трохи піднімає мою оцінку відносно методу базових ставок із коригуванням, але результати загалом досить схожі між методами.", "My overall view is, aggregating the above 2 methods:": "Мій загальний погляд, що поєднує обидва наведені методи:", "Eli’s overall deal decline likelihood estimates": "Загальні оцінки ймовірності занепаду угоди від Елі", "Phase (years)": "Фаза (роки)", "p(dissolution)/yr": "p(розпуск)/рік", "p(impairment)/yr": "p(ослаблення)/рік", "p(decline)/yr": "p(занепад)/рік", "p(decline) this time period": "p(занепад) за цей період", "Cumulative p(decline)": "Кумулятивна p(занепад)", "When doing modeling for the ": "Під час моделювання для ", "When doing modeling for the": "Під час моделювання для", " and the Plan A portion of ": " та частини Плану А з ", "and the Plan A portion of": "та частини Плану А з", ", I use the following hazard rates with linear interpolation in between.": " я використовую наведені нижче показники ризику з лінійною інтерполяцією між ними.", " The CDF is very similar to the above table.": " CDF дуже схожа на таблицю вище.", "The CDF is very similar to the above table.": "CDF дуже схожа на таблицю вище.", "Eli’s deal decline likelihood estimates as used in ": "Оцінки ймовірності занепаду угоди від Елі, використані у ", "Eli’s deal decline likelihood estimates as used in": "Оцінки ймовірності занепаду угоди від Елі, використані у", "Years after deal start": "Роки після початку угоди", "Hazard (any decline)": "Ризик (будь-який занепад)", "Deal decline risk reaches ~50% by 2040 handoff": "Ризик занепаду угоди сягає ~50% до передачі 2040 року", "hazard — p(decline)/yr:": "показник ризику — p(занепад)/рік:", " (handoff)": " (передача)", "(handoff)": "(передача)", "Cumulative p(deal decline)": "Кумулятивна p(занепад угоди)", "Assumes the deal starts in 2029. Hazard interpolates linearly between my anchor estimates; risk is roughly equally split between dissolution and impairment.": "Припускається, що угода починається у 2029 році. Показник ризику інтерполюється лінійно між моїми базовими оцінками; ризик приблизно порівну поділений між розпуском і ослабленням.", "cumulative = 1 − exp(−∫ hazard)": "кумулятивна = 1 − exp(−∫ показник ризику)", "Base rates plus adjustments": "Базові ставки плюс коригування", "Data collection methodology": "Методологія збору даних", "We had Claude do analysis of base rates and adjustments, then manually reviewed and edited its outputs. A summary of the approach (read its full analysis ": "Ми доручили Клоду проаналізувати базові ставки та коригування, а потім вручну перевірили й відредагували його результати. Стислий опис підходу (прочитайте його повний аналіз ", "We had Claude do analysis of base rates and adjustments, then manually reviewed and edited its outputs. A summary of the approach (read its full analysis": "Ми доручили Клоду проаналізувати базові ставки та коригування, а потім вручну перевірили й відредагували його результати. Стислий опис підходу (прочитайте його повний аналіз", "Claude collates a list of 31 past international agreements approximately similar to Plan A in scale and nature. For each agreement, it identifies time-to-first-impairment and time-to-dissolution, and also gives a qualitative ranking of how applicable the agreement was to Plan A.": "Клод зібрав список із 31 минулої міжнародної угоди, приблизно схожої на План А за масштабом і характером. Для кожної угоди він визначив час до першого ослаблення й час до розпуску, а також дав якісну оцінку того, наскільки угода застосовна до Плану А.", "Base hazard rates are computed for each phase (number of years since the deal started) via an average rate weighted by applicability scores, separately for dissolution vs impairment:": "Базові показники ризику обчислюються для кожної фази (кількості років з початку дії угоди) через середню ставку, зважену за оцінками застосовності, окремо для розпуску й ослаблення:", "For impairment, this is computed as a weighted number of years before first impairment divided by the weighted number of impairment exposure.": "Для ослаблення це обчислюється як зважена кількість років до першого ослаблення, поділена на зважену кількість років експозиції ослаблення.", "For dissolution, this is the weighted sum of dissolved agreements divided by the weighted number of dissolution-exposure years.": "Для розпуску це зважена сума розпущених угод, поділена на зважену кількість років експозиції розпуску.", "Claude also identifies the reasons for impairment and dissolution. It finds that dissolution is roughly hump-shaped centered around 5-10 years, and impairment is front-loaded.": "Клод також визначив причини ослаблення й розпуску. Він виявив, що розпуск має приблизно форму горба з центром близько 5-10 років, а ослаблення зміщене на ранній період.", "Claude finds that improved verification correlates with delayed impairment, and dissolution usually occurs as a result of political withdrawal, rather than inherent deal failure.": "Клод виявив, що покращена верифікація корелює із затриманим ослабленням, а розпуск зазвичай стається внаслідок політичного виходу, а не через притаманний угоді провал.", "Base rate (plus adjustments) forecasts": "Прогнози на основі базової ставки (з коригуваннями)", "Below are the collected base rates.": "Нижче наведені зібрані базові ставки.", "Base rates of deal dissolution and impairment": "Базові ставки розпуску та ослаблення угоди", "Method": "Метод", "Weighted base rate (HEADLINE)": "Зважена базова ставка (ГОЛОВНА)", "Dissolution hazard/yr": "Показник ризику розпуску/рік", "Impairment hazard/yr": "Показник ризику ослаблення/рік", "Unweighted (all treaties equal)": "Незважена (усі договори рівні)", "I’ll now discuss how the hazard rate changes over time. I’ll focus on the first 10 years as that’s how long the deal is in the scenario. A note on 10+ years: the impairment hazard holds at ~6%/yr in years 10–20 rather than continuing to decline, before falling to ~4%/yr past 20. Here are base rates by how long the deal has been in force:": "Тепер я обговорю, як показник ризику змінюється з часом. Я зосереджуся на перших 10 роках, оскільки саме стільки триває угода в сценарії. Примітка щодо 10+ років: показник ризику ослаблення тримається на ~6%/рік у роки 10–20, замість того щоб продовжувати спадати, перш ніж впасти до ~4%/рік після 20 років. Ось базові ставки за тим, скільки часу угода вже діє:", "Base rates of deal dissolution and impairment by how long the deal has existed": "Базові ставки розпуску та ослаблення угоди за тривалістю її дії", "Combined hazard/yr": "Комбінований показник ризику/рік", "Cumulative dissolution (by end of phase)": "Кумулятивний розпуск (на кінець фази)", "Cumulative impairment (by end of phase)": "Кумулятивне ослаблення (на кінець фази)", "Cumulative combined (by end of phase)": "Кумулятивний комбінований показник (на кінець фази)", "I make adjustments to the base rate as follows:": "Я вношу коригування в базову ставку так:", "Eli’s adjustments to the collected base rates": "Коригування Елі до зібраних базових ставок", "Base diss/yr": "Базовий розпуск/рік", "Base imp/yr": "Базове ослаблення/рік", "Adjusted diss/yr": "Скоригований розпуск/рік", "Adjusted imp/yr": "Скориговане ослаблення/рік", "Adjusted combined/yr": "Скоригований комбінований показник/рік", "Dissolution from 0 to 5%: 0% is to some extent an artifact of limited dataset size, plus it’s easy to imagine ways Plan A could dissolve quickly (e.g. a covert project getting caught).": "Розпуск від 0 до 5%: 0% певною мірою є артефактом обмеженого розміру набору даних, а ще легко уявити способи, якими План А міг би швидко розпастися (наприклад, виявлення таємного проєкту).", "Impairment from 15 to 5%: Plan A has especially strong verification and requires a very high amount of political will to initiate, making it less likely it is very quickly impaired.": "Ослаблення від 15 до 5%: План А має особливо сильну верифікацію і вимагає дуже високого рівня політичної волі для початку, що робить малоймовірним його дуже швидке ослаблення.", "Decaying impairment in a way that is roughly similar to the base rate, but slightly more aggressively due to AI-assisted verification/epistemics/etc.. For dissolution, decaying in a similar way (partly for simplicity, maybe it should be slightly different).": "Спадання ослаблення приблизно подібно до базової ставки, але дещо агресивніше через верифікацію/епістеміку тощо, що підтримується ШІ. Для розпуску — спадання схожим чином (частково для простоти, можливо, це має бути дещо інакше).", "Continuing to decay, slightly more aggressively than above.": "Подальше спадання, дещо агресивніше, ніж вище.", "There are 2 effects which lead me to estimate substantially lower deal decline risk as time goes on:": "Є 2 ефекти, які змушують мене оцінювати суттєво нижчий ризик занепаду угоди з часом:", "If the deal has gone on for longer, this provides evidence that it is less likely per unit time to decline.": "Якщо угода триває довше, це є свідченням того, що вона менш імовірно занепаде за одиницю часу.", "As AI capabilities improve during the deal and there is time to put them to good use, they allow for building technology that helps stabilize the deal. For example, there might be automated lie detection or use of ": "У міру того, як можливості ШІ покращуються під час дії угоди і є час використати їх з користю, вони дозволяють будувати технології, що допомагають стабілізувати угоду. Наприклад, це може бути автоматизоване виявлення брехні або використання ", "As AI capabilities improve during the deal and there is time to put them to good use, they allow for building technology that helps stabilize the deal. For example, there might be automated lie detection or use of": "У міру того, як можливості ШІ покращуються під час дії угоди і є час використати їх з користю, вони дозволяють будувати технології, що допомагають стабілізувати угоду. Наприклад, це може бути автоматизоване виявлення брехні або використання", "AI to improve epistemics": "ШІ для покращення епістеміки", " or verification.": " чи верифікації.", "or verification.": "чи верифікації.", "Surprisingly, the base rate data above has p(dissolution) increasing over time, while p(impairment) decreases in a fashion closer to what I expect for Plan A. Notably, the base rate data doesn’t include effect (2) above, or at least includes a much weaker version of it. So I expect the trend of decreasing deal decline risk to be more pronounced than it is in the data on previous agreements.": "Дивно, але наведені вище дані базової ставки показують, що p(розпуск) зростає з часом, тоді як p(ослаблення) спадає у спосіб, ближчий до того, що я очікую для Плану А. Примітно, що дані базової ставки не включають ефект (2) вище, або принаймні включають набагато слабшу його версію. Тому я очікую, що тенденція до зниження ризику занепаду угоди буде більш вираженою, ніж у даних за попередніми угодами.", "An alternative method for estimating the chance of deal decline is to individually estimate the chance for each possible cause, then aggregate them together. This gives me an estimate of 10% p(decline)/year in the early 2030s and 6% in the late 2030s, leading to a cumulative p(decline) of ~50% by 2035 and ~60% by 2040. I think the methodology of listing a bunch of possible ways something could happen and then aggregating these probabilities tends to produce numbers on the high side, which I take into account when aggregating this methodology with the base rate plus adjustments method.": "Альтернативний метод оцінки шансу занепаду угоди — окремо оцінити шанс для кожної можливої причини, а потім агрегувати їх разом. Це дає мені оцінку 10% p(занепад)/рік на початку 2030-х і 6% наприкінці 2030-х, що веде до кумулятивної p(занепад) ~50% до 2035 року і ~60% до 2040 року. Я вважаю, що методологія переліку купи можливих способів, якими щось могло б статися, з подальшою агрегацією цих імовірностей, схильна давати завищені цифри, що я враховую при агрегуванні цієї методології з методом базової ставки плюс коригування.", "Eli’s probability of deal decline by potential cause": "Ймовірність занепаду угоди від Елі за потенційною причиною", "Deliberate deprioritization": "Свідома депріоритизація", "US leadership change": "Зміна керівництва США", "2029-2034, p(decline)/year": "2029-2034, p(занепад)/рік", "2035-2039, p(decline)/year": "2035-2039, p(занепад)/рік", "China leadership change": "Зміна керівництва Китаю", "Concern regarding future leaders": "Занепокоєння щодо майбутніх лідерів", "Optimism about winning post-deal-decline": "Оптимізм щодо перемоги після занепаду угоди", "Less concerned about AI safety": "Менша стурбованість безпекою ШІ", "Other deliberate deprioritization": "Інша свідома депріоритизація", "Destabilizing event": "Дестабілізуюча подія", "Geopolitical shock": "Геополітичний шок", "Country caught cheating": "Країну спіймано на обмані", "Sub-x-risk catastrophe": "Субекзистенційна катастрофа", "Other destabilizing event": "Інша дестабілізуюча подія", "All sources": "Усі джерела", "p(decline)/year from all sources": "p(занепад)/рік з усіх джерел", "Unlike for most sources, the risk from a country being caught cheating might not go down in the late 2030s relative to the early 2030s, due to detection methods getting better.": "На відміну від більшості джерел, ризик того, що країну спіймають на обмані, може не знизитися наприкінці 2030-х порівняно з початком 2030-х через покращення методів виявлення.", "I compare the situation after deal decline to the situation before there was any deal at all. The most important advantages of post-deal-decline worlds over no-deal worlds are 1) having more time for capable AIs to do useful things like safety research and 2) having more time to build societal awareness and preparation.": "Я порівнюю ситуацію після занепаду угоди із ситуацією до укладення будь-якої угоди взагалі. Найважливіші переваги світів після занепаду угоди над світами без угоди — це 1) більше часу для здатних ШІ робити корисні речі, як-от дослідження безпеки, та 2) більше часу для нарощування суспільної обізнаності й підготовки.", "On the other hand, there will be much more compute in the world post-deal-decline, by default leading to a faster and more dangerous takeoff. Because of this, Plan A is set up so that the compute is likely destroyed upon deal dissolution; more on this ": "З іншого боку, у світі після занепаду угоди буде набагато більше обчислювальних потужностей, що за замовчуванням веде до швидшого й небезпечнішого зльоту. Через це План А влаштований так, що обчислювальні потужності, ймовірно, знищуються після розпуску угоди; докладніше про це ", "On the other hand, there will be much more compute in the world post-deal-decline, by default leading to a faster and more dangerous takeoff. Because of this, Plan A is set up so that the compute is likely destroyed upon deal dissolution; more on this": "З іншого боку, у світі після занепаду угоди буде набагато більше обчислювальних потужностей, що за замовчуванням веде до швидшого й небезпечнішого зльоту. Через це План А влаштований так, що обчислювальні потужності, ймовірно, знищуються після розпуску угоди; докладніше про це", "I made some ": "Я зробив деякі ", "I made some": "Я зробив деякі", "quantitative estimates": "кількісні оцінки", " of how bad deal decline would be. The headline results are:": " того, наскільки поганим був би занепад угоди. Головні результати такі:", "of how bad deal decline would be. The headline results are:": "того, наскільки поганим був би занепад угоди. Головні результати такі:", "Deal dissolution and impairment are similarly bad, perhaps impairment is a bit worse. While impairment has the benefit of there still being a deal, it has the downside of not triggering compute destruction.": "Розпуск і ослаблення угоди приблизно однаково погані, можливо, ослаблення трохи гірше. Хоча ослаблення має перевагу в тому, що угода досі існує, воно має недолік у тому, що не запускає знищення обчислювальних потужностей.", "Pre-max-controllable-AI, I propose modeling p(alignment | deal decline) as interpolating linearly in logit space between p(alignment; pre-deal unconditional) in 2029 and p(alignment | deal decline at max-controllable-AI target date). For a target date of 2035, perhaps p(alignment | deal decline at max-controllable-AI target date) is ~70%.": "До max-controllable-AI я пропоную моделювати p(узгодження | занепад угоди) як лінійну інтерполяцію в логіт-просторі між p(узгодження; безумовна до угоди) у 2029 році і p(узгодження | занепад угоди на цільову дату max-controllable-AI). Для цільової дати 2035 року, можливо, p(узгодження | занепад угоди на цільову дату max-controllable-AI) становить ~70%.", "Post-max-controllable-AI, I propose modeling p(alignment | decline at time t) as roughly 90% of p(alignment | handoff within deal at time t).": "Після max-controllable-AI я пропоную моделювати p(узгодження | занепад у момент t) як приблизно 90% від p(узгодження | передача в межах угоди в момент t).", "High level situation": "Ситуація високого рівня", "What would happen in Plan A if the deal declined and we hadn’t implemented any specific preparatory measures? Let’s start by considering the case of the deal fully dissolving.": "Що сталося б у Плані А, якби угода занепала, а ми не впровадили жодних конкретних підготовчих заходів? Почнемо з розгляду випадку повного розпуску угоди.", "There will be to some extent a return to the default world conditions, but with some important changes compared to if no deal had happened at all.": "Певною мірою станеться повернення до умов світу за замовчуванням, але з деякими важливими змінами порівняно з тим, якби угоди не було взагалі.", "Positives:": "Позитиви:", "Progress due to AI usage and studying AIs:": "Прогрес завдяки використанню ШІ та їх вивченню:", " Due to the alignment and control research that’s occurred since the start of the deal, the state of knowledge regarding safety techniques has improved. This is true to a greater extent the longer the Consortium has had to use and study more capable AIs. There are also other benefits of AI usage such as ": " Завдяки дослідженням узгодження й контролю, що відбувалися з початку дії угоди, стан знань щодо технік безпеки покращився. Це тим більше вірно, чим довше Консорціум мав можливість використовувати й вивчати здатніші ШІ. Є також інші переваги використання ШІ, як-от ", "Due to the alignment and control research that’s occurred since the start of the deal, the state of knowledge regarding safety techniques has improved. This is true to a greater extent the longer the Consortium has had to use and study more capable AIs. There are also other benefits of AI usage such as": "Завдяки дослідженням узгодження й контролю, що відбувалися з початку дії угоди, стан знань щодо технік безпеки покращився. Це тим більше вірно, чим довше Консорціум мав можливість використовувати й вивчати здатніші ШІ. Є також інші переваги використання ШІ, як-от", "improving epistemics": "покращення епістеміки", " and verification tech.": " та технологій верифікації.", "and verification tech.": "та технологій верифікації.", "More societal awareness and preparation:": "Більше суспільної обізнаності й підготовки:", " Aside from using AIs to make progress, the extra calendar time that the deal has bought helps in various ways by giving society more time to adapt. Furthermore, people, including policymakers, are more aware of current and projected AI capabilities than they were before. An important example of this is that there are likely lots more human AI safety researchers than there were at the start of the deal.": " Окрім використання ШІ для прогресу, додатковий календарний час, який купила угода, допомагає в різний спосіб, даючи суспільству більше часу для адаптації. Крім того, люди, включно з політиками, більш обізнані щодо поточних і прогнозованих можливостей ШІ, ніж раніше. Важливий приклад цього — те, що, ймовірно, набагато більше людей-дослідників безпеки ШІ, ніж на початку дії угоди.", "Aside from using AIs to make progress, the extra calendar time that the deal has bought helps in various ways by giving society more time to adapt. Furthermore, people, including policymakers, are more aware of current and projected AI capabilities than they were before. An important example of this is that there are likely lots more human AI safety researchers than there were at the start of the deal.": "Окрім використання ШІ для прогресу, додатковий календарний час, який купила угода, допомагає в різний спосіб, даючи суспільству більше часу для адаптації. Крім того, люди, включно з політиками, більш обізнані щодо поточних і прогнозованих можливостей ШІ, ніж раніше. Важливий приклад цього — те, що, ймовірно, набагато більше людей-дослідників безпеки ШІ, ніж на початку дії угоди.", "Training compute safety tax paid:": "Сплачений податок на безпеку через обчислювальні потужності для навчання:", " The most capable models have been trained with more compute than would be needed to reach their level of capabilities, to allow use of safer methods. This is unlike what happens in a closely contested AI race. You may maintain the ability to use this model after dissolution. This positive is potentially minor because: (a) If AIs are not close to max-controllable-AI, we will have to retrain them in order to reach handoff-level capabilities, forfeiting our safety tax. (b) Even if AIs are close to max-controllable-AI, projects likely choose to not incur safety taxes on successor AIs and instead race to higher capabilities.": " Найздатніші моделі навчалися з більшою кількістю обчислювальних потужностей, ніж було б потрібно для досягнення їхнього рівня можливостей, щоб дозволити використання безпечніших методів. Це відрізняється від того, що відбувається в тісно конкурентній гонці ШІ. Ви можете зберегти здатність використовувати цю модель після розпуску. Ця перевага потенційно незначна, тому що: (a) Якщо ШІ не близькі до max-controllable-AI, нам доведеться перенавчати їх, щоб досягти рівня можливостей для передачі, втрачаючи наш податок на безпеку. (b) Навіть якщо ШІ близькі до max-controllable-AI, проєкти, ймовірно, обирають не нести податки на безпеку для наступних ШІ, а натомість гнатися за вищими можливостями.", "The most capable models have been trained with more compute than would be needed to reach their level of capabilities, to allow use of safer methods. This is unlike what happens in a closely contested AI race. You may maintain the ability to use this model after dissolution. This positive is potentially minor because: (a) If AIs are not close to max-controllable-AI, we will have to retrain them in order to reach handoff-level capabilities, forfeiting our safety tax. (b) Even if AIs are close to max-controllable-AI, projects likely choose to not incur safety taxes on successor AIs and instead race to higher capabilities.": "Найздатніші моделі навчалися з більшою кількістю обчислювальних потужностей, ніж було б потрібно для досягнення їхнього рівня можливостей, щоб дозволити використання безпечніших методів. Це відрізняється від того, що відбувається в тісно конкурентній гонці ШІ. Ви можете зберегти здатність використовувати цю модель після розпуску. Ця перевага потенційно незначна, тому що: (a) Якщо ШІ не близькі до max-controllable-AI, нам доведеться перенавчати їх, щоб досягти рівня можливостей для передачі, втрачаючи наш податок на безпеку. (b) Навіть якщо ШІ близькі до max-controllable-AI, проєкти, ймовірно, обирають не нести податки на безпеку для наступних ШІ, а натомість гнатися за вищими можливостями.", "Negative: By default, more compute would lead to faster takeoff, but Plan A ": "Негатив: за замовчуванням більше обчислювальних потужностей веде до швидшого зльоту, але План А ", "Negative: By default, more compute would lead to faster takeoff, but Plan A": "Негатив: за замовчуванням більше обчислювальних потужностей веде до швидшого зльоту, але План А", "sets things up so that the compute is likely destroyed upon dissolution": "влаштований так, що обчислювальні потужності, ймовірно, знищуються після розпуску", " By default, there is now more compute in the world than there was in 2029, which makes the default takeoff faster. In the Plan A scenario, compute stock increases by roughly 0.7 OOMs/year from 2030 to 2033 and 0.1-0.3 OOMs/year from 2034 to 2040. Naively applying a ": " За замовчуванням у світі тепер більше обчислювальних потужностей, ніж було у 2029 році, що робить зліт за замовчуванням швидшим. У сценарії Плану А обсяг обчислювальних потужностей зростає приблизно на 0,7 порядку величини на рік з 2030 до 2033 і на 0,1-0,3 порядку величини на рік з 2034 до 2040. Наївно застосувавши ", "By default, there is now more compute in the world than there was in 2029, which makes the default takeoff faster. In the Plan A scenario, compute stock increases by roughly 0.7 OOMs/year from 2030 to 2033 and 0.1-0.3 OOMs/year from 2034 to 2040. Naively applying a": "За замовчуванням у світі тепер більше обчислювальних потужностей, ніж було у 2029 році, що робить зліт за замовчуванням швидшим. У сценарії Плану А обсяг обчислювальних потужностей зростає приблизно на 0,7 порядку величини на рік з 2030 до 2033 і на 0,1-0,3 порядку величини на рік з 2034 до 2040. Наївно застосувавши", "5.5x speedup for a 10x increase in compute stock": "прискорення у 5,5 раза на кожне 10-кратне збільшення обсягу обчислювальних потужностей", " would imply that 3 OOMs would speed takeoff up by ~150x! There might be some compute destroyed though, for example due to a war or due to targeted sabotage of datacenters. There is also more industrial capacity in the world, which could allow the manufacturing of dangerous weapons, potentially after an ": ", можна припустити, що 3 порядки величини пришвидшили б зліт приблизно у 150 разів! Втім, певна кількість обчислювальних потужностей могла б бути знищена, наприклад, через війну чи цілеспрямований саботаж дата-центрів. У світі також більше промислових потужностей, що могло б дозволити виробництво небезпечної зброї, потенційно після ", "would imply that 3 OOMs would speed takeoff up by ~150x! There might be some compute destroyed though, for example due to a war or due to targeted sabotage of datacenters. There is also more industrial capacity in the world, which could allow the manufacturing of dangerous weapons, potentially after an": ", можна припустити, що 3 порядки величини пришвидшили б зліт приблизно у 150 разів! Втім, певна кількість обчислювальних потужностей могла б бути знищена, наприклад, через війну чи цілеспрямований саботаж дата-центрів. У світі також більше промислових потужностей, що могло б дозволити виробництво небезпечної зброї, потенційно після", "industrial explosion": "промислового вибуху", ". Because of this issue, Plan A is ": ". Через цю проблему План А ", ". Because of this issue, Plan A is": ". Через цю проблему План А", "set up so that the": "влаштований так, що", "is likely destroyed upon deal dissolution": "ймовірно знищуються після розпуску угоди", ". This likely averts an extremely fast takeoff, though our best guess is that it still takes about 1-2 years to do the rest of takeoff; see ": ". Це, ймовірно, відверне надзвичайно швидкий зліт, хоча наша найкраща оцінка полягає в тому, що решта зльоту все одно займе близько 1-2 років; див. ", ". This likely averts an extremely fast takeoff, though our best guess is that it still takes about 1-2 years to do the rest of takeoff; see": ". Це, ймовірно, відверне надзвичайно швидкий зліт, хоча наша найкраща оцінка полягає в тому, що решта зльоту все одно займе близько 1-2 років; див.", " for discussion.": " для обговорення.", "for discussion.": "для обговорення.", "Unclear: Different geopolitical circumstances.": "Незрозуміло: різні геополітичні обставини.", " Depending on how the deal dissolves, the geopolitical circumstances might be very different after dissolution than in the default world. For example, there might be a war going on, and if not, the deal dissolution might still make lower levels of coordination less feasible. On the other hand, great powers have signaled that they care a lot about AI safety by implementing the deal and depending on how dissolution happens this might carry through into better outcomes. It’s plausible that a new international deal could be struck not long after the deal dissolving.": " Залежно від того, як розпадається угода, геополітичні обставини після розпуску можуть суттєво відрізнятися від світу за замовчуванням. Наприклад, могла б тривати війна, а якщо ні, розпуск угоди все одно міг би зробити нижчі рівні координації менш здійсненними. З іншого боку, великі держави засвідчили, що дуже дбають про безпеку ШІ, впровадивши угоду, і залежно від того, як відбудеться розпуск, це могло б перейти в кращі результати. Правдоподібно, що нова міжнародна угода могла б бути укладена невдовзі після розпуску цієї.", "Depending on how the deal dissolves, the geopolitical circumstances might be very different after dissolution than in the default world. For example, there might be a war going on, and if not, the deal dissolution might still make lower levels of coordination less feasible. On the other hand, great powers have signaled that they care a lot about AI safety by implementing the deal and depending on how dissolution happens this might carry through into better outcomes. It’s plausible that a new international deal could be struck not long after the deal dissolving.": "Залежно від того, як розпадається угода, геополітичні обставини після розпуску можуть суттєво відрізнятися від світу за замовчуванням. Наприклад, могла б тривати війна, а якщо ні, розпуск угоди все одно міг би зробити нижчі рівні координації менш здійсненними. З іншого боку, великі держави засвідчили, що дуже дбають про безпеку ШІ, впровадивши угоду, і залежно від того, як відбудеться розпуск, це могло б перейти в кращі результати. Правдоподібно, що нова міжнародна угода могла б бути укладена невдовзі після розпуску цієї.", "For deal impairment, nearly all aspects of the world are at least somewhat better than in dissolution because the deal is still in effect. For example: not only is the training compute safety tax already paid, but the deal is still partly functional so you may be able to continue paying a tax. How much better things look than dissolution depends on the circumstances of the impairment.": "У випадку ослаблення угоди майже всі аспекти світу принаймні дещо кращі, ніж при розпуску, оскільки угода все ще діє. Наприклад: не лише податок на безпеку через обчислювальні потужності для навчання вже сплачено, але й угода все ще частково функціонує, тож ви можете продовжувати сплачувати податок. Наскільки краще все виглядає порівняно з розпуском, залежить від обставин ослаблення.", "The main downside is that the extra compute likely hasn’t been destroyed, as it’s harder to set up a system which destroys compute upon impairment as opposed to destroying it upon dissolution. While there’s a ton of compute in the world, the deal is likely still constraining takeoff to some extent. That is, you may not be able to use a large fraction of compute in the world to take off as fast as possible.": "Головний недолік у тому, що додаткові обчислювальні потужності, ймовірно, не були знищені, оскільки складніше налаштувати систему, яка знищує обчислювальні потужності при ослабленні, на відміну від знищення їх при розпуску. Хоча у світі величезна кількість обчислювальних потужностей, угода, ймовірно, все ще певною мірою стримує зліт. Тобто ви можете бути не в змозі використати значну частку обчислювальних потужностей світу, щоб злетіти якомога швидше.", "Quantitative estimates": "Кількісні оцінки", "I’ve made some rough quantitative estimates that attempt to take into account the above factors. See ": "Я зробив деякі приблизні кількісні оцінки, що намагаються врахувати наведені вище фактори. Див. ", "I’ve made some rough quantitative estimates that attempt to take into account the above factors. See": "Я зробив деякі приблизні кількісні оцінки, що намагаються врахувати наведені вище фактори. Див.", " for a sheet that contains estimates of the value of the future, conditional on deal dissolution at various times (among estimates of other deal end states). I think that deal impairment would on average be similarly bad to deal dissolution, with the pros and cons described at the end of the previous section roughly canceling out.": " таблицю, що містить оцінки цінності майбутнього за умови розпуску угоди в різні моменти часу (серед оцінок інших кінцевих станів угоди). Я вважаю, що ослаблення угоди в середньому було б приблизно таким же поганим, як розпуск угоди, з плюсами й мінусами, описаними наприкінці попереднього розділу, які приблизно взаємно компенсують один одного.", "for a sheet that contains estimates of the value of the future, conditional on deal dissolution at various times (among estimates of other deal end states). I think that deal impairment would on average be similarly bad to deal dissolution, with the pros and cons described at the end of the previous section roughly canceling out.": "таблицю, що містить оцінки цінності майбутнього за умови розпуску угоди в різні моменти часу (серед оцінок інших кінцевих станів угоди). Я вважаю, що ослаблення угоди в середньому було б приблизно таким же поганим, як розпуск угоди, з плюсами й мінусами, описаними наприкінці попереднього розділу, які приблизно взаємно компенсують один одного.", "Overall, my view is roughly that we can interpolate value in logit space over the course of Stage 1 of the deal, i.e. pre-max-controllable-AI, between the default world and the end state in which the deal declines at max-controllable-AI. For Stage 2, max-controllable-AI and onward, perhaps the value of deal decline in a given year is roughly 75-80% of handing off within the deal in that year.": "Загалом, мій погляд приблизно такий: ми можемо інтерполювати цінність у логіт-просторі впродовж Стадії 1 угоди, тобто до max-controllable-AI, між світом за замовчуванням і кінцевим станом, у якому угода занепадає на момент max-controllable-AI. Для Стадії 2, від max-controllable-AI і далі, можливо, цінність занепаду угоди в певному році становить приблизно 75-80% від передачі в межах угоди в тому ж році.", "Given how big of a threat deal decline is, we recommend making it a top priority in Plan A to prevent and mitigate it. For example, I think at least 5% as much as the effort that goes into technical safety research in Plan A should go into preventing and preparing for deal decline (and potentially much more). These implications are discussed in the ": "Враховуючи, наскільки великою є загроза занепаду угоди, ми рекомендуємо зробити її запобігання й пом'якшення топпріоритетом у Плані А. Наприклад, я вважаю, що щонайменше 5% від зусиль, вкладених у технічні дослідження безпеки в Плані А, мали б іти на запобігання й підготовку до занепаду угоди (і, потенційно, набагато більше). Ці наслідки обговорюються в ", "Given how big of a threat deal decline is, we recommend making it a top priority in Plan A to prevent and mitigate it. For example, I think at least 5% as much as the effort that goes into technical safety research in Plan A should go into preventing and preparing for deal decline (and potentially much more). These implications are discussed in the": "Враховуючи, наскільки великою є загроза занепаду угоди, ми рекомендуємо зробити її запобігання й пом'якшення топпріоритетом у Плані А. Наприклад, я вважаю, що щонайменше 5% від зусиль, вкладених у технічні дослідження безпеки в Плані А, мали б іти на запобігання й підготовку до занепаду угоди (і, потенційно, набагато більше). Ці наслідки обговорюються в", "Capability Scaling Strategy supplement": "додатку про стратегію масштабування можливостей", "One way to reduce the risks of and mitigate the downsides of deal decline is to scale AI capabilities faster and handoff faster.": "Один зі способів знизити ризики й пом'якшити недоліки занепаду угоди — масштабувати можливості ШІ швидше й швидше здійснити передачу.", "Preventing deal decline": "Запобігання занепаду угоди", "Here are some avenues that we think are promising for preventing deal decline:": "Ось деякі напрями, які, на нашу думку, є перспективними для запобігання занепаду угоди:", "Automated highly-adversarially-robust lie detection:": "Автоматизоване, украй адверсаріально стійке виявлення брехні:", " This would drastically reduce the chance of being surprised by an actor attempting to pull out of the deal.": " Це різко знизило б шанс бути захопленими зненацька дійовою особою, що намагається вийти з угоди.", "This would drastically reduce the chance of being surprised by an actor attempting to pull out of the deal.": "Це різко знизило б шанс бути захопленими зненацька дійовою особою, що намагається вийти з угоди.", "Institutional design:": "Інституційний дизайн:", " The deal and Consortium should be designed in a way that best sets up incentives for the countries involved, and leads to reasonable regulatory decisions. Additionally, domestic institutions should be improved to be robust to the whims of a single person shifting; for example, ideally the deal should be ratified as an official treaty in the US.": " Угода й Консорціум мають бути спроєктовані так, щоб якнайкраще налаштувати стимули для залучених країн і вести до розумних регуляторних рішень. Крім того, внутрішні інституції мають бути покращені, щоб бути стійкими до примх зміни однієї людини; наприклад, в ідеалі угода мала б бути ратифікована як офіційний договір у США.", "The deal and Consortium should be designed in a way that best sets up incentives for the countries involved, and leads to reasonable regulatory decisions. Additionally, domestic institutions should be improved to be robust to the whims of a single person shifting; for example, ideally the deal should be ratified as an official treaty in the US.": "Угода й Консорціум мають бути спроєктовані так, щоб якнайкраще налаштувати стимули для залучених країн і вести до розумних регуляторних рішень. Крім того, внутрішні інституції мають бути покращені, щоб бути стійкими до примх зміни однієї людини; наприклад, в ідеалі угода мала б бути ратифікована як офіційний договір у США.", "United diplomatic pressure:": "Об'єднаний дипломатичний тиск:", " All countries in the deal should make it clear that any country pulling out of the deal would be an unacceptable threat to all other countries’ national security and sovereignty, and will be treated as such. Any country that is considering pulling out of the deal should know that they will be heavily sanctioned, cyberattacked, and would potentially have to fight a war in which they are heavily outnumbered.": " Усі країни-учасниці угоди мають чітко дати зрозуміти, що будь-яка країна, яка виходить з угоди, становитиме неприйнятну загрозу національній безпеці й суверенітету всіх інших країн і розглядатиметься відповідно. Будь-яка країна, що розглядає вихід з угоди, має знати, що зазнає жорстких санкцій, кібератак і, потенційно, муситиме вести війну, у якій значно поступатиметься чисельно.", "All countries in the deal should make it clear that any country pulling out of the deal would be an unacceptable threat to all other countries’ national security and sovereignty, and will be treated as such. Any country that is considering pulling out of the deal should know that they will be heavily sanctioned, cyberattacked, and would potentially have to fight a war in which they are heavily outnumbered.": "Усі країни-учасниці угоди мають чітко дати зрозуміти, що будь-яка країна, яка виходить з угоди, становитиме неприйнятну загрозу національній безпеці й суверенітету всіх інших країн і розглядатиметься відповідно. Будь-яка країна, що розглядає вихід з угоди, має знати, що зазнає жорстких санкцій, кібератак і, потенційно, муситиме вести війну, у якій значно поступатиметься чисельно.", " Generally improving societal epistemics seems important for creating a robust, effective deal. Example applications of AI that would be especially useful are forecasting failure modes of the deal and helping with the institutional design mentioned above.": " Загальне покращення суспільної епістеміки видається важливим для створення надійної, ефективної угоди. Приклади застосувань ШІ, які були б особливо корисними, — це прогнозування режимів провалу угоди й допомога з інституційним дизайном, згаданим вище.", "Generally improving societal epistemics seems important for creating a robust, effective deal. Example applications of AI that would be especially useful are forecasting failure modes of the deal and helping with the institutional design mentioned above.": "Загальне покращення суспільної епістеміки видається важливим для створення надійної, ефективної угоди. Приклади застосувань ШІ, які були б особливо корисними, — це прогнозування режимів провалу угоди й допомога з інституційним дизайном, згаданим вище.", "Preparing stockpiles to align incentives": "Підготовка резервів для узгодження стимулів", "We recommend the following to improve the post-deal-dissolution situation and improve incentives around defection.": "Ми рекомендуємо наступне для покращення ситуації після розпуску угоди й покращення стимулів щодо порушення.", "The US and China each get hardened stockpiles of 2% of their pre-deal compute. 2% is the factor used in the Plan A scenario, in practice it should depend on the amount of missing compute.": "США і Китай кожен отримують захищені резерви у розмірі 2% від своїх обчислювальних потужностей до угоди. 2% — це коефіцієнт, використаний у сценарії Плану А, на практиці він мав би залежати від обсягу відсутніх обчислювальних потужностей.", "One potential incentive for the US and China to create a covert project is that they could pull out of the deal, destroy the centralized compute (e.g. with bombing, or with other mechanisms, e.g. by withholding offline licensing keys). Then, if one side did a covert project and the other did not, the side that had a covert project might get a large lead over the other, and beat them to an intelligence explosion.": "Один потенційний стимул для США і Китаю створити таємний проєкт полягає в тому, що вони могли б вийти з угоди, знищити централізовані обчислювальні потужності (наприклад, бомбардуванням або іншими механізмами, наприклад, утримавши ключі офлайн-ліцензування). Тоді, якщо одна сторона мала таємний проєкт, а інша ні, сторона з таємним проєктом могла б отримати значний відрив над іншою й випередити її у вибуху інтелекту.", "One solution to this is to allow each side to have a cache of GPUs that are hardened but aren’t plugged into power, and so can’t be used for AI research while the deal is in place. In practice this stockpile could be stored in a secure facility on the home soil of each party, and is deliberately designed to not be destroyable by the other in the case of a deal dissolution,": "Одне рішення цього — дозволити кожній стороні мати схованку GPU, які захищені, але не підключені до живлення, і тому не можуть використовуватися для досліджень ШІ, поки угода діє. На практиці цей резерв міг би зберігатися на захищеному об'єкті на батьківщині кожної сторони і навмисно спроєктований так, щоб не бути знищуваним іншою стороною у разі розпуску угоди,", " but where inspectors can still verify these chips aren’t in use for the duration of the deal.": " але де інспектори все ще можуть перевіряти, що ці чипи не використовуються протягом усього терміну дії угоди.", "but where inspectors can still verify these chips aren’t in use for the duration of the deal.": "але де інспектори все ще можуть перевіряти, що ці чипи не використовуються протягом усього терміну дії угоди.", "This cache could be on the order of 2% of each side’s pre-deal compute. This is probably more compute than a covert project could have, but is a relatively small fraction of post-deal compute, because new chips dominate the overall chip supply.": "Ця схованка могла б становити порядку 2% від обчислювальних потужностей кожної сторони до угоди. Це, ймовірно, більше обчислювальних потужностей, ніж міг би мати таємний проєкт, але відносно невелика частка обчислювальних потужностей після угоди, оскільки нові чипи домінують у загальному постачанні чипів.", "Now, if the deal were to break down, and the verified datacenters were stopped, then both sides would return back to the counterfactual of racing with a proportional amount of compute as they had before the deal; this also favors the US given that the US has more compute pre-deal.": "Тепер, якби угода розвалилась і верифіковані дата-центри були б зупинені, обидві сторони повернулися б до контрфактичної ситуації гонки з пропорційним обсягом обчислювальних потужностей, який вони мали до угоди; це також сприяє США, оскільки США мають більше обчислювальних потужностей до угоди.", "In the same stockpile the US and China each get a cold, heavily monitored copy of the frontier model weights.": "У тому ж резерві США і Китай кожен отримують холодну, ретельно контрольовану копію ваг передової моделі.", "Reasoning for doing this:": "Обґрунтування для цього:", "This reduces the incentive to exfiltrate the frontier weights and then immediately pull out of the deal to get a huge advantage. It also reduces the incentive to do a covert project.": "Це знижує стимул ексфільтрувати ваги передової моделі, а потім негайно вийти з угоди, щоб отримати величезну перевагу. Це також знижує стимул створювати таємний проєкт.", "The benefits of the training compute safety tax that was paid to create the frontier model weights doesn’t have to be re-paid. However, there are also downsides to preserving the weights; for example, it makes AI progress faster.": "Переваги сплаченого податку на безпеку через обчислювальні потужності для навчання, витраченого на створення ваг передової моделі, не доведеться сплачувати повторно. Однак є й недоліки збереження ваг; наприклад, це робить прогрес ШІ швидшим.", " It’s unclear that you would want to keep the weights in cold storage for only this reason.": " Незрозуміло, чи варто зберігати ваги в холодному сховищі лише з цієї причини.", "It’s unclear that you would want to keep the weights in cold storage for only this reason.": "Незрозуміло, чи варто зберігати ваги в холодному сховищі лише з цієї причини.", "A proposal to store the weights:": "Пропозиція щодо зберігання ваг:", "There’s a hard drive that needs US+China permission to unlock. That’s the only cold storage.": "Є жорсткий диск, для розблокування якого потрібен дозвіл США+Китаю. Це єдине холодне сховище.", "Other storage is volatile memory, so if you turn off power memory goes away": "Інше сховище — це волатильна пам'ять, тож якщо вимкнути живлення, пам'ять зникає", "To stop physical exfiltration, you have a bunch of physical defenses that automatically turn off power": "Щоб зупинити фізичну ексфільтрацію, є низка фізичних засобів захисту, які автоматично вимикають живлення", "Mutually assured compute destruction: destroying compute, fabs, and robots": "Взаємно гарантоване знищення обчислювальних потужностей: знищення обчислювальних потужностей, фабів і роботів", "A central potential problem with Plan A is that if the deal dissolves, there is so much compute in the world that we might get an extremely fast intelligence explosion. For example, suppose the deal breaks down at the start of 2035; there are 100B H100e in the world at that time. That’s about 2.3 OOMs more compute than were in the world at the start of 2030 in the default world (~500M), and so a takeoff that would have taken 1 year, might instead happen 5^2.3=40x faster, or in 9 days.": "Центральна потенційна проблема Плану А в тому, що якщо угода розпадається, у світі стільки обчислювальних потужностей, що ми можемо отримати надзвичайно швидкий вибух інтелекту. Наприклад, припустімо, що угода розвалюється на початку 2035 року; у світі на той момент є 100 млрд ефективних H100e. Це приблизно на 2,3 порядки величини більше обчислювальних потужностей, ніж було у світі на початку 2030 року у світі за замовчуванням (~500 млн), тож зліт, який зайняв би 1 рік, міг би натомість статися у 5^2,3=40 разів швидше, тобто за 9 днів.", " This would, of course, be an extremely dangerous situation. Therefore, if the Plan A deal breaks down, it becomes extremely important that a large fraction of the compute in the world be destroyed.": " Це, звісно, було б надзвичайно небезпечною ситуацією. Тому, якщо угода Плану А розвалиться, стане надзвичайно важливо, щоб велика частка обчислювальних потужностей у світі була знищена.", "This would, of course, be an extremely dangerous situation. Therefore, if the Plan A deal breaks down, it becomes extremely important that a large fraction of the compute in the world be destroyed.": "Це, звісно, було б надзвичайно небезпечною ситуацією. Тому, якщо угода Плану А розвалиться, стане надзвичайно важливо, щоб велика частка обчислювальних потужностей у світі була знищена.", "In this section, we’ll discuss our policies for ensuring mutually assured compute destruction; as well as making sure that the rebuilding process does not result in an unacceptably fast takeoff. The priority order for achieving this is:": "У цьому розділі ми обговоримо наші політики забезпечення взаємно гарантованого знищення обчислювальних потужностей, а також забезпечення того, щоб процес відбудови не призвів до неприйнятно швидкого зльоту. Порядок пріоритетів для досягнення цього:", "Ensure that almost all of the compute is destroyed.": "Забезпечити знищення майже всіх обчислювальних потужностей.", "Ensure that almost all of the fabs are destroyed.": "Забезпечити знищення майже всіх фабів.", "Ensure that almost all of the robot capacity is destroyed.": "Забезпечити знищення майже всіх робото-потужностей.", "We’ll discuss each of the above in turn, and then analyze how long an intelligence explosion would take in the case of a deal dissolution.": "Ми обговоримо кожен із наведених пунктів по черзі, а потім проаналізуємо, скільки часу зайняв би вибух інтелекту у випадку розпуску угоди.", "This table gives point estimates for each type of compute in the Plan A scenario:": "Ця таблиця дає точкові оцінки для кожного типу обчислювальних потужностей у сценарії Плану А:", "Amount of ": "Обсяг ", "Amount of": "Обсяг", "Type of compute": "Тип обчислювальних потужностей", "What happens if the deal dissolves?": "Що станеться, якщо угода розпадеться?", "AI datacenter compute (world)": "Обчислювальні потужності дата-центрів ШІ (світ)", "Self-destruct or are bombed": "Самознищуються або бомбардуються", "Verified consumer hardware and edge compute (world)": "Верифіковане споживче апаратне забезпечення та периферійні обчислення (світ)", "Not useful for AI training because of verification or fundamental design.": "Непридатне для навчання ШІ через верифікацію чи фундаментальний дизайн.", "Cap-and-traded consumer hardware and edge compute": "Споживче апаратне забезпечення та периферійні обчислення в рамках квот і торгівлі", "(world)": "(світ)", "~10% can be diverted to an AI project, because the compute is spread across countries and also non-authoritarian countries probably wouldn’t round up this compute.": "~10% можуть бути відволічені на проєкт ШІ, оскільки обчислювальні потужності розподілені по країнах, а неавторитарні країни, ймовірно, не стали б збирати ці обчислювальні потужності.", "Stockpile (US/China/RoW)": "Резерв (США/Китай/решта світу)", "~100% can be diverted to an AI project": "~100% можуть бути відволічені на проєкт ШІ", "Covert project (US&China)": "Таємний проєкт (США і Китай)", "Exempt military compute (US&China, others lower)": "Звільнені військові обчислювальні потужності (США і Китай, інші — менше)", "~100% can be diverted to an AI project": "~100% можуть бути відволічені на проєкт ШІ", "The policies for how to achieve this are as follows:": "Політики досягнення цього такі:", "AI datacenters.": "Дата-центри ШІ.", " Both the US and China build datacenters in deliberately vulnerable locations, thus incentivizing them to self-destruct if the deal breaks down. This is discussed more in the 2034 section of the scenario. Almost all compute is in this category (as shown above), and so it’s very important to ensure destroyability.": " І США, і Китай будують дата-центри в навмисно вразливих локаціях, тим самим стимулюючи їх до самознищення, якщо угода розвалиться. Це докладніше обговорюється в розділі про 2034 рік у сценарії. Майже всі обчислювальні потужності належать до цієї категорії (як показано вище), тому дуже важливо забезпечити знищуваність.", "Both the US and China build datacenters in deliberately vulnerable locations, thus incentivizing them to self-destruct if the deal breaks down. This is discussed more in the 2034 section of the scenario. Almost all compute is in this category (as shown above), and so it’s very important to ensure destroyability.": "І США, і Китай будують дата-центри в навмисно вразливих локаціях, тим самим стимулюючи їх до самознищення, якщо угода розвалиться. Це докладніше обговорюється в розділі про 2034 рік у сценарії. Майже всі обчислювальні потужності належать до цієї категорії (як показано вище), тому дуже важливо забезпечити знищуваність.", "Consumer hardware and edge compute.": "Споживче апаратне забезпечення й периферійні обчислення.", " This includes all compute used in phones, consumer laptops, etc. This compute is distributed throughout the world and could be diverted to an AI project after the deal dissolves. Therefore, we must either (i) verify so that it can’t be directed to training or (ii) cap the total amount of chips in this category. We recommend a cap and trade regime on unverified chips in this category of compute at 30M effective-H100e. We estimate the pre-deal stock to be around 25M effective-H100e, so normal production levels can continue in the short term but then for new AI-capable edge compute to be produced old hardware needs to be traded in / verifiably destroyed. If extremely robust on-chip verification can be developed to activate further chips, or methods of building chips that fundamentally cannot be repurposed to training then this can get an exception from the cap. One approach that could accomplish this is to bake a restrictive computational structure into chips during the manufacturing process (e.g. ": " Це включає всі обчислювальні потужності, використовувані в телефонах, споживчих ноутбуках тощо. Ці обчислювальні потужності розподілені по всьому світу і могли б бути відволічені на проєкт ШІ після розпуску угоди. Тому ми маємо або (i) верифікувати, щоб їх не можна було спрямувати на навчання, або (ii) обмежити загальну кількість чипів у цій категорії. Ми рекомендуємо режим квот і торгівлі для неверифікованих чипів у цій категорії обчислювальних потужностей на рівні 30 млн ефективних H100e. Ми оцінюємо запас до угоди приблизно у 25 млн ефективних H100e, тож нормальні рівні виробництва можуть продовжуватися в короткостроковій перспективі, але потім для виробництва нових периферійних обчислювальних пристроїв, здатних на ШІ, старе апаратне забезпечення потрібно буде здавати на обмін / верифіковано знищувати. Якщо можна розробити надзвичайно надійну верифікацію на рівні чипа для активації подальших чипів, або методи виробництва чипів, які принципово не можуть бути перепрофільовані для навчання, це може отримати виняток із обмеження. Один із підходів, який міг би це забезпечити, — запікати обмежувальну обчислювальну структуру в чипи під час виробничого процесу (наприклад, ", "This includes all compute used in phones, consumer laptops, etc. This compute is distributed throughout the world and could be diverted to an AI project after the deal dissolves. Therefore, we must either (i) verify so that it can’t be directed to training or (ii) cap the total amount of chips in this category. We recommend a cap and trade regime on unverified chips in this category of compute at 30M effective-H100e. We estimate the pre-deal stock to be around 25M effective-H100e, so normal production levels can continue in the short term but then for new AI-capable edge compute to be produced old hardware needs to be traded in / verifiably destroyed. If extremely robust on-chip verification can be developed to activate further chips, or methods of building chips that fundamentally cannot be repurposed to training then this can get an exception from the cap. One approach that could accomplish this is to bake a restrictive computational structure into chips during the manufacturing process (e.g.": "Це включає всі обчислювальні потужності, використовувані в телефонах, споживчих ноутбуках тощо. Ці обчислювальні потужності розподілені по всьому світу і могли б бути відволічені на проєкт ШІ після розпуску угоди. Тому ми маємо або (i) верифікувати, щоб їх не можна було спрямувати на навчання, або (ii) обмежити загальну кількість чипів у цій категорії. Ми рекомендуємо режим квот і торгівлі для неверифікованих чипів у цій категорії обчислювальних потужностей на рівні 30 млн ефективних H100e. Ми оцінюємо запас до угоди приблизно у 25 млн ефективних H100e, тож нормальні рівні виробництва можуть продовжуватися в короткостроковій перспективі, але потім для виробництва нових периферійних обчислювальних пристроїв, здатних на ШІ, старе апаратне забезпечення потрібно буде здавати на обмін / верифіковано знищувати. Якщо можна розробити надзвичайно надійну верифікацію на рівні чипа для активації подальших чипів, або методи виробництва чипів, які принципово не можуть бути перепрофільовані для навчання, це може отримати виняток із обмеження. Один із підходів, який міг би це забезпечити, — запікати обмежувальну обчислювальну структуру в чипи під час виробничого процесу (наприклад,", "Stockpile.": "Резерв.", "Exempt military compute.": "Звільнені військові обчислювальні потужності.", " We recommend minimizing AI relevant exempt military compute, or only exempting a tiny number of GPUs, such as 10,000 H100e.": " Ми рекомендуємо мінімізувати релевантні для ШІ звільнені військові обчислювальні потужності або звільняти лише незначну кількість GPU, наприклад, 10 000 H100e.", "We recommend minimizing AI relevant exempt military compute, or only exempting a tiny number of GPUs, such as 10,000 H100e.": "Ми рекомендуємо мінімізувати релевантні для ШІ звільнені військові обчислювальні потужності або звільняти лише незначну кількість GPU, наприклад, 10 000 H100e.", "Fabs": "Фаби", "In Plan A, all of the AI-relevant fabs in the world are moved to destroyable special economic zones (": "У Плані А всі релевантні для ШІ фаби у світі до 2032 року переносяться до знищуваних спеціальних економічних зон (", "SEZs": "СЕЗ", ") by 2032. These fabs are located either on the ocean or nearby adversarial superpowers with self-destruct mechanisms in them. Pre-deal fabs without these properties (e.g. TSMC Arizona) are decommissioned. Fortunately, decommissioning isn’t costly because it’s such a small fraction of the compute built in the 2030s.": ") розташованих або на океані, або поблизу ворожих наддержав, із вбудованими механізмами самознищення. Фаби до угоди без цих властивостей (наприклад, TSMC Arizona) виводяться з експлуатації. На щастя, виведення з експлуатації недороге, оскільки це така мала частка обчислювальних потужностей, побудованих у 2030-х.", "Flow (H100e)": "Потік (H100e)", "Time to build 100M H100e": "Час на побудову 100 млн H100e", "100 days": "100 днів", "3 days": "3 дні", "20 hours": "20 годин", "9.4 hours": "9,4 години", "3.8hours": "3,8 години", "53 minutes": "53 хвилини", "100M H100e is roughly the amount of compute needed to do an intelligence explosion (from Automated coder to TED-AI) in 1 year. By the end of the decade in Plan A, industrial capacity is so high that we’re producing that amount of compute every 53 minutes. Therefore, it’s extremely important for the fabs to be destroyed if the deal breaks down, particularly towards the end of the decade. Fortunately, the fabs are extremely fragile by nature, and the same mechanism as the AI datacenters above (putting them in locations where self-destruction is incentivized) can be used.": "100 млн H100e — приблизно та кількість обчислювальних потужностей, необхідна для вибуху інтелекту (від автоматизованого програміста до TED-AI) за 1 рік. До кінця десятиліття в Плані А промислові потужності настільки високі, що ми виробляємо цей обсяг обчислювальних потужностей кожні 53 хвилини. Тому надзвичайно важливо, щоб фаби були знищені, якщо угода розвалиться, особливо ближче до кінця десятиліття. На щастя, фаби за своєю природою надзвичайно крихкі, і можна використати той самий механізм, що й для дата-центрів ШІ вище (розміщення їх у локаціях, де самознищення стимулюється).", "Robots can be used to build fabs, which can build GPUs, which can then be used to do an intelligence explosion. When there are enough robots, this process can happen extremely quickly.": "Роботів можна використовувати для будівництва фабів, які можуть будувати GPU, які потім можуть бути використані для здійснення вибуху інтелекту. Коли роботів достатньо, цей процес може відбуватися надзвичайно швидко.", "Our basic strategy with robots mirrors that with GPUs and fabs. Almost all robot production and use will occur in designated SEZs:": "Наша базова стратегія щодо роботів дзеркалить стратегію щодо GPU і фабів. Майже все виробництво й використання роботів відбуватиметься у визначених СЕЗ:", "Type of Robot": "Тип робота", "SEZ": "СЕЗ", "2030 — Human-equivalent quantity": "2030 рік — кількість у люд.-еквіваленті", "Self-destruct or bombed": "Самознищуються або бомбардуються", "Civilian": "Цивільні", "Self-destruct or backdoored or not useful for building fabs": "Самознищуються, мають бекдори або непридатні для будівництва фабів", "Exempt military robots": "Звільнені військові роботи", "Can be used to make AI progress": "Можуть використовуватися для прогресу ШІ", "Human-equivalent quantity": "Кількість у люд.-еквіваленті", "The policy for robots is:": "Політика щодо роботів така:", "High and growing cap for robots produced in destroyable SEZs, so almost all robots are produced there.": "Високе й зростаюче обмеження для роботів, вироблених у знищуваних СЕЗ, тож майже всі роботи виробляються там.", "A mandate for civilian robots to have sufficient offline licensing + self destruct features so that they stop working if the deal breaks down, or robust edge verification such that they can’t be used to do any part of the work in rebuilding a compute supply chain (e.g., a self-driving car with baked weights).": "Мандат для цивільних роботів мати достатнє офлайн-ліцензування + функції самознищення, щоб вони припиняли працювати, якщо угода розвалиться, або надійну периферійну верифікацію, таку, що їх не можна використати для жодної частини роботи з відбудови ланцюга постачання обчислювальних потужностей (наприклад, безпілотний автомобіль із запеченими вагами).", "Cap of 100K total exempt military robots for US and China, without offline licensing.": "Обмеження у 100 тис. загальної кількості звільнених військових роботів для США і Китаю, без офлайн-ліцензування.", "Post-dissolution takeoff length": "Тривалість зльоту після розпуску", "A big question is whether or not a rapid intelligence explosion could occur on the stock of compute produced within the deal, or whether compute production is required.": "Велике питання в тому, чи міг би статися швидкий вибух інтелекту на запасі обчислювальних потужностей, вироблених у межах угоди, чи потрібне виробництво обчислювальних потужностей.", "There are two major sources of progress that can be pursued in parallel, but might have tradeoffs (e.g., if you use your compute to help run robots or tell humans what to do to produce new compute).": "Є два основні джерела прогресу, які можна переслідувати паралельно, але вони можуть мати компроміси (наприклад, якщо ви використовуєте свої обчислювальні потужності, щоб допомогти керувати роботами або казати людям, що робити для виробництва нових обчислювальних потужностей).", "First source of progress: Produce new compute.": "Перше джерело прогресу: виробництво нових обчислювальних потужностей.", " The post-deal-decline AI project could attempt to use robots and/or humans to rebuild a semiconductor supply chain and increase their compute. The difficulty of doing so is probably further increased by potentially aggressive sabotage in a post-deal context against such efforts. That being said, around 100K exempt military robots, and maybe some small fraction of civilian robots e.g., 0.1%, or around 1M, can be stripped for useful parts post-self-destruct and/or have their security measures circumvented. Let’s assume there’s a fleet of around 1M human-equivalent robots that can work on this. In 2026 the semiconductor supply chain has around 2M people working, and over the last 5 years they have built around 100M H100e/yr of total production capacity at 2026-technology levels (chip design and manufacturing process) So we have a rough 10M worker-years to 100M 2026-tech H100e/yr capacity mapping. Assuming the 2026-tech improves by around 1 OOM by 2032 and another OOM by 2036 (assuming total compute in the world improves roughly 50% due to technology improvements and 50% due to production scale), this implies the mapping will be 10M worker-years to 1B H100e/yr with 2032-tech and 10B with 2036-tech. So the 1M robots would take 1 year to build 100M H100e in 2032 and 1 month in 2036. We expect there to be serial bottlenecks that somewhat push these purely parallel estimates up, as well as potential startup problems and sabotage problems.": " Проєкт ШІ після занепаду угоди міг би спробувати використати роботів та/або людей для відбудови ланцюга постачання напівпровідників і збільшення своїх обчислювальних потужностей. Складність цього, ймовірно, ще більше зростає через потенційно агресивний саботаж таких зусиль у контексті після угоди. Тим не менш, приблизно 100 тис. звільнених військових роботів і, можливо, невелика частка цивільних роботів, наприклад, 0,1%, або близько 1 млн, можуть бути розібрані на корисні деталі після самознищення та/або мати обійдені засоби безпеки. Припустімо, що є флот приблизно з 1 млн роботів у люд.-еквіваленті, які можуть над цим працювати. У 2026 році в ланцюзі постачання напівпровідників зайнято близько 2 млн людей, і за останні 5 років вони побудували приблизно 100 млн H100e/рік загальних виробничих потужностей на рівні технологій 2026 року (дизайн чипів і виробничий процес). Тож маємо приблизне співвідношення 10 млн людино-років на 100 млн H100e/рік потужностей на технологіях 2026 року. Якщо припустити, що технології 2026 року покращаться приблизно на 1 порядок величини до 2032 року і ще на 1 порядок величини до 2036 року (припускаючи, що загальні обчислювальні потужності у світі покращуються приблизно на 50% за рахунок технологічних покращень і на 50% за рахунок масштабу виробництва), це означає, що співвідношення становитиме 10 млн людино-років на 1 млрд H100e/рік на технологіях 2032 року і 10 млрд на технологіях 2036 року. Тож 1 млн роботів витратили б 1 рік на побудову 100 млн H100e у 2032 році і 1 місяць у 2036 році. Ми очікуємо, що будуть послідовні вузькі місця, які дещо підвищать ці суто паралельні оцінки, а також потенційні проблеми запуску й саботажу.", "The post-deal-decline AI project could attempt to use robots and/or humans to rebuild a semiconductor supply chain and increase their compute. The difficulty of doing so is probably further increased by potentially aggressive sabotage in a post-deal context against such efforts. That being said, around 100K exempt military robots, and maybe some small fraction of civilian robots e.g., 0.1%, or around 1M, can be stripped for useful parts post-self-destruct and/or have their security measures circumvented. Let’s assume there’s a fleet of around 1M human-equivalent robots that can work on this. In 2026 the semiconductor supply chain has around 2M people working, and over the last 5 years they have built around 100M H100e/yr of total production capacity at 2026-technology levels (chip design and manufacturing process) So we have a rough 10M worker-years to 100M 2026-tech H100e/yr capacity mapping. Assuming the 2026-tech improves by around 1 OOM by 2032 and another OOM by 2036 (assuming total compute in the world improves roughly 50% due to technology improvements and 50% due to production scale), this implies the mapping will be 10M worker-years to 1B H100e/yr with 2032-tech and 10B with 2036-tech. So the 1M robots would take 1 year to build 100M H100e in 2032 and 1 month in 2036. We expect there to be serial bottlenecks that somewhat push these purely parallel estimates up, as well as potential startup problems and sabotage problems.": "Проєкт ШІ після занепаду угоди міг би спробувати використати роботів та/або людей для відбудови ланцюга постачання напівпровідників і збільшення своїх обчислювальних потужностей. Складність цього, ймовірно, ще більше зростає через потенційно агресивний саботаж таких зусиль у контексті після угоди. Тим не менш, приблизно 100 тис. звільнених військових роботів і, можливо, невелика частка цивільних роботів, наприклад, 0,1%, або близько 1 млн, можуть бути розібрані на корисні деталі після самознищення та/або мати обійдені засоби безпеки. Припустімо, що є флот приблизно з 1 млн роботів у люд.-еквіваленті, які можуть над цим працювати. У 2026 році в ланцюзі постачання напівпровідників зайнято близько 2 млн людей, і за останні 5 років вони побудували приблизно 100 млн H100e/рік загальних виробничих потужностей на рівні технологій 2026 року (дизайн чипів і виробничий процес). Тож маємо приблизне співвідношення 10 млн людино-років на 100 млн H100e/рік потужностей на технологіях 2026 року. Якщо припустити, що технології 2026 року покращаться приблизно на 1 порядок величини до 2032 року і ще на 1 порядок величини до 2036 року (припускаючи, що загальні обчислювальні потужності у світі покращуються приблизно на 50% за рахунок технологічних покращень і на 50% за рахунок масштабу виробництва), це означає, що співвідношення становитиме 10 млн людино-років на 1 млрд H100e/рік на технологіях 2032 року і 10 млрд на технологіях 2036 року. Тож 1 млн роботів витратили б 1 рік на побудову 100 млн H100e у 2032 році і 1 місяць у 2036 році. Ми очікуємо, що будуть послідовні вузькі місця, які дещо підвищать ці суто паралельні оцінки, а також потенційні проблеми запуску й саботажу.", "Second source of progress: Use existing compute for R&D.": "Друге джерело прогресу: використання наявних обчислювальних потужностей для R&D.", " The post-deal-dissolution AI project has transparent algorithms from the deal, cold-storage weights, and any consumer hardware that they are able to repurpose. Assuming they are the US and they use their cold-storage GPUs or they can get ~10% of world consumer hardware, then they have ~25x less compute relative to the default leading project in Jan 2030 (~5M H100e in US stockpile vs. ~130M in 2030 by default); so -1.3 OOMs. This 25x compute disadvantage means that at the same capability level they should go ~10x slower all else equal (": " Проєкт ШІ після розпуску угоди має прозорі алгоритми з угоди, ваги з холодного сховища й будь-яке споживче апаратне забезпечення, яке він здатен перепрофілювати. Якщо припустити, що це США і вони використовують свої GPU з холодного сховища або можуть отримати ~10% світового споживчого апаратного забезпечення, то в них ~у 25 разів менше обчислювальних потужностей відносно провідного проєкту за замовчуванням у січні 2030 року (~5 млн H100e у резерві США проти ~130 млн у 2030 році за замовчуванням); тобто -1,3 порядку величини. Ця 25-кратна нестача обчислювальних потужностей означає, що на тому самому рівні можливостей вони мали б рухатися приблизно у 10 разів повільніше за інших рівних умов (", "The post-deal-dissolution AI project has transparent algorithms from the deal, cold-storage weights, and any consumer hardware that they are able to repurpose. Assuming they are the US and they use their cold-storage GPUs or they can get ~10% of world consumer hardware, then they have ~25x less compute relative to the default leading project in Jan 2030 (~5M H100e in US stockpile vs. ~130M in 2030 by default); so -1.3 OOMs. This 25x compute disadvantage means that at the same capability level they should go ~10x slower all else equal (": "Проєкт ШІ після розпуску угоди має прозорі алгоритми з угоди, ваги з холодного сховища й будь-яке споживче апаратне забезпечення, яке він здатен перепрофілювати. Якщо припустити, що це США і вони використовують свої GPU з холодного сховища або можуть отримати ~10% світового споживчого апаратного забезпечення, то в них ~у 25 разів менше обчислювальних потужностей відносно провідного проєкту за замовчуванням у січні 2030 року (~5 млн H100e у резерві США проти ~130 млн у 2030 році за замовчуванням); тобто -1,3 порядку величини. Ця 25-кратна нестача обчислювальних потужностей означає, що на тому самому рівні можливостей вони мали б рухатися приблизно у 10 разів повільніше за інших рівних умов (", "assuming 10x less compute means ~5.5x slower": "якщо припустити, що у 10 разів менше обчислювальних потужностей означає ~у 5,5 раза повільніше", "However, all else is not equal: at least if the dissolution happens before the 2040 handoff in the Plan A scenario, the post-dissolution project has less efficient software/algorithms than the default project when they were at the same capability level. This is because in Plan A we deliberately make progress via a much higher ratio of training compute to software than the default. Because the software is worse, training efficiency is lower. On the other hand, there’s more remaining promising software ideas out there, so a given amount of ": "Однак не всі умови рівні: принаймні якщо розпуск станеться до передачі 2040 року в сценарії Плану А, проєкт після розпуску має менш ефективне програмне забезпечення/алгоритми, ніж проєкт за замовчуванням на тому самому рівні можливостей. Це тому, що в Плані А ми свідомо досягаємо прогресу через набагато вище співвідношення обчислювальних потужностей для навчання до програмного забезпечення, ніж за замовчуванням. Оскільки програмне забезпечення гірше, ефективність навчання нижча. З іншого боку, залишається більше перспективних ідей щодо програмного забезпечення, тож певний обсяг ", "However, all else is not equal: at least if the dissolution happens before the 2040 handoff in the Plan A scenario, the post-dissolution project has less efficient software/algorithms than the default project when they were at the same capability level. This is because in Plan A we deliberately make progress via a much higher ratio of training compute to software than the default. Because the software is worse, training efficiency is lower. On the other hand, there’s more remaining promising software ideas out there, so a given amount of": "Однак не всі умови рівні: принаймні якщо розпуск станеться до передачі 2040 року в сценарії Плану А, проєкт після розпуску має менш ефективне програмне забезпечення/алгоритми, ніж проєкт за замовчуванням на тому самому рівні можливостей. Це тому, що в Плані А ми свідомо досягаємо прогресу через набагато вище співвідношення обчислювальних потужностей для навчання до програмного забезпечення, ніж за замовчуванням. Оскільки програмне забезпечення гірше, ефективність навчання нижча. З іншого боку, залишається більше перспективних ідей щодо програмного забезпечення, тож певний обсяг", "research effort": "дослідницьких зусиль", " goes further.": " дає більше результату.", "goes further.": "дає більше результату.", "Meanwhile, the transparent algorithms from the deal can be split into ones that have been implemented, and ones that have been foregone to pay a ": "Тим часом прозорі алгоритми з угоди можна розділити на ті, що вже впроваджені, і ті, від яких відмовилися, щоб сплатити ", "Meanwhile, the transparent algorithms from the deal can be split into ones that have been implemented, and ones that have been foregone to pay a": "Тим часом прозорі алгоритми з угоди можна розділити на ті, що вже впроваджені, і ті, від яких відмовилися, щоб сплатити", ", which we recommend paying roughly 1 OOM of by TED-AI. The project would need to actually train some using these foregone algorithms, but they could probably quickly capture lots of the gains.": ", який ми рекомендуємо сплачувати в розмірі приблизно 1 порядку величини до TED-AI. Проєкту довелося б фактично провести навчання з використанням цих відкладених алгоритмів, але вони, ймовірно, змогли б швидко захопити значну частину вигод.", "Putting everything together.": "Поєднуючи все разом.", " If dissolution happens after pausing at TED-AI, let’s say in 2037: The TED-AI to ASI time under the default (no slowdown) Plan A trajectory is ~1.5 months. Naively applying the 10x slowdown due to lower training compute would give ~15 months. Taking into account the post-dissolution project having lower software results in a takeoff to ASI of ": " Якщо розпуск станеться після паузи на TED-AI, скажімо, у 2037 році: час від TED-AI до ASI за траєкторією Плану А за замовчуванням (без сповільнення) становить ~1,5 місяця. Наївне застосування 10-кратного сповільнення через менші обчислювальні потужності для навчання дало б ~15 місяців. Врахування того, що проєкт після розпуску має гірше програмне забезпечення, дає зліт до ASI за ", "If dissolution happens after pausing at TED-AI, let’s say in 2037: The TED-AI to ASI time under the default (no slowdown) Plan A trajectory is ~1.5 months. Naively applying the 10x slowdown due to lower training compute would give ~15 months. Taking into account the post-dissolution project having lower software results in a takeoff to ASI of": "Якщо розпуск станеться після паузи на TED-AI, скажімо, у 2037 році: час від TED-AI до ASI за траєкторією Плану А за замовчуванням (без сповільнення) становить ~1,5 місяця. Наївне застосування 10-кратного сповільнення через менші обчислювальні потужності для навчання дало б ~15 місяців. Врахування того, що проєкт після розпуску має гірше програмне забезпечення, дає зліт до ASI за", "~2.75 years": "~2,75 роки", " (and setting there to be no post-dissolution compute growth, which further slows things relative to the default trajectory). Enabling 1 OOM/year post-dissolution compute growth results in a takeoff of ": " (і за умови відсутності зростання обчислювальних потужностей після розпуску, що ще більше сповільнює процес відносно траєкторії за замовчуванням). Дозволивши зростання обчислювальних потужностей після розпуску на 1 порядок величини на рік, зліт становить ", "(and setting there to be no post-dissolution compute growth, which further slows things relative to the default trajectory). Enabling 1 OOM/year post-dissolution compute growth results in a takeoff of": "(і за умови відсутності зростання обчислювальних потужностей після розпуску, що ще більше сповільнює процес відносно траєкторії за замовчуванням). Дозволивши зростання обчислювальних потужностей після розпуску на 1 порядок величини на рік, зліт становить", "~1 year": "~1 рік", "Compute destruction slows post-dissolution takeoff from ~1 week to ~1 year": "Знищення обчислювальних потужностей сповільнює зліт після розпуску з ~1 тижня до ~1 року", "Within the deal (identical in both worlds)": "У межах угоди (однаково в обох світах)", "Dissolution — compute destroyed": "Розпуск — обчислювальні потужності знищені", "Dissolution — compute not destroyed": "Розпуск — обчислювальні потужності не знищені", "ASI": "ASI", "Deal dissolves": "Угода розпадається", "ASI ~1 week after dissolution": "ASI ~1 тиждень після розпуску", "ASI ~1 year": "ASI ~1 рік", "after dissolution": "після розпуску", "AI R&D uplift (vs. 2026)": "Приріст R&D ШІ (порівняно з 2026 роком)", "Trajectories:": "Траєкторії:", "compute destroyed": "обчислювальні потужності знищено", "no compute destroyed": "обчислювальні потужності не знищено", ". Compute destroyed parameters: leading company has ~7% of the pre-deal frontier (via hardened stockpiles), rebuilt at 1 OOM/yr. Note that uplift numbers don’t take into account Plan A capability shaping, which reduces AI R&D uplift at a fixed capability level.": ". Параметри «обчислювальні потужності знищено»: провідна компанія має ~7% передового рівня до угоди (через захищені резерви), відбудова темпом 1 порядок величини на рік. Зауважте, що цифри приросту не враховують формування можливостей у Плані А, яке знижує приріст R&D ШІ на фіксованому рівні можливостей.", "Now let’s consider dissolution happening in 2032, a bit below SAR. SAR to TED-AI takes ~0.3 years by default. Naively applying the 10x slowdown due to lower training compute would give a bit over 3 years. Accounting for lower software and let’s say 0.5 OOMs/year post-dissolution compute growth ": "Тепер розгляньмо розпуск, що стається у 2032 році, трохи нижче SAR. SAR до TED-AI за замовчуванням займає ~0,3 року. Наївне застосування 10-кратного сповільнення через менші обчислювальні потужності для навчання дало б трохи більше 3 років. З урахуванням гіршого програмного забезпечення і, скажімо, зростання обчислювальних потужностей на 0,5 порядку величини на рік після розпуску ", "Now let’s consider dissolution happening in 2032, a bit below SAR. SAR to TED-AI takes ~0.3 years by default. Naively applying the 10x slowdown due to lower training compute would give a bit over 3 years. Accounting for lower software and let’s say 0.5 OOMs/year post-dissolution compute growth": "Тепер розгляньмо розпуск, що стається у 2032 році, трохи нижче SAR. SAR до TED-AI за замовчуванням займає ~0,3 року. Наївне застосування 10-кратного сповільнення через менші обчислювальні потужності для навчання дало б трохи більше 3 років. З урахуванням гіршого програмного забезпечення і, скажімо, зростання обчислювальних потужностей на 0,5 порядку величини на рік після розпуску", "results in": "це дає", " achieving TED-AI after about 2 years.": " досягнення TED-AI приблизно за 2 роки.", "achieving TED-AI after about 2 years.": "досягнення TED-AI приблизно за 2 роки.", "Thanks to Dillon Nguyen for fact-checking Claude’s base rate analysis and helping create figures. Thanks to Thomas Larsen and Romeo Dean drafting the sections on post-dissolution compute destruction.": "Дякуємо Діллону Нгуєну за перевірку фактів у базовому аналізі ставок Клода та допомогу зі створенням графіків. Дякуємо Томасу Ларсену й Ромео Діну за написання розділів про знищення обчислювальних потужностей після розпуску.", "Appendix: Claude’s analysis of base rates": "Додаток: аналіз базових ставок від Клода", "Claude’s full base rate analysis is attached below for reasoning transparency. Dates and events were hand-verified. The text has been very mildly updated based on the issues found.": "Повний аналіз базових ставок від Клода додається нижче для прозорості міркувань. Дати й події перевірені вручну. Текст був дуже незначно оновлений на основі виявлених проблем.", "This tab holds the overall reasoning behind the outside-view, base-rate estimate of how likely the Plan A US–China slowdown deal is to dissolve or become impaired, year by year from its formation (~2029) through handoff (~2040). The treaty-by-treaty dataset and the per-treaty reasoning live in the ": "Ця вкладка містить загальне обґрунтування зовнішньої оцінки (outside-view) на основі базової ставки — наскільки ймовірно, що угода США–Китаю про сповільнення в рамках Плану А розпадеться або ослабне, рік за роком від її укладення (~2029) до передачі (~2040). Набір даних по кожному договору та обґрунтування по кожному договору містяться на ", "This tab holds the overall reasoning behind the outside-view, base-rate estimate of how likely the Plan A US–China slowdown deal is to dissolve or become impaired, year by year from its formation (~2029) through handoff (~2040). The treaty-by-treaty dataset and the per-treaty reasoning live in the": "Ця вкладка містить загальне обґрунтування зовнішньої оцінки (outside-view) на основі базової ставки — наскільки ймовірно, що угода США–Китаю про сповільнення в рамках Плану А розпадеться або ослабне, рік за роком від її укладення (~2029) до передачі (~2040). Набір даних по кожному договору та обґрунтування по кожному договору містяться на", "“Base rates” tab of the companion Deal": "вкладці «Base rates» супровідної таблиці Deal", "Decline": "Decline", "spreadsheet": "spreadsheet", "; this tab explains the method, the reference-class choices, the central finding, and how I adjusted from raw base rates to a Plan-A-specific year-by-year hazard. Drafted by Claude (Opus 4.8), 2026-06-29. Historical dates and fates were web-verified, but the synthesis into year-by-year numbers is a first-pass draft and a judgment call.": "; ця вкладка пояснює метод, вибір референтних класів, головний висновок і те, як я скоригував сирі базові ставки до річного показника ризику, специфічного для Плану А. Складено Клодом (Opus 4.8), 2026-06-29. Історичні дати й результати перевірені через вебпошук, але синтез у річні цифри — це чорновий, попередній варіант і питання суб'єктивної оцінки.", "The approach is the standard “outside view”: rather than reasoning from Plan A’s specifics, I assembled ~31 past international agreements that resemble it, recorded how long each lasted before it was first impaired and before it dissolved, and converted the pooled experience into annual hazard rates. I use the same two outcome categories as the supplement—DISSOLUTION (formally terminated, withdrawn-from, or collapsed) and IMPAIRMENT (substantially less effective without formal dissolution: non-enforcement, tolerated violations, suspension, or weakening revision)—and I track three things separately that analysts often blur: time-to-first-impairment, time-to-dissolution, and the failure mode (who broke it and why), because Plan A’s design bears very differently on each. I assign each agreement a numeric applicability weight (0–3: 3 = rival great-power capability deal, the closest analogue; ~1.5–2 = informative analogue; ~1 = broad multilateral convention; ~0.25–0.5 = low-defection-incentive or toothless), then compute the base rate as a weighted hazard—Σ(weight × events) / Σ(weight × years-at-risk)—separately for dissolution and impairment. The weights, the per-treaty inputs, and the live formulas all sit in the spreadsheet (Parts 1–2), so the aggregation is fully transparent and editable: change a weight and the base rate recomputes. A pooled hazard is still crude—it treats 1922 naval cheating and a 2023 treaty suspension as draws from one urn—so I report it alongside an unweighted version, a closest-analogues-only version, and—most importantly—a version that lets the hazard vary by PHASE (years since the deal started, Part 2b), then adjust for Plan A’s specifics.": "Підхід — стандартна «зовнішня оцінка»: замість міркувань від специфіки Плану А я зібрав ~31 минулу міжнародну угоду, схожу на нього, зафіксував, скільки часу минуло до першого ослаблення кожної та до її розпуску, і перетворив сукупний досвід на річні показники ризику. Я використовую ті самі дві категорії результату, що й у додатку — РОЗПУСК (формально припинена, з якої вийшли або яка розвалилась) та ОСЛАБЛЕННЯ (суттєво менш ефективна без формального розпуску: незастосування, толеровані порушення, призупинення чи послаблюючий перегляд) — і окремо відстежую три речі, які аналітики часто змішують: час до першого ослаблення, час до розпуску та режим провалу (хто порушив і чому), бо конструкція Плану А по-різному впливає на кожен з них. Я присвоюю кожній угоді числову вагу застосовності (0–3: 3 = угода між суперниками-великими державами щодо можливостей, найближчий аналог; ~1,5–2 = інформативний аналог; ~1 = широка багатостороння конвенція; ~0,25–0,5 = слабкий стимул до порушення або беззуба угода), а потім обчислюю базову ставку як зважений показник ризику — Σ(вага × події) / Σ(вага × роки експозиції) — окремо для розпуску та ослаблення. Ваги, вхідні дані по кожному договору та живі формули — усе це в таблиці (частини 1–2), тож агрегація повністю прозора й редагована: зміни вагу — і базова ставка перераховується. Сукупний показник ризику все одно грубий — він трактує морське шахрайство 1922 року і призупинення договору 2023 року як витяги з однієї урни — тому я наводжу його поряд із незваженою версією, версією лише за найближчими аналогами і — що найважливіше — версією, що дозволяє показнику ризику змінюватися за ФАЗОЮ (роки з початку дії угоди, частина 2b), а потім коригується під специфіку Плану А.", "I grouped the agreements into three tiers by similarity to Plan A. MOST APPLICABLE: rival great-power deals that cap a decisive military/strategic technology under strong incentives to defect—the interwar naval treaties (Washington/London), the bilateral US–USSR/Russia strategic arms-control treaties (ABM, SALT, INF, START, New START, Open Skies), and the two “rivals’-deal” nonproliferation bargains (JCPOA, the US–DPRK Agreed Framework)—plus the IR alliance-termination literature, the closest thing to a quantitative base rate for how long deals between rivals last (mean alliance life ~9–10 years pre-1945; ~1/3 violated when tested). MODERATELY APPLICABLE: broad multilateral nonproliferation/verification conventions (NPT, CWC, BWC, CTBT), useful mainly for what they reveal about verification and as the optimistic bound; and the dual-use export-control regimes (Wassenaar/MTCR/NSG), the closest analogue to controlling AI chips and chronically leaky by design. LEAST APPLICABLE but informative: durable low-incentive conventions (Outer Space, Tlatelolco, PTBT) and the toothless climate accords (Kyoto, Paris), which bracket the extremes—near-permanent when nobody wants to defect, near-useless when nothing is binding. The single closest historical analogue is the Washington/London naval system: peer rivals capping a decisive military technology, both tempted to defect, with self-declaration verification. It ran ~13–14 years before Japan walked out, and was cheated on throughout.": "Я розподілив угоди на три рівні за схожістю з Планом А. НАЙБІЛЬШ ЗАСТОСОВНІ: угоди між суперниками-великими державами, що обмежують вирішальну військову/стратегічну технологію за сильних стимулів до порушення — міжвоєнні морські договори (Вашингтонський/Лондонський), двосторонні договори США–СРСР/Росія про контроль над стратегічними озброєннями (ABM, SALT, INF, START, New START, Open Skies) та дві «угоди суперників» про нерозповсюдження (JCPOA, Рамкова угода США–КНДР) — плюс література з міжнародних відносин про припинення альянсів, найближче до кількісної базової ставки того, скільки живуть угоди між суперниками (середня тривалість альянсу ~9–10 років до 1945 р.; ~1/3 порушувалися під час перевірки). ПОМІРНО ЗАСТОСОВНІ: широкі багатосторонні конвенції про нерозповсюдження/верифікацію (NPT, CWC, BWC, CTBT), корисні головним чином тим, що показують про верифікацію, і як оптимістична межа; та режими контролю експорту подвійного призначення (Wassenaar/MTCR/NSG), найближчий аналог контролю над ШІ-чипами, хронічно дірявий за задумом. НАЙМЕНШ ЗАСТОСОВНІ, але інформативні: тривкі конвенції зі слабким стимулом до порушення (Договір про космос, Тлателолко, PTBT) та беззубі кліматичні угоди (Кіото, Париж), що окреслюють крайнощі — майже вічні, коли ніхто не хоче порушувати, і майже марні, коли ніщо не є зобов'язальним. Найближчий історичний аналог — Вашингтонська/Лондонська морська система: рівні за силою суперники обмежують вирішальну військову технологію, обидва спокушені порушити її, з верифікацією через самодекларування. Вона протрималась ~13–14 років до виходу Японії і порушувалась увесь цей час.", "Two patterns dominate the data and drive the whole estimate.": "Дві закономірності домінують у даних і визначають всю оцінку.", "First, verification strength is the cleanest predictor of how long a deal lasts unimpaired-by-cheating. Strongly verified regimes (INF, START I, New START, Open Skies, NPT/IAEA, CWC/OPCW) went roughly 8–35 years before significant impairment, versus 0–4 years for weakly verified ones—a real but less clean separation than it first appears, because dating impairment to violation onset rather than detection shortens the verified deals’ records (INF’s violative testing began ~2008, six years before the US formal charge; Open Skies restrictions began in 2010). Verification detected cheating eventually, but with meaningful latency, and detection did not by itself reverse the violation. The one clean reversal in the dataset is the Montreal Protocol, where cheap atmospheric monitoring caught illicit CFC-11 production within years and enforcement restored compliance—the deal never became substantially less effective and is coded as unimpaired. Weakly or un-verified regimes (the naval treaties, the Anglo-German agreement, OPEC quotas, the whaling moratorium, and above all the BWC—which had no verification and was violated on a massive scale by the USSR for its entire early life) were impaired almost immediately, within 0–4 years. This is the strongest structural reason for optimism about Plan A: its verification regime is unusually strong by historical standards and is explicitly designed to make cheating detectable and auto-punishable.": "По-перше, сила верифікації — найчистіший предиктор того, як довго угода протримається без ослаблення через обман. Режими з сильною верифікацією (INF, START I, New START, Open Skies, NPT/МАГАТЕ, CWC/OPCW) протрималися приблизно 8–35 років до суттєвого ослаблення, проти 0–4 років для слабко верифікованих — реальна, але не така чітка різниця, як здається на перший погляд, бо датування ослаблення за початком порушення, а не за виявленням, скорочує «стаж» верифікованих угод (порушувальні випробування INF почалися ~2008 р., за шість років до офіційного звинувачення з боку США; обмеження Open Skies почалися 2010 р.). Верифікація зрештою виявляла обман, але з помітною затримкою, і саме виявлення не скасовувало порушення. Єдиний чіткий приклад повернення — Монреальський протокол, де дешевий атмосферний моніторинг спіймав нелегальне виробництво CFC-11 упродовж кількох років, і виконання відновило дотримання — угода так і не стала суттєво менш ефективною і зафіксована як неослаблена. Слабко верифіковані або неверифіковані режими (морські договори, англо-німецька угода, квоти ОПЕК, мораторій на китобійний промисел і, понад усе, BWC — яка не мала верифікації і масово порушувалась СРСР упродовж усього свого раннього існування) ослаблювалися майже одразу, за 0–4 роки. Це найсильніша структурна причина для оптимізму щодо Плану А: його режим верифікації незвично сильний за історичними мірками і спеціально розроблений так, щоб робити обман детектованим і автоматично каральним.", "Second, and crucially: strong verification does essentially nothing to prevent death by political withdrawal. The ABM Treaty (30 years), INF (31 years), Open Skies (~19 years), and the JCPOA (2.3 years) all died because a government decided to exit, not because verification failed. The JCPOA is the sharpest warning—the best verification regime ever negotiated was discarded in ~2 years by a change of US administration. So verification protects against the impairment-by-cheating failure mode, but offers little protection against the dissolution-by-regime-change / change-of-heart / geopolitical-shock failure mode, which the alliance literature (Leeds & Savun 2007) identifies as the dominant driver of premature termination. This is why I keep the dissolution hazard meaningfully above zero even though Plan A’s verification is excellent.": "По-друге, і критично важливо: сильна верифікація практично нічого не робить для запобігання загибелі через політичний вихід. Договір ABM (30 років), INF (31 рік), Open Skies (~19 років) і JCPOA (2,3 роки) — усі загинули тому, що уряд вирішив вийти, а не тому, що верифікація дала збій. JCPOA — найгостріше попередження: найкращий колись узгоджений режим верифікації був відкинутий за ~2 роки через зміну адміністрації США. Тож верифікація захищає від режиму провалу «ослаблення через обман», але майже не захищає від режиму провалу «розпуск через зміну влади / зміну настроїв / геополітичний шок», який література про альянси (Leeds & Savun 2007) визначає як домінантний рушій передчасного припинення. Саме тому я тримаю показник ризику розпуску помітно вищим за нуль, навіть попри те, що верифікація в Плані А чудова.", "Pushing the hazard UP relative to a generic high-salience treaty: (1) It is a rival deal over the single most decisive technology imaginable, so it belongs to the harsh ~7–12%/yr naval/rival/alliance class, not the benign ~0%/yr convention class. (2) It is an executive agreement, not a ratified treaty—the scenario says so explicitly, citing New START (2010) as the last significant ratified US treaty. Every deal in the dataset that one administration could exit unilaterally (ABM, INF, Open Skies, JCPOA) was exitable precisely because exit didn’t require undoing a ratified commitment. (3) The stakes and the rate of technological change are both unprecedented, which compresses the “first major shock” that historically kills these deals—and the prize for defecting grows as capabilities approach handoff. (4) US elections in 2032 and 2036 and the Chinese leadership succession around 2033 (Xi turns 80) are scheduled regime-change risks, exactly the events Leeds & Savun find spike the termination hazard. (5) The scenario stipulates unusually competent US execution.": "Що штовхає показник ризику ВГОРУ відносно типового високопрофільного договору: (1) Це угода між суперниками щодо єдиної найвирішальнішої технології з можливих, тож вона належить до жорсткого класу морських/суперницьких/альянсних угод (~7–12%/рік), а не до безпечного класу конвенцій (~0%/рік). (2) Це виконавча угода, а не ратифікований договір — сценарій прямо про це каже, наводячи New START (2010) як останній значний ратифікований договір США. Кожна угода в наборі даних, яку одна адміністрація могла в односторонньому порядку розірвати (ABM, INF, Open Skies, JCPOA), була вразливою до виходу саме тому, що вихід не вимагав скасування ратифікованого зобов'язання. (3) Ставки й темп технологічних змін безпрецедентні одночасно, що стискає час до «першого великого шоку», який історично вбиває такі угоди — а приз за порушення зростає з наближенням можливостей до передачі. (4) Вибори у США в 2032 та 2036 роках і передача влади в китайському керівництві близько 2033 року (Сі виповнюється 80) — заплановані ризики зміни влади, саме такі події, які, за Leeds & Savun, різко підвищують показник ризику припинення. (5) Сценарій передбачає незвично компетентне виконання з боку США.", "Pushing the hazard DOWN: (1) Unusually strong verification plus automatic enforcement (offline licensing, cryptographic shutoff of compute on exit) pushes the impairment-by-cheating component toward the INF/New-START low end (~2–4%/yr) rather than the naval-treaty high end. (2) An unusually strong SHARED interest: unlike a pure capability race, both sides genuinely fear loss of control and extinction. This is closer to MAD-stabilized nuclear restraint (which held for decades) than to a zero-sum arms race, and it is the best structural reason Plan A might beat its reference class—though it has no clean historical precedent.": "Що штовхає показник ризику ВНИЗ: (1) Незвично сильна верифікація в поєднанні з автоматичним примусом (офлайн-ліцензування, криптографічне відключення обчислень при виході) зсуває компонент «ослаблення через обман» до нижньої межі рівня INF/New START (~2–4%/рік), а не до верхньої межі рівня морських договорів. (2) Незвично сильний СПІЛЬНИЙ інтерес: на відміну від чистої гонки можливостей, обидві сторони по-справжньому бояться втрати контролю та вимирання. Це ближче до стабілізованої взаємним стримуванням ядерної стриманості (яка протрималась десятиліттями), ніж до гри з нульовою сумою, і це найкраща структурна причина, чому План А може перевершити свій референтний клас — хоча й без чіткого історичного прецеденту.", "Net: I anchor on the rival-deal class (~7%/yr dissolution) but discount the dissolution rate somewhat (to ~4–7%/yr depending on the year) for the shared-survival interest and competent execution, and hold the impairment-by-cheating component low (~2.5–5%/yr) because of strong verification—while keeping impairment nonzero for non-enforcement, misexecution, and weakening revision, none of which verification prevents.": "Підсумок: я орієнтуюся на клас угод між суперниками (~7%/рік розпуску), але дещо знижую ставку розпуску (до ~4–7%/рік залежно від року) через спільний інтерес у виживанні й компетентне виконання, і тримаю компонент «ослаблення через обман» низьким (~2,5–5%/рік) завдяки сильній верифікації — водночас тримаючи ослаблення ненульовим через незастосування, неналежне виконання і послаблюючий перегляд, від яких верифікація не захищає.", "The pooled weighted base rate (all ages together) is 3.4%/yr for dissolution and 7.9%/yr for impairment (unweighted 1.8% / 4.8%; closest-analogues-only subset 6.6% / 8.3%). But the more useful object is the base rate BY PHASE (Part 2b), because the historical hazard depends strongly on how long a deal has already survived. DISSOLUTION is hump-shaped, not front-loaded: 0% in years 0–2 (no deal in the dataset formally dissolved within two years), rising to a peak of ~5–6%/yr at years 5–10, then declining to ~2%/yr for deals that survive past 20 years—rival deals take a few years to die. IMPAIRMENT is strongly front-loaded: ~15.5%/yr in years 0–2, falling to ~9%/yr (years 2–5) and ~6%/yr (years 5–10), with a late bump (~6%/yr at years 10–20, from the New START suspension and Syria/CWC). Across the full dataset impairment is more common than formal dissolution—many regimes get hollowed out rather than killed. Feeding the phase curve into the deal timeline, the pure base rate implies ~79% cumulative chance of some breakdown by 2040 (~39% dissolution, ~65% impairment). These are the “Base-rate” columns in Part 3; my “Adjusted” columns overlay the Plan-A-specific reasoning below, yielding ~62% cumulative breakdown (~43% dissolution, ~33% impairment).": "Сукупна зважена базова ставка (усі віки разом) становить 3,4%/рік для розпуску і 7,9%/рік для ослаблення (незважена — 1,8% / 4,8%; підмножина лише найближчих аналогів — 6,6% / 8,3%). Але корисніший об'єкт — базова ставка ЗА ФАЗОЮ (частина 2b), бо історичний показник ризику сильно залежить від того, скільки угода вже протрималась. РОЗПУСК має форму горба, а не спадає одразу: 0% у роки 0–2 (жодна угода в наборі даних формально не розпалась протягом двох років), зростання до піку ~5–6%/рік у роки 5–10, потім спад до ~2%/рік для угод, що пережили 20 років — угоди між суперниками помирають не одразу. ОСЛАБЛЕННЯ сильно зміщене на ранній період: ~15,5%/рік у роки 0–2, спад до ~9%/рік (роки 2–5) і ~6%/рік (роки 5–10), з пізнім сплеском (~6%/рік у роки 10–20, через призупинення New START і Сирію/CWC). У всьому наборі даних ослаблення трапляється частіше за формальний розпуск — багато режимів радше вихолощуються, ніж гинуть. Якщо накласти криву за фазою на часову шкалу угоди, чиста базова ставка дає ~79% сукупного шансу якогось зриву до 2040 року (~39% розпуск, ~65% ослаблення). Це колонки «Base-rate» у частині 3; мої колонки «Adjusted» накладають наведене нижче обґрунтування, специфічне для Плану А, даючи ~62% сукупного зриву (~43% розпуск, ~33% ослаблення).", "My adjusted shape departs from the base rate in two deliberate ways. First, I lift EARLY dissolution above the base rate’s 0%: the historical 0% in years 0–2 is partly survivorship (deals that collapse during negotiation never enter an “entered-into-force” dataset), whereas Plan A’s setup is genuinely fragile, so I use ~5%/yr in 2029–30. Second, I cut impairment far below the base rate throughout (≈2.5–5% vs the base’s 15.5%→3%), because Plan A’s strong verification specifically suppresses the cheating-driven and born-impaired failures that dominate the historical impairment record. On top of that I add discrete dissolution spikes at the scheduled regime-change events (US elections 2032/2036, Chinese succession ~2033), and I keep the late-2030s hazard from decaying to near-zero because the prize for defecting grows as handoff and aligned superintelligence approach.": "Моя скоригована форма відхиляється від базової ставки двома свідомими способами. По-перше, я піднімаю РАННІЙ розпуск вище за 0% з базової ставки: історичний 0% у роки 0–2 частково є артефактом виживання вибірки (угоди, що розвалюються під час переговорів, ніколи не потрапляють у набір даних «набула чинності»), тоді як конструкція Плану А по-справжньому крихка, тому я використовую ~5%/рік у 2029–30 рр. По-друге, я знижую ослаблення значно нижче за базову ставку впродовж усього періоду (≈2,5–5% проти базових 15,5%→3%), бо сильна верифікація Плану А спеціально пригнічує спричинені обманом та «вроджені» провали, що домінують в історичному записі ослаблення. Додатково я закладаю дискретні сплески розпуску на запланованих подіях зміни влади (вибори США 2032/2036, передача влади в Китаї ~2033), і не даю показнику ризику кінця 2030-х спадати майже до нуля, бо приз за порушення зростає з наближенням передачі й узгодженого суперінтелекту.", "My adjusted estimate (~62% cumulative breakdown, ~43% cumulative dissolution by 2040) is more pessimistic than the inside-view ": "Моя скоригована оцінка (~62% сукупного зриву, ~43% сукупного розпуску до 2040 року) песимістичніша за внутрішню оцінку з ", "My adjusted estimate (~62% cumulative breakdown, ~43% cumulative dissolution by 2040) is more pessimistic than the inside-view": "Моя скоригована оцінка (~62% сукупного зриву, ~43% сукупного розпуску до 2040 року) песимістичніша за внутрішню оцінку з", "“Overall deal decline probability view” tab": "вкладки «Overall deal decline probability view»", " (Eli’s ~48% cumulative), and the pure unadjusted base rate is harsher still (~79% breakdown). I think that gap is real and informative: base rates for rival deals over decisive technologies are harsh, and the inside view may be under-weighting how reliably this reference class fails. On the components: the weighted dissolution base rate (3.4%/yr) sits just above the “0.5–3%/yr” generic-high-salience-treaty anchor in the spreadsheet note, while the impairment base rate (7.9%/yr) is far higher—because the most applicable reference class is rival capability deals (naval treaties, JCPOA, Agreed Framework, alliances), not high-salience treaties in general, and because the dominant historical killer—political withdrawal—is not neutralized by Plan A’s verification, however strong.": " (~48% сукупно за Елі), а чиста нескоригована базова ставка ще жорсткіша (~79% зриву). Я вважаю, що цей розрив реальний і показовий: базові ставки для угод між суперниками щодо вирішальних технологій жорсткі, і внутрішня оцінка, можливо, недооцінює, наскільки надійно провалюється цей референтний клас. Щодо компонентів: зважена базова ставка розпуску (3,4%/рік) лежить трохи вище орієнтира «0,5–3%/рік» для типового високопрофільного договору з примітки в таблиці, тоді як базова ставка ослаблення (7,9%/рік) значно вища — бо найбільш застосовний референтний клас це угоди між суперниками щодо можливостей (морські договори, JCPOA, Рамкова угода, альянси), а не високопрофільні договори загалом, і бо домінантний історичний вбивця — політичний вихід — не нейтралізується верифікацією Плану А, хай якою сильною.", "(Eli’s ~48% cumulative), and the pure unadjusted base rate is harsher still (~79% breakdown). I think that gap is real and informative: base rates for rival deals over decisive technologies are harsh, and the inside view may be under-weighting how reliably this reference class fails. On the components: the weighted dissolution base rate (3.4%/yr) sits just above the “0.5–3%/yr” generic-high-salience-treaty anchor in the spreadsheet note, while the impairment base rate (7.9%/yr) is far higher—because the most applicable reference class is rival capability deals (naval treaties, JCPOA, Agreed Framework, alliances), not high-salience treaties in general, and because the dominant historical killer—political withdrawal—is not neutralized by Plan A’s verification, however strong.": "(~48% сукупно за Елі), а чиста нескоригована базова ставка ще жорсткіша (~79% зриву). Я вважаю, що цей розрив реальний і показовий: базові ставки для угод між суперниками щодо вирішальних технологій жорсткі, і внутрішня оцінка, можливо, недооцінює, наскільки надійно провалюється цей референтний клас. Щодо компонентів: зважена базова ставка розпуску (3,4%/рік) лежить трохи вище орієнтира «0,5–3%/рік» для типового високопрофільного договору з примітки в таблиці, тоді як базова ставка ослаблення (7,9%/рік) значно вища — бо найбільш застосовний референтний клас це угоди між суперниками щодо можливостей (морські договори, JCPOA, Рамкова угода, альянси), а не високопрофільні договори загалом, і бо домінантний історичний вбивця — політичний вихід — не нейтралізується верифікацією Плану А, хай якою сильною.", "Main caveats. (1) Pooled hazard rates hide enormous heterogeneity; the “right” number depends heavily on how much weight you put on the shared-survival-interest stabilizer, which has no clean precedent. (2) N is small and the rival-deal subclass is dominated by a handful of cases. (3) The outside and inside views should NOT simply be averaged—they partly double-count (regime change appears both as the base-rate driver here and as an explicit sub-cause in the decomposition tab). (4) I have treated benign endings (planned expiry, supersession by a stronger successor—SALT I, START I, SORT) as non-failures; counting them as dissolutions would push the dissolution rate higher. (5) Two structural features of Plan A genuinely lack good historical analogues—automatic compute-destruction-on-exit, and a genuinely shared existential interest—and both could justify materially lower numbers than the raw base rate if you believe they bind.": "Головні застереження. (1) Сукупні показники ризику приховують величезну неоднорідність; «правильне» число сильно залежить від того, яку вагу ви надаєте стабілізатору спільного інтересу у виживанні, який не має чіткого прецеденту. (2) N невелике, і підклас угод між суперниками домінується жменькою випадків. (3) Зовнішню й внутрішню оцінки НЕ слід просто усереднювати — вони частково дублюють одна одну (зміна влади фігурує і як рушій базової ставки тут, і як явна підпричина у вкладці декомпозиції). (4) Я трактував доброзичливі завершення (заплановане закінчення терміну дії, заміну сильнішим наступником — SALT I, START I, SORT) як не-провали; врахування їх як розпусків підняло б ставку розпуску вище. (5) Дві структурні особливості Плану А справді не мають гарних історичних аналогів — автоматичне знищення обчислювальних потужностей при виході й по-справжньому спільний екзистенційний інтерес — і обидві могли б обґрунтувати суттєво нижчі цифри порівняно з сирою базовою ставкою, якщо вірити, що вони діють.", "Where the detail lives: the 31-agreement dataset (per-treaty reasoning in column O), the live weighted-hazard computation (Part 2), the IR-literature anchors, and the full year-by-year base-rate-vs-adjusted table (Part 3) are all in the “Base rates” tab of the Deal Decline spreadsheet. Each treaty row records signed/in-force years, verification strength, a numeric applicability weight (column G, the input to the base-rate formula), exposure years, dissolved/impaired flags, years-lasted-unimpaired, years-to-dissolution, the dominant failure mode, reasoning, and sources.": "Де знаходяться деталі: набір даних із 31 угоди (обґрунтування по кожному договору в колонці O), живе обчислення зваженого показника ризику (частина 2), якорі з літератури з міжнародних відносин і повна погодова таблиця базової ставки проти скоригованої (частина 3) — все це у вкладці «Base rates» таблиці Deal Decline. Кожен рядок договору фіксує роки підписання/набуття чинності, силу верифікації, числову вагу застосовності (колонка G, вхідні дані для формули базової ставки), роки експозиції, прапорці розпущено/ослаблено, роки без ослаблення, роки до розпуску, домінантний режим провалу, обґрунтування й джерела.", "The phase/step base rate (Part 2b) is noisy with only 31 agreements, so I also fit smooth parametric survival curves to the treaty-level data by weighted, right-censored maximum likelihood (Part 2c), comparing exponential, Weibull, log-logistic, and lognormal by AIC. LOGNORMAL fits best for both outcomes (dissolution AIC 301.8; impairment AIC 275.4) and reproduces the shapes the step rates show. The fitted dissolution hazard rises from ~0.2%/yr at age 0.5 to a ~4.4%/yr plateau by years 8–11—a hump, confirming dissolution is not front-loaded—while the fitted impairment hazard decays smoothly from ~17%/yr at age 0.5 to ~5.6%/yr by age 11.5 (front-loaded). Weibull is a reasonable simpler alternative (impairment k=0.71, a monotonically decreasing hazard; dissolution k=1.1, near-flat) but it cannot produce a hump, so it underfits dissolution; log-logistic is in between. The fitted per-year hazards live in Part 3 columns L–M, next to the step base rate; over 2029–2040 they imply ~34% cumulative dissolution and ~69% cumulative impairment—close to the step-function figures (39% / 65%), which is reassuring. Caveat: with N=31 and heavy weighting toward a handful of rival deals, the fitted curves are best read as smoothed summaries of a small sample, not precise estimates—the parameters in Part 2c are editable if you want to stress-test them.": "Погодова/ступінчаста базова ставка (частина 2b) зашумлена лише з 31 угодою, тому я також підганяю плавні параметричні криві виживання до даних на рівні договорів за допомогою зваженого, право-цензурованого методу максимальної правдоподібності (частина 2c), порівнюючи експоненційний, Вейбулла, логістично-логарифмічний і логнормальний розподіли за AIC. ЛОГНОРМАЛЬНИЙ розподіл найкраще підходить для обох результатів (AIC розпуску 301,8; AIC ослаблення 275,4) і відтворює форми, які показують ступінчасті ставки. Підігнаний показник ризику розпуску зростає з ~0,2%/рік у віці 0,5 до плато ~4,4%/рік у роки 8–11 — горб, що підтверджує, що розпуск не зміщений на ранній період — тоді як підігнаний показник ризику ослаблення плавно спадає з ~17%/рік у віці 0,5 до ~5,6%/рік у віці 11,5 (зміщений на ранній період). Розподіл Вейбулла — прийнятна простіша альтернатива (ослаблення k=0,71, монотонно спадний показник ризику; розпуск k=1,1, майже плаский), але він не може відтворити горб, тому недооцінює розпуск; логістично-логарифмічний розподіл посередині. Підігнані річні показники ризику наведені в частині 3, колонки L–M, поряд зі ступінчастою базовою ставкою; за 2029–2040 роки вони дають ~34% кумулятивного розпуску й ~69% кумулятивного ослаблення — близько до цифр ступінчастої функції (39% / 65%), що заспокоює. Застереження: з N=31 і сильним зважуванням на користь жменьки угод між суперниками, підігнані криві найкраще розглядати як згладжені підсумки малої вибірки, а не точні оцінки — параметри в частині 2c редаговані, якщо ви хочете їх стрес-тестувати.", "Though these failures could be mostly downstream of deal decline.": "Хоча ці провали могли б переважно бути наслідком занепаду угоди.", "Perhaps a bloc of countries besides the US and China could also suffice.": "Можливо, блоку країн, окрім США і Китаю, також було б достатньо.", "Or a CCP power transition. Or, less likely, a civil war.": "Або перехід влади в КПК. Або, менш імовірно, громадянська війна.", "After 16 years, the hazard rate decays to 95% of its previous value each year.": "Після 16 років показник ризику спадає до 95% свого попереднього значення щороку.", "Technically, we mean not destroyable absent extreme escalation (e.g. nuclear war), which is unlikely for the normal reason of MAD.": "Технічно ми маємо на увазі не знищувані за відсутності екстремальної ескалації (наприклад, ядерної війни), що малоймовірно з тієї ж звичайної причини — MAD (взаємно гарантоване знищення).", "Another downside is that if the weights are preserved, it makes deal dissolution less unattractive.": "Ще один недолік у тому, що якщо ваги збережено, це робить розпуск угоди менш непривабливим.", "This is under the assumption that for each 10x increase in compute, the intelligence explosion occurs 5x faster. This is our median guess, which we discuss more in our covert projects supplement here.": "Це припущення, що при кожному 10-кратному збільшенні обчислювальних потужностей вибух інтелекту відбувається у 5 разів швидше. Це наша медіанна оцінка, яку ми докладніше обговорюємо в нашому додатку про таємні проєкти тут.", "Core arguments for explosive growth": "Головні аргументи на користь вибухового зростання", "Why we disagree with mainstream economists": "Чому ми не погоджуємося з мейнстримними економістами", "Acemoglu": "Acemoglu", "Jones": "Jones", "Bottlenecks and other arguments": "Вузькі місця та інші аргументи", "The simple explorer": "Простий дослідник", "The full economic model": "Повна економічна модель", "AI 2040 Plan A Scenario": "Сценарій Плану А AI 2040", "Plan A assumptions": "Припущення Плану А", "Plan A economic outcomes": "Економічні наслідки Плану А", "AI 2040 Default World": "Світ за замовчуванням AI 2040", "We project that AIs will, at some point in the next 15 years, be capable of automating all human labor: both physical and cognitive.": "Ми прогнозуємо, що ШІ в якийсь момент упродовж наступних 15 років будуть здатні автоматизувати всю людську працю: як фізичну, так і когнітивну.", " We believe that this will have extraordinary economic impacts, causing output to grow explosively at a historically unprecedented rate (barring an AI-caused catastrophe). Most of our view comes from simple arguments about the future of AI. However, over the course of our thinking, we also found it useful to make a detailed economic model. This document is organized into the following sections:": " Ми вважаємо, що це матиме надзвичайний економічний вплив, спричинивши вибухове зростання випуску безпрецедентними в історії темпами (якщо не станеться катастрофа, спричинена ШІ). Більшість нашого погляду ґрунтується на простих аргументах щодо майбутнього ШІ. Однак у процесі наших міркувань ми також визнали корисним побудувати детальну економічну модель. Цей документ організований у такі розділи:", "We believe that this will have extraordinary economic impacts, causing output to grow explosively at a historically unprecedented rate (barring an AI-caused catastrophe). Most of our view comes from simple arguments about the future of AI. However, over the course of our thinking, we also found it useful to make a detailed economic model. This document is organized into the following sections:": "Ми вважаємо, що це матиме надзвичайний економічний вплив, спричинивши вибухове зростання випуску безпрецедентними в історії темпами (якщо не станеться катастрофа, спричинена ШІ). Більшість нашого погляду ґрунтується на простих аргументах щодо майбутнього ШІ. Однак у процесі наших міркувань ми також визнали корисним побудувати детальну економічну модель. Цей документ організований у такі розділи:", "Core arguments behind our views on explosive growth from AI (": "Головні аргументи, що лежать в основі наших поглядів на вибухове зростання від ШІ (", "link": "посилання", "Why we disagree with mainstream economists (": "Чому ми не погоджуємося з мейнстримними економістами (", "A simple two-factor explorer that shows the core dynamics (": "Простий двофакторний дослідник, що показує основну динаміку (", "A summary of the outputs from our full economic model in the context of Plan A (": "Підсумок результатів нашої повної економічної моделі в контексті Плану А (", "The core disagreement between us and most economists is our different expectations for AI capabilities. We believe that AIs will be able to fully automate all economically relevant work (in a median of ~6 years), while most economists believe that AIs will behave more like normal technology. We’ve already made ": "Головна розбіжність між нами й більшістю економістів полягає в наших різних очікуваннях щодо можливостей ШІ. Ми вважаємо, що ШІ зможуть повністю автоматизувати всю економічно значущу роботу (у медіані приблизно за ~6 років), тоді як більшість економістів вважають, що ШІ поводитиметься радше як звичайна технологія. Ми вже наводили ", "The core disagreement between us and most economists is our different expectations for AI capabilities. We believe that AIs will be able to fully automate all economically relevant work (in a median of ~6 years), while most economists believe that AIs will behave more like normal technology. We’ve already made": "Головна розбіжність між нами й більшістю економістів полягає в наших різних очікуваннях щодо можливостей ШІ. Ми вважаємо, що ШІ зможуть повністю автоматизувати всю економічно значущу роботу (у медіані приблизно за ~6 років), тоді як більшість економістів вважають, що ШІ поводитиметься радше як звичайна технологія. Ми вже наводили", "many arguments about AGI timelines elsewhere": "багато аргументів про часові горизонти AGI в інших місцях", ", so this post centrally argues for why, ": ", тож цей допис зосереджено обґрунтовує, чому, ", ", so this post centrally argues for why,": ", тож цей допис зосереджено обґрунтовує, чому,", "conditional on AI that can automate all economically relevant tasks": "за умови ШІ, здатного автоматизувати всі економічно значущі завдання", ", we expect unprecedented explosive economic growth.": ", ми очікуємо безпрецедентне вибухове економічне зростання.", "Right now, the size of the economy is closely tied to human labor, so if the population were to grow massively, this would cause nearly proportional growth in total output.": "Наразі розмір економіки тісно пов'язаний із людською працею, тож якби населення зросло масово, це спричинило б майже пропорційне зростання загального випуску.", " Once AIs can perfectly substitute for human labor, increasing the number of AIs would have the same effect as increasing human population. At least if you exclude tasks that are intrinsically human, but we don’t expect these to be a large share of the economically relevant tasks. For example, human-preference driven tasks the AI can’t substitute for like ‘human babysitting’ should not preclude an AI and robot-only economy from growing in a closed loop (bounded only by ": " Коли ШІ зможуть ідеально замінювати людську працю, збільшення кількості ШІ мало б той самий ефект, що й збільшення населення людей. Принаймні якщо виключити завдання, які за своєю природою людські, але ми не очікуємо, що вони становитимуть велику частку економічно значущих завдань. Наприклад, керовані людськими уподобаннями завдання, які ШІ не може замінити, як-от «людський догляд за дітьми», не мають перешкоджати зростанню економіки, що складається лише з ШІ та роботів, у замкненому циклі (обмеженому лише ", "Once AIs can perfectly substitute for human labor, increasing the number of AIs would have the same effect as increasing human population. At least if you exclude tasks that are intrinsically human, but we don’t expect these to be a large share of the economically relevant tasks. For example, human-preference driven tasks the AI can’t substitute for like ‘human babysitting’ should not preclude an AI and robot-only economy from growing in a closed loop (bounded only by": "Коли ШІ зможуть ідеально замінювати людську працю, збільшення кількості ШІ мало б той самий ефект, що й збільшення населення людей. Принаймні якщо виключити завдання, які за своєю природою людські, але ми не очікуємо, що вони становитимуть велику частку економічно значущих завдань. Наприклад, керовані людськими уподобаннями завдання, які ШІ не може замінити, як-от «людський догляд за дітьми», не мають перешкоджати зростанню економіки, що складається лише з ШІ та роботів, у замкненому циклі (обмеженому лише", "bottlenecks that we expect to not bite strongly": "вузькими місцями, які, як ми очікуємо, не завдадуть сильного удару", "In fact, this undersells the likely effects because in reality, AIs won’t just be increasing in population, but also in qualitative ability leading to outputs that wouldn’t have been feasible to produce with humans. This is because, shortly after being able to substitute for human labor, AIs will become qualitatively superhuman. However, improvements to intelligence are harder to model quantitatively than increases in population, ": "Насправді це применшує ймовірні ефекти, тому що в реальності ШІ будуть зростати не лише кількісно, а й якісно за здатностями, що приведе до результатів, які було б неможливо отримати людьми. Це тому, що невдовзі після того, як ШІ зможуть замінювати людську працю, вони стануть якісно надлюдськими. Однак покращення інтелекту складніше моделювати кількісно, ніж зростання населення, ", "In fact, this undersells the likely effects because in reality, AIs won’t just be increasing in population, but also in qualitative ability leading to outputs that wouldn’t have been feasible to produce with humans. This is because, shortly after being able to substitute for human labor, AIs will become qualitatively superhuman. However, improvements to intelligence are harder to model quantitatively than increases in population,": "Насправді це применшує ймовірні ефекти, тому що в реальності ШІ будуть зростати не лише кількісно, а й якісно за здатностями, що приведе до результатів, які було б неможливо отримати людьми. Це тому, що невдовзі після того, як ШІ зможуть замінювати людську працю, вони стануть якісно надлюдськими. Однак покращення інтелекту складніше моделювати кількісно, ніж зростання населення,", "so we’ll settle for establishing a population-based lower bound by ignoring qualitative improvements.": "тож ми задовольнимося встановленням нижньої межі на основі населення, ігноруючи якісні покращення.", "So how fast will the “population” of AIs and robots be growing at the point of full automation?": "Тож наскільки швидко зростатиме «населення» ШІ й роботів у момент повної автоматизації?", " We need to do separate analyses here for physical and cognitive labor, because the underlying dynamics driving the growth rates are quite different.": " Нам потрібно провести окремі аналізи для фізичної та когнітивної праці, оскільки базова динаміка, що визначає темпи зростання, доволі різна.", "We need to do separate analyses here for physical and cognitive labor, because the underlying dynamics driving the growth rates are quite different.": "Нам потрібно провести окремі аналізи для фізичної та когнітивної праці, оскільки базова динаміка, що визначає темпи зростання, доволі різна.", "Cognitive Labor: a doubling time of roughly 50 days.": "Когнітивна праця: час подвоєння приблизно 50 днів.", " The total cognitive labor from AI depends on total inference compute and the compute efficiency of the AIs.": " Загальна когнітивна праця від ШІ залежить від загальних обчислювальних потужностей для інференсу та обчислювальної ефективності ШІ.", "The total cognitive labor from AI depends on total inference compute and the compute efficiency of the AIs.": "Загальна когнітивна праця від ШІ залежить від загальних обчислювальних потужностей для інференсу та обчислювальної ефективності ШІ.", " The simplest way of making a baseline guess here is to look at historical rates for each of these.": " Найпростіший спосіб зробити базову оцінку тут — подивитися на історичні темпи для кожного з цих факторів.", "The simplest way of making a baseline guess here is to look at historical rates for each of these.": "Найпростіший спосіб зробити базову оцінку тут — подивитися на історичні темпи для кожного з цих факторів.", "Total AI inference compute: 3.3x/year, 7 month doubling time.": "Загальні обчислювальні потужності ШІ для інференсу: 3,3х/рік, час подвоєння 7 місяців.", " that the total compute in the world has been doubling every 7 months. In the future, we think there are reasons for this to slow down (it’s already requiring ": ", що загальні обчислювальні потужності у світі подвоюються кожні 7 місяців. У майбутньому, на нашу думку, є причини для цього сповільнитися (це вже вимагає ", "that the total compute in the world has been doubling every 7 months. In the future, we think there are reasons for this to slow down (it’s already requiring": ", що загальні обчислювальні потужності у світі подвоюються кожні 7 місяців. У майбутньому, на нашу думку, є причини для цього сповільнитися (це вже вимагає", "2-3% of": "2-3% ", "GDP investment in the US": "інвестицій у ВВП США", ", so doubling a few more times seems hard), but also reasons for it to speed up at the point of full automation (e.g., future AIs automating chip R&D, and robots automating the AI chip supply chain).": ", тож подвоєння ще кілька разів здається складним), але також є причини для пришвидшення в момент повної автоматизації (наприклад, майбутні ШІ автоматизують R&D чипів, а роботи автоматизують ланцюг постачання чипів для ШІ).", "Compute efficiency on achieved capabilities: 30x/year, 2.5 month doubling time.": "Обчислювальна ефективність за досягнутими можливостями: 30х/рік, час подвоєння 2,5 місяця.", " that the price of a given level of AI capability decreases by an average of 40x/yr (which is equivalent to halving every 2.2 months). Assuming ": " що ціна заданого рівня можливостей ШІ знижується в середньому у 40 разів на рік (що еквівалентно зниженню вдвічі кожні 2,2 місяця). Якщо припустити, що ", "that the price of a given level of AI capability decreases by an average of 40x/yr (which is equivalent to halving every 2.2 months). Assuming": "що ціна заданого рівня можливостей ШІ знижується в середньому у 40 разів на рік (що еквівалентно зниженню вдвічі кожні 2,2 місяця). Якщо припустити, що", "hardware price performance": "продуктивність апаратного забезпечення на одиницю ціни", " has been improving 1.4x/yr and margins have been flat, this gives a trend of 30x/year improvement in compute efficiency. When the cost of AI inference halves, this is at least as economically beneficial as the population of AIs doubling, because we can run twice as many AIs.": " покращувалась у 1,4 раза на рік, а маржа залишалася сталою, це дає тренд покращення обчислювальної ефективності у 30 разів на рік. Коли вартість інференсу ШІ знижується вдвічі, це щонайменше настільки ж економічно вигідно, як подвоєння популяції ШІ, оскільки ми можемо запустити вдвічі більше ШІ.", "has been improving 1.4x/yr and margins have been flat, this gives a trend of 30x/year improvement in compute efficiency. When the cost of AI inference halves, this is at least as economically beneficial as the population of AIs doubling, because we can run twice as many AIs.": "покращувалась у 1,4 раза на рік, а маржа залишалася сталою, це дає тренд покращення обчислювальної ефективності у 30 разів на рік. Коли вартість інференсу ШІ знижується вдвічі, це щонайменше настільки ж економічно вигідно, як подвоєння популяції ШІ, оскільки ми можемо запустити вдвічі більше ШІ.", "Putting these together, this means that the population of AIs today at a fixed capability level could increase at a rate of 100x/year, which is a 55 day doubling time.": "Об'єднавши це разом, це означає, що популяція ШІ сьогодні на фіксованому рівні можливостей могла б зростати темпом у 100 разів на рік, що дає час подвоєння 55 днів.", "Physical Labor: a doubling time of a few days to a year.": "Фізична праця: час подвоєння від кількох днів до року.", " For physical labor, we can reason directly about the number of robots in the world. At the moment, ": " Для фізичної праці ми можемо міркувати безпосередньо про кількість роботів у світі. Наразі, за даними ", "For physical labor, we can reason directly about the number of robots in the world. At the moment,": "Для фізичної праці ми можемо міркувати безпосередньо про кількість роботів у світі. Наразі, за даними", "Epoch finds": "Epoch", " that the number of robots is dominated by wheeled robots, drones and robotic arms, and these are not scaling very quickly.\n": ", кількість роботів домінується колісними роботами, дронами й роботизованими маніпуляторами, і вони не масштабуються дуже швидко.\n", "that the number of robots is dominated by wheeled robots, drones and robotic arms, and these are not scaling very quickly.": ", кількість роботів домінується колісними роботами, дронами й роботизованими маніпуляторами, і вони не масштабуються дуже швидко.", "Right now, these robots are not capable of performing all tasks in the robot manufacturing process (including mining raw materials, transportation, and every step of the supply chain). However, once robots reach this capability threshold then there’s a clear reason to expect exponential growth in the number of robots: the rate of new robot construction will be approximately proportional to the number of robots in existence (barring raw material bottlenecks that we address below). But how fast of an exponential? We walk through our reasoning below, and also have a review of the doubling-times literature in ": "Наразі ці роботи не здатні виконувати всі завдання у процесі виробництва роботів (включно з видобутком сировини, транспортуванням і кожним етапом ланцюга постачання). Однак, щойно роботи досягнуть цього порогу можливостей, з'явиться чітка причина очікувати експоненційне зростання кількості роботів: темп будівництва нових роботів буде приблизно пропорційним кількості наявних роботів (за відсутності вузьких місць з сировиною, які ми розглядаємо нижче). Але наскільки швидка ця експонента? Ми викладаємо наші міркування нижче, а також маємо огляд літератури про часи подвоєння в ", "Right now, these robots are not capable of performing all tasks in the robot manufacturing process (including mining raw materials, transportation, and every step of the supply chain). However, once robots reach this capability threshold then there’s a clear reason to expect exponential growth in the number of robots: the rate of new robot construction will be approximately proportional to the number of robots in existence (barring raw material bottlenecks that we address below). But how fast of an exponential? We walk through our reasoning below, and also have a review of the doubling-times literature in": "Наразі ці роботи не здатні виконувати всі завдання у процесі виробництва роботів (включно з видобутком сировини, транспортуванням і кожним етапом ланцюга постачання). Однак, щойно роботи досягнуть цього порогу можливостей, з'явиться чітка причина очікувати експоненційне зростання кількості роботів: темп будівництва нових роботів буде приблизно пропорційним кількості наявних роботів (за відсутності вузьких місць з сировиною, які ми розглядаємо нижче). Але наскільки швидка ця експонента? Ми викладаємо наші міркування нижче, а також маємо огляд літератури про часи подвоєння в", "Appendix A": "Додатку A", "Why wouldn’t robots plateau like other products?": "Чому роботи не вийдуть на плато, як інші продукти?", " Right now, robots and AI compute are both doubling faster than once per year. On its own this is not strong evidence of anything: many new products grow this fast at first, and then plateau once they saturate their addressable market. We expect robots to be different, because once AI and robots can perform every task in their own supply chain, the two things that normally end fast growth stop applying:": " Наразі роботи й обчислювальні потужності ШІ обидва подвоюються швидше, ніж раз на рік. Саме по собі це не є вагомим доказом чогось: багато нових продуктів зростають так швидко спочатку, а потім виходять на плато, коли насичують свій адресний ринок. Ми очікуємо, що роботи будуть іншими, бо щойно ШІ й роботи зможуть виконувати кожне завдання у власному ланцюзі постачання, дві речі, що зазвичай припиняють швидке зростання, перестають діяти:", "Right now, robots and AI compute are both doubling faster than once per year. On its own this is not strong evidence of anything: many new products grow this fast at first, and then plateau once they saturate their addressable market. We expect robots to be different, because once AI and robots can perform every task in their own supply chain, the two things that normally end fast growth stop applying:": "Наразі роботи й обчислювальні потужності ШІ обидва подвоюються швидше, ніж раз на рік. Саме по собі це не є вагомим доказом чогось: багато нових продуктів зростають так швидко спочатку, а потім виходять на плато, коли насичують свій адресний ринок. Ми очікуємо, що роботи будуть іншими, бо щойно ШІ й роботи зможуть виконувати кожне завдання у власному ланцюзі постачання, дві речі, що зазвичай припиняють швидке зростання, перестають діяти:", "No demand ceiling.": "Немає стелі попиту.", " Robots and AIs are productive assets, not consumer goods. As long as an extra robot produces more value than it costs to build, there is an incentive to keep building them, past the point where the robot population exceeds the human population and far beyond it.": " Роботи й ШІ — це продуктивні активи, а не споживчі товари. Поки додатковий робот виробляє більше цінності, ніж коштує його побудова, є стимул продовжувати їх будувати, і далі за той момент, коли популяція роботів перевищить популяцію людей, і значно далі.", "Robots and AIs are productive assets, not consumer goods. As long as an extra robot produces more value than it costs to build, there is an incentive to keep building them, past the point where the robot population exceeds the human population and far beyond it.": "Роботи й ШІ — це продуктивні активи, а не споживчі товари. Поки додатковий робот виробляє більше цінності, ніж коштує його побудова, є стимул продовжувати їх будувати, і далі за той момент, коли популяція роботів перевищить популяцію людей, і значно далі.", "No human bottleneck on supply.": "Немає людського вузького місця в постачанні.", " Today’s production growth is partly borrowed from human labor (factory workers, miners, truck drivers, engineers). At full automation the robot economy doesn’t need humans to buy anything, build anything, or deliver ingredients to its factories, so the size of the human population stops being a constraint on how big it can get.": " Сьогоднішнє зростання виробництва частково запозичене в людської праці (робітники заводів, шахтарі, водії вантажівок, інженери). За повної автоматизації економіці роботів не потрібні люди, щоб щось купувати, будувати чи доставляти інгредієнти на свої заводи, тож розмір людської популяції перестає бути обмеженням того, наскільки великою вона може стати.", "Today’s production growth is partly borrowed from human labor (factory workers, miners, truck drivers, engineers). At full automation the robot economy doesn’t need humans to buy anything, build anything, or deliver ingredients to its factories, so the size of the human population stops being a constraint on how big it can get.": "Сьогоднішнє зростання виробництва частково запозичене в людської праці (робітники заводів, шахтарі, водії вантажівок, інженери). За повної автоматизації економіці роботів не потрібні люди, щоб щось купувати, будувати чи доставляти інгредієнти на свої заводи, тож розмір людської популяції перестає бути обмеженням того, наскільки великою вона може стати.", "The ceiling that does eventually bind is physical resources: surface area for solar panels, minerals in the earth’s crust to mine. But by our estimates those bottlenecks bite very late, after many orders of magnitude of growth (see the ": "Стеля, яка все ж зрештою настає, — це фізичні ресурси: площа поверхні для сонячних панелей, мінерали в земній корі для видобутку. Але, за нашими оцінками, ці вузькі місця дають про себе знати дуже пізно, після багатьох порядків величини зростання (див. ", "The ceiling that does eventually bind is physical resources: surface area for solar panels, minerals in the earth’s crust to mine. But by our estimates those bottlenecks bite very late, after many orders of magnitude of growth (see the": "Стеля, яка все ж зрештою настає, — це фізичні ресурси: площа поверхні для сонячних панелей, мінерали в земній корі для видобутку. Але, за нашими оцінками, ці вузькі місця дають про себе знати дуже пізно, після багатьох порядків величини зростання (див.", "bottlenecks section below": "розділ про вузькі місця нижче", "That leaves the question of the growth rate in between. A reasonable worry is that today’s doubling rates are inflated by human help, and that growth slows once the robot economy has to do essentially everything itself. We don’t think this changes the bottom line: analyses of what a fully automated economy could achieve with current technology and no further improvement, e.g. ": "Залишається питання темпу зростання посередині. Обґрунтоване занепокоєння в тому, що сьогоднішні темпи подвоєння завищені завдяки людській допомозі, і що зростання сповільниться, щойно економіці роботів доведеться робити практично все самій. Ми не думаємо, що це змінює головний висновок: аналізи того, чого могла б досягти повністю автоматизована економіка за нинішньої технології й без подальших покращень, наприклад ", "That leaves the question of the growth rate in between. A reasonable worry is that today’s doubling rates are inflated by human help, and that growth slows once the robot economy has to do essentially everything itself. We don’t think this changes the bottom line: analyses of what a fully automated economy could achieve with current technology and no further improvement, e.g.": "Залишається питання темпу зростання посередині. Обґрунтоване занепокоєння в тому, що сьогоднішні темпи подвоєння завищені завдяки людській допомозі, і що зростання сповільниться, щойно економіці роботів доведеться робити практично все самій. Ми не думаємо, що це змінює головний висновок: аналізи того, чого могла б досягти повністю автоматизована економіка за нинішньої технології й без подальших покращень, наприклад", "Binder’s von Neumann growth rate calculation": "розрахунок темпу зростання фон Неймана від Binder", " from US input-output tables, capital stocks, and depreciation data, land at around one doubling per year, conservatively. An intuition pump: a modern car factory produces roughly ": " на основі таблиць витрати-випуск США, основного капіталу й даних про амортизацію, дають приблизно одне подвоєння на рік, консервативно. Інтуїтивний приклад: сучасний автомобільний завод виробляє приблизно ", "from US input-output tables, capital stocks, and depreciation data, land at around one doubling per year, conservatively. An intuition pump: a modern car factory produces roughly": "на основі таблиць витрати-випуск США, основного капіталу й даних про амортизацію, дають приблизно одне подвоєння на рік, консервативно. Інтуїтивний приклад: сучасний автомобільний завод виробляє приблизно", "its own weight in cars every year": "власну вагу в автомобілях щороку", ". And a year is likely an underestimate of the long-run pace, because superhuman AI R&D should keep improving robot designs, and biology shows much faster replication is physically possible (e.g., animals like rabbits can double their population in 6 weeks, bacteria in hours). This is why we quote doubling times between a few days and a year, with the fast end becoming more plausible over time.": ". І рік, ймовірно, є заниженою оцінкою довгострокового темпу, оскільки надлюдський R&D ШІ мав би постійно покращувати дизайн роботів, а біологія показує, що фізично можливе набагато швидше розмноження (наприклад, тварини, як-от кролі, можуть подвоювати свою популяцію за 6 тижнів, бактерії — за години). Саме тому ми наводимо часи подвоєння від кількох днів до року, причому швидший край стає більш правдоподібним із часом.", "Overall, our argument can be summarized as:": "Загалом наш аргумент можна підсумувати так:", "AI and robots will be capable of fully automating all economically relevant tasks.": "ШІ й роботи будуть здатні повністю автоматизувати всі економічно значущі завдання.", "Therefore, the AI-robot economy will be capable of autonomously self-replicating (building more efficient AIs, building more robots, building more GPUs, etc.).": "Отже, економіка ШІ-роботів буде здатна до автономного саморозмноження (побудова ефективніших ШІ, побудова більшої кількості роботів, побудова більшої кількості GPU тощо).", "The replication rate will be fast: around one doubling per year even with current technology and no human help, and rising over time as AI R&D improves robot designs.": "Темп реплікації буде швидким: приблизно одне подвоєння на рік навіть за нинішніх технологій і без допомоги людини, і він зростатиме з часом, оскільки AI R&D вдосконалюватиме конструкції роботів.", "Therefore, the AI-robot economy will undergo rapid exponential growth, with a doubling time of a year at the slow end and plausibly months or days, until physical resource limits bite (very late, on our estimates).": "Тому економіка ШІ-роботів проходитиме через швидке експоненційне зростання з часом подвоєння в рік у повільному варіанті і, ймовірно, місяці або дні — доки не дадуться взнаки фізичні обмеження ресурсів (за нашими оцінками, дуже пізно).", "Even if the true growth rate is much slower than this baseline predicts in the future, the effective AI population seems very likely to rapidly outgrow the total number of humans. Once AIs dominate the number of humans, if their population is (conservatively) increasing at 2x per year, this would involve ~100%/yr growth, whereas ": "Навіть якщо реальний темп зростання в майбутньому буде значно повільнішим, ніж передбачає цей базовий сценарій, ефективна популяція ШІ, судячи з усього, дуже ймовірно швидко перевершить загальну кількість людей. Щойно ШІ переважатимуть людей за чисельністю, якщо їхня популяція (за консервативною оцінкою) зростатиме у 2 рази на рік, це означатиме зростання приблизно на 100%/рік, тоді як ", "Even if the true growth rate is much slower than this baseline predicts in the future, the effective AI population seems very likely to rapidly outgrow the total number of humans. Once AIs dominate the number of humans, if their population is (conservatively) increasing at 2x per year, this would involve ~100%/yr growth, whereas": "Навіть якщо реальний темп зростання в майбутньому буде значно повільнішим, ніж передбачає цей базовий сценарій, ефективна популяція ШІ, судячи з усього, дуже ймовірно швидко перевершить загальну кількість людей. Щойно ШІ переважатимуть людей за чисельністю, якщо їхня популяція (за консервативною оцінкою) зростатиме у 2 рази на рік, це означатиме зростання приблизно на 100%/рік, тоді як", "current growth": "поточне зростання", " is ~3%/yr.": " становить приблизно 3%/рік.", "is ~3%/yr.": "становить приблизно 3%/рік.", "Most mainstream economists are skeptical of explosive economic growth from AI. Even conditional on a “rapid AI progress scenario”, ": "Більшість економістів мейнстриму скептично ставляться до вибухового економічного зростання від ШІ. Навіть за умови «сценарію швидкого прогресу ШІ» ", "Most mainstream economists are skeptical of explosive economic growth from AI. Even conditional on a “rapid AI progress scenario”,": "Більшість економістів мейнстриму скептично ставляться до вибухового економічного зростання від ШІ. Навіть за умови «сценарію швидкого прогресу ШІ»", "economists predicted": "економісти прогнозували", " an average of 3.5%/yr GDP growth between 2030 and 2050.": " у середньому зростання ВВП на 3,5%/рік у період з 2030 по 2050 рік.", "an average of 3.5%/yr GDP growth between 2030 and 2050.": "у середньому зростання ВВП на 3,5%/рік у період з 2030 по 2050 рік.", "One core disagreement between us and mainstream economists tends to be about how capable AIs will be. We believe that AI's ability to do tasks in the economy will look something like the red curve below absent strong regulations. This reflects AI dominating humans at all tasks and achieving 100% automation around 2031 (top expert dominating milestone), which is close to the authors' median expectations. We find that economists tend to have much lower expectations for automation in the coming decades.": "Одна з ключових розбіжностей між нами і економістами мейнстриму зазвичай стосується того, наскільки здатними будуть ШІ. Ми вважаємо, що здатність ШІ виконувати завдання в економіці без жорсткого регулювання виглядатиме приблизно як червона крива нижче. Це відображає домінування ШІ над людьми в усіх завданнях і досягнення 100% автоматизації приблизно у 2031 році (віха домінування над найкращими експертами), що близько до медіанних очікувань авторів. Ми бачимо, що економісти зазвичай мають значно нижчі очікування щодо автоматизації в найближчі десятиліття.", "Share automatable": "Частка автоматизовних завдань", "AI 2040 Plan A": "AI 2040 План А", "Acemoglu: ~5% “cost-effectively automatable” ": "Acemoglu: ~5% «економічно доцільно автоматизовне» ", "Acemoglu: ~5% “cost-effectively automatable”": "Acemoglu: ~5% «економічно доцільно автоматизовне»", "Goldman Sachs: ~25% “substitutable” ": "Goldman Sachs: ~25% «замінне» ", "Goldman Sachs: ~25% “substitutable”": "Goldman Sachs: ~25% «замінне»", "Note: Acemoglu and Goldman Sachs projections are not necessarily directly comparable, as their definitions for \"cost-effectively automatable\" and \"substitutable\" may diverge somewhat from our automatable definition.": "Примітка: прогнози Acemoglu та Goldman Sachs не обов'язково безпосередньо порівнянні, оскільки їхні визначення «економічно доцільно автоматизовного» та «замінного» можуть дещо відрізнятися від нашого визначення автоматизовного.", "Automatable tasks: AI 2040 scenarios vs prior forecasts": "Автоматизовні завдання: сценарії AI 2040 проти попередніх прогнозів", "In Plan A, strong regulations (coordinated internationally) are sufficient to slow this down, but still lead to ~99% automation in the late 2030s, as regulation only preserves critical AI oversight jobs (where humans are still significantly uplifted by AI). We believe that AI's capabilities will be so high that lower automation levels (e.g., due to wanting to preserve more human jobs) will be extremely uncompetitive (and thus be quickly competed away), with preferences for human-to-human interactions being (1) supplemented by more leisure, and (2) insufficient to push human wages high enough relative to the citizen's dividend to attract much labor.": "У Плані А жорстке регулювання (скоординоване на міжнародному рівні) достатнє, щоб сповільнити цей процес, але все одно призводить приблизно до 99% автоматизації в кінці 2030-х, оскільки регулювання зберігає лише критично важливі робочі місця з нагляду за ШІ (де людей усе ще суттєво підсилює ШІ). Ми вважаємо, що можливості ШІ будуть настільки високими, що нижчі рівні автоматизації (наприклад, через бажання зберегти більше робочих місць для людей) виявляться вкрай неконкурентоспроможними (а отже, швидко витісненими), а перевага людино-людської взаємодії буде (1) компенсуватися більшим дозвіллям і (2) недостатньою, щоб підняти людську зарплату відносно дивіденду громадянина настільки, щоб залучити значну кількість праці.", "Acemoglu (2024): too few tasks automated by AI": "Acemoglu (2024): занадто мало завдань автоматизовано ШІ", "Acemoglu (2024)": "Acemoglu (2024)", " (also ": " (також ", "(also": "(також", "critiqued here": "розкритиковано тут", " by Leopold Aschenbrenner) assumes only ~5% of tasks in the next 10 years will be cost-effectively automatable by AI. Acemoglu’s overall estimate was that AI would increase GDP by 0.9% over the next 10 years (which is approximately a 0.08% increase in GDP annually). We think Acemoglu’s view from 2024 is already close to falsified based on current AI investment and AI revenue numbers.": " Леопольдом Ашенбреннером) припускає, що лише приблизно 5% завдань за наступні 10 років будуть економічно доцільно автоматизовні за допомогою ШІ. Загальна оцінка Acemoglu полягала в тому, що ШІ підвищить ВВП на 0,9% за наступні 10 років (це приблизно 0,08% приросту ВВП щорічно). Ми вважаємо, що погляд Acemoglu з 2024 року вже майже спростований, судячи з поточних показників інвестицій у ШІ та доходів від ШІ.", "by Leopold Aschenbrenner) assumes only ~5% of tasks in the next 10 years will be cost-effectively automatable by AI. Acemoglu’s overall estimate was that AI would increase GDP by 0.9% over the next 10 years (which is approximately a 0.08% increase in GDP annually). We think Acemoglu’s view from 2024 is already close to falsified based on current AI investment and AI revenue numbers.": "Леопольдом Ашенбреннером) припускає, що лише приблизно 5% завдань за наступні 10 років будуть економічно доцільно автоматизовні за допомогою ШІ. Загальна оцінка Acemoglu полягала в тому, що ШІ підвищить ВВП на 0,9% за наступні 10 років (це приблизно 0,08% приросту ВВП щорічно). Ми вважаємо, що погляд Acemoglu з 2024 року вже майже спростований, судячи з поточних показників інвестицій у ШІ та доходів від ШІ.", "Early evidence against Acemoglu (2024)": "Ранні свідчення проти Acemoglu (2024)", "AI investment contributed around 1% to GDP growth in the first half of 2025 alone (": "Лише за першу половину 2025 року інвестиції у ШІ додали приблизно 1% до зростання ВВП (", "JP Morgan": "JP Morgan", "EY": "EY", "), whereas Acemoglu predicted .9% growth over the course of 10 years.": "), тоді як Acemoglu прогнозував 0,9% зростання за 10 років.", "Even at the scale of AI revenues, over the course of the last six months, Anthropic’s revenue run rate alone has ": "Навіть у масштабах доходів від ШІ, лише за останні шість місяців річний темп доходу Anthropic ", "Even at the scale of AI revenues, over the course of the last six months, Anthropic’s revenue run rate alone has": "Навіть у масштабах доходів від ШІ, лише за останні шість місяців річний темп доходу Anthropic", "increased by $38B": "зріс на $38 млрд", " from $9B to $47B. We think this will plausibly beat the rate of increased growth per year (0.08% of US GDP) of ~$30B that Acemoglu predicted for the entire AI industry. Note: Anthropic's contribution to GDP is difficult to disentangle, but should count employee compensation + operating surplus + depreciation costs, which we think is on track to be above $30B this year.": " — з $9 млрд до $47 млрд. Ми вважаємо, що це цілком може перевершити темп приросту зростання за рік (0,08% ВВП США) у ~$30 млрд, який Acemoglu прогнозував для всієї індустрії ШІ. Примітка: внесок Anthropic у ВВП важко відокремити, але він має включати компенсацію працівникам + операційний прибуток + витрати на амортизацію, і, на нашу думку, цього року він, ймовірно, перевищить $30 млрд.", "from $9B to $47B. We think this will plausibly beat the rate of increased growth per year (0.08% of US GDP) of ~$30B that Acemoglu predicted for the entire AI industry. Note: Anthropic's contribution to GDP is difficult to disentangle, but should count employee compensation + operating surplus + depreciation costs, which we think is on track to be above $30B this year.": "— з $9 млрд до $47 млрд. Ми вважаємо, що це цілком може перевершити темп приросту зростання за рік (0,08% ВВП США) у ~$30 млрд, який Acemoglu прогнозував для всієї індустрії ШІ. Примітка: внесок Anthropic у ВВП важко відокремити, але він має включати компенсацію працівникам + операційний прибуток + витрати на амортизацію, і, на нашу думку, цього року він, ймовірно, перевищить $30 млрд.", "The only ways Acemoglu’s predictions will hold up are if (1) AI revenue and investment growth essentially stops, or (2) AI investment and revenues are not counterfactual (the spending and revenue would’ve happened elsewhere anyway). Both seem unlikely.": "Прогнози Acemoglu справдяться лише за умови, що (1) зростання доходів та інвестицій у ШІ по суті зупиниться, або (2) інвестиції та доходи від ШІ не є контрфактичними (тобто ці витрати й доходи все одно відбулися б деінде). Обидва варіанти видаються малоймовірними.", "Jones & Tonetti (2026): slow AI automation of R&D": "Jones & Tonetti (2026): повільна автоматизація R&D за допомогою ШІ", "Jones & Tonetti (2026)": "Jones & Tonetti (2026)", "Past Automation and Future A.I.: How Weak Links Tame the Growth Explosion": "Past Automation and Future A.I.: How Weak Links Tame the Growth Explosion", " features an elegant growth model combining capital and labor. They grant that capital may eventually automate every task, but their argument is that because tasks are strong complements (they assume an elasticity of substitution ": " представляє елегантну модель зростання, що поєднує капітал і працю. Автори визнають, що капітал зрештою може автоматизувати всі завдання, але їхній аргумент полягає в тому, що через сильну взаємодоповнюваність завдань (вони припускають еластичність заміщення ", "features an elegant growth model combining capital and labor. They grant that capital may eventually automate every task, but their argument is that because tasks are strong complements (they assume an elasticity of substitution": "представляє елегантну модель зростання, що поєднує капітал і працю. Автори визнають, що капітал зрештою може автоматизувати всі завдання, але їхній аргумент полягає в тому, що через сильну взаємодоповнюваність завдань (вони припускають еластичність заміщення", "\\sigma = 0.2": "\\sigma = 0.2", "), the shrinking set of tasks machines cannot yet do becomes a 'weak link' whose cost share rises (": "), скорочувана множина завдань, які машини ще не можуть виконувати, стає «слабкою ланкою», частка вартості якої зростає (", "Baumol's cost disease": "хвороба витрат Баумоля", ") and strongly bottlenecks growth. Our biggest disagreement with this model is that we think the R&D automation loop is very conservative, with the model assuming:": ") і суттєво стримує зростання. Наша головна розбіжність із цією моделлю полягає в тому, що, на нашу думку, цикл автоматизації R&D у ній надто консервативний, оскільки модель припускає:", "Fixed R&D investment and research productivity.": "Фіксовані інвестиції в R&D та продуктивність досліджень.", " In the Jones model R&D works through \"ideas accumulation\" with capital productivity ": " У моделі Джонса R&D працює через «накопичення ідей», де продуктивність капіталу ", "In the Jones model R&D works through \"ideas accumulation\" with capital productivity": "У моделі Джонса R&D працює через «накопичення ідей», де продуктивність капіталу", "\\psi_{ki}": "\\psi_{ki}", "ki": "ki", " changing with a fixed \"idea elasticity of capital\" ": " змінюється з фіксованою «еластичністю ідей за капіталом» ", "changing with a fixed \"idea elasticity of capital\"": "змінюється з фіксованою «еластичністю ідей за капіталом»", "\\theta_k": "\\theta_k", ", a fixed \"research productivity\" ": ", фіксованою «продуктивністю досліджень» ", ", a fixed \"research productivity\"": ", фіксованою «продуктивністю досліджень»", "\\bar q": "\\bar q", ", and a fixed share ": ", і фіксованою часткою ", ", and a fixed share": ", і фіксованою часткою", "\\bar\\iota_R": "\\bar\\iota_R", " of output ": " випуску ", "of output": "випуску", " being invested in R&D (with diminishing returns per ": ", що інвестується в R&D (зі спадною віддачею через ", "being invested in R&D (with diminishing returns per": ", що інвестується в R&D (зі спадною віддачею через", "ideas getting harder to find": "ідеї стає дедалі складніше знаходити", "\\begin{aligned}\n\\frac{\\dot\\psi_{ki}}{\\psi_{ki}} &= \\theta_k \\frac{\\bar q\\,\\bar\\iota_R\\,Y}{Q^{\\,1-\\phi}},\\qquad \\\\\n\\end{aligned}": "\\begin{aligned}\n\\frac{\\dot\\psi_{ki}}{\\psi_{ki}} &= \\theta_k \\frac{\\bar q\\,\\bar\\iota_R\\,Y}{Q^{\\,1-\\phi}},\\qquad \\\\\n\\end{aligned}", "We think this formulation systematically underestimates the effect that AI will have on R&D, because AI will be able to automate R&D labor (particularly AI R&D itself), so ideas and productivity growth should track some notion of total R&D effort accounting for this AI uplift.": "Ми вважаємо, що це формулювання систематично недооцінює вплив, який ШІ матиме на R&D, оскільки ШІ зможе автоматизувати працю в R&D (зокрема й сам AI R&D), тож зростання ідей і продуктивності має відображати певне поняття сумарних зусиль R&D з урахуванням цього підсилення від ШІ.", " We think the AI field will have its own feedback loop of R&D automation, leading to higher research productivity and higher reinvestment into R&D, ultimately leading to much higher capital productivity for AI capital.": " Ми вважаємо, що галузь ШІ матиме власний контур зворотного зв'язку автоматизації R&D, що приведе до вищої продуктивності досліджень і більшого реінвестування в R&D, і зрештою — до значно вищої продуктивності капіталу для ШІ-капіталу.", "We think the AI field will have its own feedback loop of R&D automation, leading to higher research productivity and higher reinvestment into R&D, ultimately leading to much higher capital productivity for AI capital.": "Ми вважаємо, що галузь ШІ матиме власний контур зворотного зв'язку автоматизації R&D, що приведе до вищої продуктивності досліджень і більшого реінвестування в R&D, і зрештою — до значно вищої продуктивності капіталу для ШІ-капіталу.", "No unique treatment of AI capital.": "Немає окремого трактування ШІ-капіталу.", " In the Jones model, there is no unique treatment of AI. AI enters as normal capital and accumulates through the classic investment less depreciation rule ": " У моделі Джонса немає окремого трактування ШІ. ШІ входить у модель як звичайний капітал і накопичується за класичним правилом «інвестиції мінус амортизація» ", "In the Jones model, there is no unique treatment of AI. AI enters as normal capital and accumulates through the classic investment less depreciation rule": "У моделі Джонса немає окремого трактування ШІ. ШІ входить у модель як звичайний капітал і накопичується за класичним правилом «інвестиції мінус амортизація»", "\\dot K = \\bar\\iota_K\\,Y-\\delta K": "\\dot K = \\bar\\iota_K\\,Y-\\delta K", " with fixed investment share ": " із фіксованою часткою інвестицій ", "with fixed investment share": "із фіксованою часткою інвестицій", "\\bar\\iota_K": "\\bar\\iota_K", " and depreciation rate ": " та нормою амортизації ", "and depreciation rate": "та нормою амортизації", ". We think AI would be worth modelling on its own, because we think its task productivity and investment attractiveness will grow over time, and also have a different responsiveness to more investment and different responsiveness to R&D (e.g., algorithmic progress on the orders of 10x/year instead of Moore's law 1.35x/yr). In other words, we think the \"idea elasticity of AI\", \"research productivity of AI\" and \"share of output being invested in AI R&D\" will all behave very differently to how they behave for other capital, leading to AI's effects being drastically underestimated by being bundled with the capital factor of production.": ". Ми вважаємо, що ШІ варто моделювати окремо, оскільки, на нашу думку, його продуктивність у завданнях і привабливість для інвестицій зростатимуть із часом, а також матимуть іншу чутливість до додаткових інвестицій та іншу чутливість до R&D (наприклад, алгоритмічний прогрес темпом порядку 10x/рік замість закону Мура 1,35x/рік). Іншими словами, ми вважаємо, що «еластичність ідей ШІ за капіталом», «продуктивність досліджень ШІ» та «частка випуску, що інвестується в AI R&D» поводитимуться зовсім інакше, ніж для іншого капіталу, через що вплив ШІ буде різко недооцінено, якщо об'єднати його з фактором капіталу у виробництві.", "Jones & Tonetti Model Explanation": "Пояснення моделі Jones & Tonetti", "Output is a CES aggregate over a continuum of tasks ": "Випуск — це CES-агрегат за континуумом завдань ", "Output is a CES aggregate over a continuum of tasks": "Випуск — це CES-агрегат за континуумом завдань", "i \\in [0,1]": "i \\in [0,1]", " with elasticity of substitution ": " з еластичністю заміщення ", "with elasticity of substitution": "з еластичністю заміщення", "Y=\\left(\\int_0^1 Y_i^{\\frac{\\sigma-1}{\\sigma}}\\,di\\right)^{\\frac{\\sigma}{\\sigma-1}},\\qquad Y_i=\\psi_{ki}K_i+\\psi_{\\ell i}L_i,": "Y=\\left(\\int_0^1 Y_i^{\\frac{\\sigma-1}{\\sigma}}\\,di\\right)^{\\frac{\\sigma}{\\sigma-1}},\\qquad Y_i=\\psi_{ki}K_i+\\psi_{\\ell i}L_i,", " are the capital and labor allocated to task ": " — це капітал і праця, виділені на завдання ", "are the capital and labor allocated to task": "— це капітал і праця, виділені на завдання", ". Within a task the two are perfect substitutes (whichever is cheaper does it, more on this below). The task productivities of capital ": ". У межах одного завдання вони є досконалими замінниками (виконує те, що дешевше; детальніше нижче). Продуктивність капіталу в завданні ", ". Within a task the two are perfect substitutes (whichever is cheaper does it, more on this below). The task productivities of capital": ". У межах одного завдання вони є досконалими замінниками (виконує те, що дешевше; детальніше нижче). Продуктивність капіталу в завданні", " and labor ": " і праці ", "and labor": "і праці", "\\psi_{\\ell i}": "\\psi_{\\ell i}", " are given by:": " задаються так:", "are given by:": "задаються так:", "\\psi_{ki}=Q^{\\theta_k}f(i),\\qquad \\psi_{\\ell i}=Q^{\\theta_\\ell},\\qquad f(i)=\\frac{(1-i)^{\\mu}}{1+\\mu_0(1-i)^{\\mu}}+\\bar f.": "\\psi_{ki}=Q^{\\theta_k}f(i),\\qquad \\psi_{\\ell i}=Q^{\\theta_\\ell},\\qquad f(i)=\\frac{(1-i)^{\\mu}}{1+\\mu_0(1-i)^{\\mu}}+\\bar f.", " is the economy's stock of ideas (the technology level); and ": " — запас ідей в економіці (рівень технологій); а ", "is the economy's stock of ideas (the technology level); and": "— запас ідей в економіці (рівень технологій); а", "\\theta_\\ell": "\\theta_\\ell", " are the ": " — це ", "are the": "— це", "idea elasticities": "еластичності ідей", ", governing how fast each factor's productivity rises as ideas accumulate, with ": ", які визначають, наскільки швидко зростає продуктивність кожного фактора в міру накопичення ідей, причому ", ", governing how fast each factor's productivity rises as ideas accumulate, with": ", які визначають, наскільки швидко зростає продуктивність кожного фактора в міру накопичення ідей, причому", "\\theta_k> \\theta_\\ell": "\\theta_k> \\theta_\\ell", " as capital improves faster from ideas than labor. In their 'Moore's Law Everywhere' calibration ": " оскільки капітал вдосконалюється від ідей швидше, ніж праця. У їхній калібрації «закон Мура всюди» ", "as capital improves faster from ideas than labor. In their 'Moore's Law Everywhere' calibration": "оскільки капітал вдосконалюється від ідей швидше, ніж праця. У їхній калібрації «закон Мура всюди»", "\\theta_k \\approx 11.2": "\\theta_k \\approx 11.2", "\\theta_\\ell \\approx 0.5": "\\theta_\\ell \\approx 0.5", ". The function ": ". Функція ", ". The function": ". Функція", " is capital's comparative advantage at task ": " — це порівняльна перевага капіталу в завданні ", "is capital's comparative advantage at task": "— це порівняльна перевага капіталу в завданні", ", declining in ": ", яка спадає за ", ", declining in": ", яка спадає за", " (tasks are ordered so capital is relatively best at low ": " (завдання впорядковані так, що капітал відносно найкращий за низьких ", "(tasks are ordered so capital is relatively best at low": "(завдання впорядковані так, що капітал відносно найкращий за низьких", "\\mu": "\\mu", "\\mu_0": "\\mu_0", " are shape parameters fit to historical automation, and the floor ": " — параметри форми, підібрані під історичну автоматизацію, а нижня межа ", "are shape parameters fit to historical automation, and the floor": "— параметри форми, підібрані під історичну автоматизацію, а нижня межа", "\\bar f = f(1)": "\\bar f = f(1)", " controls the long-run end state: with ": " визначає довгостроковий кінцевий стан: за ", "controls the long-run end state: with": "визначає довгостроковий кінцевий стан: за", "\\bar f \\ge 0": "\\bar f \\ge 0", " automation runs essentially to completion, while ": " автоматизація по суті доходить до завершення, тоді як за ", "automation runs essentially to completion, while": "автоматизація по суті доходить до завершення, тоді як за", "\\bar f < 0": "\\bar f < 0", " leaves a positive set of tasks permanently un-automated (worked out below).": " залишається додатна множина завдань, які назавжди залишаються неавтоматизованими (детальніше нижче).", "leaves a positive set of tasks permanently un-automated (worked out below).": "залишається додатна множина завдань, які назавжди залишаються неавтоматизованими (детальніше нижче).", "Automation.": "Автоматизація.", " Let ": " Нехай ", "Let": "Нехай", " be the rental rate of capital and ": " — орендна ставка капіталу, а ", "be the rental rate of capital and": "— орендна ставка капіталу, а", " the labor wage. A task is automated when capital is cheaper than labor per productivity-adjusted-unit, i.e., when ": " — заробітна плата праці. Завдання автоматизується, коли капітал дешевший за працю в розрахунку на одиницю продуктивності, тобто коли ", "the labor wage. A task is automated when capital is cheaper than labor per productivity-adjusted-unit, i.e., when": "— заробітна плата праці. Завдання автоматизується, коли капітал дешевший за працю в розрахунку на одиницю продуктивності, тобто коли", "\\frac{r}{\\psi_{ki}} < \\frac{w}{\\psi_{\\ell i}}": "\\frac{r}{\\psi_{ki}} < \\frac{w}{\\psi_{\\ell i}}", ". Because ": ". Оскільки ", ". Because": ". Оскільки", " is decreasing there is a single crossing, so the automation fraction ": " спадає, існує єдина точка перетину, тож частку автоматизації ", "is decreasing there is a single crossing, so the automation fraction": "спадає, існує єдина точка перетину, тож частку автоматизації", " can be solved by finding this crossover point ": " можна знайти, визначивши цю точку перетину ", "can be solved by finding this crossover point": "можна знайти, визначивши цю точку перетину", "\\frac{r}{w} = \\frac{\\psi_{k\\beta}}{\\psi_{\\ell\\beta}}": "\\frac{r}{w} = \\frac{\\psi_{k\\beta}}{\\psi_{\\ell\\beta}}", "(r/w) today": "(r/w) сьогодні", "(r/w) later": "(r/w) пізніше", "β today": "β сьогодні", "β later": "β пізніше", "more automation": "більше автоматизації", "more R&D": "більше R&D", "automated tasks": "автоматизовані завдання", "tasks": "завдання", "ψ_k/ψ_ℓ: capital vs. labor productivity ratio on task i, today": "ψ_k/ψ_ℓ: співвідношення продуктивності капіталу й праці на завданні i, сьогодні", "ψ_k/ψ_ℓ after R&D": "ψ_k/ψ_ℓ після R&D", "r/w: capital vs. labor cost ratio": "r/w: співвідношення вартості капіталу й праці", "Automation in Jones-Tonetti": "Автоматизація в моделі Jones-Tonetti", "There are two ways to increase automation, either (1) R&D, which increases the ideas stock ": "Є два способи збільшити автоматизацію: (1) R&D, який збільшує запас ідей ", "There are two ways to increase automation, either (1) R&D, which increases the ideas stock": "Є два способи збільшити автоматизацію: (1) R&D, який збільшує запас ідей", " and grows ": " і нарощує ", "and grows": "і нарощує", "\\psi_k": "\\psi_k", " faster than ": " швидше, ніж ", "faster than": "швидше, ніж", "\\psi_\\ell": "\\psi_\\ell", ", since ": ", оскільки ", ", since": ", оскільки", ", or (2) capital becoming cheaper over time (by becoming more abundant through capital accumulation) relative to wages.": ", або (2) здешевлення капіталу з часом (через зростання його доступності внаслідок накопичення капіталу) відносно заробітної плати.", "Cost-minimization assigns each task to the cheaper factor, so capital does tasks ": "Мінімізація витрат закріплює кожне завдання за дешевшим фактором, тож капітал виконує завдання ", "Cost-minimization assigns each task to the cheaper factor, so capital does tasks": "Мінімізація витрат закріплює кожне завдання за дешевшим фактором, тож капітал виконує завдання", "[0,\\beta]": "[0,\\beta]", " and labor does ": ", а праця виконує ", "and labor does": ", а праця виконує", "[\\beta,1]": "[\\beta,1]", ". We can collapse output to an ordinary two-factor CES (because each task is done by just one factor, so we only need the totals ": ". Випуск можна звести до звичайного двофакторного CES (оскільки кожне завдання виконується лише одним фактором, тому потрібні лише сумарні значення ", ". We can collapse output to an ordinary two-factor CES (because each task is done by just one factor, so we only need the totals": ". Випуск можна звести до звичайного двофакторного CES (оскільки кожне завдання виконується лише одним фактором, тому потрібні лише сумарні значення", " each weighted by their total productivity across the tasks they do, ": ", кожне зважене на сумарну продуктивність по завданнях, які він виконує, ", "each weighted by their total productivity across the tasks they do,": ", кожне зважене на сумарну продуктивність по завданнях, які він виконує,", "\\begin{aligned}\nY &= \\Big[(BK)^{\\frac{\\sigma-1}{\\sigma}}+(AL)^{\\frac{\\sigma-1}{\\sigma}}\\Big]^{\\frac{\\sigma}{\\sigma-1}} \\\\\nB &= Q^{\\theta_k}\\left[\\int_0^{\\beta} f(i)^{\\sigma-1}\\,di\\right]^{\\frac{1}{\\sigma-1}} \\\\\nA &= Q^{\\theta_\\ell}\\,(1-\\beta)^{\\frac{1}{\\sigma-1}}\n\\end{aligned}": "\\begin{aligned}\nY &= \\Big[(BK)^{\\frac{\\sigma-1}{\\sigma}}+(AL)^{\\frac{\\sigma-1}{\\sigma}}\\Big]^{\\frac{\\sigma}{\\sigma-1}} \\\\\nB &= Q^{\\theta_k}\\left[\\int_0^{\\beta} f(i)^{\\sigma-1}\\,di\\right]^{\\frac{1}{\\sigma-1}} \\\\\nA &= Q^{\\theta_\\ell}\\,(1-\\beta)^{\\frac{1}{\\sigma-1}}\n\\end{aligned}", "Capital accumulates and labor grows as": "Капітал накопичується, а праця зростає так:", "\\begin{aligned}\n\\dot K &=\\bar\\iota_K\\,Y-\\delta K,\\\\\nL_t &=L_0\\,e^{nt}\n\\end{aligned}": "\\begin{aligned}\n\\dot K &=\\bar\\iota_K\\,Y-\\delta K,\\\\\nL_t &=L_0\\,e^{nt}\n\\end{aligned}", "with investment share ": "з часткою інвестицій ", "with investment share": "з часткою інвестицій", ", depreciation rate ": ", нормою амортизації ", ", depreciation rate": ", нормою амортизації", ", and population growth rate ": " і темпом зростання населення ", ", and population growth rate": "і темпом зростання населення", "R&D in the model.": "R&D у моделі.", " New ideas are produced from a fixed share ": " Нові ідеї виробляються з фіксованої частки ", "New ideas are produced from a fixed share": "Нові ідеї виробляються з фіксованої частки", " of output being invested, given by:": " випуску, що інвестується, і задаються так:", "of output being invested, given by:": "випуску, що інвестується, і задаються так:", "\\begin{aligned}\n\\dot Q &=\\bar q\\,R^{\\lambda}Q^{\\phi},\\qquad \\\\\nR &=\\bar\\iota_R\\,Y.\n\\end{aligned}": "\\begin{aligned}\n\\dot Q &=\\bar q\\,R^{\\lambda}Q^{\\phi},\\qquad \\\\\nR &=\\bar\\iota_R\\,Y.\n\\end{aligned}", "\\dot Q": "\\dot Q", " is the change in the idea stock, ": " — зміна запасу ідей, ", "is the change in the idea stock,": "— зміна запасу ідей,", " is a research-productivity constant, ": " — константа продуктивності досліджень, ", "is a research-productivity constant,": "— константа продуктивності досліджень,", " is the share of output spent on R&D, and ": " — частка випуску, витрачена на R&D, а ", "is the share of output spent on R&D, and": "— частка випуску, витрачена на R&D, а", "\\lambda = 1": "\\lambda = 1", " is the elasticity of new ideas to research input, and ": " — еластичність нових ідей за витратами на дослідження, а ", "is the elasticity of new ideas to research input, and": "— еластичність нових ідей за витратами на дослідження, а", "\\phi = -2": "\\phi = -2", ") the returns to the existing stock, i.e., ": ") — віддача від наявного запасу, тобто ", ") the returns to the existing stock, i.e.,": ") — віддача від наявного запасу, тобто", "With defaults ": "За стандартних значень ", "With defaults": "За стандартних значень", " the growth rate is:": " темп зростання дорівнює:", "the growth rate is:": "темп зростання дорівнює:", "\\begin{aligned}\n\\frac{\\dot Q}{Q} &=\\theta_k \\frac{\\bar q\\,\\bar\\iota_R\\,Y}{Q^{\\,1-\\phi}},\\qquad \\\\\n\\end{aligned}": "\\begin{aligned}\n\\frac{\\dot Q}{Q} &=\\theta_k \\frac{\\bar q\\,\\bar\\iota_R\\,Y}{Q^{\\,1-\\phi}},\\qquad \\\\\n\\end{aligned}", "And the growth rate of capital productivity ": "А темп зростання продуктивності капіталу ", "And the growth rate of capital productivity": "А темп зростання продуктивності капіталу", " is given by:": " задається так:", "is given by:": "задається так:", "\\begin{aligned}\n\\frac{\\dot\\psi_{ki}}{\\psi_{ki}} &=\\theta_k\\,\\frac{\\dot Q}{Q} = \\theta_k \\frac{\\bar q\\,\\bar\\iota_R\\,Y}{Q^{\\,1-\\phi}},\\qquad \\\\\n\\end{aligned}": "\\begin{aligned}\n\\frac{\\dot\\psi_{ki}}{\\psi_{ki}} &=\\theta_k\\,\\frac{\\dot Q}{Q} = \\theta_k \\frac{\\bar q\\,\\bar\\iota_R\\,Y}{Q^{\\,1-\\phi}},\\qquad \\\\\n\\end{aligned}", "So R&D is modelled at a fixed productivity ": "Тож R&D моделюється з фіксованою продуктивністю ", "So R&D is modelled at a fixed productivity": "Тож R&D моделюється з фіксованою продуктивністю", " from a fixed share ": " з фіксованої частки ", "from a fixed share": "з фіксованої частки", " of output. The paper sets the combined term ": " випуску. У статті об'єднаний член ", "of output. The paper sets the combined term": "випуску. У статті об'єднаний член", "\\bar q\\,\\bar\\iota_R^{\\lambda}=0.0001": "\\bar q\\,\\bar\\iota_R^{\\lambda}=0.0001", " to match idea growth ": " встановлено так, щоб відповідати темпу зростання ідей ", "to match idea growth": "встановлено так, щоб відповідати темпу зростання ідей", "\\dot Q/Q=1\\%": "\\dot Q/Q=1\\%", " in 2020.": " у 2020 році.", "in 2020.": "у 2020 році.", "100% automation.": "100% автоматизація.", " The model leads to 100% automation in finite time when ": " Модель приводить до 100% автоматизації за скінченний час, якщо ", "The model leads to 100% automation in finite time when": "Модель приводить до 100% автоматизації за скінченний час, якщо", "\\bar f > 0": "\\bar f > 0", ", with labor fully displaced and its income share falling to zero. Output collapses to a single-factor form ": ", коли праця повністю витісняється, а її частка доходу падає до нуля. Випуск зводиться до однофакторної форми ", ", with labor fully displaced and its income share falling to zero. Output collapses to a single-factor form": ", коли праця повністю витісняється, а її частка доходу падає до нуля. Випуск зводиться до однофакторної форми", " (linear in capital) whose productivity ": " (лінійної за капіталом), продуктивність якої ", "(linear in capital) whose productivity": "(лінійної за капіталом), продуктивність якої", "B \\propto Q^{\\theta_k}": "B \\propto Q^{\\theta_k}", " keeps climbing as ideas accumulate.": " продовжує зростати в міру накопичення ідей.", "keeps climbing as ideas accumulate.": "продовжує зростати в міру накопичення ідей.", "When does growth explode?": "Коли зростання «вибухає»?", " To pin down the long run behaviour one can look for a steady state where output and ideas are both growing at a constant rate. This either has a finite solution (the loop R&D feedback settles to steady growth) or no solution (where it explodes). There are two sides we can find:": " Щоб визначити довгострокову поведінку, можна шукати стійкий стан, у якому і випуск, і ідеї зростають сталим темпом. Це або має скінченний розв'язок (контур зворотного зв'язку R&D виходить на стале зростання), або не має розв'язку (тоді відбувається «вибух»). Тут можна знайти дві сторони:", "To pin down the long run behaviour one can look for a steady state where output and ideas are both growing at a constant rate. This either has a finite solution (the loop R&D feedback settles to steady growth) or no solution (where it explodes). There are two sides we can find:": "Щоб визначити довгострокову поведінку, можна шукати стійкий стан, у якому і випуск, і ідеї зростають сталим темпом. Це або має скінченний розв'язок (контур зворотного зв'язку R&D виходить на стале зростання), або не має розв'язку (тоді відбувається «вибух»). Тут можна знайти дві сторони:", "Idea side.": "Сторона ідей.", " Constant idea growth ": " Сталий темп зростання ідей ", "Constant idea growth": "Сталий темп зростання ідей", "\\dot Q/Q = \\bar q\\,\\bar\\iota_R^{\\lambda}\\,Y^{\\lambda}Q^{\\phi-1}": "\\dot Q/Q = \\bar q\\,\\bar\\iota_R^{\\lambda}\\,Y^{\\lambda}Q^{\\phi-1}", " needs the ": " вимагає, щоб степені ", "needs the": "вимагає, щоб степені", " powers to offset, ": " компенсували одна одну, ", "powers to offset,": "компенсували одна одну,", "\\lambda g_Y = (\\phi-1)g_Q": "\\lambda g_Y = (\\phi-1)g_Q", ", so ideas growing at a fraction of output (a fraction because ideas get harder to find with ": ", тож ідеї зростають частиною темпу випуску (часткою, бо ідеї стає складніше знаходити за ", ", so ideas growing at a fraction of output (a fraction because ideas get harder to find with": ", тож ідеї зростають частиною темпу випуску (часткою, бо ідеї стає складніше знаходити за", "\\phi < 0": "\\phi < 0", "g_Q = \\frac{\\lambda}{1-\\phi}\\,g_Y.": "g_Q = \\frac{\\lambda}{1-\\phi}\\,g_Y.", "Output side.": "Сторона випуску.", " Output grows at the income-share-weighted growth of its two effective inputs, each input's growth being its productivity (rising with ideas, ": " Випуск зростає темпом, зваженим на частки доходу двох ефективних факторів, де темп зростання кожного фактора складається з його продуктивності (яка зростає з ідеями, ", "Output grows at the income-share-weighted growth of its two effective inputs, each input's growth being its productivity (rising with ideas,": "Випуск зростає темпом, зваженим на частки доходу двох ефективних факторів, де темп зростання кожного фактора складається з його продуктивності (яка зростає з ідеями,", "g_B = \\theta_k g_Q": "g_B = \\theta_k g_Q", "g_A = \\theta_\\ell g_Q": "g_A = \\theta_\\ell g_Q", ") plus its quantity (for capital ": ") плюс його кількості (для капіталу ", ") plus its quantity (for capital": ") плюс його кількості (для капіталу", " because of fixed saving & depreciation rate, and for labor its just ": " через фіксовану норму заощаджень і амортизації, а для праці — просто ", "because of fixed saving & depreciation rate, and for labor its just": "через фіксовану норму заощаджень і амортизації, а для праці — просто", "g_Y = s_K^{*}\\,(\\theta_k g_Q + g_Y) + (1-s_K^{*})\\,(\\theta_\\ell g_Q + n).": "g_Y = s_K^{*}\\,(\\theta_k g_Q + g_Y) + (1-s_K^{*})\\,(\\theta_\\ell g_Q + n).", "Substituting the idea side for ": "Підставивши сторону ідей замість ", "Substituting the idea side for": "Підставивши сторону ідей замість", " and collecting the ": " і зібравши члени ", "and collecting the": "і зібравши члени", " terms gives:": ", отримуємо:", "terms gives:": ", отримуємо:", "g_Y = \\Phi\\,g_Y + n, \\qquad \\text{with} \\qquad \\Phi = \\frac{\\lambda}{1-\\phi}\\left(\\theta_\\ell + \\frac{s_K^{*}}{1-s_K^{*}}\\,\\theta_k\\right).": "g_Y = \\Phi\\,g_Y + n, \\qquad \\text{with} \\qquad \\Phi = \\frac{\\lambda}{1-\\phi}\\left(\\theta_\\ell + \\frac{s_K^{*}}{1-s_K^{*}}\\,\\theta_k\\right).", "So apart from population growth, the model's output growth happens through ": "Тож, окрім зростання населення, зростання випуску в моделі відбувається через ", "So apart from population growth, the model's output growth happens through": "Тож, окрім зростання населення, зростання випуску в моделі відбувається через", "\\Phi": "\\Phi", " which represents the R&D loop's contribution. Each unit of output growth feeds back scaled by ": ", що відображає внесок циклу R&D. Кожна одиниця зростання випуску повертається назад, масштабована на ", "which represents the R&D loop's contribution. Each unit of output growth feeds back scaled by": ", що відображає внесок циклу R&D. Кожна одиниця зростання випуску повертається назад, масштабована на", ". Summing over timesteps we get a geometric series: ": ". Підсумовуючи по кроках часу, отримуємо геометричну прогресію: ", ". Summing over timesteps we get a geometric series:": ". Підсумовуючи по кроках часу, отримуємо геометричну прогресію:", "g_Y = n(1 + \\Phi + \\Phi^2 + \\cdots) = \\frac{n}{1-\\Phi}": "g_Y = n(1 + \\Phi + \\Phi^2 + \\cdots) = \\frac{n}{1-\\Phi}", "If ": "Якщо ", "If": "Якщо", "\\Phi < 1": "\\Phi < 1", " each round shrinks and growth settles at a finite rate proportional to population growth.": " кожен раунд зменшується, і зростання виходить на скінченний темп, пропорційний зростанню населення.", "each round shrinks and growth settles at a finite rate proportional to population growth.": "кожен раунд зменшується, і зростання виходить на скінченний темп, пропорційний зростанню населення.", "\\Phi \\ge 1": "\\Phi \\ge 1", " it does not and no steady rate exists, so output runs to infinity in finite time. This is ": " це не так, і сталого темпу не існує, тож випуск прямує до нескінченності за скінченний час. Це ", "it does not and no steady rate exists, so output runs to infinity in finite time. This is": "це не так, і сталого темпу не існує, тож випуск прямує до нескінченності за скінченний час. Це", "hyperbolic growth": "гіперболічне зростання", " with output ": " з випуском ", "with output": "з випуском", " (normalized to 1 today) obeying ": " (нормалізованим до 1 сьогодні), що підпорядковується ", "(normalized to 1 today) obeying": "(нормалізованим до 1 сьогодні), що підпорядковується", "\\dot X = \\bar g\\,X^{\\Phi}": "\\dot X = \\bar g\\,X^{\\Phi}", "\\bar g": "\\bar g", " today's growth rate. So the growth rate ": " — сьогоднішній темп зростання. Тож темп зростання ", "today's growth rate. So the growth rate": "— сьогоднішній темп зростання. Тож темп зростання", "\\dot X/X = \\bar g\\,X^{\\Phi-1}": "\\dot X/X = \\bar g\\,X^{\\Phi-1}", " itself rises with the level. Separating and integrating from today, ": " сам зростає з рівнем. Розділяючи змінні та інтегруючи від сьогодні, ", "itself rises with the level. Separating and integrating from today,": "сам зростає з рівнем. Розділяючи змінні та інтегруючи від сьогодні,", "\\int_1^X X^{-\\Phi}\\,dX = \\bar g\\,t": "\\int_1^X X^{-\\Phi}\\,dX = \\bar g\\,t", ", and solving for output gives ": ", і розв'язуючи відносно випуску, отримуємо ", ", and solving for output gives": ", і розв'язуючи відносно випуску, отримуємо", "X = \\big(\\,1 - (\\Phi-1)\\,\\bar g\\,t\\,\\big)^{-1/(\\Phi-1)}": "X = \\big(\\,1 - (\\Phi-1)\\,\\bar g\\,t\\,\\big)^{-1/(\\Phi-1)}", ". With negative exponent, as the inside goes ": ". З'ясовується, що з від'ємним показником степеня, коли вираз усередині прямує ", ". With negative exponent, as the inside goes": ". З'ясовується, що з від'ємним показником степеня, коли вираз усередині прямує", " \\to 0": " \\to 0", "\\to 0": "\\to 0", " (which happens at ": " (що відбувається при ", "(which happens at": "(що відбувається при", "1 = (\\Phi-1)\\,\\bar g\\,t": "1 = (\\Phi-1)\\,\\bar g\\,t", ") output ": ") випуск ", ") output": ") випуск", " goes ": "прямує ", "goes": "прямує", " \\to \\infty": " \\to \\infty", "\\to \\infty": "\\to \\infty", ". So output going to infinity happens at ": ". Тож момент, коли випуск прямує до нескінченності, настає при ", ". So output going to infinity happens at": ". Тож момент, коли випуск прямує до нескінченності, настає при", "t_\\infty = \\frac{1}{\\bar g\\,(\\Phi-1)}": "t_\\infty = \\frac{1}{\\bar g\\,(\\Phi-1)}", ". For ": ". Для ", ". For": ". Для", "\\Phi = 2": "\\Phi = 2", " this is simply ": " це просто ", "this is simply": "це просто", "t_\\infty = \\frac{1}{\\bar g}": "t_\\infty = \\frac{1}{\\bar g}", " which for ~3% growth today is ~33 years from now.": ", що за нинішнього зростання близько 3% становить приблизно 33 роки від сьогодні.", "which for ~3% growth today is ~33 years from now.": ", що за нинішнього зростання близько 3% становить приблизно 33 роки від сьогодні.", "Jones & Tonetti's \"Moore's Law Everywhere\" calibration has ": "Калібрація «закон Мура всюди» від Jones & Tonetti має ", "Jones & Tonetti's \"Moore's Law Everywhere\" calibration has": "Калібрація «закон Мура всюди» від Jones & Tonetti має", "\\Phi = 2.27": "\\Phi = 2.27", " (see box above for what this means) leading output to go infinite around 2060. Our main disagreement is not with this calibration, but with the lack of R&D automation and lack of unique treatment of AI capital (e.g., different in returns to R&D in AI vs. normal capital).": " (див. вище, що це означає), через що випуск прямує до нескінченності приблизно у 2060 році. Наша головна розбіжність стосується не цієї калібрації, а відсутності автоматизації R&D та відсутності окремого трактування ШІ-капіталу (наприклад, іншої віддачі від R&D для ШІ порівняно зі звичайним капіталом).", "(see box above for what this means) leading output to go infinite around 2060. Our main disagreement is not with this calibration, but with the lack of R&D automation and lack of unique treatment of AI capital (e.g., different in returns to R&D in AI vs. normal capital).": "(див. вище, що це означає), через що випуск прямує до нескінченності приблизно у 2060 році. Наша головна розбіжність стосується не цієї калібрації, а відсутності автоматизації R&D та відсутності окремого трактування ШІ-капіталу (наприклад, іншої віддачі від R&D для ШІ порівняно зі звичайним капіталом).", " features a tighter R&D automation loop, with combined AI-human research effort feeding into AI R&D (still with diminishing returns). We think some kind of similar treatment of AI, with modelling that is calibrated to how quickly AI has been improving and responding to increased inputs (human labor, compute, etc.) is needed for a growth model to model future growth in a way that more reasonably accounts for AI.": "пропонує тісніший контур автоматизації R&D, де об'єднані дослідницькі зусилля людини та ШІ живлять AI R&D (усе ще зі спадною віддачею). Ми вважаємо, що для моделі зростання, яка адекватніше враховує ШІ, потрібне подібне трактування ШІ, каліброване відповідно до того, наскільки швидко ШІ вдосконалювався і реагував на зростання вхідних ресурсів (людська праця, обчислювальні потужності тощо).", "features a tighter R&D automation loop, with combined AI-human research effort feeding into AI R&D (still with diminishing returns). We think some kind of similar treatment of AI, with modelling that is calibrated to how quickly AI has been improving and responding to increased inputs (human labor, compute, etc.) is needed for a growth model to model future growth in a way that more reasonably accounts for AI.": "пропонує тісніший контур автоматизації R&D, де об'єднані дослідницькі зусилля людини та ШІ живлять AI R&D (усе ще зі спадною віддачею). Ми вважаємо, що для моделі зростання, яка адекватніше враховує ШІ, потрібне подібне трактування ШІ, каліброване відповідно до того, наскільки швидко ШІ вдосконалювався і реагував на зростання вхідних ресурсів (людська праця, обчислювальні потужності тощо).", "aifuturesmodel.com": "aifuturesmodel.com", "Open ↗": "Відкрити ↗", "Open the AI Futures Model ↗": "Відкрити AI Futures Model ↗", "We think it would be exciting future work to modify the Jones & Tonetti model to (A) feature a unique AI factor of production, and/or (B) make the R&D loop more dynamic (and allowing more direct AI uplift on R&D). For the modelling we have done in this scenario, we instead rely on the ": "Ми вважаємо, що було б цікавим напрямком майбутньої роботи доопрацювати модель Jones & Tonetti, щоб (А) додати окремий фактор виробництва для ШІ і/або (Б) зробити контур R&D динамічнішим (дозволивши пряміше підсилення R&D від ШІ). Для моделювання, яке ми виконали в цьому сценарії, ми натомість спираємось на ", "We think it would be exciting future work to modify the Jones & Tonetti model to (A) feature a unique AI factor of production, and/or (B) make the R&D loop more dynamic (and allowing more direct AI uplift on R&D). For the modelling we have done in this scenario, we instead rely on the": "Ми вважаємо, що було б цікавим напрямком майбутньої роботи доопрацювати модель Jones & Tonetti, щоб (А) додати окремий фактор виробництва для ШІ і/або (Б) зробити контур R&D динамічнішим (дозволивши пряміше підсилення R&D від ШІ). Для моделювання, яке ми виконали в цьому сценарії, ми натомість спираємось на", ", and what we have added is more of an economics explorer, since it takes the AI automation trajectories as exogenous inputs on paths consistent with our AI Futures Model runs for ": ", а те, що ми додали, більше нагадує економічний дослідник, оскільки він бере траєкторії автоматизації ШІ як екзогенні вхідні дані на шляхах, узгоджених із прогонами нашої AI Futures Model для ", ", and what we have added is more of an economics explorer, since it takes the AI automation trajectories as exogenous inputs on paths consistent with our AI Futures Model runs for": ", а те, що ми додали, більше нагадує економічний дослідник, оскільки він бере траєкторії автоматизації ШІ як екзогенні вхідні дані на шляхах, узгоджених із прогонами нашої AI Futures Model для", "AI 2040 default": "AI 2040 за замовчуванням", "AI 2040 under Plan A": "AI 2040 за Планом А", ". See the ": ". Див. ", ". See the": ". Див.", "simple explorer": "простий дослідник", "full model": "повну модель", " below.": " нижче.", "below.": "нижче.", "Beyond the two papers above, there is a more general class of arguments about economic growth not being explosive due to bottlenecks, or historical precedents. Overall we believe that many such bottlenecks will be either weak, routed around due to massive incentives, and/or will bite very late, and that AI will be disanalogous to historical precedents.": "Окрім цих двох статей, існує ширший клас аргументів про те, що економічне зростання не буде вибуховим через вузькі місця або історичні прецеденти. Загалом ми вважаємо, що багато таких вузьких місць будуть або слабкими, або обійденими завдяки величезним стимулам, і/або дадуться взнаки дуже пізно, і що ШІ буде неаналогічним історичним прецедентам.", "Objection: ": "Заперечення: ", "Objection:": "Заперечення:", "Previous technologies haven’t led to explosive growth, and AI won’t be any different.": "Попередні технології не призводили до вибухового зростання, і ШІ не буде винятком.", "We agree that previous technologies haven’t led to explosive growth (well at least the fast explosive growth we expect from AI, long run economic growth has actually been ": "Ми погоджуємось, що попередні технології не призводили до вибухового зростання (принаймні до такого швидкого вибухового зростання, якого ми очікуємо від ШІ; довгострокове економічне зростання насправді ", "We agree that previous technologies haven’t led to explosive growth (well at least the fast explosive growth we expect from AI, long run economic growth has actually been": "Ми погоджуємось, що попередні технології не призводили до вибухового зростання (принаймні до такого швидкого вибухового зростання, якого ми очікуємо від ШІ; довгострокове економічне зростання насправді", "better fit by a power law than an exponential": "краще описувалось степеневим законом, ніж експонентою", "Long run economic growth on a log plot shows that it has been faster than an exponential trend": "Довгострокове економічне зростання на логарифмічному графіку показує, що воно було швидшим за експоненційний тренд", "The core difference is that past technologies automated a narrow domain (e.g. washing machines automated the task of physically cleaning clothes, the internet automated many communication channels), while AI could dominate humans at all (non-human-specific) tasks. So AI could also create new tasks that don’t exist today (e.g., datacenter maintenance, robot manufacturing, AI research) like past technologies did, but the disanalogy is that AI will also be able to automate those new tasks because it will dominate humans both cognitively and then physically (through robotics R&D and production). The humans will only be maintaining the datacenters, making the robots, doing the AI research, up until the point where AI and robots can do it better than them, then they no longer will be (at least once the AIs and robots are numerous enough, and again, absent strong, successful regulation, more on that below). The only tasks left for humans will be driven by human-preference which we think will make for a drastically different economy than today.": "Ключова відмінність у тому, що минулі технології автоматизували вузьку сферу (наприклад, пральні машини автоматизували фізичне прання одягу, інтернет автоматизував багато каналів комунікації), тоді як ШІ може перевершити людей у всіх (не специфічно людських) завданнях. Тож ШІ також міг би створювати нові завдання, яких сьогодні не існує (наприклад, обслуговування дата-центрів, виробництво роботів, дослідження ШІ), як це робили минулі технології, але неаналогічність полягає в тому, що ШІ зможе автоматизувати й ці нові завдання, оскільки перевершить людей і когнітивно, і згодом фізично (через R&D і виробництво роботів). Люди лише обслуговуватимуть дата-центри, виготовлятимуть роботів, проводитимуть дослідження ШІ — аж до моменту, коли ШІ й роботи зможуть робити це краще за них, і тоді люди вже цим не займатимуться (принаймні коли ШІ й роботів стане достатньо багато, і знову ж таки, за відсутності жорсткого й успішного регулювання — детальніше нижче). Єдині завдання, що залишаться людям, визначатимуться людськими уподобаннями, що, на нашу думку, створить економіку, кардинально відмінну від сьогоднішньої.", "There will be regulatory bottlenecks that prevent growth.": "Виникнуть регуляторні вузькі місця, що завадять зростанню.", "We think that it is conceivable for regulation to massively slow AI explosive growth; and in fact, the economy in the Plan A scenario grows much more slowly than it would have absent regulation. However, the type of regulation that we think is required to create this type of slowdown involves explicit international coordination to all agree to hold off on explosive AI driven growth.": "Ми вважаємо цілком можливим, що регулювання суттєво сповільнить вибухове зростання ШІ; і справді, економіка в сценарії Плану А зростає значно повільніше, ніж зростала б без регулювання. Проте той тип регулювання, який, на нашу думку, потрібен для такого сповільнення, передбачає явну міжнародну координацію, коли всі погоджуються стримати вибухове зростання, кероване ШІ.", "This is for two reasons.": "Це з двох причин.", "International competition:": "Міжнародна конкуренція:", " if it’s the case that any country in the world could decide to allow their robots to grow exponentially and soon eclipse the industrial capacity of the rest of the world combined, there would be a massive incentive to do so, and it is hard to believe that all countries would accept this massive handicapping absent coordination.": " якби будь-яка країна світу могла дозволити своїм роботам зростати експоненційно й невдовзі перевершити промисловий потенціал усього іншого світу разом узятого, у неї виник би величезний стимул так і вчинити, і важко повірити, що всі країни прийняли б таке масштабне самообмеження без координації.", "if it’s the case that any country in the world could decide to allow their robots to grow exponentially and soon eclipse the industrial capacity of the rest of the world combined, there would be a massive incentive to do so, and it is hard to believe that all countries would accept this massive handicapping absent coordination.": "якби будь-яка країна світу могла дозволити своїм роботам зростати експоненційно й невдовзі перевершити промисловий потенціал усього іншого світу разом узятого, у неї виник би величезний стимул так і вчинити, і важко повірити, що всі країни прийняли б таке масштабне самообмеження без координації.", "Internal reinvestment spirals:": "Спіралі внутрішнього реінвестування:", " regulation on AI companies seems unlikely to bite on what they do on internal R&D in a pre-emptive way. So if a company reaches a base of AIs and robots that are capable of self-replicating, AI companies might be able to vertically integrate a supply chain and rapidly outcompete the government (e.g., quickly building billions of robots in a desert offshore). Additionally, even if some sectors are highly regulated, currently highly regulated sectors aren’t the ones that drive explosive growth, e.g., R&D is generally not highly regulated and there will be a massive incentive to cut red tape wherever these are blocking explosive growth. (Note that in AI, we’ve already seen examples of skirted regulations with ": " здається малоймовірним, що регулювання ШІ-компаній зможе превентивно обмежити те, що вони роблять у власних внутрішніх R&D. Тож якщо компанія досягне бази ШІ й роботів, здатних до самовідтворення, ШІ-компанії можуть вертикально інтегрувати ланцюг постачання й швидко випередити державу (наприклад, швидко збудувавши мільярди роботів у пустелі десь офшорно). Крім того, навіть якщо деякі сектори жорстко регульовані, наразі жорстко регульовані сектори — не ті, що спричиняють вибухове зростання: наприклад, R&D зазвичай не жорстко регулюється, і виникне величезний стимул скорочувати бюрократичні перепони скрізь, де вони блокують вибухове зростання. (Зауважте, що в сфері ШІ ми вже бачили приклади обходу регулювання — з ", "regulation on AI companies seems unlikely to bite on what they do on internal R&D in a pre-emptive way. So if a company reaches a base of AIs and robots that are capable of self-replicating, AI companies might be able to vertically integrate a supply chain and rapidly outcompete the government (e.g., quickly building billions of robots in a desert offshore). Additionally, even if some sectors are highly regulated, currently highly regulated sectors aren’t the ones that drive explosive growth, e.g., R&D is generally not highly regulated and there will be a massive incentive to cut red tape wherever these are blocking explosive growth. (Note that in AI, we’ve already seen examples of skirted regulations with": "здається малоймовірним, що регулювання ШІ-компаній зможе превентивно обмежити те, що вони роблять у власних внутрішніх R&D. Тож якщо компанія досягне бази ШІ й роботів, здатних до самовідтворення, ШІ-компанії можуть вертикально інтегрувати ланцюг постачання й швидко випередити державу (наприклад, швидко збудувавши мільярди роботів у пустелі десь офшорно). Крім того, навіть якщо деякі сектори жорстко регульовані, наразі жорстко регульовані сектори — не ті, що спричиняють вибухове зростання: наприклад, R&D зазвичай не жорстко регулюється, і виникне величезний стимул скорочувати бюрократичні перепони скрізь, де вони блокують вибухове зростання. (Зауважте, що в сфері ШІ ми вже бачили приклади обходу регулювання — з", "copyright law violations": "порушеннями авторського права", "xAI datacenter construction": "будівництвом дата-центру xAI", "The regulation that we think is sufficient involves (a) explicit international cooperation to limit the kinds of R&D leading to AI and robots that can replace the work of, or don’t answer to a wide range of humans, and (b) limit explosive growth of robots and the amount of compute in the world through, for example, a cap-and-trade regime.": "Регулювання, яке, на нашу думку, є достатнім, передбачає (а) явну міжнародну співпрацю для обмеження видів R&D, що ведуть до ШІ й роботів, здатних замінити роботу широкого кола людей або не підзвітних їм, та (б) обмеження вибухового зростання кількості роботів і обчислювальних потужностей у світі, наприклад, за допомогою режиму торгівлі квотами (cap-and-trade).", "There won’t be explosive growth because there will be long lags between AI being available and AI being actually adopted.": "Вибухового зростання не буде, бо існуватиме тривалий лаг між появою ШІ й його фактичним впровадженням.", "So far, AI has diffused unprecedentedly quickly, even at its current capability level. When AIs are superhuman and there are billions or trillions of dollars on the line, we expect firms to quickly adopt AI. Even if many firms lag dramatically, only some firms need to adopt AI. The firms that do will grow explosively and will quickly become the majority of the sector. There will be strong market pressure to adopt superhuman AI quickly, and we believe this will be enough to cause unprecedentedly fast growth.": "Досі ШІ поширювався безпрецедентно швидко, навіть за нинішнього рівня можливостей. Коли ШІ стане надлюдським і на кону будуть мільярди чи трильйони доларів, ми очікуємо, що компанії швидко впровадять ШІ. Навіть якщо багато компаній суттєво відстануть, достатньо, щоб ШІ впровадили лише деякі. Ті компанії, що це зроблять, зростатимуть вибухово й швидко становитимуть більшість сектора. Виникне сильний ринковий тиск швидко впроваджувати надлюдський ШІ, і ми вважаємо, що цього буде достатньо для безпрецедентно швидкого зростання.", "There won’t be explosive growth due to the time it takes to build new physical infrastructure.": "Вибухового зростання не буде через час, потрібний для побудови нової фізичної інфраструктури.", "Infrastructure bottlenecks can and will be solved by building more infrastructure. There will be massive economic pressure at the point where it is constraining AI or robot populations (at and approaching the point of full automation) to make this happen quickly (and maybe with partial help from AI and robots). Once robots can perform the relevant physical tasks, the rate of infrastructure construction again becomes roughly proportional to the robot population.": "Вузькі місця в інфраструктурі можна й буде вирішено побудовою додаткової інфраструктури. У момент, коли це почне стримувати популяцію ШІ чи роботів (на підході до повної автоматизації й у момент її досягнення), виникне величезний економічний тиск, щоб зробити це швидко (можливо, частково за допомогою самих ШІ й роботів). Щойно роботи зможуть виконувати відповідні фізичні завдання, темп будівництва інфраструктури знову стане приблизно пропорційним популяції роботів.", "There will of course be serial time bottlenecks (9 women can’t make a baby in one month), and so too, an arbitrary number of robots will not be able to speed up the time it takes to build a robot factory to be infinitesimal. But for technology very similar to what already exists (production lines in factories, with mining), we don’t think serial construction times prevent short doubling times; see ": "Звісно, будуть послідовні часові вузькі місця (9 жінок не народять дитину за один місяць), і так само довільна кількість роботів не зможе скоротити час будівництва роботизованого заводу до нескінченно малого. Але для технологій, дуже подібних до вже наявних (виробничі лінії на заводах, видобуток), ми не вважаємо, що послідовний час будівництва завадить коротким часам подвоєння; див. ", "There will of course be serial time bottlenecks (9 women can’t make a baby in one month), and so too, an arbitrary number of robots will not be able to speed up the time it takes to build a robot factory to be infinitesimal. But for technology very similar to what already exists (production lines in factories, with mining), we don’t think serial construction times prevent short doubling times; see": "Звісно, будуть послідовні часові вузькі місця (9 жінок не народять дитину за один місяць), і так само довільна кількість роботів не зможе скоротити час будівництва роботизованого заводу до нескінченно малого. Але для технологій, дуже подібних до вже наявних (виробничі лінії на заводах, видобуток), ми не вважаємо, що послідовний час будівництва завадить коротким часам подвоєння; див.", " for our estimates.": " наші оцінки.", "for our estimates.": "наші оцінки.", "Robot and semiconductor explosions will be bottlenecked by rare materials.": "Вибух виробництва роботів і напівпровідників буде обмежений рідкісними матеріалами.", "We appear to be very far from exhausting physical resources on earth. This will slow down growth (on earth) eventually, but only after robots have mined substantial fractions of the earth’s crust. There is room for 30-100s of years worth of current extraction rates depending on the mineral before we even exhaust its proven reserves, and it’s plausible that with robot-powered mining, something on the order of 1% of earth’s crust would be straightforwardly reachable.": "Схоже, ми дуже далекі від вичерпання фізичних ресурсів Землі. Це врешті-решт сповільнить зростання (на Землі), але лише після того, як роботи видобудуть значну частку земної кори. Залежно від мінералу, у нас є запас на 30-100 з гаком років видобутку за нинішніми темпами, перш ніж навіть підтверджені запаси вичерпаються, і цілком імовірно, що завдяки роботизованому видобутку легко досяжним виявиться щось на рівні 1% земної кори.", " Once we become bottlenecked by materials on earth, the robots could expand to space. Of course, as the 'materials get harder to find' the growth rate will slow, but it might still be very fast.": " Коли ми впремося у вичерпання земних матеріалів, роботи зможуть розширитися в космос. Звісно, у міру того як «матеріали стає складніше знаходити», темп зростання сповільнюватиметься, але він усе одно може бути дуже швидким.", "Once we become bottlenecked by materials on earth, the robots could expand to space. Of course, as the 'materials get harder to find' the growth rate will slow, but it might still be very fast.": "Коли ми впремося у вичерпання земних матеріалів, роботи зможуть розширитися в космос. Звісно, у міру того як «матеріали стає складніше знаходити», темп зростання сповільнюватиметься, але він усе одно може бути дуже швидким.", "5.4My": "5.4My", "221My": "221My", "4.9My": "4.9My", "217ky": "217ky", "3.0My": "3.0My", "15My": "15My", "17My": "17My", "103My": "103My", "5.9By": "5.9By", "1ky": "1ky", "10ky": "10ky", "100ky": "100ky", "1My": "1My", "10My": "10My", "100My": "100My", "1By": "1By", "10By": "10By", "Iron": "Залізо", "Aluminum": "Алюміній", "Phosphate": "Фосфат", "Copper": "Мідь", "Nickel": "Нікель", "Lithium": "Літій", "Cobalt": "Кобальт", "Rare earths": "Рідкісноземельні метали", "Silicon": "Кремній", "Years of minerals left at 2024 extraction rates": "Років мінералів залишилось за темпами видобутку 2024 року", "Years until proven reserves run out": "Років до вичерпання підтверджених запасів", "Years until 1% of continental crust runs out": "Років до вичерпання 1% континентальної кори", "Production & reserves:": "Виробництво і запаси:", "USGS MCS 2025": "USGS MCS 2025", ". Crustal abundance:": ". Поширеність у корі:", "Wedepohl (1995)": "Wedepohl (1995)", "; continental-crust mass 2×10": "; маса континентальної кори 2×10", " kg (CRUST2.0,": " кг (CRUST2.0,", "kg (CRUST2.0,": "кг (CRUST2.0,", "Pasyanos et al. 2007": "Pasyanos et al. 2007", "We propose a simple toy model with two factors of production: ": "Ми пропонуємо просту спрощену модель із двома факторами виробництва: ", "We propose a simple toy model with two factors of production:": "Ми пропонуємо просту спрощену модель із двома факторами виробництва:", "humans": "люди", ". A continuum of tasks combines in a constant-elasticity-of-substitution (CES) aggregate with elasticity σ. A growing fraction of tasks is ": ". Континуум завдань об'єднується в агрегат зі сталою еластичністю заміщення (CES) з еластичністю σ. Зростаюча частка завдань стає ", ". A continuum of tasks combines in a constant-elasticity-of-substitution (CES) aggregate with elasticity σ. A growing fraction of tasks is": ". Континуум завдань об'єднується в агрегат зі сталою еластичністю заміщення (CES) з еластичністю σ. Зростаюча частка завдань стає", "automatable": "автоматизовною", ": AI and robots can only do those, while humans can do any task, and within a task humans and machines are perfect substitutes.": ": ШІ й роботи можуть виконувати лише їх, тоді як люди можуть виконувати будь-яке завдання, і в межах одного завдання люди й машини є досконалими замінниками.", "The full model below adds capital, multiple sectors, prices, land, energy, and endogenous investment, but the qualitative story is the same one this toy makes visible.": "Повна модель нижче додає капітал, кілька секторів, ціни, землю, енергію та ендогенні інвестиції, але якісна суть та сама, що й видно з цієї спрощеної моделі.", "Open the Full Explorer ": "Відкрити повний дослідник ", "Open the Full Explorer": "Відкрити повний дослідник", "Our full economic growth explorer, that models the Plan A scenario in a more hand crafted way, and features e.g., capital, robots, prices, land, and energy.": "Наш повний дослідник економічного зростання, що моделює сценарій Плану А більш детально й враховує, наприклад, капітал, роботів, ціни, землю та енергію.", "The full version of the explorer is a detailed ": "Повна версія дослідника — це детальна ", "The full version of the explorer is a detailed": "Повна версія дослідника — це детальна", "economic growth model": "модель економічного зростання", " that we built to model the economy in AI scenarios like Plan A. We have two main disclaimers about this model:": ", яку ми побудували, щоб моделювати економіку в сценаріях на кшталт Плану А. У нас є два основні застереження щодо цієї моделі:", "that we built to model the economy in AI scenarios like Plan A. We have two main disclaimers about this model:": ", яку ми побудували, щоб моделювати економіку в сценаріях на кшталт Плану А. У нас є два основні застереження щодо цієї моделі:", "The model makes some assumptions about the world that we don’t endorse, plausibly contains bugs, and has very high uncertainty (i.e., we don’t trust the outputs to be accurate). That being said, we think it behaves relatively reasonably in these scenarios and we think it is the best existing model for the economic effects of the intelligence and industrial explosions.": "Модель робить деякі припущення про світ, з якими ми не обов'язково погоджуємось, можливо, містить помилки і має дуже високу невизначеність (тобто ми не гарантуємо точності результатів). Тим не менш, ми вважаємо, що вона поводиться відносно розумно в цих сценаріях, і що це найкраща наявна модель для економічних наслідків вибуху інтелекту й промислового вибуху.", "The model’s preset is conditional on Plan A, our scenario in which the government takes substantial and effective steps to regulate AI and drastically slow things down. The second model preset shows something closer to the growth we expect in reality absent the regulatory interventions. Under the default world inputs, the model predicts real output growing ~5000x during 2033, which corresponds to a sustained doubling time of around 1 month.": "Пресет моделі прив'язаний до Плану А — нашого сценарію, у якому уряд вживає суттєвих і ефективних заходів для регулювання ШІ й різко сповільнює процес. Другий пресет моделі показує щось ближче до зростання, яке ми очікуємо в реальності без регуляторного втручання. За стандартних вхідних даних (світ за замовчуванням) модель прогнозує зростання реального випуску приблизно у 5000 разів упродовж 2033 року, що відповідає сталому часу подвоєння близько 1 місяця.", "% / yr": "% / рік", "from ": "з ", "from": "з", "Years till 2041": "Років до 2041", "GWP ($)": "ВВП світу ($)", "Historical": "Історичний", "Gross World Product": "Валовий світовий продукт", "Under the Plan A scenario, effective regulation limits growth in three ways.": "У сценарії Плану А ефективне регулювання обмежує зростання трьома способами.", "It slows down R&D (particularly algorithmic research), leading to AIs that can fully substitute for all economically relevant work arrive around 2035 instead of 2031.": "Воно сповільнює R&D (особливо алгоритмічні дослідження), через що поява ШІ, здатних повністю замінити всю економічно значущу роботу, настає приблизно у 2035 році замість 2031-го.", "It stops AI and robots from becoming entirely self-sufficient (automating 100% of tasks) because of regulatory interventions to require human oversight and auditing.": "Воно не дає ШІ й роботам стати повністю самодостатніми (автоматизувати 100% завдань) через регуляторні вимоги щодо людського нагляду й аудиту.", "The cap-and-trade regime limits the total number of robots and AI hardware to a controlled doubling time of around 6 months for most of the period.": "Режим торгівлі квотами (cap-and-trade) обмежує загальну кількість роботів і ШІ-обладнання контрольованим часом подвоєння близько 6 місяців протягом більшої частини періоду.", "Task automation fraction in Plan A. We split labor into cognitive labor and physical labor to show that cognitive labor is automated first because it can happen entirely with AIs running on the cloud, while the automation of physical labor requires a massive buildup of robots. In the Plan A scenario, there is 99% automation reached around 2035, with humans maintaining oversight roles thanks to successful regulation, and retaining a small fraction of economic output (still large in absolute terms).": "Частка автоматизації завдань у Плані А. Ми розділяємо працю на когнітивну й фізичну, щоб показати, що когнітивна праця автоматизується першою, оскільки може відбуватися повністю через ШІ в хмарі, тоді як автоматизація фізичної праці вимагає масштабного нарощування роботів. У сценарії Плану А приблизно у 2035 році досягається 99% автоматизація, при цьому люди зберігають наглядові ролі завдяки успішному регулюванню й утримують невелику частку економічного випуску (усе ще велику в абсолютних величинах).", "dotted = Plan D (no deal)": "пунктир = План D (без угоди)", "AI (Plan D)": "ШІ (План D)", "Robots (Plan D)": "Роботи (План D)", "count (log scale)": "кількість (логарифмічна шкала)", "AI and robot populations in Plan A. Before 2029, these reflect unconstrained projections. After that, they reflect the Plan A regulations, where both R&D is restricted, and production is capped from 2032 onwards to a roughly 6 month doubling time (with AI hardware production slowed after 2035 to a ~3y doubling time).": "Популяції ШІ й роботів у Плані А. До 2029 року це відображає необмежені прогнози. Після цього вони відображають регулювання Плану А, за якого і R&D обмежені, і виробництво з 2032 року обмежене часом подвоєння близько 6 місяців (з уповільненням виробництва ШІ-обладнання після 2035 року до часу подвоєння близько 3 років).", "Overall, partially informed by our economic model, we expect the main economic effects of Plan A to include:": "Загалом, частково спираючись на нашу економічну модель, ми очікуємо, що основні економічні наслідки Плану А включатимуть:", "An average of roughly 90% yearly growth in real output from 2032 to 2037.": "У середньому близько 90% річного зростання реального випуску з 2032 по 2037 рік.", " Broadly speaking, throughout this period AI and robots are capable of doing the vast majority of economic tasks, and are allowed to roughly double every six months. Rather than doubling the economy every six months, output increases around 90% per year on average (because of the modelling choice to have capital and human labor partially bottleneck growth).": " Загалом протягом цього періоду ШІ й роботи здатні виконувати переважну більшість економічних завдань, і їм дозволено подвоюватися приблизно кожні шість місяців. Проте замість подвоєння економіки кожні шість місяців випуск зростає в середньому приблизно на 90% на рік (через закладене в модель припущення, що капітал і людська праця частково стримують зростання).", "Broadly speaking, throughout this period AI and robots are capable of doing the vast majority of economic tasks, and are allowed to roughly double every six months. Rather than doubling the economy every six months, output increases around 90% per year on average (because of the modelling choice to have capital and human labor partially bottleneck growth).": "Загалом протягом цього періоду ШІ й роботи здатні виконувати переважну більшість економічних завдань, і їм дозволено подвоюватися приблизно кожні шість місяців. Проте замість подвоєння економіки кожні шість місяців випуск зростає в середньому приблизно на 90% на рік (через закладене в модель припущення, що капітал і людська праця частково стримують зростання).", "Most of the economic output becomes driven by AI and robots.": "Більшу частину економічного випуску починають забезпечувати ШІ й роботи.", " Income shares in the economy shift greatly towards AI and robots as they become capable of doing more and more tasks, and also become more numerous.": " Частки доходу в економіці суттєво зміщуються на користь ШІ й роботів у міру того, як вони стають здатні виконувати дедалі більше завдань і стають чисельнішими.", "Income shares in the economy shift greatly towards AI and robots as they become capable of doing more and more tasks, and also become more numerous.": "Частки доходу в економіці суттєво зміщуються на користь ШІ й роботів у міру того, як вони стають здатні виконувати дедалі більше завдань і стають чисельнішими.", "Enormous AI and robot permit revenues redistributed through a “Citizen's Dividend”.": "Величезні доходи від дозволів на ШІ й роботів перерозподіляються через «дивіденд громадянина».", " To a first approximation, the combined AI hardware and robot cap-and-trade permits are the central bottleneck to the economy doubling in size (on average) every year. Naively, that implies the total value of the permits (if well-priced by a competitive market) should be around the size of the current economy, because that is how much additional GDP they will add to the following year. This is reasonable if the AI and robot companies are relatively myopic about the value of the AI and robots (i.e., they mostly base their decision based on 1 expected year of output), which we think may be true under these levels of growth, given potentially fast progress driving obsolescence of tech that is even a few years old. Our ": " У першому наближенні, комбіновані дозволи на торгівлю квотами (cap-and-trade) для ШІ-обладнання й роботів є головним вузьким місцем для подвоєння розміру економіки (в середньому) щороку. Наївно кажучи, це означає, що сумарна вартість дозволів (якщо вони справедливо оцінені конкурентним ринком) має бути приблизно на рівні розміру поточної економіки, оскільки саме стільки додаткового ВВП вони додадуть наступного року. Це виправдано, якщо ШІ- та робото-компанії відносно короткозоро оцінюють вартість ШІ й роботів (тобто здебільшого базують рішення на 1 очікуваному році випуску), що, на нашу думку, може бути правдою за таких темпів зростання, з огляду на потенційно швидкий прогрес, який робить застарілою навіть кількарічну техніку. Наше ", "To a first approximation, the combined AI hardware and robot cap-and-trade permits are the central bottleneck to the economy doubling in size (on average) every year. Naively, that implies the total value of the permits (if well-priced by a competitive market) should be around the size of the current economy, because that is how much additional GDP they will add to the following year. This is reasonable if the AI and robot companies are relatively myopic about the value of the AI and robots (i.e., they mostly base their decision based on 1 expected year of output), which we think may be true under these levels of growth, given potentially fast progress driving obsolescence of tech that is even a few years old. Our": "У першому наближенні, комбіновані дозволи на торгівлю квотами (cap-and-trade) для ШІ-обладнання й роботів є головним вузьким місцем для подвоєння розміру економіки (в середньому) щороку. Наївно кажучи, це означає, що сумарна вартість дозволів (якщо вони справедливо оцінені конкурентним ринком) має бути приблизно на рівні розміру поточної економіки, оскільки саме стільки додаткового ВВП вони додадуть наступного року. Це виправдано, якщо ШІ- та робото-компанії відносно короткозоро оцінюють вартість ШІ й роботів (тобто здебільшого базують рішення на 1 очікуваному році випуску), що, на нашу думку, може бути правдою за таких темпів зростання, з огляду на потенційно швидкий прогрес, який робить застарілою навіть кількарічну техніку. Наше", "cost modelling": "моделювання витрат", " suggests that the actual manufacturing costs will be a small share of GDP which suggests the permit costs will dominate. So we think the permit revenues will roughly equal the annual GDP when the economy is close to doubling every year.": " свідчить, що фактичні виробничі витрати становитимуть невелику частку ВВП, а отже, домінуватимуть саме витрати на дозволи. Тож ми вважаємо, що доходи від дозволів приблизно дорівнюватимуть річному ВВП, коли економіка близька до щорічного подвоєння.", "suggests that the actual manufacturing costs will be a small share of GDP which suggests the permit costs will dominate. So we think the permit revenues will roughly equal the annual GDP when the economy is close to doubling every year.": "свідчить, що фактичні виробничі витрати становитимуть невелику частку ВВП, а отже, домінуватимуть саме витрати на дозволи. Тож ми вважаємо, що доходи від дозволів приблизно дорівнюватимуть річному ВВП, коли економіка близька до щорічного подвоєння.", "In Plan A, most of the US permit revenue share (75% in 2035) is redistributed to the US population as a Citizen’s Dividend, resulting in roughly $1M/yr per person in 2035 and around $10M/yr in 2040.": "У Плані А більшість частки доходу США від дозволів (75% у 2035 році) перерозподіляється серед населення США як дивіденд громадянина, що дає приблизно $1 млн/рік на особу у 2035 році й близько $10 млн/рік у 2040 році.", "Wages and capital income from stocks would still be unequal, but with the equally distributed Citizen’s Dividend overall income equality would improve drastically, and the poorest Americans would see a drastic elevation in income.": "Заробітна плата й дохід від капіталу (акцій) все ще залишатимуться нерівномірними, але завдяки рівномірно розподіленому дивіденду громадянина загальна рівність доходів різко покращиться, а найбідніші американці побачать різке зростання доходу.", "Per-person income (2025 dollars).": "Дохід на особу (у доларах 2025 року).", "Relative prices in the economy shift, with goods and services generally falling in price, while land, positional goods and human-bottlenecked outputs rising.": "Відносні ціни в економіці зміщуються: товари й послуги загалом дешевшають, тоді як земля, позиційні блага та результати, обмежені людською працею, дорожчають.", " In Plan A, both cognitive and physical labor from AIs and robots becomes vastly more abundant. Specifically, cognitive labor is 100x more abundant by 2033, and the same is true for physical labor by 2039. So anything the AI and robots can do (which is essentially to make every single good and provide every single service that exists today) will, generally speaking, become a lot cheaper in real terms. Throughout the 2030s in Plan A, AIs are relatively more abundant compared to robots, which means that the price of renting a human-equivalent robot is much higher than a human-equivalent AI worker. In some years, the gap we model is around 100x.": " У Плані А і когнітивна, і фізична праця від ШІ й роботів стає значно доступнішою. Зокрема, когнітивна праця стає у 100 разів доступнішою до 2033 року, і те саме справджується для фізичної праці до 2039 року. Тож усе, що можуть робити ШІ й роботи (а це, по суті, виготовлення кожного окремого товару й надання кожної окремої послуги, що існують сьогодні), загалом стане значно дешевшим у реальному вираженні. Протягом 2030-х у Плані А ШІ відносно доступніші порівняно з роботами, а це означає, що вартість оренди робота, еквівалентного людині, значно вища за вартість еквівалентного людині ШІ-працівника. У деякі роки розрив у нашій моделі становить близько 100 разів.", "In Plan A, both cognitive and physical labor from AIs and robots becomes vastly more abundant. Specifically, cognitive labor is 100x more abundant by 2033, and the same is true for physical labor by 2039. So anything the AI and robots can do (which is essentially to make every single good and provide every single service that exists today) will, generally speaking, become a lot cheaper in real terms. Throughout the 2030s in Plan A, AIs are relatively more abundant compared to robots, which means that the price of renting a human-equivalent robot is much higher than a human-equivalent AI worker. In some years, the gap we model is around 100x.": "У Плані А і когнітивна, і фізична праця від ШІ й роботів стає значно доступнішою. Зокрема, когнітивна праця стає у 100 разів доступнішою до 2033 року, і те саме справджується для фізичної праці до 2039 року. Тож усе, що можуть робити ШІ й роботи (а це, по суті, виготовлення кожного окремого товару й надання кожної окремої послуги, що існують сьогодні), загалом стане значно дешевшим у реальному вираженні. Протягом 2030-х у Плані А ШІ відносно доступніші порівняно з роботами, а це означає, що вартість оренди робота, еквівалентного людині, значно вища за вартість еквівалентного людині ШІ-працівника. У деякі роки розрив у нашій моделі становить близько 100 разів.", "Rental costs for a full-time human-equivalent in any automated cognitive or physical domain over the course of Plan A.": "Вартість оренди повної зайнятості людино-еквівалента в будь-якій автоматизованій когнітивній чи фізичній сфері протягом Плану А.", "In 2035, the cost of 1 FTE of labor in the average cognitive domain is $3,000 and in the average physical domain around $200K. These prices would be lower if not for the regulations limiting the amount of AI chips and robots being produced and deployed. In many domains such as law and medicine, since demand is relatively inelastic, we expect the GDP contribution to go down dramatically. In 2035, about 10x as much health care is consumed relative to 2025, but since it's ~100-1000x cheaper, the dollar-wise GDP contribution is 1-10% of what it was.": "У 2035 році вартість 1 повної ставки (FTE) праці в середній когнітивній сфері становить $3 000, а в середній фізичній сфері — близько $200 тис. Ці ціни були б нижчими, якби не регулювання, що обмежує кількість вироблених і розгорнутих ШІ-чипів і роботів. У багатьох сферах, як-от право чи медицина, оскільки попит відносно нееластичний, ми очікуємо різкого падіння внеску в ВВП. У 2035 році споживається приблизно у 10 разів більше медичних послуг порівняно з 2025 роком, але оскільки вони приблизно у 100-1000 разів дешевші, внесок у ВВП у доларовому вираженні становить 1-10% від попереднього рівня.", "For fixed things like land, positional goods (like New York apartments) and human-bottlenecked services (e.g., human day care), we expect the relative pricing to increase, because their supply hasn’t changed. A (very rough model) for the price of land is that there are three main factors: (i) a larger share of spending gets devoted to land (10% -> 50%), and (ii) average spending increases due to the AI boom (100x), (iii) through repurposing of land (e.g., agriculture to housing) and deregulation, available land increases 10x. So with 500x increase in spending and only 10x increase in supply the price should increase 50x. The economic model has a more complicated model for land with more assumptions (which we don’t necessarily endorse), and produces concrete rental prices for urban, rural, and agricultural land separately. On average, land prices increase around 10-100x between the types.": "Для фіксованих речей, як-от земля, позиційні блага (наприклад, квартири в Нью-Йорку) та послуги, обмежені людською працею (наприклад, дитячий догляд людьми), ми очікуємо зростання відносних цін, оскільки їхня пропозиція не змінилася. (Дуже спрощена) модель ціни на землю передбачає три основні фактори: (i) більша частка витрат спрямовується на землю (10% -> 50%), (ii) середні витрати зростають через бум ШІ (у 100 разів), (iii) через перепрофілювання землі (наприклад, із сільського господарства під житло) та дерегуляцію доступна земля зростає у 10 разів. Тож за зростання витрат у 500 разів і зростання пропозиції лише у 10 разів ціна має зрости у 50 разів. Економічна модель має складнішу модель ціноутворення на землю з більшою кількістю припущень (з якими ми не обов'язково погоджуємось) і дає конкретні орендні ціни окремо для міської, сільської та сільськогосподарської землі. У середньому ціни на землю зростають приблизно у 10-100 разів залежно від типу.", "The model predicts land costs increasing around 100x, while building costs only increase 2x. This implies that the price of housing will become dominated by the price of the land (as opposed to the cost of building housing), so dense housing (e.g. skyscrapers) will become relatively much cheaper than sparse housing. For single family homes, (where the current land vs. build cost share is usually around 40/60), this means that their price is up around 40x on average, but 97% of the home’s value on paper is the land.": "Модель прогнозує зростання вартості землі приблизно у 100 разів, тоді як вартість будівництва зростає лише у 2 рази. Це означає, що ціну житла дедалі більше визначатиме вартість землі (а не вартість будівництва), тож щільна забудова (наприклад, хмарочоси) стане відносно значно дешевшою за розріджену. Для приватних будинків (де нинішнє співвідношення вартості землі й будівництва зазвичай близько 40/60) це означає, що їхня ціна в середньому зросте приблизно у 40 разів, але 97% номінальної вартості будинку становитиме саме земля.", " For 100 floor skyscrapers, land is currently typically 5% of the cost, so the price only goes up 7x.": " Для 100-поверхових хмарочосів земля наразі зазвичай становить 5% вартості, тож ціна зросте лише у 7 разів.", "For 100 floor skyscrapers, land is currently typically 5% of the cost, so the price only goes up 7x.": "Для 100-поверхових хмарочосів земля наразі зазвичай становить 5% вартості, тож ціна зросте лише у 7 разів.", " So it’s now commonplace for 100-floor skyscrapers to be built rapidly near major cities almost entirely by robots to provide cheaper housing. In 2035, the Citizen’s Dividend is roughly $1M per person, and it should only take around 15% of it to afford a typical high rise apartment near the city. Also, in deregulated places robots should be able to build far improved transportation that allows for rural homes to also become attractive, where we think the land will be around 10x cheaper.": " Тож тепер стає звичною справою, що 100-поверхові хмарочоси швидко будуються поблизу великих міст майже повністю роботами, щоб забезпечити дешевше житло. У 2035 році дивіденд громадянина становить приблизно $1 млн на особу, і для того, щоб дозволити собі типову квартиру у висотці поблизу міста, знадобиться лише близько 15% цієї суми. Крім того, у дерегульованих місцях роботи мають бути здатні побудувати значно вдосконалений транспорт, який зробить привабливим і сільське житло, де земля, на нашу думку, буде приблизно у 10 разів дешевшою.", "So it’s now commonplace for 100-floor skyscrapers to be built rapidly near major cities almost entirely by robots to provide cheaper housing. In 2035, the Citizen’s Dividend is roughly $1M per person, and it should only take around 15% of it to afford a typical high rise apartment near the city. Also, in deregulated places robots should be able to build far improved transportation that allows for rural homes to also become attractive, where we think the land will be around 10x cheaper.": "Тож тепер стає звичною справою, що 100-поверхові хмарочоси швидко будуються поблизу великих міст майже повністю роботами, щоб забезпечити дешевше житло. У 2035 році дивіденд громадянина становить приблизно $1 млн на особу, і для того, щоб дозволити собі типову квартиру у висотці поблизу міста, знадобиться лише близько 15% цієї суми. Крім того, у дерегульованих місцях роботи мають бути здатні побудувати значно вдосконалений транспорт, який зробить привабливим і сільське житло, де земля, на нашу думку, буде приблизно у 10 разів дешевшою.", "We have an explorer in the ": "У нас є дослідник у ", "We have an explorer in the": "У нас є дослідник у", "scenario exploration tab": "вкладці дослідження сценаріїв", " for what the median consumer might be able to afford. The default assumes 15% of their spending is on urban land, 15% on rural land, 35% is on AI labor and 35% is on robot labor. Since AI labor is relatively cheap, by 2034 it becomes the case that each American can afford the equivalent of a mid-sized corporation working for them personally. Robots are more expensive and slower to scale, so in 2034 the median American has an average of a single robot working for them. By 2039, everyone can afford a construction team of robots, four hectares of rural land and a small urban block.": ", що показує, що медіанний споживач міг би собі дозволити. За замовчуванням передбачається, що 15% витрат припадає на міську землю, 15% — на сільську землю, 35% — на ШІ-працю і 35% — на роботизовану працю. Оскільки ШІ-праця відносно дешева, до 2034 року кожен американець зможе дозволити собі еквівалент середньої компанії, що працює особисто на нього. Роботи дорожчі й повільніше масштабуються, тож у 2034 році медіанний американець матиме в середньому одного робота, що працює на нього. До 2039 року кожен зможе дозволити собі будівельну бригаду роботів, чотири гектари сільської землі та невеликий міський квартал.", "for what the median consumer might be able to afford. The default assumes 15% of their spending is on urban land, 15% on rural land, 35% is on AI labor and 35% is on robot labor. Since AI labor is relatively cheap, by 2034 it becomes the case that each American can afford the equivalent of a mid-sized corporation working for them personally. Robots are more expensive and slower to scale, so in 2034 the median American has an average of a single robot working for them. By 2039, everyone can afford a construction team of robots, four hectares of rural land and a small urban block.": ", що показує, що медіанний споживач міг би собі дозволити. За замовчуванням передбачається, що 15% витрат припадає на міську землю, 15% — на сільську землю, 35% — на ШІ-працю і 35% — на роботизовану працю. Оскільки ШІ-праця відносно дешева, до 2034 року кожен американець зможе дозволити собі еквівалент середньої компанії, що працює особисто на нього. Роботи дорожчі й повільніше масштабуються, тож у 2034 році медіанний американець матиме в середньому одного робота, що працює на нього. До 2039 року кожен зможе дозволити собі будівельну бригаду роботів, чотири гектари сільської землі та невеликий міський квартал.", "There are high real interest rates around 100-200% and depending on monetary policy choices, either massive deflation or large money creation (to keep inflation around 2%).": "Реальні відсоткові ставки будуть високими — близько 100-200%, і залежно від рішень монетарної політики це супроводжуватиметься або масштабною дефляцією, або значною емісією грошей (щоб утримати інфляцію на рівні близько 2%).", " We believe interest rates will ": " Ми вважаємо, що відсоткові ставки ", "We believe interest rates will": "Ми вважаємо, що відсоткові ставки", "increase drastically": "різко зростуть", " in Plan A as companies are willing to bid up the robot and AI production permits up to levels close to all of the current year’s GDP and pay interest up to 100-200%: since the robot and AI permits can be converted (barring the comparatively negligible costs of actually producing the AI and robots) into quantities of AI and robots that increase economic output 100-200%. In our modelling, this happens because of explosive growth in cognitive and physical labor, combined with our modelling decision to have production combine labor and capital with limited substitutability (a CES aggregate with elasticity 1.1, close to cobb-douglas). Because capital cannot fully stand in for labor at that elasticity, the exploding effective labor supply makes each unit of capital much more productive, so the marginal product of capital (MPK; how much extra output you get from one extra unit of capital per year) increases greatly throughout Plan A. Since in equilibrium the real interest rate equals MPK minus depreciation, this implies real rates rise similarly throughout the takeoff. We model the savings rate being responsive (but inelastic) with respect to these rising interest rates, but are not confident in the particular parameter we chose.": " у Плані А, оскільки компанії будуть готові підвищувати ціну на дозволи на виробництво роботів і ШІ до рівнів, близьких до всього ВВП поточного року, і платити відсотки до 100-200%: адже дозволи на роботів і ШІ можна конвертувати (за винятком порівняно незначних витрат на власне виробництво ШІ й роботів) у кількість ШІ й роботів, яка збільшує економічний випуск на 100-200%. У нашому моделюванні це відбувається через вибухове зростання когнітивної й фізичної праці в поєднанні з нашим рішенням моделювати виробництво так, щоб праця й капітал поєднувалися з обмеженою взаємозамінністю (CES-агрегат з еластичністю 1,1, близькою до Кобба-Дугласа). Оскільки за такої еластичності капітал не може повністю замінити працю, вибухове зростання ефективної пропозиції праці робить кожну одиницю капіталу значно продуктивнішою, тож граничний продукт капіталу (MPK; скільки додаткового випуску дає одна додаткова одиниця капіталу за рік) сильно зростає протягом усього Плану А. Оскільки в рівновазі реальна відсоткова ставка дорівнює MPK мінус амортизація, це означає, що реальні ставки зростатимуть аналогічно протягом усього зльоту. Ми моделюємо норму заощаджень як чутливу (але нееластичну) до цих зростаючих відсоткових ставок, але не впевнені в конкретному обраному параметрі.", "in Plan A as companies are willing to bid up the robot and AI production permits up to levels close to all of the current year’s GDP and pay interest up to 100-200%: since the robot and AI permits can be converted (barring the comparatively negligible costs of actually producing the AI and robots) into quantities of AI and robots that increase economic output 100-200%. In our modelling, this happens because of explosive growth in cognitive and physical labor, combined with our modelling decision to have production combine labor and capital with limited substitutability (a CES aggregate with elasticity 1.1, close to cobb-douglas). Because capital cannot fully stand in for labor at that elasticity, the exploding effective labor supply makes each unit of capital much more productive, so the marginal product of capital (MPK; how much extra output you get from one extra unit of capital per year) increases greatly throughout Plan A. Since in equilibrium the real interest rate equals MPK minus depreciation, this implies real rates rise similarly throughout the takeoff. We model the savings rate being responsive (but inelastic) with respect to these rising interest rates, but are not confident in the particular parameter we chose.": "у Плані А, оскільки компанії будуть готові підвищувати ціну на дозволи на виробництво роботів і ШІ до рівнів, близьких до всього ВВП поточного року, і платити відсотки до 100-200%: адже дозволи на роботів і ШІ можна конвертувати (за винятком порівняно незначних витрат на власне виробництво ШІ й роботів) у кількість ШІ й роботів, яка збільшує економічний випуск на 100-200%. У нашому моделюванні це відбувається через вибухове зростання когнітивної й фізичної праці в поєднанні з нашим рішенням моделювати виробництво так, щоб праця й капітал поєднувалися з обмеженою взаємозамінністю (CES-агрегат з еластичністю 1,1, близькою до Кобба-Дугласа). Оскільки за такої еластичності капітал не може повністю замінити працю, вибухове зростання ефективної пропозиції праці робить кожну одиницю капіталу значно продуктивнішою, тож граничний продукт капіталу (MPK; скільки додаткового випуску дає одна додаткова одиниця капіталу за рік) сильно зростає протягом усього Плану А. Оскільки в рівновазі реальна відсоткова ставка дорівнює MPK мінус амортизація, це означає, що реальні ставки зростатимуть аналогічно протягом усього зльоту. Ми моделюємо норму заощаджень як чутливу (але нееластичну) до цих зростаючих відсоткових ставок, але не впевнені в конкретному обраному параметрі.", "We imagine two mainline monetary policy responses being possible in this situation:": "Ми уявляємо дві основні можливі реакції монетарної політики в цій ситуації:", "(1) If the government chooses to keep the money supply relatively fixed, then there would be a fixed amount of dollars chasing an increasingly abundant number of goods and services, so each dollar would be spread over a growing number of goods and services, meaning the average price is lower (each dollar buys more goods and services), i.e., leading to massive deflation. The problem with this could be a ": "(1) Якщо уряд вирішить утримувати грошову масу відносно фіксованою, то фіксована кількість доларів «ганятиметься» за дедалі більшою кількістю товарів і послуг, тож кожен долар розподілятиметься на більшу кількість товарів і послуг, а це означає нижчу середню ціну (кожен долар купує більше товарів і послуг), тобто це призведе до масштабної дефляції. Проблема тут могла б полягати у ", "(1) If the government chooses to keep the money supply relatively fixed, then there would be a fixed amount of dollars chasing an increasingly abundant number of goods and services, so each dollar would be spread over a growing number of goods and services, meaning the average price is lower (each dollar buys more goods and services), i.e., leading to massive deflation. The problem with this could be a": "(1) Якщо уряд вирішить утримувати грошову масу відносно фіксованою, то фіксована кількість доларів «ганятиметься» за дедалі більшою кількістю товарів і послуг, тож кожен долар розподілятиметься на більшу кількість товарів і послуг, а це означає нижчу середню ціну (кожен долар купує більше товарів і послуг), тобто це призведе до масштабної дефляції. Проблема тут могла б полягати у", "deflationary debt spiral": "дефляційній борговій спіралі", ", where the AI and robot companies can’t pay back loans in dollars because the robots and AIs are worth nominally less than the loans written the year before. One way to solve this could be for the loans to be denominated in AI and robots, so the companies pay back the loans with some percentage of the AI and robots instead of dollars. (2) Another possibility could be that they attempt to maintain an ongoing annual 2% inflation rate. This would involve a lot of money creation to keep up with the explosive real growth, and there might be high measurement difficulty and time lags making it hard to create the money at the correct level.": ", коли ШІ- та робото-компанії не можуть повернути кредити в доларах, бо роботи й ШІ номінально коштують менше, ніж кредити, видані роком раніше. Один зі способів вирішити це — деномінувати кредити в ШІ й роботах, щоб компанії повертали кредити певним відсотком ШІ й роботів замість доларів. (2) Інша можливість — намагатися підтримувати постійний річний рівень інфляції 2%. Це вимагатиме значної емісії грошей, щоб встигати за вибуховим реальним зростанням, і можуть виникнути суттєві труднощі з вимірюванням і часові лаги, через які буде складно емітувати гроші на правильному рівні.", "Note this wouldn’t change the fact that the consumer perceived inflation rates would depend dramatically on the basket of goods chosen, as the relative price swings systematically bring down the typical 2025-basket-of-goods dominant goods and services, with the AI and robot automation disproportionately affecting these areas. People will be able to afford many more cognitive-labor-bottlenecked services (e.g. financial advisors, lawyers, travel agents), and manufacturing bottlenecked goods (e.g. computers, cars, clothes, nice food), but less land, and less positional goods or non-automatable things (e.g., human day care). Because of the relative price swings, even if average inflation is 2%, some sectors will have large price increases (inflation) and others will have large price decreases (deflation).": "Зауважте, що це не змінить того факту, що сприймана споживачами інфляція буде сильно залежати від обраного кошика товарів, оскільки відносні цінові зсуви систематично знижують ціни на товари й послуги, типові для кошика 2025 року, з непропорційно сильним впливом автоматизації ШІ й роботів саме на ці сфери. Люди зможуть дозволити собі значно більше послуг, обмежених когнітивною працею (наприклад, фінансові консультанти, юристи, турагенти), і промислових товарів, обмежених виробництвом (наприклад, комп'ютери, автомобілі, одяг, якісна їжа), але менше землі й менше позиційних благ або неавтоматизовних речей (наприклад, дитячий догляд людьми). Через ці відносні цінові зсуви, навіть якщо середня інфляція становитиме 2%, у деяких секторах ціни суттєво зростатимуть (інфляція), а в інших — суттєво падатимуть (дефляція).", "In the AI 2040 default world, R&D and production quantities are mostly unconstrained by regulation, so there is 100% automation reached by early 2031. With our model’s naive endogenous investment and cost modelling explained below, we get 5000x growth in 1 year during 2033.": "У світі за замовчуванням AI 2040 обсяги R&D і виробництва здебільшого не обмежені регулюванням, тож 100% автоматизація досягається вже на початку 2031 року. За наївного ендогенного моделювання інвестицій і витрат нашої моделі, описаного нижче, ми отримуємо зростання у 5000 разів за 1 рік протягом 2033 року.", "We model the investment required for robot and AI production (cost per quality-adjusted unit) by stacking pure “learning by doing” or economies of scale modelling (using ": "Ми моделюємо інвестиції, необхідні для виробництва роботів і ШІ (вартість на одиницю з поправкою на якість), поєднуючи чисте моделювання «навчання через дію» або економії масштабу (за допомогою ", "We model the investment required for robot and AI production (cost per quality-adjusted unit) by stacking pure “learning by doing” or economies of scale modelling (using": "Ми моделюємо інвестиції, необхідні для виробництва роботів і ШІ (вартість на одиницю з поправкою на якість), поєднуючи чисте моделювання «навчання через дію» або економії масштабу (за допомогою", "Wright's law": "закону Райта", ", i.e., cost / unit) combining multiplicatively with design improvements (using ": ", тобто вартість / одиницю) мультиплікативно з поліпшеннями конструкції (за допомогою ", ", i.e., cost / unit) combining multiplicatively with design improvements (using": ", тобто вартість / одиницю) мультиплікативно з поліпшеннями конструкції (за допомогою", "Jones' model": "моделі Джонса", ", i.e., quality / unit). The idea is to reflect the separate gains from chip production efficiency (more chips of a fixed design being produced per dollar by fabs, i.e., progress that TSMC makes) with chip design efficiency (producing more final hardware performance per dollar from a fixed fab, i.e., progress that Nvidia makes). More on this in the cost model section of the ": ", тобто якість / одиницю). Ідея полягає в тому, щоб відобразити окремо приріст від ефективності виробництва чипів (більше чипів фіксованої конструкції виробляється за долар на фабриках, тобто прогрес, який робить TSMC) і від ефективності конструкції чипів (більше кінцевої продуктивності обладнання за долар з фіксованої фабрики, тобто прогрес, який робить Nvidia). Детальніше про це в розділі про модель витрат у ", ", i.e., quality / unit). The idea is to reflect the separate gains from chip production efficiency (more chips of a fixed design being produced per dollar by fabs, i.e., progress that TSMC makes) with chip design efficiency (producing more final hardware performance per dollar from a fixed fab, i.e., progress that Nvidia makes). More on this in the cost model section of the": ", тобто якість / одиницю). Ідея полягає в тому, щоб відобразити окремо приріст від ефективності виробництва чипів (більше чипів фіксованої конструкції виробляється за долар на фабриках, тобто прогрес, який робить TSMC) і від ефективності конструкції чипів (більше кінцевої продуктивності обладнання за долар з фіксованої фабрики, тобто прогрес, який робить Nvidia). Детальніше про це в розділі про модель витрат у", "model explanation": "поясненні моделі", ". The endogenous investment mode then allocates investment between AI hardware, robot hardware, and capital based on a naive myopic return (i.e., so that each earns the same real return at the margin once you net out depreciation). We don’t necessarily endorse this as a way to model endogenous investment, but we’ve chosen it for simplicity for this illustrative model, and (as previously mentioned) we think the outputs are plausible because of the core arguments made in sections 1 and 2, rather than because of this modelling.": ". Режим ендогенних інвестицій потім розподіляє інвестиції між ШІ-обладнанням, робото-обладнанням і капіталом на основі наївної короткозорої дохідності (тобто так, щоб кожен з них давав однакову реальну граничну дохідність після врахування амортизації). Ми не обов'язково підтримуємо такий підхід до моделювання ендогенних інвестицій, але обрали його заради простоти для цієї ілюстративної моделі, і (як уже згадувалося) вважаємо, що результати правдоподібні саме через основні аргументи, наведені в розділах 1 і 2, а не через це моделювання.", "A feedback loop happens where AI and robot investment leads to more cognitive and physical labor, which can then be reinvested in R&D and more production efficiency. AI and robot investment gives higher returns as AI and robots become more capable (according to the exogenous trajectory that assumes full automation in 2031). The explosion in R&D labor flows through to plummeting production costs for AIs and robots.": "Виникає контур зворотного зв'язку, коли інвестиції в ШІ й роботів ведуть до більшої когнітивної та фізичної праці, яку потім можна реінвестувати в R&D і підвищення ефективності виробництва. Інвестиції в ШІ й роботів дають вищу віддачу в міру того, як ШІ й роботи стають здатнішими (згідно з екзогенною траєкторією, що передбачає повну автоматизацію у 2031 році). Вибух праці в R&D перетікає у стрімке падіння виробничих витрат на ШІ й роботів.", "Appendix A: Robot doubling times": "Додаток А: Часи подвоєння роботів", "There is a nascent but growing literature on this topic. In particular ": "На цю тему існує ще молода, але зростаюча література. Зокрема, ", "There is a nascent but growing literature on this topic. In particular": "На цю тему існує ще молода, але зростаюча література. Зокрема,", "this Forethought report": "цей звіт Forethought", ", which splits its doubling time estimates into three phases:": ", який поділяє оцінки часу подвоєння на три фази:", "Initial": "Початкова", " (One-time gain from AI-directed human labor): on the order of ": " (одноразовий приріст від людської праці, керованої ШІ): порядку ", "(One-time gain from AI-directed human labor): on the order of": "(одноразовий приріст від людської праці, керованої ШІ): порядку", "Acceleration": "Прискорення", ": historical experience curves suggest ": ": історичні криві досвіду свідчать, що ", ": historical experience curves suggest": ": історичні криві досвіду свідчать, що", "the number of robots will double 1-5 times before the robot growth rate doubles.": "кількість роботів подвоїться 1-5 разів, перш ніж подвоїться темп зростання кількості роботів.", "Peak / maximum": "Пік / максимум", " (biological anchors): ": " (біологічні орієнтири): ", "(biological anchors):": "(біологічні орієнтири):", "days to weeks": "від днів до тижнів", " as an upper bound (fruit flies double in days, rats in ~6 weeks; bacteria in hours but probably too cognitively basic to bootstrap).": " як верхня межа (плодові мушки подвоюються за дні, щури — приблизно за 6 тижнів; бактерії — за години, але, ймовірно, надто когнітивно прості, щоб на них можна було побудувати весь процес).", "as an upper bound (fruit flies double in days, rats in ~6 weeks; bacteria in hours but probably too cognitively basic to bootstrap).": "як верхня межа (плодові мушки подвоюються за дні, щури — приблизно за 6 тижнів; бактерії — за години, але, ймовірно, надто когнітивно прості, щоб на них можна було побудувати весь процес).", "Out of these we broadly agree, except we think the acceleration phase is unlikely to match historical experience curves: those curves are evidence from human industries, and our best guess is that at full-automation, AI-driven R&D will be able to drive a faster experience curve for robotics. Our best guess is that it could look like Moore’s law (0.2 doublings per halving of cost) or faster, meaning that within a few months, the doubling time might halve multiple times, quickly approaching the ‘peak’ phase. Especially in the regime where AI continues to improve qualitatively, we also think that for the ‘peak / maximum’ phase the actual ceiling might be minutes or hours, because of ": "Загалом ми з цим погоджуємось, за винятком того, що, на нашу думку, фаза прискорення навряд чи відповідатиме історичним кривим досвіду: ці криві є свідченнями з людських галузей, і, на нашу найкращу оцінку, за повної автоматизації дослідження й розробки, керовані ШІ, зможуть забезпечити швидшу криву досвіду для робототехніки. Наша найкраща оцінка полягає в тому, що це може виглядати як закон Мура (0,2 подвоєння на кожне зменшення вартості вдвічі) або швидше, тобто протягом кількох місяців час подвоєння може скорочуватися вдвічі кілька разів, швидко наближаючись до фази «піку». Особливо в режимі, коли ШІ продовжує якісно вдосконалюватися, ми також вважаємо, що для фази «піку/максимуму» фактична стеля може становити хвилини або години — через ", "Out of these we broadly agree, except we think the acceleration phase is unlikely to match historical experience curves: those curves are evidence from human industries, and our best guess is that at full-automation, AI-driven R&D will be able to drive a faster experience curve for robotics. Our best guess is that it could look like Moore’s law (0.2 doublings per halving of cost) or faster, meaning that within a few months, the doubling time might halve multiple times, quickly approaching the ‘peak’ phase. Especially in the regime where AI continues to improve qualitatively, we also think that for the ‘peak / maximum’ phase the actual ceiling might be minutes or hours, because of": "Загалом ми з цим погоджуємось, за винятком того, що, на нашу думку, фаза прискорення навряд чи відповідатиме історичним кривим досвіду: ці криві є свідченнями з людських галузей, і, на нашу найкращу оцінку, за повної автоматизації дослідження й розробки, керовані ШІ, зможуть забезпечити швидшу криву досвіду для робототехніки. Наша найкраща оцінка полягає в тому, що це може виглядати як закон Мура (0,2 подвоєння на кожне зменшення вартості вдвічі) або швидше, тобто протягом кількох місяців час подвоєння може скорочуватися вдвічі кілька разів, швидко наближаючись до фази «піку». Особливо в режимі, коли ШІ продовжує якісно вдосконалюватися, ми також вважаємо, що для фази «піку/максимуму» фактична стеля може становити хвилини або години — через", "bacteria with ~10 minute doubling times": "бактерії з часом подвоєння близько 10 хвилин", " providing an existence proof of something a superintelligent AI may be able to match with a nanotechnology design.": ", які є доказом існування чогось, що суперінтелектуальний ШІ, можливо, зможе повторити за допомогою нанотехнологічної конструкції.", "providing an existence proof of something a superintelligent AI may be able to match with a nanotechnology design.": ", які є доказом існування чогось, що суперінтелектуальний ШІ, можливо, зможе повторити за допомогою нанотехнологічної конструкції.", "This blog post": "Цей допис у блозі", " by Damon Binder assumes ": " Дэмона Біндера припускає ", "by Damon Binder assumes": "Дэмона Біндера припускає", "full automation but no other technological improvement": "повну автоматизацію без жодного іншого технологічного вдосконалення", ", framing this result as a conservative assumption, and finds ": ", подаючи цей результат як консервативне припущення, і знаходить ", ", framing this result as a conservative assumption, and finds": ", подаючи цей результат як консервативне припущення, і знаходить", "headline doubling time of ~1 year ignoring consumption": "базовий час подвоєння приблизно в 1 рік без урахування споживання", " (with a plausible range of roughly 8 months to 2 years depending on assumptions). He computes the Von Neumann growth rate (the maximum rate at which the economy's physical capital can reproduce itself if all output is reinvested) directly from US BEA input-output tables, capital stocks, and depreciation data. He first assumes labor is free (abundant AI and robots), and then adjusts for actual AI and robot costs, resource depletion, construction time lags, and consumption to get estimates ranging more in the 1-2 year range.": " (з правдоподібним діапазоном приблизно від 8 місяців до 2 років залежно від припущень). Він обчислює темп зростання за Фон Нейманом (максимальний темп, з яким фізичний капітал економіки може відтворювати сам себе, якщо весь випуск реінвестується) безпосередньо з таблиць витрати-випуск US BEA, даних про запаси капіталу та амортизацію. Спершу він припускає, що праця безкоштовна (ШІ й роботи в надлишку), а потім коригує на фактичну вартість ШІ й роботів, виснаження ресурсів, часові лаги будівництва та споживання, отримуючи оцінки, що більше тяжіють до діапазону 1-2 роки.", "(with a plausible range of roughly 8 months to 2 years depending on assumptions). He computes the Von Neumann growth rate (the maximum rate at which the economy's physical capital can reproduce itself if all output is reinvested) directly from US BEA input-output tables, capital stocks, and depreciation data. He first assumes labor is free (abundant AI and robots), and then adjusts for actual AI and robot costs, resource depletion, construction time lags, and consumption to get estimates ranging more in the 1-2 year range.": "(з правдоподібним діапазоном приблизно від 8 місяців до 2 років залежно від припущень). Він обчислює темп зростання за Фон Нейманом (максимальний темп, з яким фізичний капітал економіки може відтворювати сам себе, якщо весь випуск реінвестується) безпосередньо з таблиць витрати-випуск US BEA, даних про запаси капіталу та амортизацію. Спершу він припускає, що праця безкоштовна (ШІ й роботи в надлишку), а потім коригує на фактичну вартість ШІ й роботів, виснаження ресурсів, часові лаги будівництва та споживання, отримуючи оцінки, що більше тяжіють до діапазону 1-2 роки.", "Another recent piece is ": "Ще одна нещодавня робота — ", "Another recent piece is": "Ще одна нещодавня робота —", "this Epoch report": "цей звіт Epoch", ", which summarizes current 2025 robotics trends (6 months for humanoids, albeit at very low volumes), acceleration under historical demand shocks (e.g., WW2 and Ukraine), and current factory-build latencies (6-9 months in China). This piece is explicitly about near-term scaling (i.e., excluding AI-directed scale-up), which we think establishes a strong baseline for an initial doubling time of around 1 year at full automation.": ", який узагальнює поточні тренди робототехніки 2025 року (6 місяців для гуманоїдів, хоча й за дуже малих обсягів), прискорення за історичних сплесків попиту (наприклад, Друга світова війна та Україна) та поточні затримки будівництва заводів (6-9 місяців у Китаї). Ця робота стосується явно короткострокового масштабування (тобто без урахування нарощування, керованого ШІ), що, на нашу думку, дає надійну базову оцінку початкового часу подвоєння близько 1 року за повної автоматизації.", "See also older work in ": "Див. також попередні роботи в ", "See also older work in": "Див. також попередні роботи в", "the “Industrial Explosion” section of another Forethought report": "розділі «промисловий вибух» в іншому звіті Forethought", "this Open Philanthropy report": "цьому звіті Open Philanthropy", "this Epoch blog post": "цьому дописі в блозі Epoch", ", as well as our own arguments in the ": ", а також наші власні аргументи в ", ", as well as our own arguments in the": ", а також наші власні аргументи в", "AI 2027 robot economy doubling times box": "блоці про часи подвоєння роботизованої економіки в AI 2027", "ai-2027.com/slowdown": "ai-2027.com/slowdown", "open ↗": "відкрити ↗", "Robot economy doubling times": "Часи подвоєння роботизованої економіки", "Slowdown ending · March 2028": "Кінцівка «Сповільнення» · березень 2028", "During World War II the United States and many other countries converted their civilian economies to total war economies. This meant converting factories that produced cars into factories that produced planes and tanks, redirecting raw materials from consumer products to military products, and rerouting transportation networks accordingly.": "Під час Другої світової війни США та багато інших країн перевели свої цивільні економіки на режим тотальної воєнної економіки. Це означало перетворення заводів, що виробляли автомобілі, на заводи, що виробляли літаки й танки, перенаправлення сировини з товарів народного споживання на військову продукцію та відповідну перебудову транспортних мереж.", "We are imagining something similar, except faster because superintelligences are directing and managing the whole process.": "Ми уявляємо щось подібне, тільки швидше, оскільки всім процесом керують і управляють суперінтелекти.", " Roughly speaking, the plan is to convert existing factories to mass-produce a variety of robots (designed by superintelligences to be both better than existing robots and cheaper to produce) which then assist in the construction of newer, more efficient factories and laboratories, which produce larger quantities of more sophisticated robots, which produce even more advanced factories and laboratories, etc. until the combined robot economy spread across all the SEZs is as large as the human economy (and therefore needs to procure its own raw materials, energy, etc.) By that point, the new factories will have produced huge quantities of robotic mining equipment, solar panels, etc. in anticipation of needing to meet demand far greater than the legacy human economy can provide.": " Загалом кажучи, план полягає в тому, щоб переобладнати наявні заводи для масового виробництва різноманітних роботів (спроєктованих суперінтелектами так, щоб бути одночасно кращими за наявних роботів і дешевшими у виробництві), які потім допомагатимуть будувати нові, ефективніші заводи й лабораторії, що вироблятимуть більші кількості складніших роботів, які будуватимуть ще досконаліші заводи й лабораторії, і так далі — доки сукупна роботизована економіка, поширена по всіх СЕЗ, не зрівняється за розміром із людською економікою (і, отже, не потребуватиме власної сировини, енергії тощо). До цього моменту нові заводи вже виготовлять величезні кількості роботизованого гірничодобувного обладнання, сонячних панелей тощо в очікуванні необхідності задовольнити попит, набагато більший за той, що може забезпечити стара людська економіка.", "Roughly speaking, the plan is to convert existing factories to mass-produce a variety of robots (designed by superintelligences to be both better than existing robots and cheaper to produce) which then assist in the construction of newer, more efficient factories and laboratories, which produce larger quantities of more sophisticated robots, which produce even more advanced factories and laboratories, etc. until the combined robot economy spread across all the SEZs is as large as the human economy (and therefore needs to procure its own raw materials, energy, etc.) By that point, the new factories will have produced huge quantities of robotic mining equipment, solar panels, etc. in anticipation of needing to meet demand far greater than the legacy human economy can provide.": "Загалом кажучи, план полягає в тому, щоб переобладнати наявні заводи для масового виробництва різноманітних роботів (спроєктованих суперінтелектами так, щоб бути одночасно кращими за наявних роботів і дешевшими у виробництві), які потім допомагатимуть будувати нові, ефективніші заводи й лабораторії, що вироблятимуть більші кількості складніших роботів, які будуватимуть ще досконаліші заводи й лабораторії, і так далі — доки сукупна роботизована економіка, поширена по всіх СЕЗ, не зрівняється за розміром із людською економікою (і, отже, не потребуватиме власної сировини, енергії тощо). До цього моменту нові заводи вже виготовлять величезні кількості роботизованого гірничодобувного обладнання, сонячних панелей тощо в очікуванні необхідності задовольнити попит, набагато більший за той, що може забезпечити стара людська економіка.", "How fast would this new robot economy grow? Some reference points:": "Наскільки швидко зростатиме ця нова роботизована економіка? Кілька орієнтирів:", "The modern human economy doubles every twenty years or so. Countries that have developed especially rapidly (e.g. ": "Сучасна людська економіка подвоюється приблизно кожні двадцять років. Країни, що розвивалися особливо швидко (наприклад, ", "The modern human economy doubles every twenty years or so. Countries that have developed especially rapidly (e.g.": "Сучасна людська економіка подвоюється приблизно кожні двадцять років. Країни, що розвивалися особливо швидко (наприклад,", "China)": "Китай)", " sometimes manage to double their economies in less than a decade.": " іноді встигають подвоїти свою економіку менш ніж за десятиліття.", "sometimes manage to double their economies in less than a decade.": "іноді встигають подвоїти свою економіку менш ніж за десятиліття.", "A modern car factory produces roughly its own weight in cars in less than a year.": "Сучасний автомобільний завод виробляє приблизно власну вагу в автомобілях менш ніж за рік.", " Perhaps a fully robotic economy run by superintelligences would be able to reproduce itself in less than a year, so long as it didn’t start to run out of raw materials.": " Можливо, повністю роботизована економіка, керована суперінтелектами, могла б відтворити сама себе менш ніж за рік, якщо у неї не почала б закінчуватися сировина.", "Perhaps a fully robotic economy run by superintelligences would be able to reproduce itself in less than a year, so long as it didn’t start to run out of raw materials.": "Можливо, повністю роботизована економіка, керована суперінтелектами, могла б відтворити сама себе менш ніж за рік, якщо у неї не почала б закінчуватися сировина.", "Yet that seems like it could be a dramatic underestimate. Plants and insects often have “doubling times” of far less than a year—sometimes just weeks! Perhaps eventually the robots would be so sophisticated, so intricately manufactured and well-designed, that the robot economy could double in a few weeks (again assuming available raw materials).": "Але це, схоже, може бути суттєвою недооцінкою. Рослини й комахи часто мають «час подвоєння» значно менший за рік — іноді лише тижні! Можливо, зрештою роботи стануть настільки досконалими, настільки складно виготовленими й добре спроєктованими, що роботизована економіка зможе подвоюватися за кілька тижнів (знову ж таки, за наявності доступної сировини).", "Yet even that could be an underestimate. Plants and insects are operating under many constraints that superintelligent designers don’t have. For example, they need to take the form of self-contained organisms that self-replicate, instead of an economy of diverse and more specialized vehicles and factories shipping materials and equipment back and forth. Besides, bacteria and other tiny organisms reproduce in hours. It’s possible that, eventually, the autonomous robot economy would look more like e.g. a new kind of indigestible algae that spreads across the Earth’s oceans, doubling ": "Але навіть це може виявитися недооцінкою. Рослини й комахи діють у межах багатьох обмежень, яких немає у суперінтелектуальних конструкторів. Наприклад, їм потрібно мати форму самодостатніх організмів, що самовідтворюються, замість економіки з різноманітних і більш спеціалізованих транспортних засобів і заводів, що перевозять матеріали й обладнання туди-сюди. Крім того, бактерії та інші крихітні організми відтворюються за години. Цілком можливо, що зрештою автономна роботизована економіка нагадуватиме, наприклад, новий вид неперетравлюваних водоростей, що поширюються океанами Землі, подвоюючись ", "Yet even that could be an underestimate. Plants and insects are operating under many constraints that superintelligent designers don’t have. For example, they need to take the form of self-contained organisms that self-replicate, instead of an economy of diverse and more specialized vehicles and factories shipping materials and equipment back and forth. Besides, bacteria and other tiny organisms reproduce in hours. It’s possible that, eventually, the autonomous robot economy would look more like e.g. a new kind of indigestible algae that spreads across the Earth’s oceans, doubling": "Але навіть це може виявитися недооцінкою. Рослини й комахи діють у межах багатьох обмежень, яких немає у суперінтелектуальних конструкторів. Наприклад, їм потрібно мати форму самодостатніх організмів, що самовідтворюються, замість економіки з різноманітних і більш спеціалізованих транспортних засобів і заводів, що перевозять матеріали й обладнання туди-сюди. Крім того, бактерії та інші крихітні організми відтворюються за години. Цілком можливо, що зрештою автономна роботизована економіка нагадуватиме, наприклад, новий вид неперетравлюваних водоростей, що поширюються океанами Землі, подвоюючись", "twice a day": "двічі на день", " so that it covers the entire ocean surface in two months, along with an accompanying ecosystem of predator-species that convert algae into more useful products, themselves fed into floating factories that produce macro-structures like rockets and more floating factories.": ", так що вони покривають усю поверхню океану за два місяці, разом із супутньою екосистемою хижих видів, що перетворюють водорості на кориснішу продукцію, яка, своєю чергою, живить плавучі заводи, що виробляють макроструктури на кшталт ракет і ще більше плавучих заводів.", "so that it covers the entire ocean surface in two months, along with an accompanying ecosystem of predator-species that convert algae into more useful products, themselves fed into floating factories that produce macro-structures like rockets and more floating factories.": ", так що вони покривають усю поверхню океану за два місяці, разом із супутньою екосистемою хижих видів, що перетворюють водорості на кориснішу продукцію, яка, своєю чергою, живить плавучі заводи, що виробляють макроструктури на кшталт ракет і ще більше плавучих заводів.", "Obviously, all of this is hard to predict. It’s like asking the inventors of the steam engine to guess how long it takes for a modern car factory to produce its own weight in cars, and also to guess how long it would take until such a factory first exists. But economic growth rates have accelerated by ": "Звісно, усе це важко передбачити. Це схоже на те, якби попросити винахідників парової машини вгадати, скільки часу знадобиться сучасному автомобільному заводу, щоб виробити власну вагу в автомобілях, а також вгадати, скільки часу піде, доки такий завод взагалі з'явиться. Але темпи економічного зростання прискорювалися на ", "Obviously, all of this is hard to predict. It’s like asking the inventors of the steam engine to guess how long it takes for a modern car factory to produce its own weight in cars, and also to guess how long it would take until such a factory first exists. But economic growth rates have accelerated by": "Звісно, усе це важко передбачити. Це схоже на те, якби попросити винахідників парової машини вгадати, скільки часу знадобиться сучасному автомобільному заводу, щоб виробити власну вагу в автомобілях, а також вгадати, скільки часу піде, доки такий завод взагалі з'явиться. Але темпи економічного зростання прискорювалися на", "multiple orders of magnitude": "кілька порядків величини", " over the ": " протягом ", "over the": "протягом", "course of human history": "усієї історії людства", ", and it seems plausible to us that after superintelligence they will accelerate by orders of magnitude more. Our story depicts economic growth accelerating by about 1.5 orders of magnitude over the course of a few years.": ", і нам видається правдоподібним, що після появи суперінтелекту вони прискоряться ще на кілька порядків. Наша історія зображує економічне зростання, що прискорюється приблизно на 1,5 порядки величини протягом кількох років.", "quoted from": "цитата з", ", the box as published in the Slowdown ending (March 2028)": ", блок, опублікований у кінцівці «Сповільнення» (березень 2028)", "Appendix B: Energy model": "Додаток Б: Енергетична модель", "Global energy consumption in 2025 was around 19.0 terawatt-years (TW-yrs).": "Глобальне споживання енергії у 2025 році становило близько 19,0 теративат-років (ТВт-років).", " In the Plan A scenario, there is roughly 200x cumulative GWP growth by 2040 (on our ": " У сценарії Плану А сукупне зростання ВВП світу до 2040 року становить приблизно у 200 разів (за нашими ", "In the Plan A scenario, there is roughly 200x cumulative GWP growth by 2040 (on our": "У сценарії Плану А сукупне зростання ВВП світу до 2040 року становить приблизно у 200 разів (за нашими", "default model assumptions": "стандартними припущеннями моделі", "). If the energy intensity of the economy (ratio of GDP to energy consumption) stayed constant, then energy consumption would also increase by that same factor, but historically we have observed a decrease in energy intensity since 1920.": "). Якби енергоємність економіки (співвідношення ВВП до споживання енергії) залишалася сталою, споживання енергії зростало б у той самий раз, але історично ми спостерігаємо зниження енергоємності з 1920 року.", " The headline numbers below are computed directly from the model's Plan A output and our elasticity assumption, so they stay in sync with the ": " Наведені нижче ключові цифри обчислені безпосередньо з результату моделі для Плану А та нашого припущення про еластичність, тож вони узгоджені з ", "The headline numbers below are computed directly from the model's Plan A output and our elasticity assumption, so they stay in sync with the": "Наведені нижче ключові цифри обчислені безпосередньо з результату моделі для Плану А та нашого припущення про еластичність, тож вони узгоджені з", "economic model explorer": "дослідником економічної моделі", " defaults.": " за замовчуванням.", "defaults.": "за замовчуванням.", "Energy ×": "Енергія ×", "GDP ×": "ВВП ×", "Global Energy vs. GDP": "Глобальна енергія проти ВВП", "Global primary energy and GDP, both indexed 1820 = 1. 1820–2016:": "Глобальна первинна енергія та ВВП, обидва проіндексовані до 1820 = 1. 1820–2016:", "Bercegol & Benisty (2020)": "Bercegol & Benisty (2020)", "IEA Global Energy Review 2025": "IEA Global Energy Review 2025", "We expect this energy decoupling to continue, because the drivers of growth (AI, robots and accompanying capital) should all become more energy efficient per unit of economic output (AI hardware in particular has a ": "Ми очікуємо, що ця розв'язка (декаплінг) енергії й зростання триватиме, оскільки рушії зростання (ШІ, роботи й супутній капітал) мають ставати дедалі енергоефективнішими на одиницю економічного випуску (зокрема, ШІ-обладнання демонструє ", "We expect this energy decoupling to continue, because the drivers of growth (AI, robots and accompanying capital) should all become more energy efficient per unit of economic output (AI hardware in particular has a": "Ми очікуємо, що ця розв'язка (декаплінг) енергії й зростання триватиме, оскільки рушії зростання (ШІ, роботи й супутній капітал) мають ставати дедалі енергоефективнішими на одиницю економічного випуску (зокрема, ШІ-обладнання демонструє", "strong power efficiency trend": "стійкий тренд енергоефективності", "). In our ": "). У нашій ", "). In our": "). У нашій", "energy model": "енергетичній моделі", ", we assume the energy decoupling trend of the last few decades will continue to become more aggressive, and energy consumption will grow at roughly 40% the pace of economic growth (we call this ": " ми припускаємо, що тренд розв'язки енергії й зростання останніх кількох десятиліть продовжиться й ставатиме дедалі агресивнішим, а споживання енергії зростатиме приблизно на 40% темпу економічного зростання (ми називаємо це ", ", we assume the energy decoupling trend of the last few decades will continue to become more aggressive, and energy consumption will grow at roughly 40% the pace of economic growth (we call this": "ми припускаємо, що тренд розв'язки енергії й зростання останніх кількох десятиліть продовжиться й ставатиме дедалі агресивнішим, а споживання енергії зростатиме приблизно на 40% темпу економічного зростання (ми називаємо це", "energy growth / GDP growth": "зростання енергії / зростання ВВП", " the energy elasticity of GDP; ε = 0.4).": " еластичністю енергії за ВВП; ε = 0,4).", "the energy elasticity of GDP; ε = 0.4).": "еластичністю енергії за ВВП; ε = 0,4).", " We are highly uncertain about this value, and find values between 20% and 70% to be plausible (80% CI; conditional on this economic growth trajectory).": " Ми дуже не впевнені щодо цього значення й вважаємо правдоподібним діапазон від 20% до 70% (80% довірчий інтервал; за умови цієї траєкторії економічного зростання).", "We are highly uncertain about this value, and find values between 20% and 70% to be plausible (80% CI; conditional on this economic growth trajectory).": "Ми дуже не впевнені щодо цього значення й вважаємо правдоподібним діапазон від 20% до 70% (80% довірчий інтервал; за умови цієї траєкторії економічного зростання).", "Energy vs. GDP in Plan A": "Енергія проти ВВП у Плані А", "Global energy and GDP under Plan A, indexed to 2025 = 1. GDP is the scenario-growth-model Plan A Output Y; energy via E ∝ Y": "Глобальна енергія та ВВП за Планом А, проіндексовані до 2025 = 1. ВВП — це випуск Y моделі зростання сценарію для Плану А; енергія за формулою E ∝ Y", " (energy grows at ": " (енергія зростає темпом ", "(energy grows at": "(енергія зростає темпом", "% of the GDP rate).": "% від темпу ВВП).", "Energy model at a glance": "Енергетична модель одним поглядом", "computed from the Plan A GWP trajectory and the econ-explorer energy defaults (E ∝ Y": "обчислено з траєкторії ВВП світу для Плану А та стандартних значень енергії з економічного дослідника (E ∝ Y", "2025 primary energy": "первинна енергія 2025", "19 TW-yrs": "19 ТВт-років", "Plan A GWP growth (2025 to 2040)": "Зростання ВВП світу за Планом А (2025-2040)", "Energy elasticity of GDP (ε)": "Еластичність енергії за ВВП (ε)", "Energy growth at ε = 0.40": "Зростання енергії за ε = 0,40", "2040 primary energy (ε = 0.40)": "Первинна енергія 2040 (ε = 0,40)", "159 TW-yrs": "159 ТВт-років", "2040 range (ε = 0.20 to 0.70)": "Діапазон 2040 (ε = 0,20-0,70)", "55 TW-yrs to 784 TW-yrs": "від 55 до 784 ТВт-років", "Primary energy scales as GWP": "Первинна енергія масштабується як ВВП", " off the 2025 baseline of ": " від базового рівня 2025 року в ", "off the 2025 baseline of": "від базового рівня 2025 року в", " TW-yrs. The GWP multiple is the scenario-growth-model Plan A Output Y; ε and the baseline mirror the econ-explorer defaults, so this stays in sync.": " ТВт-років. Множник ВВП світу — це випуск Y моделі зростання сценарію для Плану А; ε і базове значення відповідають значенням економічного дослідника за замовчуванням, тож це залишається узгодженим.", "TW-yrs. The GWP multiple is the scenario-growth-model Plan A Output Y; ε and the baseline mirror the econ-explorer defaults, so this stays in sync.": "ТВт-років. Множник ВВП світу — це випуск Y моделі зростання сценарію для Плану А; ε і базове значення відповідають значенням економічного дослідника за замовчуванням, тож це залишається узгодженим.", "An energy elasticity of GDP of 40% leads to energy consumption on earth growing only around 8x during Plan A even as GWP grows by roughly 200x. The resulting 2040 primary-energy total (central case, and the 20% to 70% elasticity range) is computed in the summary above,": "Еластичність енергії за ВВП у 40% призводить до того, що споживання енергії на Землі зростає лише приблизно у 8 разів протягом Плану А, навіть попри те, що ВВП світу зростає приблизно у 200 разів. Отримана сумарна первинна енергія у 2040 році (центральний сценарій і діапазон еластичності 20-70%) обчислена у зведенні вище,", " and updates automatically with the economic model's defaults.": " і оновлюється автоматично разом зі стандартними значеннями економічної моделі.", "and updates automatically with the economic model's defaults.": "і оновлюється автоматично разом зі стандартними значеннями економічної моделі.", "Depending on the source used for this energy, there may be significant implications for the earth’s temperature. There are two separate things to consider (1) a net increase in waste heat on earth, and (2) emissions, particularly CO2 emissions, leading to temperature increases.": "Залежно від джерела, яке використовується для цієї енергії, можуть виникати суттєві наслідки для температури Землі. Тут варто розглянути дві окремі речі: (1) чисте збільшення відпрацьованого тепла на Землі та (2) викиди, зокрема викиди CO2, що ведуть до підвищення температури.", "Waste heat.": "Відпрацьоване тепло.", " Solar panels convert energy that was arriving on earth anyway from the sun, so they only change earth’s net energy if they change the reflectiveness (albedo) of the earth’s surface in a major way. Using another energy source like nuclear or fossil fuels, on the other hand, creates a direct increase in waste heat by releasing new energy to the atmosphere that was locked up in the earth’s crust. That said, even at the higher end of the levels we may reach by 2040 in the Plan A scenario, waste heat on its own does not become a major consideration.": " Сонячні панелі перетворюють енергію, яка й так надходила б на Землю від Сонця, тож вони змінюють чисту енергію Землі, лише якщо суттєво змінюють відбивну здатність (альбедо) поверхні Землі. Використання іншого джерела енергії, як-от ядерна енергетика чи викопне паливо, натомість напряму збільшує відпрацьоване тепло, вивільняючи в атмосферу нову енергію, що раніше була замкнена в земній корі. Утім, навіть за верхньої межі рівнів, яких ми можемо досягти до 2040 року в сценарії Плану А, відпрацьоване тепло саме по собі не стає суттєвим фактором.", "Solar panels convert energy that was arriving on earth anyway from the sun, so they only change earth’s net energy if they change the reflectiveness (albedo) of the earth’s surface in a major way. Using another energy source like nuclear or fossil fuels, on the other hand, creates a direct increase in waste heat by releasing new energy to the atmosphere that was locked up in the earth’s crust. That said, even at the higher end of the levels we may reach by 2040 in the Plan A scenario, waste heat on its own does not become a major consideration.": "Сонячні панелі перетворюють енергію, яка й так надходила б на Землю від Сонця, тож вони змінюють чисту енергію Землі, лише якщо суттєво змінюють відбивну здатність (альбедо) поверхні Землі. Використання іншого джерела енергії, як-от ядерна енергетика чи викопне паливо, натомість напряму збільшує відпрацьоване тепло, вивільняючи в атмосферу нову енергію, що раніше була замкнена в земній корі. Утім, навіть за верхньої межі рівнів, яких ми можемо досягти до 2040 року в сценарії Плану А, відпрацьоване тепло саме по собі не стає суттєвим фактором.", "ε=0.20 (55 TW)": "ε=0,20 (55 ТВт)", "ε=0.40 (159 TW)": "ε=0,40 (159 ТВт)", "ε=0.70 (784 TW)": "ε=0,70 (784 ТВт)", "Plan A 2040 (80% CI)": "План А 2040 (80% ДІ)", "today (~19 TW)": "сьогодні (~19 ТВт)", "10× today": "у 10× більше, ніж сьогодні", "solar surface:": "поверхня Сонця:", "Nuclear / Fusion": "Ядерна енергія / Термоядерний синтез", "Solar on land": "Сонячна енергія на суші", "Solar on ocean (cooling)": "Сонячна енергія на океані (охолодження)", "10 TW": "10 ТВт", "100 TW": "100 ТВт", "1 PW": "1 ПВт", "10 PW": "10 ПВт", "Surface temperature increase ΔT (°C)": "Підвищення температури поверхні ΔT (°C)", "Sustained energy production (TW, log scale)": "Стале виробництво енергії (ТВт, логарифмічна шкала)", "Warming from Waste Heat": "Потепління через відпрацьоване тепло", "Stefan-Boltzmann no-feedback equilibrium. Heat factors (W added per W generated): nuclear/fusion 1.0; solar on land +0.56; solar on ocean −0.089. Solar assumes 50% panel efficiency, panel albedo 0.10, surface albedos 0.35 (land) / 0.06 (ocean).": "Рівновага без зворотних зв'язків за Стефаном-Больцманом. Коефіцієнти тепла (Вт додано на Вт вироблено): ядерна енергія/термоядерний синтез 1,0; сонячна на суші +0,56; сонячна на океані −0,089. Для сонячної енергії передбачається ефективність панелей 50%, альбедо панелі 0,10, альбедо поверхні 0,35 (суша) / 0,06 (океан).", "Carbon emissions.": "Викиди вуглецю.", " If fossil fuels were used as the sole source for the energy scale up, carbon emissions would become a significant problem by 2040, unless there were significant mitigations taken (e.g., removing the CO2 through direct air capture), with the equilibrium surface temperature increasing to ": " Якби викопне паливо було єдиним джерелом для нарощування енергії, викиди вуглецю стали б значною проблемою до 2040 року, якщо не вжити суттєвих заходів пом'якшення (наприклад, вилучення CO2 через пряме вловлювання з повітря), причому рівноважна температура поверхні зросла б до ", "If fossil fuels were used as the sole source for the energy scale up, carbon emissions would become a significant problem by 2040, unless there were significant mitigations taken (e.g., removing the CO2 through direct air capture), with the equilibrium surface temperature increasing to": "Якби викопне паливо було єдиним джерелом для нарощування енергії, викиди вуглецю стали б значною проблемою до 2040 року, якщо не вжити суттєвих заходів пом'якшення (наприклад, вилучення CO2 через пряме вловлювання з повітря), причому рівноважна температура поверхні зросла б до", "+3.0^oC": "+3,0°C", " over pre-industrial levels, up from ": " над доіндустріальним рівнем, порівняно з ", "over pre-industrial levels, up from": "над доіндустріальним рівнем, порівняно з", "+1.8^oC": "+1,8°C", " today.": " сьогодні.", "today.": "сьогодні.", "Warming vs. Cumulative CO₂": "Потепління проти сукупних викидів CO₂", "pre-industrial (280 ppm, 0°C)": "доіндустріальний рівень (280 ppm, 0°C)", "today (": "сьогодні (", " ppm, +": " ppm, +", "ppm, +": "ppm, +", "55 TW": "55 ТВт", "10th": "10-й", " %ile": " процентиль", "%ile": "процентиль", "159 TW": "159 ТВт", "50th": "50-й", "784 TW": "784 ТВт", "90th": "90-й", "Plan A, 2040": "План А, 2040", "assuming 100% fossil fuel": "за умови 100% викопного палива", "Equilibrium ΔT": "Рівноважне ΔT", "Equilibrium ΔT (°C)": "Рівноважне ΔT (°C)", "Atmospheric CO₂ above pre-industrial (GtCO₂)": "Атмосферний CO₂ понад доіндустріальний рівень (ГтCO₂)", "Equilibrium warming equations ": "Рівняння рівноважного потепління ", "Equilibrium warming equations": "Рівняння рівноважного потепління", "Myhre et al. (1998)": "Myhre et al. (1998)", " find the climate converging to a given temperature for a given atmospheric CO₂ stock. Today’s observed +1.3–1.4°C is below the derived +1.8°C equilibrium value, in line with (": " показують, що клімат сходиться до певної температури за певного запасу атмосферного CO₂. Сьогоднішнє спостережуване значення +1,3-1,4°C нижче за виведене рівноважне значення +1,8°C, що узгоджується з (", "find the climate converging to a given temperature for a given atmospheric CO₂ stock. Today’s observed +1.3–1.4°C is below the derived +1.8°C equilibrium value, in line with (": "показують, що клімат сходиться до певної температури за певного запасу атмосферного CO₂. Сьогоднішнє спостережуване значення +1,3-1,4°C нижче за виведене рівноважне значення +1,8°C, що узгоджується з (", "Geoffroy et al. 2013": "Geoffroy et al. 2013", "), where ~55% of equilibrium warming materialises within 10 yrs of CO₂ stabilisation, ~70% in 100 yrs, ~99% by 1000 yrs. Plan A markers assume 100% fossil-fuel generation at 2.5 GtCO₂/TW-yr, with the ~45% airborne fraction staying in the air (": "), де приблизно 55% рівноважного потепління реалізується протягом 10 років після стабілізації CO₂, приблизно 70% — за 100 років, приблизно 99% — за 1000 років. Позначки Плану А передбачають 100% вироблення енергії з викопного палива за ставкою 2,5 ГтCO₂/ТВт-рік, з тим що приблизно 45% частка залишається в повітрі (", "Friedlingstein et al. 2025 / Global Carbon Budget": "Friedlingstein et al. 2025 / Global Carbon Budget", "Therefore, we think there should be CO2 emission mitigation policies agreed to globally. Thankfully we think proven ": "Тому ми вважаємо, що політики пом'якшення викидів CO2 мають бути узгоджені на глобальному рівні. На щастя, ми вважаємо, що доведене ", "Therefore, we think there should be CO2 emission mitigation policies agreed to globally. Thankfully we think proven": "Тому ми вважаємо, що політики пом'якшення викидів CO2 мають бути узгоджені на глобальному рівні. На щастя, ми вважаємо, що доведене", "direct air capture (DAC)": "пряме вловлювання з повітря (DAC)", " would provide an affordable path to mitigating CO2 increase, especially with help from AI and robot labor during the 2030s. Two specific ideas we have for carbon capture policy include:": " дасть доступний шлях до пом'якшення зростання CO2, особливо за допомогою праці ШІ й роботів протягом 2030-х. Дві конкретні ідеї, які ми маємо щодо політики вловлювання вуглецю:", "would provide an affordable path to mitigating CO2 increase, especially with help from AI and robot labor during the 2030s. Two specific ideas we have for carbon capture policy include:": "дасть доступний шлях до пом'якшення зростання CO2, особливо за допомогою праці ШІ й роботів протягом 2030-х. Дві конкретні ідеї, які ми маємо щодо політики вловлювання вуглецю:", "Private cap-and-trade market": "Приватний ринок торгівлі квотами (cap-and-trade)", " (no government subsidy necessary), where any fossil fuel emitters globally are required to offset 100% of their emissions with equivalent carbon capture credits (with DAC companies making revenue by capturing carbon and selling the credits to the carbon emitters).": " (без потреби в державній субсидії), де від усіх глобальних емітентів викопного палива вимагається компенсувати 100% своїх викидів еквівалентними кредитами вловлювання вуглецю (DAC-компанії отримують дохід, вловлюючи вуглець і продаючи кредити емітентам вуглецю).", "(no government subsidy necessary), where any fossil fuel emitters globally are required to offset 100% of their emissions with equivalent carbon capture credits (with DAC companies making revenue by capturing carbon and selling the credits to the carbon emitters).": "(без потреби в державній субсидії), де від усіх глобальних емітентів викопного палива вимагається компенсувати 100% своїх викидів еквівалентними кредитами вловлювання вуглецю (DAC-компанії отримують дохід, вловлюючи вуглець і продаючи кредити емітентам вуглецю).", "Auctioned carbon removal subsidy": "Аукціонна субсидія на видалення вуглецю", " (government subsidy for net carbon removal), where the government(s) set the goal of not just capping emissions, but actually net removing carbon from the atmosphere, with the goal of returning to pre-industrial levels. They can set a “willingness to pay” curve, based on the social cost of carbon. We imagine something like the following curve being sufficient for affordably returning the earth to pre-industrial CO2 levels by 2040 with around $85T global government spending in total from 2033-2040, or around 0.1% of annual GWP on average during that period.": " (державна субсидія на чисте видалення вуглецю), коли уряд(и) ставлять за мету не просто обмежити викиди, а фактично чисто видаляти вуглець з атмосфери, з метою повернення до доіндустріального рівня. Вони можуть встановити криву «готовності платити» на основі соціальної вартості вуглецю. Ми уявляємо, що приблизно така крива буде достатньою, щоб доступно повернути Землю до доіндустріального рівня CO2 до 2040 року за сумарних глобальних державних витрат близько $85 трлн у період 2033-2040, або близько 0,1% річного ВВП світу в середньому за цей період.", "(government subsidy for net carbon removal), where the government(s) set the goal of not just capping emissions, but actually net removing carbon from the atmosphere, with the goal of returning to pre-industrial levels. They can set a “willingness to pay” curve, based on the social cost of carbon. We imagine something like the following curve being sufficient for affordably returning the earth to pre-industrial CO2 levels by 2040 with around $85T global government spending in total from 2033-2040, or around 0.1% of annual GWP on average during that period.": "(державна субсидія на чисте видалення вуглецю), коли уряд(и) ставлять за мету не просто обмежити викиди, а фактично чисто видаляти вуглець з атмосфери, з метою повернення до доіндустріального рівня. Вони можуть встановити криву «готовності платити» на основі соціальної вартості вуглецю. Ми уявляємо, що приблизно така крива буде достатньою, щоб доступно повернути Землю до доіндустріального рівня CO2 до 2040 року за сумарних глобальних державних витрат близько $85 трлн у період 2033-2040, або близько 0,1% річного ВВП світу в середньому за цей період.", "pre-industrial": "доіндустріальний рівень", "today": "сьогодні", "2025 expected DAC cost ($600B/Gt)": "Очікувана вартість DAC у 2025 ($600 млрд/Гт)", "2030 expected DAC cost ($400B/Gt)": "Очікувана вартість DAC у 2030 ($400 млрд/Гт)", "2035 expected DAC cost ($100B/Gt)": "Очікувана вартість DAC у 2035 ($100 млрд/Гт)", "2040 expected DAC cost ($30B/Gt)": "Очікувана вартість DAC у 2040 ($30 млрд/Гт)", "SCC": "SCC", "Carbon Capture Cost ($B per Gt removed)": "Вартість вловлювання вуглецю ($ млрд за вловлену Гт)", "Total atmospheric CO₂ (GtCO₂)": "Сумарний атмосферний CO₂ (ГтCO₂)", "Carbon Capture Subsidy": "Субсидія на вловлювання вуглецю", "Subsidy curve (WTP per GtCO₂ removed)": "Крива субсидії (готовність платити за вловлену ГтCO₂)", "Expected Direct Air Capture (DAC) cost by year": "Очікувана вартість прямого вловлювання з повітря (DAC) за роками", "Plan A path": "Шлях Плану А", "Total Plan A subsidy: ~$": "Сумарна субсидія за Планом А: ~$", " (price × Δstock, summed). Prices: DAC × (1+": " (ціна × Δзапасу, підсумовано). Ціни: DAC × (1+", "(price × Δstock, summed). Prices: DAC × (1+": "(ціна × Δзапасу, підсумовано). Ціни: DAC × (1+", "%), path sits on SCC curve. Sources:": "%), шлях лежить на кривій SCC. Джерела:", "EPA 2023": "EPA 2023", "IEA DAC 2022": "IEA DAC 2022", "CDR.fyi 2025": "CDR.fyi 2025", "Under some naive energy cost modelling that AI and robot labor accelerate progress in energy costs, and assuming a CO2 cap-and-trade forcing net neutral carbon emissions is enacted in 2035, we find the following energy cost, associated investment, and resulting energy mix.": "За деякого наївного моделювання вартості енергії, за якого праця ШІ й роботів прискорює прогрес у зниженні вартості енергії, і за припущення, що режим торгівлі квотами CO2, що забезпечує чисто нейтральні викиди вуглецю, запроваджується у 2035 році, ми отримуємо такі вартість енергії, пов'язані інвестиції та результуючий енергетичний мікс.", "We’ve written about our reasoning for this assumption elsewhere, especially in our ": "Ми вже писали про обґрунтування цього припущення в іншому місці, зокрема в нашій ", "We’ve written about our reasoning for this assumption elsewhere, especially in our": "Ми вже писали про обґрунтування цього припущення в іншому місці, зокрема в нашій", "timelines and takeoff model": "моделі часових рамок і зльоту", ", and so will take it for granted here. Our team’s estimates for the probability of this outcome range from roughly 70% to 90%.": ", тож тут просто приймемо його як дане. Оцінки нашої команди щодо ймовірності цього результату коливаються приблизно від 70% до 90%.", "For example, one common model of growth is the Cobb-Douglas production function, which models growth as ": "Наприклад, одна поширена модель зростання — це виробнича функція Кобба-Дугласа, яка моделює зростання як ", "For example, one common model of growth is the Cobb-Douglas production function, which models growth as": "Наприклад, одна поширена модель зростання — це виробнича функція Кобба-Дугласа, яка моделює зростання як", "Y = A* K^\\alpha * L^{1-\\alpha}": "Y = A* K^\\alpha * L^{1-\\alpha}", ", where A and ": ", де A і ", ", where A and": ", де A і", " are constants, L is labor, and K is capital. A typical ": " — константи, L — праця, а K — капітал. Типове значення ", "are constants, L is labor, and K is capital. A typical": "— константи, L — праця, а K — капітал. Типове значення", "\\alpha \\approx \\frac{1}{3}": "\\alpha \\approx \\frac{1}{3}", " so overall growth scales with ": " тож загальне зростання масштабується як ", "so overall growth scales with": "тож загальне зростання масштабується як", "L^{\\frac{2}{3}}": "L^{\\frac{2}{3}}", ". Plus more people would build more capital, so in steady state output should double barring e.g., natural resource constraints, which are probably mild for many orders of magnitude of growth.": ". Крім того, більше людей означало б більше збудованого капіталу, тож у стаціонарному стані випуск має подвоюватися, якщо не враховувати, наприклад, обмежень природних ресурсів, які, ймовірно, слабко впливають протягом багатьох порядків величини зростання.", "This is somewhat of an oversimplification because raw compute isn’t the only bottleneck on number of AI copies; in reality it is a complex combination of actual ‘compute’ (FLOP/s), but also memory bandwidth, memory capacity, and interconnect. However these factors don’t substantially change the bottom line.": "Це певне спрощення, оскільки сирі обчислювальні потужності — не єдине вузьке місце для кількості копій ШІ; насправді це складна комбінація фактичних «обчислювальних потужностей» (FLOP/с), а також пропускної здатності пам'яті, обсягу пам'яті та міжз'єднань. Проте ці фактори суттєво не змінюють підсумковий висновок.", "Of course, we expect these trends to change, and more detailed and mechanistic models such as the AI Futures Model predict that the compute efficiency growth rate will vary over time.": "Звісно, ми очікуємо, що ці тренди зміняться, і детальніші та механістичніші моделі, як-от AI Futures Model, прогнозують, що темп зростання ефективності обчислювальних потужностей змінюватиметься з часом.", "Inference compute may change as a fraction of total compute, but for our simple model we’re just assuming that the share is flat at the point of full automation.": "Частка інференсних обчислювальних потужностей у загальних обчислювальних потужностях може змінюватися, але для нашої простої моделі ми просто припускаємо, що ця частка стала в момент повної автоматизації.", "AIs today are mostly being scaled to be smarter, not just more numerous, so this isn’t happening in practice. After the point where AIs can perfectly substitute for human labor, increasing intelligence will also be happening, so this argument is only a lower bound for the economic impacts.": "Сьогодні ШІ здебільшого масштабують так, щоб він ставав розумнішим, а не просто чисельнішим, тож на практиці цього не відбувається. Після моменту, коли ШІ зможе досконало замінити людську працю, зростання інтелекту теж відбуватиметься, тож цей аргумент є лише нижньою межею для економічних наслідків.", "This argument holds unless regulation massively slows down the possible growth. However, unilateral regulation is insufficient because any country that allowed explosive AI growth will gain an insurmountable economic edge. Therefore, regulation to prevent explosive economic growth must involve international coordination.": "Цей аргумент справджується, якщо регулювання суттєво не сповільнить можливе зростання. Проте одностороннє регулювання недостатнє, оскільки будь-яка країна, що дозволить вибухове зростання ШІ, отримає нездоланну економічну перевагу. Тому регулювання для запобігання вибуховому економічному зростанню має включати міжнародну координацію.", "The full “rapid progress” scenario from the FRI report is: By the end of 2030, in the rapid-progress world, AI systems are capable of competing with the best human minds and workers, and can surpass them. Human creativity and leadership remain valued, but mostly for setting high-level vision— day-to-day execution can be left to silicon-based systems. Autonomous researchers can collapse years-long research timelines into days, weeks, or months, creating game-changing technologies, such as materials that revolutionize energy storage, or bespoke cancer cures. No human freelance software engineer can outperform AI. The same goes for customer service (e.g., call center and support chat), paralegal, and administrative workers (e.g., bookkeepers or scheduling assistants). Indeed, models have become so capable that AI can create an album of the same caliber as the Grammy Album of the Year. Additionally, a single AI agent can generate a Pulitzer- (or Booker Prize-) caliber novel according to current (2025) standards, adapt the book into an engaging two-hour movie, negotiate the resulting book and movie contracts, and launch the marketing campaigns for both while its sibling agents manage the book publishing company and movie studio at the level of highly competent CEOs. Not only do Level-5 robo-taxis exist, but they are, on average, 99.9% safer than human piloted cars and can venture anywhere off-road that a competent human driver can. Meanwhile, robots can navigate an arbitrary home anywhere in the world, make a cup of the most popular local hot beverage, clean and put away the dishes according to the local custom, fix any plumbing issues that arise while they’re doing the dishes—and they can do it all faster and more reliably than most humans and without human guidance. Robots in advanced factories can autonomously perform the full range of tasks requiring the highest levels of dexterity, coordination, and adaptive decision-making.": "Повний сценарій «швидкого прогресу» зі звіту FRI такий: до кінця 2030 року у світі швидкого прогресу системи ШІ здатні конкурувати з найкращими людськими розумами й працівниками і можуть перевершувати їх. Людська творчість і лідерство все ще цінуються, але здебільшого для визначення бачення високого рівня — повсякденне виконання можна залишити кремнієвим системам. Автономні дослідники можуть стискати багаторічні дослідницькі часові рамки до днів, тижнів чи місяців, створюючи технології, що змінюють правила гри, — наприклад, матеріали, що революціонізують накопичення енергії, або індивідуальні ліки від раку. Жоден людський фрилансер-програміст не може перевершити ШІ. Те саме стосується обслуговування клієнтів (наприклад, кол-центрів і чату підтримки), помічників юристів та адміністративних працівників (наприклад, бухгалтерів чи асистентів з планування). Справді, моделі стали настільки здатними, що ШІ може створити альбом рівня «Альбому року» премії Ґреммі. Крім того, один-єдиний ШІ-агент може згенерувати роман рівня Пулітцерівської (чи Букерівської) премії за нинішніми (2025 року) стандартами, адаптувати книгу в захопливий двогодинний фільм, узгодити відповідні контракти на книгу й фільм і запустити маркетингові кампанії для обох, поки споріднені агенти керують видавництвом книги та кіностудією на рівні високоефективних CEO. Роботакси рівня 5 не просто існують — вони в середньому на 99,9% безпечніші за автомобілі під керуванням людини й можуть їздити по бездоріжжю будь-де, куди здатен доїхати компетентний водій-людина. Тим часом роботи можуть орієнтуватися в довільному будинку будь-де у світі, приготувати чашку найпопулярнішого місцевого гарячого напою, помити й прибрати посуд відповідно до місцевих звичаїв, полагодити будь-які проблеми з сантехнікою, що виникають під час миття посуду, — і робити все це швидше й надійніше за більшість людей і без керівництва людини. Роботи на передових заводах можуть автономно виконувати повний спектр завдань, що вимагають найвищого рівня спритності, координації та адаптивного прийняття рішень.", "For example, there could be a R&D function combining R&D labor from a human population with labor from an AI population with forecasts of how useful/capable that AI labor will be (e.g., directly modelling the productivity of AI across R&D labor tasks).": "Наприклад, могла б існувати функція R&D, що поєднує працю в R&D від людської популяції з працею від популяції ШІ з прогнозами того, наскільки корисною/здатною буде ця ШІ-праця (наприклад, безпосередньо моделюючи продуктивність ШІ в завданнях R&D).", "For example, see AI coding time-horizons ": "Наприклад, див. часові горизонти ШІ в програмуванні, що ", "For example, see AI coding time-horizons": "Наприклад, див. часові горизонти ШІ в програмуванні, що", "doubling every ~four months": "подвоюються приблизно кожні чотири місяці", " recently, with similar results (though more uncertain) ": " останнім часом, з подібними (хоча й невизначенішими) результатами ", "recently, with similar results (though more uncertain)": "останнім часом, з подібними (хоча й невизначенішими) результатами", "in other domains": "в інших сферах", ", along with the population/efficiency doubling times explained in ": ", поряд із часами подвоєння популяції/ефективності, поясненими в ", ", along with the population/efficiency doubling times explained in": ", поряд із часами подвоєння популяції/ефективності, поясненими в", "section 1": "розділі 1", ", we think ": ", ми вважаємо, що ", ", we think": ", ми вважаємо, що", "\\dot Q/Q": "\\dot Q/Q", " should be more responsive to increased R&D automation.": " має бути чутливішим до посиленої автоматизації R&D.", "should be more responsive to increased R&D automation.": "має бути чутливішим до посиленої автоматизації R&D.", "The continental crust makes up the continents ": "Континентальна кора складається з материків ", "The continental crust makes up the continents": "Континентальна кора складається з материків", "plus": "плюс", " the continental shelves (shallow seas out to roughly the 200 m depth break). It has an average thickness of 35-40 km and covers about 40-45% of earth’s surface area. This suggests that by mining around 4% of earth’s surface area (total area around the size of Australia), to a depth of 4km, would consist of about 1% of the earth’s continental crust.": " континентальні шельфи (мілководні моря приблизно до межі глибини 200 м). Вона має середню товщину 35-40 км і покриває близько 40-45% площі поверхні Землі. Це означає, що видобуток на глибину 4 км приблизно 4% площі поверхні Землі (загальна площа приблизно як в Австралії) становив би близько 1% континентальної кори Землі.", "the continental shelves (shallow seas out to roughly the 200 m depth break). It has an average thickness of 35-40 km and covers about 40-45% of earth’s surface area. This suggests that by mining around 4% of earth’s surface area (total area around the size of Australia), to a depth of 4km, would consist of about 1% of the earth’s continental crust.": "континентальні шельфи (мілководні моря приблизно до межі глибини 200 м). Вона має середню товщину 35-40 км і покриває близько 40-45% площі поверхні Землі. Це означає, що видобуток на глибину 4 км приблизно 4% площі поверхні Землі (загальна площа приблизно як в Австралії) становив би близько 1% континентальної кори Землі.", "The default world inputs assume a capability trajectory like ": "Стандартні вхідні дані світу за замовчуванням припускають траєкторію можливостей, подібну до ", "The default world inputs assume a capability trajectory like": "Стандартні вхідні дані світу за замовчуванням припускають траєкторію можливостей, подібну до", "this one": "цієї", " from the AI Futures Model, where AI and robots can fully automate (100%) of cognitive and physical tasks around the beginning of 2031.": " з AI Futures Model, де ШІ й роботи можуть повністю автоматизувати (100%) когнітивні й фізичні завдання приблизно з початку 2031 року.", "from the AI Futures Model, where AI and robots can fully automate (100%) of cognitive and physical tasks around the beginning of 2031.": "з AI Futures Model, де ШІ й роботи можуть повністю автоматизувати (100%) когнітивні й фізичні завдання приблизно з початку 2031 року.", "Definitions for the task universe and automatable vs. automated are ": "Визначення для всесвіту завдань та автоматизовних проти автоматизованих завдань наведено ", "Definitions for the task universe and automatable vs. automated are": "Визначення для всесвіту завдань та автоматизовних проти автоматизованих завдань наведено", "here in the model explanation": "тут, у поясненні моделі", "We model the relationship between labor and capital (things like factories, tractors, land, raw materials, etc) as a CES aggregate with elasticity σ = 1.1, slightly on the substitutes side of ": "Ми моделюємо співвідношення праці й капіталу (речей на кшталт заводів, тракторів, землі, сировини тощо) як CES-агрегат з еластичністю σ = 1,1, трохи на боці замінників відносно ", "We model the relationship between labor and capital (things like factories, tractors, land, raw materials, etc) as a CES aggregate with elasticity σ = 1.1, slightly on the substitutes side of": "Ми моделюємо співвідношення праці й капіталу (речей на кшталт заводів, тракторів, землі, сировини тощо) як CES-агрегат з еластичністю σ = 1,1, трохи на боці замінників відносно", "Cobb-Douglas": "Кобба-Дугласа", " (σ = 1, where the labor and capital income share ratio would stay flat). This is a judgment call that could very well be wrong! After full automation, what counts as “capital” is a blurry category, especially since we count robots separately. In reality, we expect AI and robots to substitute with many kinds of capital (e.g., robots replacing equipment, or AI labor leading to R&D that obviates the need for a lot of existing capital), while other kinds of capital bottleneck growth (e.g., land, especially with land regulation; raw materials; etc.) Our best guess is that these forces net out mildly on the side of substitutability, which is why we set σ slightly above 1. Note this runs contrary to historical measurements, which generally find complementarity (meaning elasticity parameter σ < 1; ": " (σ = 1, коли співвідношення часток доходу праці й капіталу залишалося б сталим). Це судження, яке цілком може виявитися помилковим! Після повної автоматизації те, що вважати «капіталом», стає розмитою категорією, особливо оскільки ми рахуємо роботів окремо. Насправді ми очікуємо, що ШІ й роботи замінюватимуть багато видів капіталу (наприклад, роботи замінюють обладнання, або ШІ-праця веде до R&D, що усуває потребу в значній частині наявного капіталу), тоді як інші види капіталу стримують зростання (наприклад, земля, особливо з регулюванням землі; сировина тощо). Наша найкраща оцінка полягає в тому, що ці сили в сумі дають слабкий ефект на боці замінності, тому ми встановлюємо σ трохи вище 1. Зауважте, що це суперечить історичним вимірюванням, які зазвичай виявляють взаємодоповнюваність (тобто параметр еластичності σ < 1; ", "(σ = 1, where the labor and capital income share ratio would stay flat). This is a judgment call that could very well be wrong! After full automation, what counts as “capital” is a blurry category, especially since we count robots separately. In reality, we expect AI and robots to substitute with many kinds of capital (e.g., robots replacing equipment, or AI labor leading to R&D that obviates the need for a lot of existing capital), while other kinds of capital bottleneck growth (e.g., land, especially with land regulation; raw materials; etc.) Our best guess is that these forces net out mildly on the side of substitutability, which is why we set σ slightly above 1. Note this runs contrary to historical measurements, which generally find complementarity (meaning elasticity parameter σ < 1;": "(σ = 1, коли співвідношення часток доходу праці й капіталу залишалося б сталим). Це судження, яке цілком може виявитися помилковим! Після повної автоматизації те, що вважати «капіталом», стає розмитою категорією, особливо оскільки ми рахуємо роботів окремо. Насправді ми очікуємо, що ШІ й роботи замінюватимуть багато видів капіталу (наприклад, роботи замінюють обладнання, або ШІ-праця веде до R&D, що усуває потребу в значній частині наявного капіталу), тоді як інші види капіталу стримують зростання (наприклад, земля, особливо з регулюванням землі; сировина тощо). Наша найкраща оцінка полягає в тому, що ці сили в сумі дають слабкий ефект на боці замінності, тому ми встановлюємо σ трохи вище 1. Зауважте, що це суперечить історичним вимірюванням, які зазвичай виявляють взаємодоповнюваність (тобто параметр еластичності σ < 1;", "Chirinko, 2008": "Chirinko, 2008", "Knoblach et al., 2020": "Knoblach et al., 2020", "Gechert et al., 2022": "Gechert et al., 2022", "), but we think the capital stock of an AI-driven economy is different enough in kind from the capital behind those estimates that mild substitutability is the better guess.": "), але ми вважаємо, що капітальний запас економіки, керованої ШІ, достатньо відрізняється за своєю природою від капіталу, що лежить в основі цих оцінок, тож слабка замінність — краще припущення.", "Land was 40%, increases 100x (40%*100), housing was 60%, increases 2x (60%*2), which leads to a total land (40) + housing (1.2) cost 41.2x higher than today. Of which 97% (40/41.2) is the land’s cost.": "Земля становила 40%, зростає у 100 разів (40%*100), житло становило 60%, зростає у 2 рази (60%*2), що дає сумарну вартість землі (40) + житла (1,2) у 41,2 раза вищу, ніж сьогодні. З них 97% (40/41,2) — це вартість землі.", "Land’s 5% increases 100x (5%*100), and the building’s 95% increases 2x (95%*2), which leads to a total land (5) and housing (1.9) cost 6.9x higher than today. Still with the land being 72% of the cost.": "5% землі зростає у 100 разів (5%*100), а 95% будівлі зростає у 2 рази (95%*2), що дає сумарну вартість землі (5) і житла (1,9) у 6,9 раза вищу, ніж сьогодні. Земля все одно становить 72% вартості.", "Our story depicts the conversion process going about 5x faster. We think this is a reasonable guess, taking into account bottlenecks etc., for how fast this conversion could go if a million superintelligences were orchestrating it. Of course we are very uncertain.": "Наша історія зображує процес перетворення, що відбувається приблизно у 5 разів швидше. Ми вважаємо це розумним припущенням з урахуванням вузьких місць тощо — наскільки швидко могло б відбуватися це перетворення, якби ним керував мільйон суперінтелектів. Звісно, ми дуже не впевнені.", "Possibly also more advanced sources of energy, such as fusion power.": "Можливо, також більш передові джерела енергії, як-от термоядерна енергетика.", "Quick napkin math: The ": "Швидка прикидкова математика: ", "Quick napkin math: The": "Швидка прикидкова математика:", "Empire State Building": "Емпайр-стейт-білдінг", " has an area of 2.77m sq ft, and weighs 365k tons. Gigafactory Shanghai has an ": " має площу 2,77 млн кв. футів і важить 365 тис. тонн. Гігафабрика Shanghai має ", "has an area of 2.77m sq ft, and weighs 365k tons. Gigafactory Shanghai has an": "має площу 2,77 млн кв. футів і важить 365 тис. тонн. Гігафабрика Shanghai має", "area of 4.5m sq ft": "площу 4,5 млн кв. футів", "produces 750k": "виробляє 750 тис.", " vehicles per year, mostly Model 3’s and Model Y’s, which weigh about two tons each. Presumably the Empire State Building has a higher mass-to-square-foot ratio than the Shanghai Gigafactory (since it is vertical rather than horizontal and needs stronger supports) so if anything this underestimates. Thus it seems that a factory which probably weighs well less than a million tons is producing 1.5 million tons of cars each year.": " автомобілів на рік, здебільшого Model 3 і Model Y, кожен з яких важить приблизно дві тонни. Ймовірно, у Емпайр-стейт-білдінг вище співвідношення маси до квадратного фута, ніж у Шанхайської гігафабрики (оскільки він вертикальний, а не горизонтальний, і потребує міцніших опор), тож якщо і є похибка, то радше в бік недооцінки. Отже, виходить, що завод, який, імовірно, важить значно менше мільйона тонн, виробляє 1,5 мільйона тонн автомобілів щороку.", "vehicles per year, mostly Model 3’s and Model Y’s, which weigh about two tons each. Presumably the Empire State Building has a higher mass-to-square-foot ratio than the Shanghai Gigafactory (since it is vertical rather than horizontal and needs stronger supports) so if anything this underestimates. Thus it seems that a factory which probably weighs well less than a million tons is producing 1.5 million tons of cars each year.": "автомобілів на рік, здебільшого Model 3 і Model Y, кожен з яких важить приблизно дві тонни. Ймовірно, у Емпайр-стейт-білдінг вище співвідношення маси до квадратного фута, ніж у Шанхайської гігафабрики (оскільки він вертикальний, а не горизонтальний, і потребує міцніших опор), тож якщо і є похибка, то радше в бік недооцінки. Отже, виходить, що завод, який, імовірно, важить значно менше мільйона тонн, виробляє 1,5 мільйона тонн автомобілів щороку.", "We don’t think it would run out. Initially the robot economy would be dependent on human mines for materials. But by the time it outgrows these sources, the millions of superintelligences will have prospected new mines and developed new technologies to exploit them. Imagine e.g. undersea mining robots that strip-mine the seabed for rare minerals, new chemical processing pathways that more efficiently convert raw ore from above-ground stripmines into useful raw materials…": "Ми не думаємо, що вона вичерпається. Спочатку роботизована економіка залежатиме від людських шахт для матеріалів. Але на той момент, коли вона переросте ці джерела, мільйони суперінтелектів уже розвідають нові родовища й розроблять нові технології для їх освоєння. Уявіть, наприклад, підводних гірничодобувних роботів, що видобувають рідкісні мінерали з морського дна, нові хімічні процеси переробки, що ефективніше перетворюють сиру руду з наземних кар'єрів на корисну сировину…", "If the current economy doubles every twenty years, one order of magnitude faster would be a doubling in two years, two orders of magnitude faster would be a doubling in 0.2 years, and so forth. The hypothetical superintelligent-algae-economy described above would be about four orders of magnitude faster growth than the current human economy.": "Якщо нинішня економіка подвоюється кожні двадцять років, то на один порядок величини швидше означало б подвоєння за два роки, на два порядки швидше — подвоєння за 0,2 року, і так далі. Гіпотетична економіка суперінтелектуальних водоростей, описана вище, зростала б приблизно на чотири порядки величини швидше за нинішню людську економіку.", "Using the ": "Використовуючи ", "Using the": "Використовуючи", "Energy Transition Institute 2024": "Energy Transition Institute 2024", " direct-method total of 592 EJ, and adding the ": " прямий підсумок 592 ЕДж і додавши ", "direct-method total of 592 EJ, and adding the": "прямий підсумок 592 ЕДж і додавши", "IEA’s 1.3% 2025 growth estimate": "оцінку зростання IEA на 1,3% у 2025 році", " (+8 EJ) gives roughly 600 EJ in 2025, or ~19.0 terawatt-years. Where a terawatt-year is the amount of energy equivalent to 1 terawatt of power running for one year. Note: 1 TW-yr = 31.5 EJ = 8,760 TWh.": " (+8 ЕДж), отримуємо приблизно 600 ЕДж у 2025 році, або ~19,0 теративат-років. Де теративат-рік — це кількість енергії, еквівалентна 1 теративату потужності, що працює протягом одного року. Примітка: 1 ТВт-рік = 31,5 ЕДж = 8 760 ТВт·год.", "(+8 EJ) gives roughly 600 EJ in 2025, or ~19.0 terawatt-years. Where a terawatt-year is the amount of energy equivalent to 1 terawatt of power running for one year. Note: 1 TW-yr = 31.5 EJ = 8,760 TWh.": "(+8 ЕДж), отримуємо приблизно 600 ЕДж у 2025 році, або ~19,0 теративат-років. Де теративат-рік — це кількість енергії, еквівалентна 1 теративату потужності, що працює протягом одного року. Примітка: 1 ТВт-рік = 31,5 ЕДж = 8 760 ТВт·год.", "On average, energy growth has moved at 70% the pace of GDP growth since 1920. In recent decades (since 1980), it has moved at 60% the pace of GDP growth, and in the last 10 years, it moved at 52% the pace.": "У середньому темп зростання енергії становив 70% темпу зростання ВВП з 1920 року. За останні десятиліття (з 1980 року) він становив 60% темпу зростання ВВП, а за останні 10 років — 52%.", "We use data from ": "Ми використовуємо дані з ", "We use data from": "Ми використовуємо дані з", " collected to view ": ", зібрані для перегляду ", "collected to view": ", зібрані для перегляду", "Energy scales as GWP^ε; at ε = 0.40 and the Plan A GWP multiple of ~200x by 2040, that is ~200^0.4 ≈ 8x. The exact value tracks the model output shown in the summary table above.": "Енергія масштабується як ВВП^ε; за ε = 0,40 і множника ВВП світу за Планом А ~200x до 2040 року це ~200^0,4 ≈ 8x. Точне значення відповідає результату моделі, показаному в зведеній таблиці вище.", " AI Futures Homepage": " Головна сторінка AI Futures", "AI Futures Homepage": "Головна сторінка AI Futures", "Q: Isn’t Plan A bad for concentration of power risks?": "Питання: Хіба План А не поганий з погляду ризиків концентрації влади?", "A: No, Plan A reduces COP risks by a lot. The status quo involves an insane amount of power concentrating into the frontier AI companies (which are all based in the US). If they solve the alignment problem, the result will be a handful of AI CEOs or USG officials controlling an army of superintelligences, and hence having the ability to take over the world. (This is what happened in the slowdown ending of AI 2027).": "Відповідь: Ні, План А значно знижує ризики концентрації влади (COP). Статус-кво передбачає шалену концентрацію влади в передових ШІ-компаніях (усі з яких базуються в США). Якщо вони вирішать проблему узгодження, результатом стане жменька CEO ШІ-компаній або посадовців уряду США, що контролюють армію суперінтелектів, а отже, здатні захопити владу над світом. (Саме це сталося в кінцівці «Сповільнення» AI 2027).", "Plan A dramatically improves on the status quo by:": "План А суттєво покращує статус-кво завдяки:", "Increasing the number and diversity of frontier AI companies. Because of regulations slowing the frontier, trailing actors can catch up, and in the Plan A scenario, by 2040, there are dozens of companies across different countries near the frontier of AI development.": "Збільшення кількості й розмаїття передових ШІ-компаній. Через регулювання, що сповільнює лідерів, відстаючі гравці можуть надолужити відставання, і в сценарії Плану А до 2040 року десятки компаній з різних країн опиняються близько до передового краю розвитку ШІ.", "Increasing the transparency and visibility into AI development. A core dynamic driving concentration of power risks is a dynamic where most of the power centers in the world do not realize they are going to be disempowered by AI until it is too late. In Plan A, the takeoff period is much longer and much more transparent, so the public, the US government, and countries besides the US all have much more time to see what is going on inside the labs.": "Підвищення прозорості й видимості розвитку ШІ. Ключова динаміка, що спричиняє ризики концентрації влади, — це ситуація, коли більшість центрів влади у світі не усвідомлюють, що ШІ позбавить їх влади, аж доки не стане запізно. У Плані А період зльоту значно довший і значно прозоріший, тож у суспільства, уряду США та інших країн, крім США, значно більше часу, щоб побачити, що відбувається всередині лабораторій.", "Spreading out the AI-driven transformation of the planet over a few more years, giving more time for everyone to prepare and react, making it more likely that something resembling our current system of checks and balances persists instead of crumbling into chaotic conflict.": "Розтягування трансформації планети, керованої ШІ, ще на кілька років дає всім більше часу підготуватися й відреагувати, підвищуючи ймовірність того, що щось на кшталт нашої нинішньої системи стримувань і противаг збережеться замість того, щоб розсипатися в хаотичний конфлікт.", "Decreasing the feasibility of inserting secret loyalties into AI systems. There is high quality compute accounting,so it is no longer feasible for anyone to obtain hidden compute, which could be used to train a backdoor into the AIs.": "Зниження можливості вбудовувати приховану лояльність у системи ШІ. Завдяки високоякісному обліку обчислювальних потужностей уже нереально отримати приховані обчислювальні потужності, які можна було б використати для навчання бекдору в ШІ.", "Q: Wouldn’t China not agree to the deal? Even if they did agree on paper, wouldn’t they defect and keep developing AI anyways?": "Питання: Хіба Китай не відмовиться погодитися на угоду? Навіть якщо він погодиться на папері, хіба він не порушить домовленість і не продовжить розвивати ШІ попри це?", "A: China is likely to want something along the lines of Plan A because the status quo outcome for China is that they will be outcompeted by US AI companies. This will result in either misaligned AIs taking over the world, or the US obtaining a decisive lead in AI capabilities sufficient to disempower China. (These two options correspond to the race and slowdown endings of AI 2027 respectively). The CCP today does not seem very aware of the importance of AGI or ASI, but this will change as AI has bigger and bigger impacts on the world.": "Відповідь: Китай, імовірно, захоче чогось на кшталт Плану А, оскільки за статус-кво результатом для Китаю стане програш конкуренції з ШІ-компаніями США. Це призведе або до захоплення влади над світом неузгодженими ШІ, або до того, що США отримають вирішальну перевагу в можливостях ШІ, достатню для того, щоб позбавити Китай влади. (Ці два варіанти відповідають кінцівкам «Гонка» і «Сповільнення» AI 2027 відповідно). КПК сьогодні, схоже, не дуже усвідомлює важливість AGI чи ASI, але це зміниться в міру того, як вплив ШІ на світ ставатиме дедалі більшим.", "The question isn’t “Will China defect from the deal?” The question is, “What’s the biggest defection they could get away with, and how bad would that be?”": "Питання не в тому, «чи порушить Китай угоду?» Питання в тому, «яке найбільше порушення вони можуть собі дозволити безкарно, і наскільки це буде погано?»", "There are two ways of defecting from the deal: (1) building a massive covert project that you attempt to keep hidden from the rest of the world, and (2) using the existing legal compute.": "Є два способи порушити угоду: (1) побудувати масштабний таємний проєкт, який намагаються приховати від решти світу, і (2) використовувати наявні легальні обчислювальні потужності.", "A baseline estimate for the maximum size of covert project that they could have is ~1.2M H100e. We do a more thorough analysis of this question in ": "Базова оцінка максимального розміру таємного проєкту, який вони могли б мати, — приблизно 1,2 млн H100e. Ми проводимо більш ретельний аналіз цього питання в ", "A baseline estimate for the maximum size of covert project that they could have is ~1.2M H100e. We do a more thorough analysis of this question in": "Базова оцінка максимального розміру таємного проєкту, який вони могли б мати, — приблизно 1,2 млн H100e. Ми проводимо більш ретельний аналіз цього питання в", "our covert project supplement": "нашому додатку про таємний проєкт", ", and we have a branch of our scenario gaming out how China could defect.": ", і в нас є відгалуження сценарію, що моделює, як Китай міг би порушити угоду.", "We prevent the use of existing legal compute through training verification mechanisms. We assume US and Chinese auditors are given full transparency into the other’s R&D datacenters, allowing them to check if the compute is being used how they claim it is being used. We do a more thorough analysis of this question in our ": "Ми запобігаємо використанню наявних легальних обчислювальних потужностей за допомогою механізмів верифікації навчання. Ми припускаємо, що аудитори США та Китаю отримують повну прозорість щодо R&D дата-центрів одне одного, що дозволяє їм перевіряти, чи обчислювальні потужності використовуються так, як заявлено. Ми проводимо більш ретельний аналіз цього питання в нашому ", "We prevent the use of existing legal compute through training verification mechanisms. We assume US and Chinese auditors are given full transparency into the other’s R&D datacenters, allowing them to check if the compute is being used how they claim it is being used. We do a more thorough analysis of this question in our": "Ми запобігаємо використанню наявних легальних обчислювальних потужностей за допомогою механізмів верифікації навчання. Ми припускаємо, що аудитори США та Китаю отримують повну прозорість щодо R&D дата-центрів одне одного, що дозволяє їм перевіряти, чи обчислювальні потужності використовуються так, як заявлено. Ми проводимо більш ретельний аналіз цього питання в нашому", "Q: Isn’t Total Research Transparency bad because it leaks algorithmic secrets to China and other AI companies?": "Питання: Хіба Повна дослідницька прозорість не погана, бо вона зливає алгоритмічні секрети Китаю та іншим ШІ-компаніям?", "No current AI companies claim to be secure against nation state level adversaries. They aren’t secure even for model weights, which are much easier to secure than algorithmic secrets because model weights are large, often on the order of 1-10TB, while algorithmic secrets are often memorizable by individual humans. Because AI algorithms will have already leaked to competing nations, the costs of full transparency here are relatively low compared to the enormous benefits.": "Жодна наявна ШІ-компанія не заявляє, що захищена від супротивників рівня держави. Вони не захищені навіть щодо ваг моделі, які набагато легше захистити, ніж алгоритмічні секрети, оскільки ваги моделі великі за розміром — часто порядку 1-10 ТБ, тоді як алгоритмічні секрети часто можна запам'ятати окремій людині. Оскільки алгоритми ШІ вже й так витекли до країн-конкурентів, витрати повної прозорості тут відносно низькі порівняно з величезними вигодами.", "Q: Plan A is complicated. Shouldn’t we do a simpler and more straightforward plan, like shutting it all down (Plan S)?": "Питання: План А складний. Хіба не варто зробити простіший і прямолінійніший план, наприклад просто все зупинити (План S)?", "Our proposed implementation of Plan A is very complicated, and even a good implementation will incur significant existential risk. However, all simpler plans that we are aware of would incur even more risk than Plan A. In particular the main issue with Plan S is that it does worse than Plan A at making forward progress towards solving the safety/alignment problems that prevent further capability scaling, because we are shut down at an earlier capability level. This is bad because at some point, both Plan A and Plan S will break down and return to racing, and in Plan S, much less alignment progress will have been made by this point. That said, we are very sympathetic to Plan S and could imagine being convinced that some version of it is better after all.": "Наша запропонована реалізація Плану А дуже складна, і навіть хороша реалізація понесе значний екзистенційний ризик. Проте всі простіші плани, про які нам відомо, понесуть ще більший ризик, ніж План А. Зокрема, головна проблема Плану S у тому, що він гірше за План А просуває вперед вирішення проблем безпеки/узгодження, які стримують подальше масштабування можливостей, оскільки ми зупиняємось на нижчому рівні можливостей. Це погано, бо в якийсь момент і План А, і План S зрештою зламаються й повернуться до гонки, а в Плані S до цього моменту буде досягнуто значно менше прогресу в узгодженні. Тим не менш, ми дуже симпатизуємо Плану S і можемо уявити, що нас переконають, що якась його версія все ж краща.", "Q: The US government is incompetent. Why are we trusting the US government to do a good job regulating AI?": "Питання: Уряд США некомпетентний. Чому ми довіряємо уряду США якісне регулювання ШІ?", "For any plan, incompetent execution of that plan is a serious concern. We are in fact very worried about incompetent execution of Plan A, and so we wrote a ": "Для будь-якого плану некомпетентна реалізація — серйозна проблема. Ми справді дуже стурбовані некомпетентною реалізацією Плану А, тож написали ", "For any plan, incompetent execution of that plan is a serious concern. We are in fact very worried about incompetent execution of Plan A, and so we wrote a": "Для будь-якого плану некомпетентна реалізація — серйозна проблема. Ми справді дуже стурбовані некомпетентною реалізацією Плану А, тож написали", "branch of our scenario explaining how this could lead to existential catastrophe": "відгалуження нашого сценарію, що пояснює, як це може призвести до екзистенційної катастрофи", "Who else is going to regulate AI, if the US government doesn’t? We don’t trust the industry to self-regulate effectively. Moreover, if the US government is kept in the dark while AI companies race through an intelligence explosion, that seems like an unstable situation that could lead to sudden wakeup and thrashing about, or worse, a US company effectively puppetting the government (as hinted at in the ": "Хто ще регулюватиме ШІ, якщо не уряд США? Ми не довіряємо галузі ефективно саморегулюватися. Крім того, якщо уряд США залишатиметься в невіданні, поки ШІ-компанії мчать крізь вибух інтелекту, це видається нестабільною ситуацією, яка може призвести до раптового прозріння й метань, або, що ще гірше, до того, що американська компанія фактично керуватиме урядом як маріонеткою (на що натякає ", "Who else is going to regulate AI, if the US government doesn’t? We don’t trust the industry to self-regulate effectively. Moreover, if the US government is kept in the dark while AI companies race through an intelligence explosion, that seems like an unstable situation that could lead to sudden wakeup and thrashing about, or worse, a US company effectively puppetting the government (as hinted at in the": "Хто ще регулюватиме ШІ, якщо не уряд США? Ми не довіряємо галузі ефективно саморегулюватися. Крім того, якщо уряд США залишатиметься в невіданні, поки ШІ-компанії мчать крізь вибух інтелекту, це видається нестабільною ситуацією, яка може призвести до раптового прозріння й метань, або, що ще гірше, до того, що американська компанія фактично керуватиме урядом як маріонеткою (на що натякає", "). If the US government is not in the dark, they will want to regulate AI, and we are trying to figure out and describe what good regulation would look like.": "). Якщо уряд США не залишатиметься в невіданні, він захоче регулювати ШІ, і ми намагаємось з'ясувати й описати, як мало б виглядати добре регулювання.", "Large parts of Plan A are designed to improve the AI-related competence of the government—and the wider world—as fast as possible. For example, this is part of why we recommend ": "Значна частина Плану А спрямована на якомога швидше підвищення компетентності уряду — і ширшого світу — у питаннях ШІ. Наприклад, частково тому ми рекомендуємо ", "Large parts of Plan A are designed to improve the AI-related competence of the government—and the wider world—as fast as possible. For example, this is part of why we recommend": "Значна частина Плану А спрямована на якомога швидше підвищення компетентності уряду — і ширшого світу — у питаннях ШІ. Наприклад, частково тому ми рекомендуємо", " instead of some more moderate kind of transparency. This is also part of why we recommend limiting the rate of AI progress; it gives the world more time to react and prepare for each new level of capability. We also have things to say about ": " замість якогось поміркованішого виду прозорості. Частково тому ми також рекомендуємо обмежувати темп прогресу ШІ; це дає світу більше часу реагувати й готуватися до кожного нового рівня можливостей. Ми також маємо що сказати про ", "instead of some more moderate kind of transparency. This is also part of why we recommend limiting the rate of AI progress; it gives the world more time to react and prepare for each new level of capability. We also have things to say about": "замість якогось поміркованішого виду прозорості. Частково тому ми також рекомендуємо обмежувати темп прогресу ШІ; це дає світу більше часу реагувати й готуватися до кожного нового рівня можливостей. Ми також маємо що сказати про", "using AI to improve epistemics": "використання ШІ для покращення епістеміки", ", and about immediate actions the government could take to improve its understanding of AI and capacity to regulate effectively. Finally, a big motivation for Plan A is to prevent extreme concentrations of power, which is good in its own right but also helps mitigate government incompetence.": ", а також про негайні дії, які уряд міг би вжити, щоб покращити своє розуміння ШІ й здатність ефективно регулювати. Нарешті, велика мотивація Плану А — запобігти крайній концентрації влади, що добре само по собі, але також допомагає пом'якшити некомпетентність уряду.", "Q: Plan A just isn’t going to happen. Don’t you know that?": "Питання: План А просто не станеться. Хіба ви цього не знаєте?", "The Plan A scenario is a recommendation, not a forecast; it is ": "Сценарій Плану А — це рекомендація, а не прогноз; це не ", "The Plan A scenario is a recommendation, not a forecast; it is": "Сценарій Плану А — це рекомендація, а не прогноз; це не", " what we expect to happen. We think many of the ideas in AI 2040 are good and will be helpful inspiration for people trying to steer things in a better direction, even if Plan A doesn’t happen. That said, we also think that Plan A is plausible enough that it is worthwhile to push for it.": " те, що ми очікуємо станеться. Ми вважаємо, що багато ідей в AI 2040 хороші й стануть корисним натхненням для людей, що намагаються скерувати процес у кращому напрямку, навіть якщо План А не станеться. Тим не менш, ми також вважаємо, що План А достатньо правдоподібний, щоб було варто за нього боротися.", "what we expect to happen. We think many of the ideas in AI 2040 are good and will be helpful inspiration for people trying to steer things in a better direction, even if Plan A doesn’t happen. That said, we also think that Plan A is plausible enough that it is worthwhile to push for it.": "те, що ми очікуємо станеться. Ми вважаємо, що багато ідей в AI 2040 хороші й стануть корисним натхненням для людей, що намагаються скерувати процес у кращому напрямку, навіть якщо План А не станеться. Тим не менш, ми також вважаємо, що План А достатньо правдоподібний, щоб було варто за нього боротися.", "Over just the last year, there has been a massive shift in the awareness and understanding of AI among policymakers. As the effects of AI get larger, there will be vastly more wakeup. Before the point of no return—the point at which AIs or AI-powered humans can disempower the rest of the world—AI will probably have transformative effects on the world. It’s hard to be confident in any specifics, but some illustrative possibilities include:": "Лише за останній рік відбувся масштабний зсув в обізнаності й розумінні ШІ серед політиків. У міру того як наслідки ШІ ставатимуть більшими, прозріння буде значно більше. До точки неповернення — моменту, коли ШІ або посилені ШІ люди зможуть позбавити владу решту світу, — ШІ, ймовірно, матиме трансформаційний вплив на світ. Важко бути впевненим у конкретиці, але деякі ілюстративні можливості включають:", "AIs can automate the majority of all jobs: physical jobs with robots, cognitive jobs with AI agents running in the cloud. This leads to massive widespread unemployment.": "ШІ можуть автоматизувати більшість усіх робочих місць: фізичну роботу — роботами, когнітивну роботу — ШІ-агентами, що працюють у хмарі. Це веде до масового поширеного безробіття.", "Extreme economic impacts other than unemployment. For example, perhaps AI companies will continue increasing their revenue at ~3x/year until 2030, which would mean that the frontier AI companies would have a $10T/year revenue. This is an unprecedented amount of wealth and power in a company, and will trigger alarm bells.": "Крайні економічні наслідки, окрім безробіття. Наприклад, можливо, ШІ-компанії продовжуватимуть нарощувати дохід приблизно у 3 рази на рік до 2030 року, а це означало б, що передові ШІ-компанії матимуть дохід $10 трлн/рік. Це безпрецедентна кількість багатства й влади в одній компанії, і це запустить тривожні дзвіночки.", "AIs completely change the nature of warfare. For example, AI piloted drone swarms may render existing mechanized militaries (e.g. infantry, tanks, planes, aircraft carriers) completely obsolete. This might lead to significant changes in the geopolitical balance of power as countries who aren’t at the AI frontier will fall behind militarily.": "ШІ повністю змінює природу війни. Наприклад, кероване ШІ рої дронів можуть зробити наявні механізовані армії (наприклад, піхоту, танки, літаки, авіаносці) повністю застарілими. Це може призвести до значних змін у геополітичному балансі сил, оскільки країни, що не перебувають на передовому краю ШІ, відставатимуть у військовому плані.", "Extreme misuse capabilities, e.g. suppose it’s the case that AIs are able to cheaply design and spread bioweapons with commonly accessible materials. Hardening the world against these capabilities will be extremely difficult.": "Крайні можливості для зловживання — наприклад, припустімо, що ШІ здатні дешево розробляти й поширювати біозброю із загальнодоступних матеріалів. Захистити світ від таких можливостей буде надзвичайно складно.", "It’s hard to know what the political environment will look like after AI has massive effects on the world. The main question is how early transformative effects on the world happen relative to AI-caused permanent lock in. Plan A is much easier and more effective if implemented early—before the AIs have fully automated the AI R&D process.": "Важко знати, яким буде політичне середовище після того, як ШІ матиме масштабний вплив на світ. Головне питання — наскільки рано трансформаційні наслідки для світу настануть відносно спричиненого ШІ незворотного закріплення влади. План А значно простіший і ефективніший, якщо його реалізувати рано — до того, як ШІ повністю автоматизує процес AI R&D.", "Problem #1: Loss of Control to superintelligent AIs.": "Проблема №1: Втрата контролю над надлюдським ШІ.", "Due to the slowdown agreement, the intelligence explosion happens over the course of at least 10 years. Instead of being forced by competitive pressures to automate work and trust AIs, companies now are forced to slow down until they have a rock solid safety case. In the Plan A scenario, we have ~5 years with top expert level AI before handoff, and we could realistically get more time. If alignment ends up being hard enough that a 10 year slowdown isn’t sufficient, the infrastructure for a longer pause is set up.": "Завдяки угоді про сповільнення вибух інтелекту триває щонайменше 10 років. Замість того щоб конкурентний тиск змушував компанії автоматизувати роботу й довіряти ШІ, тепер їх змушують сповільнитися, доки в них не буде надійного обґрунтування безпеки. У сценарії Плану А в нас є приблизно 5 років з ШІ рівня найкращих експертів до передачі повноважень, і реалістично ми могли б отримати більше часу. Якщо узгодження виявиться настільки складним, що 10-річного сповільнення недостатньо, вже налаштована інфраструктура для довшої паузи.", "Due to the transparency and access provisions in the deal, there is way more oversight of AI developers, and many more total people have the relevant access to do AI alignment work with frontier models.": "Завдяки положенням угоди про прозорість і доступ, набагато більше нагляду за розробниками ШІ, і значно більше людей загалом мають відповідний доступ, щоб працювати над узгодженням ШІ з передовими моделями.", "(See more ": "(Детальніше ", "(See more": "(Детальніше", "Problem #2: AI will lead to massive concentration of power into whatever group controls the first superintelligences (if anyone).": "Проблема №2: ШІ призведе до масштабної концентрації влади в руках тієї групи, що контролює перші суперінтелекти (якщо така взагалі буде).", "The transparency act already helps somewhat to prevent CEOs backdooring their models. The Total Research Transparency deal then “seals the deal” to a much greater extent; any attempt at inserting a hidden agenda into your biggest and most-used models–whether initiated by a CEO or a President–would be visible to multiple world governments. The model spec transparency + algorithmic progress slowdown + Total Research Transparency deal also makes there be many companies and governments with similar levels of AI, which is great for spreading out the power more generally, not just narrowly preventing secret loyalties/agendas.": "Закон про прозорість уже певною мірою допомагає запобігти тому, щоб CEO вбудовували бекдори у свої моделі. Угода про Повну дослідницьку прозорість тоді «закріплює угоду» значно сильніше; будь-яка спроба вбудувати приховану програму в найбільші й найбільш використовувані моделі — незалежно від того, ініціював це CEO чи президент, — буде видима кільком урядам світу. Прозорість специфікації моделі + сповільнення алгоритмічного прогресу + угода про Повну дослідницьку прозорість також означають, що з'явиться багато компаній і урядів з подібними рівнями ШІ, що чудово для розподілу влади загалом, а не лише для вузького запобігання прихованій лояльності/програмам.", "Because the intelligence explosion is now happening in a slow and drawn out way, and we’ve prevented disparities in model access, so everyone has access to the same level of AI capabilities, anyone who is getting disempowered will be able to realize that and then negotiate for a better deal. Normal people have access to smart enough AIs that they can understand the situation well, and they can vote for ethical and thoughtful politicians, who will maintain and improve the power the public has, leading to a virtuous cycle. This leads to the Citizens Dividend and space governance proposal being implemented and spreading out the power forever.": "Оскільки вибух інтелекту тепер відбувається повільно й розтягнуто, а ми запобігли нерівності доступу до моделей, тож усі мають доступ до однакового рівня можливостей ШІ, будь-хто, хто втрачає владу, зможе це усвідомити й домовитися про кращу угоду. Звичайні люди мають доступ до достатньо розумних ШІ, щоб добре розуміти ситуацію, і можуть голосувати за етичних і розважливих політиків, які збережуть і посилять владу, що має суспільство, — це веде до доброчесного циклу. Це приводить до впровадження дивіденду громадянина й пропозиції космічного врядування та назавжди розподіляє владу.", "Problem #3: World War 3 risk due to superintelligences disempowering many countries, including nuclear powers.": "Проблема №3: ризик Третьої світової війни через те, що суперінтелекти позбавляють влади багато країн, включно з ядерними державами.", "Plan A prevents WW3 by ending the “winner take all” effects of a race to superintelligence. No longer is there a race to ASI with each side fearing what the other might do if they get there first, and with each side contemplating taking aggressive action to slow down the other side, and with one or more sides starting to freak out as they realize they are on a path towards losing. No longer are there a bunch of middle countries gradually realizing that no matter who wins, they lose, and starting to freak out also.": "План А запобігає Третій світовій війні, припиняючи ефект «переможець отримує все» в гонці до суперінтелекту. Більше немає гонки до ASI, у якій кожна сторона боїться того, що інша може зробити, якщо дістанеться туди першою, і кожна сторона розмірковує над агресивними діями, щоб сповільнити іншу сторону, і одна чи кілька сторін починають панікувати, усвідомлюючи, що йдуть шляхом до програшу. Більше немає купи середніх країн, що поступово усвідомлюють: хто б не переміг, вони програють, — і теж починають панікувати.", "Problem #4: AI taking everyone’s jobs.": "Проблема №4: ШІ забирає роботу в усіх.", "The reasons that unemployment is bad are that people lose their (a) income, (b) power, and (c) source of meaning. Plan A slows down AI induced job loss to a rate where the negative effects of unemployment can be mitigated.": "Причини, чому безробіття погане, у тому, що люди втрачають (а) дохід, (б) владу і (в) джерело сенсу. План А сповільнює спричинену ШІ втрату робочих місць до темпу, за якого негативні наслідки безробіття можна пом'якшити.", "The main reason that people need jobs is to have a source of income. Plan A addresses the loss of income via the Citizen’s Dividend. Each person gets a share of income large enough to support an extremely high quality of life.": "Головна причина, чому людям потрібна робота, — мати джерело доходу. План А вирішує проблему втрати доходу через дивіденд громадянина. Кожна людина отримує частку доходу, достатньо велику, щоб підтримувати надзвичайно високу якість життя.", "A second reason why jobs are important is that they empower their holders. CEOs and governments are incentivized to care for people who provide economic value. However, once AIs can do all the economically relevant tasks, governments and companies lose a strong incentive to provide for their citizens/employees. See the “concentration of power section” for more.": "Друга причина, чому робота важлива, — вона надає владу тим, хто її має. CEO та уряди мають стимул піклуватися про людей, які створюють економічну цінність. Проте щойно ШІ зможе виконувати всі економічно значущі завдання, уряди й компанії втратять сильний стимул забезпечувати своїх громадян/працівників. Детальніше див. «розділ про концентрацію влади».", "A final reason jobs are important is that they provide meaning for many people. Here we just say that it won’t be that bad (people can get meaning in a bunch of ways, not just economically useful work! Family, friends, romance, hobbies, sports!) and that the benefits outweigh the costs. If you disagree, well, we also describe Plan S… there’s basically no way to avoid mass unemployment if you allow companies to build and deploy AIs that obsolete humans. And in particular, banning the use of AI in various professions won’t work for long.": "Остання причина, чому робота важлива, — вона дає сенс життя багатьом людям. Тут ми просто скажемо, що все буде не так погано (сенс можна знаходити багатьма способами, а не лише через економічно корисну працю! Родина, друзі, стосунки, хобі, спорт!) і що переваги переважують витрати. Якщо ви не згодні — що ж, ми також описуємо План S… уникнути масового безробіття практично неможливо, якщо дозволити компаніям створювати й розгортати ШІ, які роблять людей непотрібними. І зокрема, заборона використання ШІ в окремих професіях довго не протримається.", "Problem #5: AI misuse by small actors.": "Проблема №5: зловживання ШІ з боку дрібних гравців.", "Widespread access to smart AI will make it trivially easy to build bioweapons (or other technology that would cause huge damage at little cost to the attacker). Terrorists, states (e.g. North Korea), or misanthropists who are motivated to cause immense harm could leverage AI to do a much larger attack than they would have otherwise.": "Широкий доступ до розумного ШІ зробить створення біозброї (чи іншої технології, здатної завдати величезної шкоди за невеликі витрати для нападника) тривіально простим. Терористи, держави (наприклад, Північна Корея) чи мізантропи, налаштовані завдати величезної шкоди, зможуть за допомогою ШІ здійснити значно масштабнішу атаку, ніж без нього.", "Plan A, as part of mitigating covert projects, limits the capability of open weight models to pre-deal levels. Closed models are trained to refuse dangerous requests. In case access limitations fail, Plan A involves massive investments into biosecurity and other measures to improve the resilience of the world.": "План А, у межах пом'якшення ризику таємних проєктів, обмежує можливості моделей з відкритими вагами рівнем до укладення угоди. Закриті моделі навчають відмовляти на небезпечні запити. Якщо обмеження доступу не спрацюють, План А передбачає масштабні інвестиції в біобезпеку та інші заходи для підвищення стійкості світу.", "There’s an alternate approach to misuse taken in Plan B, C, and D, which is to speedrun the intelligence explosion and hope to build superintelligence that can directly take over the world, hence preventing misuse. It’s plausible that these plans look better for misuse risk than Plan A because there’s so little time for the misuse to occur before superintelligence. But this strategy imposes unacceptable levels of loss of control and concentration of power risk, and so doesn’t pass overall cost benefit.": "У Планах B, C і D до проблеми зловживань застосовують інший підхід — прискорити вибух інтелекту й сподіватися створити суперінтелект, який зможе безпосередньо взяти світ під контроль, тим самим запобігши зловживанням. Цілком можливо, що за ризиком зловживань ці плани виглядають кращими за План А, бо до появи суперінтелекту лишається дуже мало часу для зловживань. Але ця стратегія несе неприйнятний рівень ризику втрати контролю та концентрації влади, тож загалом не проходить перевірку співвідношенням витрат і вигід.", "Forecasts Summary": "Підсумок прогнозів", "Policies Summary": "Підсумок політик", "Empirical Updates": "Емпіричні оновлення", "Timelines": "Часові горизонти", "Takeoff speeds": "Швидкість зльоту", "Alignment difficulty": "Складність узгодження", "Verification difficulty": "Складність верифікації", "AI Paradigm Shifts": "Зміни парадигми ШІ", "Less central updates": "Менш центральні оновлення", "Policy Updates": "Оновлення політик", "How fast to scale AI progress after a slowdown deal?": "Наскільки швидко масштабувати прогрес ШІ після угоди про сповільнення?", "Massive datacenter buildout": "Масштабна розбудова дата-центрів", "Our specific verification plan": "Наш конкретний план верифікації", "Transparency and Security tradeoffs": "Компроміси між прозорістю та безпекою", "Our Post-ASI governance plan": "Наш план врядування після появи ASI", "Broad Deployment of AI during the takeoff period": "Широке розгортання ШІ у період зльоту", "Plan A is a scenario: it combines forecasts with policy recommendations. Some of the forecasts and recommendations we are confident in; others are just guesses we made because we had to, in order to achieve the desired level of concreteness.": "План А — це сценарій: він поєднує прогнози з рекомендаціями щодо політики. У деяких прогнозах і рекомендаціях ми впевнені; інші — це просто здогадки, які довелося зробити, щоб досягти потрібного рівня конкретики.", "Confident": "Впевнені", "Unconfident": "Невпевнені", "Prediction": "Прогноз", "E.g.: “AGI is coming soon and will be a bigger deal than the industrial revolution”": "Наприклад: «AGI з'явиться скоро і матиме більші наслідки, ніж промислова революція»", "E.g.: “AGI will arrive in 2030”": "Наприклад: «AGI з'явиться у 2030 році»", "Recommendation": "Рекомендація", "E.g. “There should be an international deal to limit the speed of AI takeoff”": "Наприклад: «Має бути укладена міжнародна угода, щоб обмежити швидкість зльоту ШІ»", "E.g. “Many new datacenters should be constructed in Mongolia and Canada.”": "Наприклад: «У Монголії та Канаді слід побудувати багато нових дата-центрів».", "This supplement goes through the major predictions and recommendations of the scenario and explains which are which.": "Цей додаток розглядає основні прогнози та рекомендації сценарію і пояснює, що є чим.", "Nearly all of the actions in the scenario assume some optimism and some realism, but by and large, we tried to be realistic about empirical facts and optimistic about US government actions.": "Майже всі дії в сценарії поєднують певний оптимізм із певним реалізмом, але загалом ми намагалися бути реалістичними щодо емпіричних фактів і оптимістичними щодо дій уряду США.", " The AI 2040 scenario has roughly my median view about things like timelines, takeoff speeds, alignment difficulty, and actions of non-US governments (e.g. China, the EU, etc). The actions the US government takes are optimistic by definition as they are following our recommendations nearly exactly; in reality we still expect something more like the response in 2027.": " Сценарій AI 2040 приблизно відображає мій медіанний погляд на такі речі, як часові горизонти, швидкість зльоту, складність узгодження та дії урядів поза США (наприклад, Китаю, ЄС тощо). Дії уряду США за визначенням оптимістичні, оскільки вони майже точно слідують нашим рекомендаціям; насправді ж ми все ще очікуємо реакцію, більш схожу на ту, що описана у 2027.", "The AI 2040 scenario has roughly my median view about things like timelines, takeoff speeds, alignment difficulty, and actions of non-US governments (e.g. China, the EU, etc). The actions the US government takes are optimistic by definition as they are following our recommendations nearly exactly; in reality we still expect something more like the response in 2027.": "Сценарій AI 2040 приблизно відображає мій медіанний погляд на такі речі, як часові горизонти, швидкість зльоту, складність узгодження та дії урядів поза США (наприклад, Китаю, ЄС тощо). Дії уряду США за визначенням оптимістичні, оскільки вони майже точно слідують нашим рекомендаціям; насправді ж ми все ще очікуємо реакцію, більш схожу на ту, що описана у 2027.", "The supplement tries to capture all our main recommendations, so if something isn’t mentioned here, it is probably a prediction, and insofar as it’s a recommendation, it is not an important one.": "Цей додаток намагається охопити всі наші головні рекомендації, тож якщо щось тут не згадано, це, ймовірно, прогноз, а якщо все ж рекомендація — то не важлива.", "Since this is a document about specific beliefs, it’s written from the perspective of one of the scenario authors (Thomas). Other authors by and large agree with the central claims but have somewhat different opinions on the specifics.": "Оскільки цей документ стосується конкретних переконань, він написаний з перспективи одного з авторів сценарію (Thomas). Інші автори загалом погоджуються з ключовими тезами, але мають дещо інші погляди на деталі.", "For each of the following, I am >80% confident:": "У кожному з наведених нижче тверджень я впевнений більш ніж на 80%:", "AI R&D will be fully automated within the next ~15 years": "AI R&D буде повністю автоматизовано протягом наступних ~15 років", ", absent substantial regulation, war, or societal collapse. (See the ": ", за відсутності суттєвого регулювання, війни чи суспільного колапсу. (Див. ", ", absent substantial regulation, war, or societal collapse. (See the": ", за відсутності суттєвого регулювання, війни чи суспільного колапсу. (Див.", " for more detail; AIFP employees have somewhat different views, but all agree that 2027 and 2030 are plausible and reasonably central years.)": " для деталей; співробітники AIFP мають дещо різні погляди, але всі погоджуються, що 2027 і 2030 роки — правдоподібні й достатньо центральні.)", "for more detail; AIFP employees have somewhat different views, but all agree that 2027 and 2030 are plausible and reasonably central years.)": "для деталей; співробітники AIFP мають дещо різні погляди, але всі погоджуються, що 2027 і 2030 роки — правдоподібні й достатньо центральні.)", "Within a few years of AI R&D automation we will build AIs that are better than humans at all economically relevant tasks": "Протягом кількох років після автоматизації AI R&D ми створимо ШІ, які будуть кращими за людей у всіх економічно значущих завданнях", " (absent substantial policy intervention). These AIs would quickly become vastly cheaper than humans, and so soon humans will become economically irrelevant.": " (за відсутності суттєвого втручання політики). Такі ШІ швидко стануть значно дешевшими за людей, тож незабаром люди стануть економічно не потрібними.", "(absent substantial policy intervention). These AIs would quickly become vastly cheaper than humans, and so soon humans will become economically irrelevant.": "(за відсутності суттєвого втручання політики). Такі ШІ швидко стануть значно дешевшими за людей, тож незабаром люди стануть економічно не потрібними.", "If we build vastly superhuman AIs, the AIs could take over, if they collectively wanted to": "Якщо ми створимо значно надлюдський ШІ, ці ШІ зможуть захопити владу, якщо колективно цього забажають", ". Therefore, it is critically important that most of them do not want to.": ". Тому критично важливо, щоб більшість із них цього не хотіла.", "I’m not confident about:": "Я не впевнений щодо:", "The exact timeline.": "Точних часових горизонтів.", " In AI 2027, the automation of coding happened in 2027; in Plan A, this would have happened in 2030 in the absence of governance, but is slowed by a few years. My 90% confidence interval is mid-2027 to ~2050. We chose 2030 because it’s near enough that our specific planning is useful, but far enough that the government has time for the preparation phase we recommend. If timelines are shorter, there isn’t time to prepare and so Plan A becomes more rushed; if longer, more of the details are wrong but the high-level plan stays the same. (": " В AI 2027 автоматизація програмування відбулася у 2027 році; у Плані А це сталося б у 2030 році за відсутності врядування, але сповільнюється на кілька років. Мій 90%-й довірчий інтервал — від середини 2027 до ~2050 року. Ми обрали 2030 рік, бо він достатньо близький, щоб наше конкретне планування було корисним, але достатньо далекий, щоб уряд мав час на підготовчий етап, який ми рекомендуємо. Якщо часові горизонти коротші, часу на підготовку немає, і План А стає більш поспішним; якщо довші — більше деталей виявляться хибними, але план високого рівня лишається тим самим. (", "In AI 2027, the automation of coding happened in 2027; in Plan A, this would have happened in 2030 in the absence of governance, but is slowed by a few years. My 90% confidence interval is mid-2027 to ~2050. We chose 2030 because it’s near enough that our specific planning is useful, but far enough that the government has time for the preparation phase we recommend. If timelines are shorter, there isn’t time to prepare and so Plan A becomes more rushed; if longer, more of the details are wrong but the high-level plan stays the same. (": "В AI 2027 автоматизація програмування відбулася у 2027 році; у Плані А це сталося б у 2030 році за відсутності врядування, але сповільнюється на кілька років. Мій 90%-й довірчий інтервал — від середини 2027 до ~2050 року. Ми обрали 2030 рік, бо він достатньо близький, щоб наше конкретне планування було корисним, але достатньо далекий, щоб уряд мав час на підготовчий етап, який ми рекомендуємо. Якщо часові горизонти коротші, часу на підготовку немає, і План А стає більш поспішним; якщо довші — більше деталей виявляться хибними, але план високого рівня лишається тим самим. (", "Takeoff speeds.": "Швидкість зльоту.", " How long between automating coding and AIs that dominate the top human at everything? We assume a default of ~1 year (my median), but my 80% CI ranges from 2 months to 5 years. Under my views about takeoff, the plan is basically similar under different takeoff speeds, though there are some small prioritization updates depending on the direction. (": " Скільки часу мине між автоматизацією програмування та появою ШІ, які перевершують найкращу людину в усьому? За замовчуванням ми припускаємо ~1 рік (моя медіана), але мій 80%-й довірчий інтервал — від 2 місяців до 5 років. З огляду на мої погляди на зліт, план по суті схожий за різних швидкостей зльоту, хоча є деякі невеликі оновлення пріоритетів залежно від напрямку. (", "How long between automating coding and AIs that dominate the top human at everything? We assume a default of ~1 year (my median), but my 80% CI ranges from 2 months to 5 years. Under my views about takeoff, the plan is basically similar under different takeoff speeds, though there are some small prioritization updates depending on the direction. (": "Скільки часу мине між автоматизацією програмування та появою ШІ, які перевершують найкращу людину в усьому? За замовчуванням ми припускаємо ~1 рік (моя медіана), але мій 80%-й довірчий інтервал — від 2 місяців до 5 років. З огляду на мої погляди на зліт, план по суті схожий за різних швидкостей зльоту, хоча є деякі невеликі оновлення пріоритетів залежно від напрямку. (", ". We don’t know how hard it will be to solve the AI alignment problem. I think it’s possible that even without a major slowdown, we are able to solve the alignment problem. Similarly, I think it’s possible that even 10+ years of dedicated effort, with lots of AI assistance, won’t be enough. Plan A is designed to buy time and attempt to gain evidence about how difficult the problem is. If evidence accumulates that AI takeover risk is small, then we can proceed faster, otherwise, the pause extends. (": ". Ми не знаємо, наскільки важко буде розв'язати проблему узгодження ШІ. Гадаю, можливо, що навіть без суттєвого сповільнення ми зможемо розв'язати проблему узгодження. Так само вважаю можливим, що навіть 10+ років цілеспрямованих зусиль з великою допомогою ШІ виявиться недостатньо. План А створений, щоб виграти час і спробувати зібрати докази того, наскільки важка ця проблема. Якщо накопичаться докази, що ризик захоплення влади ШІ невеликий, ми зможемо рухатися швидше, інакше — пауза продовжується. (", "How difficult it will be to verify compliance with a slowdown deal.": "Наскільки складно буде верифікувати дотримання угоди про сповільнення.", " It could be that it’s basically intractable to do major AI development without access to giant datacenters which are easily monitored. On the other hand, it could be that algorithmic progress is doable even with a very small amount of compute, which means that very quickly even a very small cluster could do an intelligence explosion. In even the most pessimistic case, we think it’s very likely that a deal could be robustly enforced for a year or two. (": " Можливо, суттєвий розвиток ШІ практично нездійсненний без доступу до гігантських дата-центрів, які легко контролювати. З іншого боку, можливо, що алгоритмічний прогрес досяжний навіть за дуже малих обчислювальних потужностей, а це означає, що навіть дуже маленький кластер може дуже швидко спричинити вибух інтелекту. Навіть у найбільш песимістичному сценарії ми вважаємо цілком імовірним, що угоду можна надійно забезпечувати протягом року чи двох. (", "It could be that it’s basically intractable to do major AI development without access to giant datacenters which are easily monitored. On the other hand, it could be that algorithmic progress is doable even with a very small amount of compute, which means that very quickly even a very small cluster could do an intelligence explosion. In even the most pessimistic case, we think it’s very likely that a deal could be robustly enforced for a year or two. (": "Можливо, суттєвий розвиток ШІ практично нездійсненний без доступу до гігантських дата-центрів, які легко контролювати. З іншого боку, можливо, що алгоритмічний прогрес досяжний навіть за дуже малих обчислювальних потужностей, а це означає, що навіть дуже маленький кластер може дуже швидко спричинити вибух інтелекту. Навіть у найбільш песимістичному сценарії ми вважаємо цілком імовірним, що угоду можна надійно забезпечувати протягом року чи двох. (", "Many other strategic variables.": "Багато інших стратегічних змінних.", "For each of these key strategic variables, the Plan A scenario chooses a reasonably central value with respect to my views. For many of these my views are very uncertain, and many policy decisions should be made with more information about these variables than we currently have.": "Для кожної з цих ключових стратегічних змінних сценарій Плану А обирає достатньо центральне значення відповідно до моїх поглядів. Щодо багатьох із них мої погляди дуже невизначені, і чимало рішень щодо політики варто ухвалювати, маючи більше інформації про ці змінні, ніж ми маємо зараз.", "In the next section, I discuss which of our policy recommendations in the scenario are robust across a wide range of empirical updates.": "У наступному розділі я розглядаю, які з наших рекомендацій щодо політики в сценарії лишаються стійкими за широкого діапазону емпіричних оновлень.", "These are robustly good policy recommendations:": "Це стійко хороші рекомендації щодо політики:", "Improve AI Preparedness in government": "Підвищити готовність уряду до ШІ", "(importance: medium).": "(важливість: середня).", " Transparency, improving technical expertise within government, and measures to accelerate verification research. These policies are good because they are low-regret, and in some scenarios (like Plan A), they are very important.": " Прозорість, підвищення технічної експертизи в уряді та заходи для пришвидшення досліджень з верифікації. Ці політики хороші, бо мають низький ризик жалю, а в деяких сценаріях (як-от План А) вони дуже важливі.", "Transparency, improving technical expertise within government, and measures to accelerate verification research. These policies are good because they are low-regret, and in some scenarios (like Plan A), they are very important.": "Прозорість, підвищення технічної експертизи в уряді та заходи для пришвидшення досліджень з верифікації. Ці політики хороші, бо мають низький ризик жалю, а в деяких сценаріях (як-от План А) вони дуже важливі.", "Model spec transparency and verification against power grabs": "Прозорість специфікації моделі та верифікація проти захоплення влади", " Model specifications (of both internal and external models) should explicitly prohibit assisting with power consolidation (by CEOs, presidents, or anyone else), and AI projects should be required to implement verification measures to prevent backdoors.": " Специфікації моделей (як внутрішніх, так і зовнішніх) мають прямо забороняти сприяння консолідації влади (з боку CEO, президентів чи будь-кого іншого), а від ШІ-проєктів слід вимагати впровадження заходів верифікації для запобігання бекдорам.", "Model specifications (of both internal and external models) should explicitly prohibit assisting with power consolidation (by CEOs, presidents, or anyone else), and AI projects should be required to implement verification measures to prevent backdoors.": "Специфікації моделей (як внутрішніх, так і зовнішніх) мають прямо забороняти сприяння консолідації влади (з боку CEO, президентів чи будь-кого іншого), а від ШІ-проєктів слід вимагати впровадження заходів верифікації для запобігання бекдорам.", "US/China deal to slow the capabilities explosion, based on compute governance": "Угода США/Китай про сповільнення вибуху можливостей на основі врядування обчислювальними потужностями", "(importance: high).": "(важливість: висока).", " This is the core of Plan A. I’m confident that a cooperative international approach (Plan A) is better than the alternatives because the alternatives involve being in a race during the intelligence explosion, which incurs huge risks. I’m not confident about the exact variant of Plan A, or whether Plan A as we’re imagining it (a many year mutual slowdown) is better than Plan S (a full shutdown). Conditional on attempting to “slow down”": " Це серце Плану А. Я впевнений, що спільний міжнародний підхід (План А) кращий за альтернативи, бо альтернативи означають перебування в гонці під час вибуху інтелекту, що несе величезні ризики. Я не впевнений щодо точного варіанту Плану А чи того, чи План А в тому вигляді, в якому ми його уявляємо (багаторічне взаємне сповільнення), кращий за План S (повне закриття). За умови спроби «сповільнити»", "This is the core of Plan A. I’m confident that a cooperative international approach (Plan A) is better than the alternatives because the alternatives involve being in a race during the intelligence explosion, which incurs huge risks. I’m not confident about the exact variant of Plan A, or whether Plan A as we’re imagining it (a many year mutual slowdown) is better than Plan S (a full shutdown). Conditional on attempting to “slow down”": "Це серце Плану А. Я впевнений, що спільний міжнародний підхід (План А) кращий за альтернативи, бо альтернативи означають перебування в гонці під час вибуху інтелекту, що несе величезні ризики. Я не впевнений щодо точного варіанту Плану А чи того, чи План А в тому вигляді, в якому ми його уявляємо (багаторічне взаємне сповільнення), кращий за План S (повне закриття). За умови спроби «сповільнити»", " AI progress, doing this via compute governance looks like by far the most effective way of accomplishing this goal (even though I’m not sure exactly how well it will work).": " прогрес ШІ, це найефективніший спосіб досягти цієї мети через врядування обчислювальними потужностями (хоча я не впевнений, наскільки добре це спрацює).", "AI progress, doing this via compute governance looks like by far the most effective way of accomplishing this goal (even though I’m not sure exactly how well it will work).": "прогрес ШІ, це найефективніший спосіб досягти цієї мети через врядування обчислювальними потужностями (хоча я не впевнений, наскільки добре це спрацює).", "Redistribution of AI-generated wealth": "Перерозподіл багатства, створеного ШІ", " As AIs automate the entire economy, the wages that humans will be able to earn will plummet to near-zero. By default (and assuming we avoid AI takeover), AI will cause historically unprecedented wealth inequality. I feel confident that there needs to be some measures for wealth redistribution.": " У міру того як ШІ автоматизує всю економіку, зарплати, які зможуть заробляти люди, впадуть майже до нуля. За замовчуванням (і за умови, що ми уникнемо захоплення влади ШІ) ШІ спричинить історично безпрецедентну нерівність багатства. Я впевнений, що потрібні певні заходи перерозподілу багатства.", "As AIs automate the entire economy, the wages that humans will be able to earn will plummet to near-zero. By default (and assuming we avoid AI takeover), AI will cause historically unprecedented wealth inequality. I feel confident that there needs to be some measures for wealth redistribution.": "У міру того як ШІ автоматизує всю економіку, зарплати, які зможуть заробляти люди, впадуть майже до нуля. За замовчуванням (і за умови, що ми уникнемо захоплення влади ШІ) ШІ спричинить історично безпрецедентну нерівність багатства. Я впевнений, що потрібні певні заходи перерозподілу багатства.", "Defensive Acceleration": "Оборонне прискорення", " Governments, AI companies, and the public should invest in technologies that make society more robust. Particularly important domains include AI for epistemics, bio defense, and cyber security. In the absence of a concerted effort to pursue defensive acceleration, increased offensive capabilities coming from high AI capabilities will lead to significant risk. Defensive acceleration also has positive externalities because it makes it harder for misaligned AIs to take over the world, and thus gives us more time to do alignment research": " Уряди, ШІ-компанії та громадськість повинні інвестувати в технології, що роблять суспільство стійкішим. Особливо важливі напрями — ШІ для епістеміки, біозахисту та кібербезпеки. За відсутності узгоджених зусиль щодо оборонного прискорення зростання наступальних можливостей через високі можливості ШІ призведе до значного ризику. Оборонне прискорення також має позитивні побічні ефекти, бо ускладнює захоплення світу неузгодженими ШІ, а отже дає нам більше часу на дослідження узгодження", "Governments, AI companies, and the public should invest in technologies that make society more robust. Particularly important domains include AI for epistemics, bio defense, and cyber security. In the absence of a concerted effort to pursue defensive acceleration, increased offensive capabilities coming from high AI capabilities will lead to significant risk. Defensive acceleration also has positive externalities because it makes it harder for misaligned AIs to take over the world, and thus gives us more time to do alignment research": "Уряди, ШІ-компанії та громадськість повинні інвестувати в технології, що роблять суспільство стійкішим. Особливо важливі напрями — ШІ для епістеміки, біозахисту та кібербезпеки. За відсутності узгоджених зусиль щодо оборонного прискорення зростання наступальних можливостей через високі можливості ШІ призведе до значного ризику. Оборонне прискорення також має позитивні побічні ефекти, бо ускладнює захоплення світу неузгодженими ШІ, а отже дає нам більше часу на дослідження узгодження", "Thoughtful post-ASI governance": "Продумане врядування після появи ASI", " We feel good about some general principles for post ASI governance: (1) have lots of smart people use (aligned) AI assistance to think carefully about effective governance, (2) be careful making irreversible commitments, (3) make it hard for any individual actor to consolidate power.": " Ми впевнено ставимося до деяких загальних принципів врядування після появи ASI: (1) залучити багато розумних людей, які за допомогою (узгодженого) ШІ ретельно продумають ефективне врядування, (2) обережно ставитися до незворотних зобов'язань, (3) ускладнити консолідацію влади будь-яким окремим актором.", "We feel good about some general principles for post ASI governance: (1) have lots of smart people use (aligned) AI assistance to think carefully about effective governance, (2) be careful making irreversible commitments, (3) make it hard for any individual actor to consolidate power.": "Ми впевнено ставимося до деяких загальних принципів врядування після появи ASI: (1) залучити багато розумних людей, які за допомогою (узгодженого) ШІ ретельно продумають ефективне врядування, (2) обережно ставитися до незворотних зобов'язань, (3) ускладнити консолідацію влади будь-яким окремим актором.", "These recommendations depend on particular assumptions that we’re not confident in, or have alternatives that might be better:": "Ці рекомендації залежать від конкретних припущень, у яких ми не впевнені, або мають альтернативи, що можуть бути кращими:", "How fast to scale AI capabilities after a deal": "Наскільки швидко масштабувати можливості ШІ після угоди", " Scaling faster incurs more immediate safety risk, while scaling slower means that you delay safety progress that’s downstream of having smarter AIs and incurs risk of deal dissolution and covert projects. These decisions will and should be made largely based on the evidence at the time about how risky particular AI systems and deployments seem to be, and how good our mitigations seem to be. (": " Швидше масштабування несе більший безпосередній ризик безпеки, тоді як повільніше масштабування означає відтермінування прогресу з безпеки, що залежить від розумніших ШІ, і несе ризик розпаду угоди та таємних проєктів. Ці рішення будуть і мають ухвалюватися здебільшого на основі доказів на той момент про те, наскільки ризикованими виглядають конкретні ШІ-системи й розгортання, і наскільки добрими виглядають наші заходи пом'якшення. (", "Scaling faster incurs more immediate safety risk, while scaling slower means that you delay safety progress that’s downstream of having smarter AIs and incurs risk of deal dissolution and covert projects. These decisions will and should be made largely based on the evidence at the time about how risky particular AI systems and deployments seem to be, and how good our mitigations seem to be. (": "Швидше масштабування несе більший безпосередній ризик безпеки, тоді як повільніше масштабування означає відтермінування прогресу з безпеки, що залежить від розумніших ШІ, і несе ризик розпаду угоди та таємних проєктів. Ці рішення будуть і мають ухвалюватися здебільшого на основі доказів на той момент про те, наскільки ризикованими виглядають конкретні ШІ-системи й розгортання, і наскільки добрими виглядають наші заходи пом'якшення. (", " In our Plan A scenario, we recommend that governments encourage a massive datacenter buildout. This recommendation is contingent on having implemented an effective international deal to slow down AI, and even conditional on that, it’s not clearly good. The case in favor is that hardware scaleups are more governable than software scale ups because we can prevent the hardware from proliferating. But there are major costs: (i) it increases the required accuracy of verification within the legal projects, and (ii) if the deal breaks down (and failsafe mechanisms fail), it could result in the intelligence explosion afterwards being much faster. (": " У нашому сценарії Плану А ми рекомендуємо урядам заохочувати масштабну розбудову дата-центрів. Ця рекомендація залежить від наявності дієвої міжнародної угоди про сповільнення ШІ, і навіть за цієї умови вона не є однозначно хорошою. Аргумент на користь — нарощування апаратних потужностей легше врядувати, ніж нарощування програмних, бо можна запобігти поширенню апаратного забезпечення. Але є суттєві витрати: (i) це підвищує необхідну точність верифікації в межах легальних проєктів, і (ii) якщо угода розпадеться (а запобіжні механізми відмовлять), це може призвести до значно швидшого вибуху інтелекту після цього. (", "In our Plan A scenario, we recommend that governments encourage a massive datacenter buildout. This recommendation is contingent on having implemented an effective international deal to slow down AI, and even conditional on that, it’s not clearly good. The case in favor is that hardware scaleups are more governable than software scale ups because we can prevent the hardware from proliferating. But there are major costs: (i) it increases the required accuracy of verification within the legal projects, and (ii) if the deal breaks down (and failsafe mechanisms fail), it could result in the intelligence explosion afterwards being much faster. (": "У нашому сценарії Плану А ми рекомендуємо урядам заохочувати масштабну розбудову дата-центрів. Ця рекомендація залежить від наявності дієвої міжнародної угоди про сповільнення ШІ, і навіть за цієї умови вона не є однозначно хорошою. Аргумент на користь — нарощування апаратних потужностей легше врядувати, ніж нарощування програмних, бо можна запобігти поширенню апаратного забезпечення. Але є суттєві витрати: (i) це підвищує необхідну точність верифікації в межах легальних проєктів, і (ii) якщо угода розпадеться (а запобіжні механізми відмовлять), це може призвести до значно швидшого вибуху інтелекту після цього. (", "Our verification plan": "Наш план верифікації", " The verification plan described in Plan A is important for making sure that both the US and China are following the agreement. But I’m quite unconfident about the exact best way to implement it. We have a specific proposal which involves first implementing inference-only (and stopping the construction of new AI models) while sprinting to figure out how to verify training and experiments. Many alternative approaches to verification exist. (": " План верифікації, описаний у Плані А, важливий для того, щоб переконатися, що і США, і Китай дотримуються угоди. Але я доволі не впевнений щодо точного найкращого способу його реалізації. У нас є конкретна пропозиція, яка передбачає спочатку впровадження режиму «лише інференс» (із зупинкою створення нових моделей ШІ), водночас пришвидшено з'ясовуючи, як верифікувати навчання та експерименти. Існує багато альтернативних підходів до верифікації. (", "The verification plan described in Plan A is important for making sure that both the US and China are following the agreement. But I’m quite unconfident about the exact best way to implement it. We have a specific proposal which involves first implementing inference-only (and stopping the construction of new AI models) while sprinting to figure out how to verify training and experiments. Many alternative approaches to verification exist. (": "План верифікації, описаний у Плані А, важливий для того, щоб переконатися, що і США, і Китай дотримуються угоди. Але я доволі не впевнений щодо точного найкращого способу його реалізації. У нас є конкретна пропозиція, яка передбачає спочатку впровадження режиму «лише інференс» (із зупинкою створення нових моделей ШІ), водночас пришвидшено з'ясовуючи, як верифікувати навчання та експерименти. Існує багато альтернативних підходів до верифікації. (", "What transparency/security tradeoffs to make": "Які компроміси між прозорістю й безпекою обрати", " Security and transparency both have obvious upsides, but are in tension. We’d like as much transparency as possible to get as many eyes as possible on the safety cases being presented, but we’d also like to secure model weights, algorithms, and inference tokens. Overall, we think that we should be willing to pay substantial security costs in return for improved transparency, because we are more worried about major AI projects abusing their power and/or making mistakes, than we are about defecting projects with a tiny amount of compute (who are the main beneficiaries of poor security). The tiny projects just aren’t going to be as powerful, and bad or reckless behavior by them correspondingly doesn’t matter as much. (": " Безпека і прозорість обидві мають очевидні переваги, але суперечать одна одній. Нам хотілося б максимум прозорості, щоб якнайбільше очей могли перевірити представлені кейси безпеки, але водночас хотілося б захистити ваги моделей, алгоритми та інференс-токени. Загалом ми вважаємо, що варто бути готовими заплатити суттєву ціну безпекою заради покращеної прозорості, бо нас більше турбує зловживання владою та/або помилки з боку великих ШІ-проєктів, ніж проєкти-порушники з мізерними обчислювальними потужностями (які якраз і є головними бенефіціарами слабкої безпеки). Дрібні проєкти просто не будуть настільки потужними, тож їхня погана чи безрозсудна поведінка відповідно значить набагато менше. (", "Security and transparency both have obvious upsides, but are in tension. We’d like as much transparency as possible to get as many eyes as possible on the safety cases being presented, but we’d also like to secure model weights, algorithms, and inference tokens. Overall, we think that we should be willing to pay substantial security costs in return for improved transparency, because we are more worried about major AI projects abusing their power and/or making mistakes, than we are about defecting projects with a tiny amount of compute (who are the main beneficiaries of poor security). The tiny projects just aren’t going to be as powerful, and bad or reckless behavior by them correspondingly doesn’t matter as much. (": "Безпека і прозорість обидві мають очевидні переваги, але суперечать одна одній. Нам хотілося б максимум прозорості, щоб якнайбільше очей могли перевірити представлені кейси безпеки, але водночас хотілося б захистити ваги моделей, алгоритми та інференс-токени. Загалом ми вважаємо, що варто бути готовими заплатити суттєву ціну безпекою заради покращеної прозорості, бо нас більше турбує зловживання владою та/або помилки з боку великих ШІ-проєктів, ніж проєкти-порушники з мізерними обчислювальними потужностями (які якраз і є головними бенефіціарами слабкої безпеки). Дрібні проєкти просто не будуть настільки потужними, тож їхня погана чи безрозсудна поведінка відповідно значить набагато менше. (", "Our post-ASI governance plan": "Наш план врядування після появи ASI", "Our space governance plan": "Наш план космічного врядування", " is, in my opinion, a reasonable first pass about what should be aimed for, and is generally applicable to any scenario where humanity retains control. However, I am not at all confident in the details, and in these scenarios, we will have aligned, superhuman AIs to help us puzzle this out, so my main recommendation is to use the huge amounts of AI labor to come up with a better plan. (": " є, на мою думку, розумною першою спробою окреслити мету і загалом застосовна до будь-якого сценарію, де людство зберігає контроль. Утім, я зовсім не впевнений щодо деталей, а в цих сценаріях у нас будуть узгоджені надлюдські ШІ, які допоможуть розібратися в цьому, тож моя головна рекомендація — використати величезні обсяги ШІ-праці, щоб виробити кращий план. (", "is, in my opinion, a reasonable first pass about what should be aimed for, and is generally applicable to any scenario where humanity retains control. However, I am not at all confident in the details, and in these scenarios, we will have aligned, superhuman AIs to help us puzzle this out, so my main recommendation is to use the huge amounts of AI labor to come up with a better plan. (": "є, на мою думку, розумною першою спробою окреслити мету і загалом застосовна до будь-якого сценарію, де людство зберігає контроль. Утім, я зовсім не впевнений щодо деталей, а в цих сценаріях у нас будуть узгоджені надлюдські ШІ, які допоможуть розібратися в цьому, тож моя головна рекомендація — використати величезні обсяги ШІ-праці, щоб виробити кращий план. (", "Broad deployment of AI": "Широке розгортання ШІ", " Broad deployment spreads power and could improve societal epistemics. Some central ways it could be bad are (i) the net effect on societal epistemics might be bad, (ii) broad deployment could make a persuasion/political power takeover easier for the AIs (or for a human attempting an AI takeover) or (iii) they could lead to the proliferation of offense dominant capabilities. On net, I think broad deployment is probably good, but I feel uncertain, and it depends on how good mitigations are in place for each of the above failure modes. (": " Широке розгортання розсіює владу і може покращити суспільну епістеміку. Деякі центральні способи, якими це може бути погано: (i) чистий ефект на суспільну епістеміку може виявитися негативним, (ii) широке розгортання може полегшити захоплення влади через переконання/політичний вплив для ШІ (чи для людини, яка намагається здійснити захоплення влади ШІ), або (iii) воно може призвести до поширення можливостей, що домінують у наступі. У підсумку я вважаю, що широке розгортання, ймовірно, добре, але відчуваю невпевненість, і це залежить від того, наскільки добрі заходи пом'якшення діють для кожного з наведених вище режимів провалу. (", "Broad deployment spreads power and could improve societal epistemics. Some central ways it could be bad are (i) the net effect on societal epistemics might be bad, (ii) broad deployment could make a persuasion/political power takeover easier for the AIs (or for a human attempting an AI takeover) or (iii) they could lead to the proliferation of offense dominant capabilities. On net, I think broad deployment is probably good, but I feel uncertain, and it depends on how good mitigations are in place for each of the above failure modes. (": "Широке розгортання розсіює владу і може покращити суспільну епістеміку. Деякі центральні способи, якими це може бути погано: (i) чистий ефект на суспільну епістеміку може виявитися негативним, (ii) широке розгортання може полегшити захоплення влади через переконання/політичний вплив для ШІ (чи для людини, яка намагається здійснити захоплення влади ШІ), або (iii) воно може призвести до поширення можливостей, що домінують у наступі. У підсумку я вважаю, що широке розгортання, ймовірно, добре, але відчуваю невпевненість, і це залежить від того, наскільки добрі заходи пом'якшення діють для кожного з наведених вище режимів провалу. (", "Various other details of Plan A implemented in our particular scenario.": "Різні інші деталі Плану А, реалізовані в нашому конкретному сценарії.", " This includes things like datacenters on the oceans, incentive shaping with respect to alignment, incentive shaping with respect to covert projects (e.g. hardened compute stockpiles), how to trade off deal dissolution risk, covert project takeover risk, and risk of incompetent governance.": " Це охоплює такі речі, як дата-центри в океані, формування стимулів щодо узгодження, формування стимулів щодо таємних проєктів (наприклад, захищені запаси обчислювальних потужностей), як зважувати ризик розпаду угоди, ризик захоплення через таємний проєкт і ризик некомпетентного врядування.", "This includes things like datacenters on the oceans, incentive shaping with respect to alignment, incentive shaping with respect to covert projects (e.g. hardened compute stockpiles), how to trade off deal dissolution risk, covert project takeover risk, and risk of incompetent governance.": "Це охоплює такі речі, як дата-центри в океані, формування стимулів щодо узгодження, формування стимулів щодо таємних проєктів (наприклад, захищені запаси обчислювальних потужностей), як зважувати ризик розпаду угоди, ризик захоплення через таємний проєкт і ризик некомпетентного врядування.", "The above were largely details about Plan A that might change. There are also structurally different plans that may be competitive with Plan A, which we discuss ": "Вище йшлося здебільшого про деталі Плану А, які можуть змінитися. Існують також структурно інші плани, які можуть конкурувати з Планом А і які ми обговорюємо ", "The above were largely details about Plan A that might change. There are also structurally different plans that may be competitive with Plan A, which we discuss": "Вище йшлося здебільшого про деталі Плану А, які можуть змінитися. Існують також структурно інші плани, які можуть конкурувати з Планом А і які ми обговорюємо", "Still, I think we should be aiming for something like Plan A across a wide range of scenarios. The rest of this document has two sections, which both discuss how our plan would change in response to empirical changes.": "Проте я вважаю, що нам варто прагнути до чогось на кшталт Плану А в широкому діапазоні сценаріїв. Решта цього документа має два розділи, обидва з яких розглядають, як наш план змінився б у відповідь на емпіричні зміни.", " answers the question “if an empirical fact changed (e.g., suppose timelines were shorter or longer), how would our policy change”.": " відповідає на питання «якщо емпіричний факт зміниться (наприклад, часові горизонти стануть коротшими чи довшими), як зміниться наша політика».", "answers the question “if an empirical fact changed (e.g., suppose timelines were shorter or longer), how would our policy change”.": "відповідає на питання «якщо емпіричний факт зміниться (наприклад, часові горизонти стануть коротшими чи довшими), як зміниться наша політика».", " answers the question: “for each of our major policy recommendations, what would make us change that recommendation”.": " відповідає на питання: «для кожної з наших головних рекомендацій щодо політики — що змусило б нас змінити цю рекомендацію».", "answers the question: “for each of our major policy recommendations, what would make us change that recommendation”.": "відповідає на питання: «для кожної з наших головних рекомендацій щодо політики — що змусило б нас змінити цю рекомендацію».", "In this section, I’ll go over how Plan A would change in response to some important empirical assumptions that we make in the scenario, which might turn out to be different in practice.": "У цьому розділі я розгляну, як змінився б План А у відповідь на деякі важливі емпіричні припущення, які ми робимо в сценарії і які на практиці можуть виявитися іншими.", "We don’t know when AGI will be built; it’s possible that it could be built this year or next year, it’s also possible that it will take decades.": "Ми не знаємо, коли буде створено AGI; можливо, це станеться цього чи наступного року, а можливо, знадобляться десятиліття.", "In the Plan A scenario, the full automation of AI R&D was on track to happen in 2030 by default, but then was pushed back by government involvement. We’ve written much more on AI timelines; you can find our most updated work ": "У сценарії Плану А повна автоматизація AI R&D за замовчуванням мала статися у 2030 році, але потім була відтермінована через втручання уряду. Ми написали набагато більше про часові горизонти ШІ; наші найновіші матеріали можна знайти ", "In the Plan A scenario, the full automation of AI R&D was on track to happen in 2030 by default, but then was pushed back by government involvement. We’ve written much more on AI timelines; you can find our most updated work": "У сценарії Плану А повна автоматизація AI R&D за замовчуванням мала статися у 2030 році, але потім була відтермінована через втручання уряду. Ми написали набагато більше про часові горизонти ШІ; наші найновіші матеріали можна знайти", ". AIFP employees continue to have (slightly) different views about AI timelines, but we all think that 2030 is a plausible and reasonably central year for AGI to arrive.": ". Співробітники AIFP й далі мають (дещо) різні погляди на часові горизонти ШІ, але всі ми вважаємо 2030 рік правдоподібним і достатньо центральним роком появи AGI.", "Why did we choose to write this scenario assuming 2030 timelines?": "Чому ми обрали написати цей сценарій, припускаючи часові горизонти 2030 року?", "It’s good to showcase a variety of different plausible scenarios. We already wrote a very short timeline scenario (AI 2027), so we figured it would be good to choose a different timeline for our next one. 2030 is my (Thomas’) median currently, i.e. I think there is a 50% chance things will proceed slower, and 50% chance things will proceed faster. In the future, if time remains, we’d like to do scenarios for other authors like Eli.": "Добре показати різноманіття правдоподібних сценаріїв. Ми вже написали сценарій з дуже коротким горизонтом (AI 2027), тож вирішили, що варто обрати інший горизонт для наступного. 2030 рік — це наразі моя (Thomas) медіана, тобто я вважаю, що є 50% шанс, що все відбуватиметься повільніше, і 50% шанс, що швидше. У майбутньому, якщо залишиться час, хотілося б зробити сценарії для інших авторів, як-от Eli.", "Overall, Plan A remains my central plan ~regardless of timeline": "Загалом План А лишається моїм центральним планом ~незалежно від часового горизонту", ", because the underlying problems (AI takeover, AI enabled concentration of power, and rapid AGI induced societal upheaval) are the same regardless of timelines, and Plan A is our best guess for how to deal with these problems.": ", бо базові проблеми (захоплення влади ШІ, спричинена ШІ концентрація влади та стрімкі суспільні потрясіння, викликані AGI) однакові незалежно від часових горизонтів, а План А — це наша найкраща здогадка щодо того, як з ними впоратися.", "Regardless of the timeline, Plan A is most effective the earlier an international deal that involves mutual compute declarations and transparency begins. When we get to the beginning of the intelligence explosion (e.g. the automated coder milestone), verification becomes substantially more difficult, because defecting projects can involve many fewer humans, and therefore be much harder to detect.": "Незалежно від часового горизонту, План А найефективніший, чим раніше починається міжнародна угода, яка передбачає взаємні декларації обчислювальних потужностей та прозорість. Коли ми підходимо до початку вибуху інтелекту (наприклад, віха автоматизованого програміста), верифікація стає суттєво складнішою, бо проєкти-порушники можуть залучати набагато менше людей, а отже їх набагато важче виявити.", "If the timeline is much longer (e.g. 2035+), we begin to have much more uncertainty about the situation. The world will also be more transformed pre-AGI relative to our scenario, there will be larger economic effects of AI, AI company revenues (and share of the overall market) will (probably) be higher, there will be more robots around, and there will be more wakeup to the importance of AI. Particular effects include:": "Якщо часовий горизонт набагато довший (наприклад, 2035+), ми починаємо мати набагато більшу невизначеність щодо ситуації. Світ також буде більше трансформований ще до AGI порівняно з нашим сценарієм, економічні ефекти ШІ будуть більшими, доходи ШІ-компаній (і їхня частка на загальному ринку), ймовірно, будуть вищими, навколо буде більше роботів, і буде більше усвідомлення важливості ШІ. Окремі ефекти включають:", "We become somewhat less worried about covert projects because compute stockpiles are inherently insanely large, and so the relative amount of compute that covert projects have compared to the verified projects will be smaller. (The absolute amount of compute, on the other hand, is larger). However, there are also reasons to be more concerned about covert projects—a counteracting effect is that there will be more compute distributed throughout the world which will be harder for intelligence agencies to locate.": "Ми стаємо дещо менш стурбовані таємними проєктами, бо запаси обчислювальних потужностей за своєю природою неймовірно великі, тож відносна кількість обчислювальних потужностей у таємних проєктів порівняно з верифікованими проєктами буде меншою. (Абсолютна кількість обчислювальних потужностей, з іншого боку, буде більшою). Утім, є й підстави більше турбуватися про таємні проєкти — протидіючий ефект полягає в тому, що обчислювальних потужностей буде більше розподілено по всьому світу, і розвідувальним агенціям буде важче їх локалізувати.", "It becomes more important to do the economic parts of the Plan A policy package (e.g. the Citizen’s Dividend) earlier, because more people are affected earlier.": "Стає важливіше раніше реалізувати економічні частини пакету політик Плану А (наприклад, Громадянський дивіденд), бо більше людей зазнають впливу раніше.", "It becomes more important to do D/acc earlier because there is a longer period of time with reasonably intelligent AIs around, and current AIs already provide substantial biouplift.": "Стає важливіше раніше здійснювати D/acc (оборонне прискорення), бо триваліший період часу поруч будуть достатньо розумні ШІ, а сучасні ШІ вже забезпечують суттєве підсилення в біологічній сфері.", "Since the overall amount of compute in the world is higher, we become more worried about a new paradigm being discovered that’s much more compute efficient, which could lead to a fast intelligence explosion.": "Оскільки загальна кількість обчислювальних потужностей у світі вища, ми більше турбуємося про відкриття нової парадигми, що набагато ефективніша за обчислювальними ресурсами, яка могла б призвести до швидкого вибуху інтелекту.", "If timelines are much shorter (e.g. 2026 or 2027), there isn’t time to do the preparation phase, and so we have to do a version of Plan A with no preparation.": "Якщо часові горизонти набагато коротші (наприклад, 2026 чи 2027), часу на підготовчий етап немає, тож доводиться реалізовувати версію Плану А без підготовки.", "It’s more likely that we should pivot to one of the contingency plans that involves less government capacity. Unfortunately, these contingency plans have other downsides. For example, shutting down large fractions of AI relevant compute would also turn off inference of existing models, which would be economically costly.": "Імовірніше, що варто перейти до одного з резервних планів, який передбачає меншу спроможність уряду. На жаль, ці резервні плани мають інші недоліки. Наприклад, вимкнення значної частки релевантних для ШІ обчислювальних потужностей також вимкнуло б інференс наявних моделей, що було б економічно затратно.", "It’s more urgent that an agreement to slow down AI takeoff happens early, because we’ll soon be so deep into the intelligence explosion that it’s impossible to slow down.": "Стає більш нагальним якомога раніше укласти угоду про сповільнення зльоту ШІ, бо незабаром ми зайдемо так глибоко у вибух інтелекту, що сповільнити його стане неможливо.", "In this scenario, similar to AI 2027, we chose to assume that the default length of time between AC (Automated coder) and TED-AI (Top-Expert-Dominating AI) was 1 year. This is roughly my median, but we again have large uncertainty; my 80% CI at time of writing for the takeoff duration is something like [2 months; 5 years].": "У цьому сценарії, подібно до AI 2027, ми обрали припустити, що типова тривалість часу між AC (автоматизованим програмістом) і TED-AI (ШІ, що домінує над топ-експертом) — 1 рік. Це приблизно моя медіана, але тут знову велика невизначеність; мій 80%-й довірчий інтервал для тривалості зльоту на момент написання — приблизно [2 місяці; 5 років].", "Why did we choose 1 year takeoff speeds by default?": "Чому ми обрали за замовчуванням швидкість зльоту в 1 рік?", " This is my median at the time of writing Plan A, and seemed like a representative scenario to plan for.": " Це моя медіана на момент написання Плану А, і це здавалося репрезентативним сценарієм для планування.", "This is my median at the time of writing Plan A, and seemed like a representative scenario to plan for.": "Це моя медіана на момент написання Плану А, і це здавалося репрезентативним сценарієм для планування.", "How does the plan change under different takeoff speeds?": "Як план змінюється за різних швидкостей зльоту?", "If takeoff is faster than 1 year": "Якщо зліт швидший за 1 рік", ", things become generally more difficult, and not just for Plan A. The main specific changes are:": ", ситуація загалом стає складнішою, і не лише для Плану А. Основні конкретні зміни такі:", "Doing an international deal to slow down takeoff becomes more important, because the status quo is more risky, because AI driven change without deal happens much faster and there is less time to react to each change and prepare for the next changes.": "Укладення міжнародної угоди про сповільнення зльоту стає важливішим, бо статус-кво ризикованіший, оскільки зумовлені ШІ зміни без угоди відбуваються набагато швидше, і залишається менше часу на реакцію на кожну зміну та підготовку до наступних.", "Enforcement of an international deal becomes more difficult. Faster takeoff typically involves much less hardware increase, because if the takeoff occurs over months, there isn’t time for a massive compute scale up. The possibility of an intelligence explosion without a massive compute scaleup is the key assumption behind being worried about covert projects; if such an intelligence explosion wasn’t possible, then covert projects with relatively small amounts of compute would be much less concerning. Since the intelligence explosion happens faster, it also makes covert projects faster, reducing the amount of slack that the international Consortium has to work with.": "Забезпечення дотримання міжнародної угоди стає складнішим. Швидший зліт зазвичай передбачає набагато менше нарощування апаратного забезпечення, бо якщо зліт відбувається протягом місяців, часу на масштабне нарощування обчислювальних потужностей немає. Можливість вибуху інтелекту без масштабного нарощування обчислювальних потужностей — ключове припущення, через яке ми турбуємося про таємні проєкти; якби такий вибух інтелекту був неможливий, таємні проєкти з відносно невеликими обчислювальними потужностями викликали б набагато менше занепокоєння. Оскільки вибух інтелекту відбувається швидше, це також пришвидшує таємні проєкти, скорочуючи запас часу, з яким може працювати міжнародний Консорціум.", "The slowdown agreement needs to be started earlier, which would make the enforcement easier (and therefore the whole plan more viable).": "Угоду про сповільнення потрібно розпочинати раніше, що полегшило б забезпечення її дотримання (а отже, зробило б увесь план більш життєздатним).", "Since enforcement of the deal is more difficult, this is an update towards making tradeoffs that help with enforcement but with various other costs, such as (i) leaning more towards security on the security/transparency tradeoff, (ii) making less algorithmic progress, and therefore scaling more slowly, even if scaling further would still be safe, and (iii) doing more early hardware scaling, which makes verification and self-destruct plans more load bearing, but helps reduce misalignment risk.": "Оскільки забезпечення дотримання угоди складніше, це зсуває нас у бік компромісів, які допомагають із забезпеченням дотримання, але за рахунок різних інших витрат, як-от (i) більший ухил у бік безпеки в компромісі безпека/прозорість, (ii) менший алгоритмічний прогрес, а отже повільніше масштабування, навіть якщо подальше масштабування все ще було б безпечним, і (iii) більш раннє нарощування апаратного забезпечення, через що плани верифікації та самознищення стають більш навантаженими, але це допомагає знизити ризик неузгодженості.", "If takeoff is slower than 1 year,": "Якщо зліт повільніший за 1 рік,", " e.g. even without regulation it takes several years to go from the full automation of coding to the first artificial superintelligence, then we basically update in the opposite direction on all of the above tradeoffs.": " наприклад, навіть без регулювання потрібно кілька років, щоб пройти шлях від повної автоматизації програмування до першого штучного суперінтелекту, то ми по суті зсуваємось у протилежному напрямку в усіх наведених вище компромісах.", "e.g. even without regulation it takes several years to go from the full automation of coding to the first artificial superintelligence, then we basically update in the opposite direction on all of the above tradeoffs.": "наприклад, навіть без регулювання потрібно кілька років, щоб пройти шлях від повної автоматизації програмування до першого штучного суперінтелекту, то ми по суті зсуваємось у протилежному напрямку в усіх наведених вище компромісах.", "Overall risk becomes lower, because there is more time by default to deal with risks as they arise. Therefore, the overall plan will attempt to incur a smaller amount of risk, and will be willing to make more aggressive tradeoffs to reduce risk.": "Загальний ризик стає нижчим, бо за замовчуванням більше часу на подолання ризиків у міру їх виникнення. Тому загальний план намагатиметься нести менший обсяг ризику й буде готовий йти на агресивніші компроміси заради зниження ризику.", "Covert project takeover in particular becomes less likely, because it is extremely unlikely that they could bootstrap into existentially dangerous AI systems with only a tiny amount of compute. This updates us even further in favor of doing Total Research Transparency (because we are relatively more worried about the large projects than the small projects), and away from doing the large hardware scaleup. The plan can involve just doing a slowed down version of the intelligence explosion on the existing compute stockpile, leaking algorithms to the trailing project, but relying on the fact that they are so compute limited that they cannot make significant further AI progress.": "Зокрема, захоплення через таємний проєкт стає менш імовірним, бо вкрай малоймовірно, що вони зможуть самостійно розвинутися до екзистенційно небезпечних ШІ-систем, маючи лише мізерні обчислювальні потужності. Це ще більше зсуває нас на користь Повної дослідницької прозорості (бо ми відносно більше турбуємося про великі проєкти, ніж про малі) і подалі від масштабного нарощування апаратного забезпечення. План може передбачати просто уповільнену версію вибуху інтелекту на наявному запасі обчислювальних потужностей, з витоком алгоритмів до відстаючого проєкту, але покладаючись на те, що він настільки обмежений обчислювальними потужностями, що не зможе досягти суттєвого подальшого прогресу ШІ.", "AI takeover is less likely, and so we can devote relatively more effort on mitigating other risks. It’s still very important to slow down AI progress, because there’s still a significant chance that AI alignment won’t be solved during the default takeoff, and because slowing down helps to mitigate other risks like concentration of power. However, it’s more likely that we wouldn’t actually slow down much in this world. Therefore, doing the slowdown part of the treaty is less load bearing.": "Захоплення влади ШІ менш імовірне, тож ми можемо приділити відносно більше зусиль пом'якшенню інших ризиків. Усе ще дуже важливо сповільнити прогрес ШІ, бо все ще є значний шанс, що узгодження ШІ не буде розв'язане під час типового зльоту, і бо сповільнення допомагає пом'якшити інші ризики, як-от концентрацію влади. Утім, імовірніше, що в цьому світі ми насправді не сповільнилися б сильно. Тому частина договору щодо сповільнення менш навантажена.", "Overall, we recommend pursuing Plan A regardless of takeoff speeds. However, changes to our takeoff speeds": "Загалом ми рекомендуємо дотримуватися Плану А незалежно від швидкості зльоту. Утім, зміни нашої швидкості зльоту", " do substantially change the specific implementation of Plan A, in the ways noted above.": " суттєво змінюють конкретну реалізацію Плану А так, як зазначено вище.", "do substantially change the specific implementation of Plan A, in the ways noted above.": "суттєво змінюють конкретну реалізацію Плану А так, як зазначено вище.", "In the Plan A scenario, humanity rallies and creates a high assurance safety case for handing off to ASI. However, ": "У сценарії Плану А людство мобілізується і створює кейс безпеки з високим рівнем впевненості для передачі повноважень ASI. Утім, ", "In the Plan A scenario, humanity rallies and creates a high assurance safety case for handing off to ASI. However,": "У сценарії Плану А людство мобілізується і створює кейс безпеки з високим рівнем впевненості для передачі повноважень ASI. Утім,", "we are much more confident in the general picture that more time and effort lead to a greater chance of solving the alignment problem than the specific story told here.": "ми набагато більш впевнені в загальній картині — що більше часу і зусиль дають вищий шанс розв'язати проблему узгодження — ніж у конкретній історії, розказаній тут.", " We don’t know how hard it’ll be to align ASI. Opinions vary substantially within our team (and even more outside of our team). Given the uncertainty, our view is that we should take a portfolio approach, and invest substantially in both prosaic AI safety agendas (e.g. variants of RLHF) and moonshots (e.g. uploading human brains).": " Ми не знаємо, наскільки важко буде узгодити ASI. Думки в нашій команді суттєво різняться (а поза командою — ще більше). З огляду на цю невизначеність, ми вважаємо, що варто застосовувати портфельний підхід і суттєво інвестувати як у прозаїчні порядки денні безпеки ШІ (наприклад, варіанти RLHF), так і у амбітні «місячні» проєкти (наприклад, завантаження людського мозку).", "We don’t know how hard it’ll be to align ASI. Opinions vary substantially within our team (and even more outside of our team). Given the uncertainty, our view is that we should take a portfolio approach, and invest substantially in both prosaic AI safety agendas (e.g. variants of RLHF) and moonshots (e.g. uploading human brains).": "Ми не знаємо, наскільки важко буде узгодити ASI. Думки в нашій команді суттєво різняться (а поза командою — ще більше). З огляду на цю невизначеність, ми вважаємо, що варто застосовувати портфельний підхід і суттєво інвестувати як у прозаїчні порядки денні безпеки ШІ (наприклад, варіанти RLHF), так і у амбітні «місячні» проєкти (наприклад, завантаження людського мозку).", "The plan we are advocating for is one in which the world coordinates to give the scientific community breathing room and resources to figure out how difficult the alignment problem is. If Yudkowsky is right that AI alignment is difficult, our view is that evidence would increase during this time period and then the pause would be extended. Likewise, if the optimists are right and alignment is easy, we would get evidence of this during that period, and we could proceed at a faster pace (though it’s not clear that we should, given the other risks of doing so, most notably concentration of power).": "План, який ми відстоюємо, — це такий, у якому світ координується, щоб дати науковій спільноті простір для маневру й ресурси, щоб з'ясувати, наскільки складна проблема узгодження. Якщо Юдковський має рацію, що узгодження ШІ складне, ми вважаємо, що протягом цього періоду накопичуватимуться докази, і тоді паузу буде продовжено. Так само, якщо оптимісти мають рацію і узгодження просте, ми отримаємо докази цього протягом цього періоду і зможемо рухатися швидшим темпом (хоча не зовсім зрозуміло, чи варто, з огляду на інші ризики такого кроку, насамперед концентрацію влади).", "I think that alignment is probably difficult enough that without a well managed multi-year slowdown, we will incur substantial AI takeover risk. Even with a ten year slowdown, as depicted in the scenario, there is a significant chance that alignment was too hard, or that it’s feasible but human error causes us to fail anyway. You can see more about the team’s views about alignment success likelihood conditional on following different plans ": "Я вважаю, що узгодження, ймовірно, достатньо складне, щоб без добре керованого багаторічного сповільнення ми зазнали суттєвого ризику захоплення влади ШІ. Навіть за десятирічного сповільнення, як зображено в сценарії, є значний шанс, що узгодження виявилося занадто складним, або що воно здійсненне, але людська помилка все одно призводить до провалу. Більше про погляди команди щодо ймовірності успіху узгодження за умови дотримання різних планів можна побачити ", "I think that alignment is probably difficult enough that without a well managed multi-year slowdown, we will incur substantial AI takeover risk. Even with a ten year slowdown, as depicted in the scenario, there is a significant chance that alignment was too hard, or that it’s feasible but human error causes us to fail anyway. You can see more about the team’s views about alignment success likelihood conditional on following different plans": "Я вважаю, що узгодження, ймовірно, достатньо складне, щоб без добре керованого багаторічного сповільнення ми зазнали суттєвого ризику захоплення влади ШІ. Навіть за десятирічного сповільнення, як зображено в сценарії, є значний шанс, що узгодження виявилося занадто складним, або що воно здійсненне, але людська помилка все одно призводить до провалу. Більше про погляди команди щодо ймовірності успіху узгодження за умови дотримання різних планів можна побачити", "What do we do if alignment is much harder?": "Що робити, якщо узгодження виявиться набагато складнішим?", "Gather as much evidence about alignment difficulty as possible by:": "Зібрати якомога більше доказів щодо складності узгодження шляхом:", "Deploying and observing AI systems to get empirical feedback about how aligned they seem to be.": "Розгортання та спостереження за ШІ-системами для отримання емпіричного зворотного зв'язку про те, наскільки узгодженими вони виглядають.", "Building model organisms—AIs trained to deliberately be misaligned—and see if alignment techniques are good enough to catch and train away the misalignment. Do this for deceptive alignment, sycophancy, reward hacking, etc.": "Створення модельних організмів — ШІ, навмисно навчених бути неузгодженими — і перевірка, чи достатньо хороші техніки узгодження, щоб виявити й натренувати геть неузгодженість. Робити це для оманливого узгодження, підлабузництва, зламу винагороди тощо.", "Giving a large, heterogenous set of people access to the models (ideally including model internals) to avoid groupthink.": "Надання доступу до моделей (в ідеалі включно з внутрішньою будовою моделі) великій, неоднорідній групі людей, щоб уникнути групового мислення.", "Have explicit safety cases that lay out the evidence and arguments for why the models can and should be trusted, and publish them so they can be critiqued and debated by the scientific community.": "Мати явні кейси безпеки, які викладають докази й аргументи щодо того, чому моделям можна і слід довіряти, та публікувати їх, щоб наукова спільнота могла їх критикувати й обговорювати.", "During Plan A, maintain the optionality of extending the pause by:": "Протягом реалізації Плану А зберігати можливість продовжити паузу шляхом:", "Monitoring for covert projects and shutting them down if detected": "Моніторингу таємних проєктів і їх закриття в разі виявлення", "Ensuring that the flow of new chips is highly secure and not going to any rogue projects": "Забезпечення того, щоб потік нових чипів був надійно захищений і не потрапляв до жодних проєктів-порушників", "Improve coordination and verification technology, both with large investment and using AIs to improve this technology. In particular, using AIs to build privacy preserving auditing and reliable lie detection seems very promising.": "Вдосконалення технологій координації та верифікації — як через масштабні інвестиції, так і за допомогою ШІ для вдосконалення цих технологій. Зокрема, використання ШІ для створення аудиту, що зберігає приватність, та надійного виявлення брехні виглядає дуже перспективним.", "Minimizing software progress that leaks to covert projects. If alignment is harder, we should update towards making tradeoffs that enable us to stay slowed for longer.": "Мінімізація програмного прогресу, що просочується до таємних проєктів. Якщо узгодження виявиться складнішим, нам слід зсунутися в бік компромісів, які дозволяють довше залишатись сповільненими.", "Making sure decisionmakers have access to the best information on alignment difficulty, including by making sure that people who are more pessimistic about alignment have access to the models and the current safety cases, so that they can find problems in them before it becomes catastrophic.": "Забезпечення того, щоб особи, які ухвалюють рішення, мали доступ до найкращої інформації про складність узгодження, зокрема забезпечуючи, щоб люди з більш песимістичним поглядом на узгодження мали доступ до моделей і поточних кейсів безпеки, щоб вони могли знайти в них проблеми до того, як це стане катастрофою.", "If alignment is extremely hard, e.g., humanity isn’t making substantial progress on alignment whatsoever, then the correct call may be to pivot to Plan S, and instead of attempting a managed takeoff, shut it all down. Then, we could pursue alternate strategies to build superhuman AI that are inherently safer than ML, such as uploads. Unfortunately, these approaches have substantial downsides as well, notably the risk that the moratorium breaks down and we go back to racing before enough progress is made on uploads or other strategies in that vein.": "Якщо узгодження виявиться надзвичайно складним, наприклад, людство взагалі не досягає суттєвого прогресу в узгодженні, тоді правильним рішенням може бути перехід до Плану S — замість спроби керованого зльоту повністю все закрити. Тоді ми могли б застосувати альтернативні стратегії створення надлюдського ШІ, які за своєю природою безпечніші за ML, такі як завантаження свідомості. На жаль, ці підходи теж мають суттєві недоліки, зокрема ризик того, що мораторій розпадеться, і ми повернемося до гонки до того, як буде досягнуто достатнього прогресу в завантаженні свідомості чи інших подібних стратегіях.", "What if alignment is much easier?": "А що, якщо узгодження виявиться набагато простішим?", "Slowing down AI takeoff is still probably good for many other reasons, including avoiding AI-driven concentration of power, figuring out appropriate post-ASI governance, transitioning to a regime where human labor is no longer economically relevant in a healthy manner, hardening the world to AI enabled superweapons, etc—basically, we still need to solve all of the problems that we dealt with in Plan A other than misaligned AI takeover.": "Сповільнення зльоту ШІ, ймовірно, все одно добре з багатьох інших причин, включно з уникненням спричиненої ШІ концентрації влади, виробленням належного врядування після появи ASI, здоровим переходом до режиму, де людська праця більше не є економічно значущою, підвищенням стійкості світу до надзброї на основі ШІ тощо — по суті, нам усе ще потрібно розв'язати всі проблеми, з якими ми мали справу в Плані А, окрім захоплення влади неузгодженим ШІ.", "The main difference is that there is a higher chance of humanity being able to successfully muddle through these other risks without permanent lock in. This means that the necessity of a slowdown does go down substantially if alignment is much easier than I expect.": "Основна відмінність у тому, що є вищий шанс, що людство зможе успішно впоратися з цими іншими ризиками без незворотної фіксації. Це означає, що необхідність сповільнення суттєво знижується, якщо узгодження виявиться набагато простішим, ніж я очікую.", "Related reading: ": "Пов'язане читання: ", "Related reading:": "Пов'язане читання:", "Covert Project Branch": "Гілка таємних проєктів", "I’m not sure how difficult verification will be. Our main strategy for verifying compliance with an AI agreement is (1) limit the amount of compute that covert projects have access to, and (2) ensure that legal projects are doing what they claim. Both of these will be somewhat lossy, and we’re unsure about what the mapping is between “amount of unmonitored compute” and “how fast could an illicit intelligence explosion reach an existentially dangerous capability threshold”.": "Я не впевнений, наскільки складною буде верифікація. Наша основна стратегія верифікації дотримання угоди щодо ШІ полягає в тому, щоб (1) обмежити обсяг обчислювальних потужностей, доступних таємним проєктам, і (2) переконатися, що легальні проєкти роблять те, що заявляють. Обидва ці підходи будуть до певної міри неточними, і ми не впевнені, яке саме співвідношення між «обсягом неконтрольованих обчислювальних потужностей» і «наскільки швидко нелегальний вибух інтелекту міг би досягти екзистенційно небезпечного порогу можливостей».", "Now we’ll go through each of these in a bit more detail:": "Тепер розглянемо кожен із цих пунктів трохи детальніше:", "Covert project verification difficulty.": "Складність верифікації таємних проєктів.", " In the Plan A scenario, we assume that the maximum plausible covert project size without detection is about 1% of pre-deal compute. Our assumption here in the scenario is close to the worst case scenario. My best guess is that neither side would build a covert project in a Plan A scenario because (i) there’s no incentive to because it’ll be out paced by the legal projects, and (ii) both sides are scared of AI takeover risk; and building a covert project would undermine the deal. Sub-questions I’m most uncertain about:": " У сценарії Плану А ми припускаємо, що максимальний правдоподібний розмір таємного проєкту без виявлення становить приблизно 1% обчислювальних потужностей до укладення угоди. Наше припущення в сценарії тут близьке до найгіршого сценарію. Моя найкраща здогадка — що жодна зі сторін не стане будувати таємний проєкт у сценарії Плану А, бо (i) немає стимулу, оскільки його випередять легальні проєкти, і (ii) обидві сторони бояться ризику захоплення влади ШІ; а будівництво таємного проєкту підірвало б угоду. Підпитання, щодо яких я найбільш невпевнений:", "In the Plan A scenario, we assume that the maximum plausible covert project size without detection is about 1% of pre-deal compute. Our assumption here in the scenario is close to the worst case scenario. My best guess is that neither side would build a covert project in a Plan A scenario because (i) there’s no incentive to because it’ll be out paced by the legal projects, and (ii) both sides are scared of AI takeover risk; and building a covert project would undermine the deal. Sub-questions I’m most uncertain about:": "У сценарії Плану А ми припускаємо, що максимальний правдоподібний розмір таємного проєкту без виявлення становить приблизно 1% обчислювальних потужностей до укладення угоди. Наше припущення в сценарії тут близьке до найгіршого сценарію. Моя найкраща здогадка — що жодна зі сторін не стане будувати таємний проєкт у сценарії Плану А, бо (i) немає стимулу, оскільки його випередять легальні проєкти, і (ii) обидві сторони бояться ризику захоплення влади ШІ; а будівництво таємного проєкту підірвало б угоду. Підпитання, щодо яких я найбільш невпевнений:", "What fraction of pre-deal compute can be tracked down?": "Яку частку обчислювальних потужностей, наявних до укладення угоди, можна відстежити?", " Our uncertainty over pre-deal compute is very relevant, because it will determine the extent to which China’s initial compute declaration can be falsified. Existing experts we’ve talked to maintain huge amounts of uncertainty about how large China’s existing compute buildout is. As a percentage, this might become easier to track as AI datacenters get larger, but as an absolute number more and more compute will be harder to track down over time. However, the intelligence community may have access to private information that’s much more accurate today, and they might begin to gather this information in the near future. Overall, it’s possible that denying covert projects access to huge numbers of GPUs will be one of the most load bearing components in the non-proliferation plan; but it’s also possible that other factors such as HUMINT will be far more important.": " Наша невизначеність щодо обчислювальних потужностей до укладення угоди дуже важлива, бо вона визначатиме, наскільки можна сфальсифікувати початкову декларацію обчислювальних потужностей Китаю. Експерти, з якими ми спілкувалися, зберігають величезну невизначеність щодо того, наскільки великою є наявна розбудова обчислювальних потужностей Китаю. У відсотковому вираженні це може стати легше відстежувати в міру того, як ШІ-дата-центри збільшуються, але в абсолютних цифрах з часом дедалі більше обчислювальних потужностей буде важче відстежити. Утім, розвідувальна спільнота може мати доступ до приватної інформації, яка вже сьогодні набагато точніша, і вона може почати збирати цю інформацію в найближчому майбутньому. Загалом, можливо, що позбавлення таємних проєктів доступу до величезної кількості GPU стане одним із найбільш навантажених компонентів плану нерозповсюдження; але також можливо, що інші фактори, як-от HUMINT (агентурна розвідка), виявляться набагато важливішими.", "Our uncertainty over pre-deal compute is very relevant, because it will determine the extent to which China’s initial compute declaration can be falsified. Existing experts we’ve talked to maintain huge amounts of uncertainty about how large China’s existing compute buildout is. As a percentage, this might become easier to track as AI datacenters get larger, but as an absolute number more and more compute will be harder to track down over time. However, the intelligence community may have access to private information that’s much more accurate today, and they might begin to gather this information in the near future. Overall, it’s possible that denying covert projects access to huge numbers of GPUs will be one of the most load bearing components in the non-proliferation plan; but it’s also possible that other factors such as HUMINT will be far more important.": "Наша невизначеність щодо обчислювальних потужностей до укладення угоди дуже важлива, бо вона визначатиме, наскільки можна сфальсифікувати початкову декларацію обчислювальних потужностей Китаю. Експерти, з якими ми спілкувалися, зберігають величезну невизначеність щодо того, наскільки великою є наявна розбудова обчислювальних потужностей Китаю. У відсотковому вираженні це може стати легше відстежувати в міру того, як ШІ-дата-центри збільшуються, але в абсолютних цифрах з часом дедалі більше обчислювальних потужностей буде важче відстежити. Утім, розвідувальна спільнота може мати доступ до приватної інформації, яка вже сьогодні набагато точніша, і вона може почати збирати цю інформацію в найближчому майбутньому. Загалом, можливо, що позбавлення таємних проєктів доступу до величезної кількості GPU стане одним із найбільш навантажених компонентів плану нерозповсюдження; але також можливо, що інші фактори, як-от HUMINT (агентурна розвідка), виявляться набагато важливішими.", "How effective will HUMINT be for detecting covert projects?": "Наскільки ефективною буде агентурна розвідка (HUMINT) для виявлення таємних проєктів?", " It seems likely to me that a covert project of the size we assume in the ": " Мені здається імовірним, що таємний проєкт того розміру, який ми припускаємо в ", "It seems likely to me that a covert project of the size we assume in the": "Мені здається імовірним, що таємний проєкт того розміру, який ми припускаємо в", "covert project branch": "гілці таємних проєктів", " of Plan A (500k H100e, $7.9B) would be quickly detected by intelligence gathering. Historical mega projects that were attempted in secret (e.g. the Manhattan Project) seem to have been riddled with spies; our baseline assumption should be that anything on the order of this size will be quickly detected and shut down. However, later into the intelligence explosion, the number of people involved in a covert project could be much smaller, as AIs could automate the AI research and robots could automate the construction and maintenance of the datacenter, dramatically reducing the probability of leaks.": " Плану А (500 тис. H100e, $7.9 млрд) було б швидко виявлено через збір розвідданих. Історичні мегапроєкти, які намагалися реалізувати таємно (наприклад, Мангеттенський проєкт), як видається, кишіли шпигунами; наше базове припущення має полягати в тому, що будь-що такого масштабу буде швидко виявлено й закрито. Утім, пізніше під час вибуху інтелекту кількість людей, залучених до таємного проєкту, може бути набагато меншою, оскільки ШІ можуть автоматизувати ШІ-дослідження, а роботи — автоматизувати будівництво та обслуговування дата-центру, що різко знижує ймовірність витоків.", "of Plan A (500k H100e, $7.9B) would be quickly detected by intelligence gathering. Historical mega projects that were attempted in secret (e.g. the Manhattan Project) seem to have been riddled with spies; our baseline assumption should be that anything on the order of this size will be quickly detected and shut down. However, later into the intelligence explosion, the number of people involved in a covert project could be much smaller, as AIs could automate the AI research and robots could automate the construction and maintenance of the datacenter, dramatically reducing the probability of leaks.": "Плану А (500 тис. H100e, $7.9 млрд) було б швидко виявлено через збір розвідданих. Історичні мегапроєкти, які намагалися реалізувати таємно (наприклад, Мангеттенський проєкт), як видається, кишіли шпигунами; наше базове припущення має полягати в тому, що будь-що такого масштабу буде швидко виявлено й закрито. Утім, пізніше під час вибуху інтелекту кількість людей, залучених до таємного проєкту, може бути набагато меншою, оскільки ШІ можуть автоматизувати ШІ-дослідження, а роботи — автоматизувати будівництво та обслуговування дата-центру, що різко знижує ймовірність витоків.", "What is the necessary reduction in access to compute resources?": "Наскільки необхідне скорочення доступу до обчислювальних ресурсів?", " In the Plan A scenario, we assume that an AI project with 10x less compute can do an intelligence explosion 5.5x slower; this is discussed more in ": " У сценарії Плану А ми припускаємо, що ШІ-проєкт із у 10 разів меншими обчислювальними потужностями може здійснити вибух інтелекту у 5.5 раза повільніше; це детальніше обговорюється в ", "In the Plan A scenario, we assume that an AI project with 10x less compute can do an intelligence explosion 5.5x slower; this is discussed more in": "У сценарії Плану А ми припускаємо, що ШІ-проєкт із у 10 разів меншими обчислювальними потужностями може здійснити вибух інтелекту у 5.5 раза повільніше; це детальніше обговорюється в", "the appendix of our Covert Projects Supplement": "додатку до нашого додатка про таємні проєкти", "Legal project verification difficulty.": "Складність верифікації легальних проєктів.", " In the Plan A scenario, we assume that we can verify inference-only very quickly, and that we can verify training runs after a six month sprint to develop that technology. It could be easier (e.g. it’s possible to do at the software level), or it could be harder (particularly because governments are slow and ineffective at this). Our assumption here is on the optimistic end because we assume high competence in execution.": " У сценарії Плану А ми припускаємо, що можемо дуже швидко верифікувати режим «лише інференс», і що можемо верифікувати тренувальні прогони після шестимісячного пришвидшеного розвитку цієї технології. Це може бути легше (наприклад, можливо зробити на рівні програмного забезпечення) або складніше (особливо тому, що уряди повільні й неефективні в цьому). Наше припущення тут на оптимістичному кінці спектра, бо ми припускаємо високу компетентність у виконанні.", "In the Plan A scenario, we assume that we can verify inference-only very quickly, and that we can verify training runs after a six month sprint to develop that technology. It could be easier (e.g. it’s possible to do at the software level), or it could be harder (particularly because governments are slow and ineffective at this). Our assumption here is on the optimistic end because we assume high competence in execution.": "У сценарії Плану А ми припускаємо, що можемо дуже швидко верифікувати режим «лише інференс», і що можемо верифікувати тренувальні прогони після шестимісячного пришвидшеного розвитку цієї технології. Це може бути легше (наприклад, можливо зробити на рівні програмного забезпечення) або складніше (особливо тому, що уряди повільні й неефективні в цьому). Наше припущення тут на оптимістичному кінці спектра, бо ми припускаємо високу компетентність у виконанні.", "If legal project verification is more difficult, then increasing hardware buildout is more scary. Quantitatively, with no hardware buildout, then we’d need something like 99% assurance on legal project compute; with a +4 OOM increase in stock, we’d need 99.9999% assurance on legal project compute.": "Якщо верифікація легальних проєктів складніша, то нарощування апаратного забезпечення стає страшнішим. Кількісно, за відсутності нарощування апаратного забезпечення нам знадобилася б приблизно 99% впевненість щодо обчислювальних потужностей легальних проєктів; за +4 порядки величини зростання запасу нам знадобилася б 99.9999% впевненість щодо обчислювальних потужностей легальних проєктів.", "There are various other particular verification dynamics which could affect the rest of the policy strategy:": "Є й інші конкретні динаміки верифікації, які можуть вплинути на решту стратегії політики:", "Favorability of SW scaling?": "Сприятливість масштабування ПЗ?", " A key dynamic for covert projects is stealing algorithms from legal projects. Therefore, legal projects should consider pursuing algorithms that are less favorable for covert projects. In particular: (1) HW/SW co-design, i.e. research algorithms that are only effective on specifically designed chips that covert projects don’t have access to, and (2) heavily scale-dependent algorithms. We’re unsure how favorable both of these paths will be; the more favorable they are, the more capabilities progress can be done without speeding up covert projects.": " Ключова динаміка для таємних проєктів — крадіжка алгоритмів у легальних проєктів. Тому легальним проєктам варто розглянути можливість розробки алгоритмів, менш сприятливих для таємних проєктів. Зокрема: (1) спільний дизайн апаратного й програмного забезпечення (HW/SW co-design), тобто дослідницькі алгоритми, ефективні лише на спеціально розроблених чипах, до яких таємні проєкти не мають доступу, та (2) алгоритми, що сильно залежать від масштабу. Ми не впевнені, наскільки сприятливими виявляться обидва ці шляхи; чим сприятливіші вони, тим більше прогресу можливостей можна досягти без пришвидшення таємних проєктів.", "A key dynamic for covert projects is stealing algorithms from legal projects. Therefore, legal projects should consider pursuing algorithms that are less favorable for covert projects. In particular: (1) HW/SW co-design, i.e. research algorithms that are only effective on specifically designed chips that covert projects don’t have access to, and (2) heavily scale-dependent algorithms. We’re unsure how favorable both of these paths will be; the more favorable they are, the more capabilities progress can be done without speeding up covert projects.": "Ключова динаміка для таємних проєктів — крадіжка алгоритмів у легальних проєктів. Тому легальним проєктам варто розглянути можливість розробки алгоритмів, менш сприятливих для таємних проєктів. Зокрема: (1) спільний дизайн апаратного й програмного забезпечення (HW/SW co-design), тобто дослідницькі алгоритми, ефективні лише на спеціально розроблених чипах, до яких таємні проєкти не мають доступу, та (2) алгоритми, що сильно залежать від масштабу. Ми не впевнені, наскільки сприятливими виявляться обидва ці шляхи; чим сприятливіші вони, тим більше прогресу можливостей можна досягти без пришвидшення таємних проєктів.", "How much edge-hardware is required?": "Скільки потрібно граничного (edge) апаратного забезпечення?", " Some applications strongly prefer edge hardware (hardware that operates on the device as opposed to the cloud): notably military applications (because of jamming) and self-driving cars (because you don’t want your car to crash if there’s a network issue). This poses a challenge for verification because edge compute could be removed from the device and funneled to a covert project, or potentially backdoored and used as part of a large distributed training run. We’re uncertain to what extent large quantities of this will be required, if there are other solutions, and how good the mitigations look for preventing usage of edge compute in training runs.": " Деякі застосування явно віддають перевагу граничному (edge) апаратному забезпеченню (яке працює на самому пристрої, а не в хмарі): зокрема військові застосування (через глушіння сигналу) і безпілотні автомобілі (бо не хочеться, щоб авто розбилося через проблему з мережею). Це створює виклик для верифікації, бо граничні обчислювальні потужності можна вилучити з пристрою й спрямувати до таємного проєкту, або потенційно встановити бекдор і використати як частину великого розподіленого тренувального прогону. Ми не впевнені, якою мірою знадобляться великі обсяги такого обладнання, чи є інші рішення, і наскільки хорошими виглядають заходи пом'якшення для запобігання використанню граничних обчислювальних потужностей у тренувальних прогонах.", "Some applications strongly prefer edge hardware (hardware that operates on the device as opposed to the cloud): notably military applications (because of jamming) and self-driving cars (because you don’t want your car to crash if there’s a network issue). This poses a challenge for verification because edge compute could be removed from the device and funneled to a covert project, or potentially backdoored and used as part of a large distributed training run. We’re uncertain to what extent large quantities of this will be required, if there are other solutions, and how good the mitigations look for preventing usage of edge compute in training runs.": "Деякі застосування явно віддають перевагу граничному (edge) апаратному забезпеченню (яке працює на самому пристрої, а не в хмарі): зокрема військові застосування (через глушіння сигналу) і безпілотні автомобілі (бо не хочеться, щоб авто розбилося через проблему з мережею). Це створює виклик для верифікації, бо граничні обчислювальні потужності можна вилучити з пристрою й спрямувати до таємного проєкту, або потенційно встановити бекдор і використати як частину великого розподіленого тренувального прогону. Ми не впевнені, якою мірою знадобляться великі обсяги такого обладнання, чи є інші рішення, і наскільки хорошими виглядають заходи пом'якшення для запобігання використанню граничних обчислювальних потужностей у тренувальних прогонах.", "How difficult will security be?": "Наскільки складною буде безпека?", " Nation-state proof security": " Безпека, стійка до державних акторів,", "Nation-state proof security": "Безпека, стійка до державних акторів,", " is basically required to make the legal project verification work. Nation state proof algorithmic security is helpful for preventing covert projects. Our baseline assumption on security is that it’s possible to make verification mechanisms sufficiently secure, most algorithms will not be possible to secure (because they are so small), and that model weights will be possible to secure (because they are so large). I’ll now go through the updates if our current assumption is wrong for each of the desired security properties:": " по суті необхідна, щоб верифікація легальних проєктів працювала. Алгоритмічна безпека, стійка до державних акторів, допомагає запобігти таємним проєктам. Наше базове припущення щодо безпеки — що можливо зробити механізми верифікації достатньо захищеними, більшість алгоритмів захистити не вдасться (бо вони надто малі), а ваги моделі захистити вдасться (бо вони надто великі). Тепер я розгляну оновлення на випадок, якщо наше поточне припущення хибне для кожної з бажаних властивостей безпеки:", "is basically required to make the legal project verification work. Nation state proof algorithmic security is helpful for preventing covert projects. Our baseline assumption on security is that it’s possible to make verification mechanisms sufficiently secure, most algorithms will not be possible to secure (because they are so small), and that model weights will be possible to secure (because they are so large). I’ll now go through the updates if our current assumption is wrong for each of the desired security properties:": "по суті необхідна, щоб верифікація легальних проєктів працювала. Алгоритмічна безпека, стійка до державних акторів, допомагає запобігти таємним проєктам. Наше базове припущення щодо безпеки — що можливо зробити механізми верифікації достатньо захищеними, більшість алгоритмів захистити не вдасться (бо вони надто малі), а ваги моделі захистити вдасться (бо вони надто великі). Тепер я розгляну оновлення на випадок, якщо наше поточне припущення хибне для кожної з бажаних властивостей безпеки:", "If verification security isn’t viable": "Якщо безпека верифікації не є життєздатною", " then our ideal strategy would either involve (1) doing a moratorium on further AI development (and potentially inference) until security is viable or (2) relying heavily on trust.": " тоді нашою ідеальною стратегією було б або (1) запровадити мораторій на подальший розвиток ШІ (і потенційно на інференс) до досягнення життєздатної безпеки, або (2) значною мірою покладатися на довіру.", "then our ideal strategy would either involve (1) doing a moratorium on further AI development (and potentially inference) until security is viable or (2) relying heavily on trust.": "тоді нашою ідеальною стратегією було б або (1) запровадити мораторій на подальший розвиток ШІ (і потенційно на інференс) до досягнення життєздатної безпеки, або (2) значною мірою покладатися на довіру.", "If algorithm security is viable": "Якщо безпека алгоритмів є життєздатною", " then we’d have more buffer against covert projects than we are currently modeling in Plan A. We’d also have less of a need to do a compute buildout, because one of the core motivations for building compute was to mitigate algorithms leaking to covert projects.": " тоді ми мали б більший запас проти таємних проєктів, ніж наразі моделюємо в Плані А. Нам також менше потрібно було б нарощувати обчислювальні потужності, бо однією з основних причин їх нарощування було пом'якшення витоку алгоритмів до таємних проєктів.", "then we’d have more buffer against covert projects than we are currently modeling in Plan A. We’d also have less of a need to do a compute buildout, because one of the core motivations for building compute was to mitigate algorithms leaking to covert projects.": "тоді ми мали б більший запас проти таємних проєктів, ніж наразі моделюємо в Плані А. Нам також менше потрібно було б нарощувати обчислювальні потужності, бо однією з основних причин їх нарощування було пом'якшення витоку алгоритмів до таємних проєктів.", "If model weights security isn’t viable": "Якщо безпека ваг моделі не є життєздатною", " then we’d either need to (1) not scale AI capabilities until security becomes viable or (2) need to invest more heavily in defending against exfiltrated AIs. At very high levels of capability, this might involve extremely drastic measures, because we’ll need to defend against extremely capable AIs.": " тоді нам довелося б або (1) не масштабувати можливості ШІ, доки безпека не стане життєздатною, або (2) значно більше інвестувати в захист від ексфільтрованих ШІ. На дуже високих рівнях можливостей це могло б передбачати надзвичайно радикальні заходи, бо доведеться захищатися від надзвичайно потужних ШІ.", "then we’d either need to (1) not scale AI capabilities until security becomes viable or (2) need to invest more heavily in defending against exfiltrated AIs. At very high levels of capability, this might involve extremely drastic measures, because we’ll need to defend against extremely capable AIs.": "тоді нам довелося б або (1) не масштабувати можливості ШІ, доки безпека не стане життєздатною, або (2) значно більше інвестувати в захист від ексфільтрованих ШІ. На дуже високих рівнях можливостей це могло б передбачати надзвичайно радикальні заходи, бо доведеться захищатися від надзвичайно потужних ШІ.", "Plan A currently assumes gradient descent on giant neural networks remains the dominant AI paradigm until the late 2030s. We assume significant advances are made within that paradigm, including (i) the addition of neuralese (both as long term memory, and replacing chain-of-thought) and (ii) dramatic scaling in reinforcement learning (many more diverse environments that are much larger than existing environments).": "Наразі План А припускає, що градієнтний спуск на гігантських нейронних мережах лишається домінантною парадигмою ШІ аж до кінця 2030-х. Ми припускаємо, що в межах цієї парадигми буде досягнуто значного прогресу, включно з (i) додаванням «нейролізи» (як довготривалої пам'яті, так і заміни ланцюжка міркувань) та (ii) різким масштабуванням навчання з підкріпленням (набагато більше різноманітних середовищ, значно більших за наявні).", "Substantial algorithmic changes, even within the broad “gradient descent on giant neural networks” paradigm, might change the implementation details of parts of Plan A. For example:": "Суттєві алгоритмічні зміни навіть у межах широкої парадигми «градієнтний спуск на гігантських нейронних мережах» можуть змінити деталі реалізації окремих частин Плану А. Наприклад:", "We assume that online learning via live weight updates (instead of in context learning or delayed weight updates) is not necessary for generally top expert level AI systems of the type developed in Plan A. If live weight updates were necessary, then we would need to have some training infrastructure happening on the inference datacenters, which would complicate the inference verification because we’d need to live update the reference models in the verification infrastructure, which would increase the security risk surface area. It would also prevent us from using chips that are hardcoded to do inference on a given model (e.g. ": "Ми припускаємо, що онлайн-навчання через оновлення ваг у реальному часі (замість навчання в контексті чи відкладеного оновлення ваг) не є необхідним для загалом ШІ-систем рівня топ-експерта того типу, що розробляється в Плані А. Якби оновлення ваг у реальному часі були необхідними, нам знадобилася б певна тренувальна інфраструктура на інференс-дата-центрах, що ускладнило б верифікацію інференсу, бо довелося б оновлювати еталонні моделі у верифікаційній інфраструктурі в реальному часі, а це збільшило б поверхню ризику безпеки. Це також не дозволило б нам використовувати чипи, жорстко запрограмовані виконувати інференс для конкретної моделі (наприклад, ", "We assume that online learning via live weight updates (instead of in context learning or delayed weight updates) is not necessary for generally top expert level AI systems of the type developed in Plan A. If live weight updates were necessary, then we would need to have some training infrastructure happening on the inference datacenters, which would complicate the inference verification because we’d need to live update the reference models in the verification infrastructure, which would increase the security risk surface area. It would also prevent us from using chips that are hardcoded to do inference on a given model (e.g.": "Ми припускаємо, що онлайн-навчання через оновлення ваг у реальному часі (замість навчання в контексті чи відкладеного оновлення ваг) не є необхідним для загалом ШІ-систем рівня топ-експерта того типу, що розробляється в Плані А. Якби оновлення ваг у реальному часі були необхідними, нам знадобилася б певна тренувальна інфраструктура на інференс-дата-центрах, що ускладнило б верифікацію інференсу, бо довелося б оновлювати еталонні моделі у верифікаційній інфраструктурі в реальному часі, а це збільшило б поверхню ризику безпеки. Це також не дозволило б нам використовувати чипи, жорстко запрограмовані виконувати інференс для конкретної моделі (наприклад,", "), which could be part of the inference-only verification scheme.": "), які могли б бути частиною схеми верифікації «лише інференс».", "We assume that restricting access to compute is an effective measure to prevent covert projects. If there are, for example, new architectural discoveries with dramatically (e.g. 1000x) more favorable compute scaling than current architectures, this would make covert projects much more dangerous. That said, if such architectural discoveries are in the pipeline so to speak, all the other plans are much less likely to work too—a discovery which allows a covert project to overtake the legal projects in Plan A, despite a huge compute disadvantage, would in Plan D cause an extremely fast, discontinuous “FOOM” to ASI within whichever frontier AI project first found it. These worlds are extremely scary and probably the best way to handle them is something like Plan S.": "Ми припускаємо, що обмеження доступу до обчислювальних потужностей — це дієвий захід для запобігання таємним проєктам. Якщо, наприклад, з'являться нові архітектурні відкриття з різко (наприклад, у 1000 разів) сприятливішим масштабуванням за обчислювальними потужностями порівняно з поточними архітектурами, це зробило б таємні проєкти набагато небезпечнішими. Утім, якщо такі архітектурні відкриття, так би мовити, уже на підході, усі інші плани теж навряд чи спрацюють — відкриття, яке дозволяє таємному проєкту випередити легальні проєкти в Плані А попри величезну перевагу останніх в обчислювальних потужностях, у Плані D спричинило б надзвичайно швидкий, стрибкоподібний «FOOM» до ASI в межах того передового ШІ-проєкту, який першим це відкриє. Такі світи надзвичайно лякають, і, ймовірно, найкращий спосіб з ними впоратися — щось на кшталт Плану S.", "There are also obviously many “unknown unknowns” in AI paradigm shifts which could change Plan A in unforeseen ways, in practice we expect that many updates to the Plan A baseline will need to be made in response to further paradigm shifts.": "Очевидно, у змінах парадигми ШІ є й багато «невідомих невідомих», які можуть змінити План А непередбачуваними способами; на практиці ми очікуємо, що доведеться внести чимало оновлень до базової версії Плану А у відповідь на подальші зміни парадигми.", "State capacity.": "Спроможність держави.", " Plan A relies on high state capacity on AI, in particular, the capacity to distinguish existentially unsafe training runs and deployments.": " План А покладається на високу спроможність держави щодо ШІ, зокрема на спроможність розрізняти екзистенційно небезпечні тренувальні прогони та розгортання.", "Plan A relies on high state capacity on AI, in particular, the capacity to distinguish existentially unsafe training runs and deployments.": "План А покладається на високу спроможність держави щодо ШІ, зокрема на спроможність розрізняти екзистенційно небезпечні тренувальні прогони та розгортання.", " However, in worlds where the state capacity is low enough that they are not able to distinguish safe and unsafe AI, we recommend pivoting to another plan. Two salient alternatives are: (1) having an extremely conservative bar for safety, (e.g. shut it all down), or (2) limit the speed of the intelligence explosion through more blunt techniques (e.g. mutual GPU destruction).": " Утім, у світах, де спроможність держави настільки низька, що вона не здатна розрізняти безпечний і небезпечний ШІ, ми рекомендуємо перейти до іншого плану. Дві помітні альтернативи: (1) надзвичайно консервативна планка безпеки (наприклад, закрити все повністю), або (2) обмеження швидкості вибуху інтелекту грубішими техніками (наприклад, взаємне знищення GPU).", "However, in worlds where the state capacity is low enough that they are not able to distinguish safe and unsafe AI, we recommend pivoting to another plan. Two salient alternatives are: (1) having an extremely conservative bar for safety, (e.g. shut it all down), or (2) limit the speed of the intelligence explosion through more blunt techniques (e.g. mutual GPU destruction).": "Утім, у світах, де спроможність держави настільки низька, що вона не здатна розрізняти безпечний і небезпечний ШІ, ми рекомендуємо перейти до іншого плану. Дві помітні альтернативи: (1) надзвичайно консервативна планка безпеки (наприклад, закрити все повністю), або (2) обмеження швидкості вибуху інтелекту грубішими техніками (наприклад, взаємне знищення GPU).", "Capability level of the initial deal.": "Рівень можливостей на момент початкової угоди.", " The later the deal begins, the more difficult enforcement becomes. In particular, once we get substantial automation of AI research, it becomes easier to run a covert project on AI with only a small number of people involved, which reduces the surface area for leaks. This means that the overall regime has less time, and so risk will be higher.": " Чим пізніше починається угода, тим складнішим стає забезпечення її дотримання. Зокрема, щойно ми досягаємо суттєвої автоматизації ШІ-досліджень, стає легше вести таємний проєкт з ШІ, залучаючи лише невелику кількість людей, що зменшує поверхню для витоків. Це означає, що в загального режиму менше часу, а отже ризик буде вищим.", "The later the deal begins, the more difficult enforcement becomes. In particular, once we get substantial automation of AI research, it becomes easier to run a covert project on AI with only a small number of people involved, which reduces the surface area for leaks. This means that the overall regime has less time, and so risk will be higher.": "Чим пізніше починається угода, тим складнішим стає забезпечення її дотримання. Зокрема, щойно ми досягаємо суттєвої автоматизації ШІ-досліджень, стає легше вести таємний проєкт з ШІ, залучаючи лише невелику кількість людей, що зменшує поверхню для витоків. Це означає, що в загального режиму менше часу, а отже ризик буде вищим.", "Distillation mitigation.": "Пом'якшення дистиляції.", " We discuss ": " Ми обговорюємо ", "We discuss": "Ми обговорюємо", "our strategy for mitigating distillation in the verification supplement": "нашу стратегію пом'якшення дистиляції в додатку про верифікацію", ". It’s unclear how well this will work. If it doesn’t work well, it’s an update towards being more concerned with covert projects. It is also an update towards slower capability scaling being optimal. Finally, it’s also an update towards strongly limiting broad deployment, although I still think that even if mitigating distillation is very difficult, it would still be worthwhile to do broad deployment.": ". Незрозуміло, наскільки добре це спрацює. Якщо це не спрацює добре, це зсуває нас у бік більшого занепокоєння таємними проєктами. Це також зсуває нас у бік того, що оптимальним є повільніше масштабування можливостей. Нарешті, це також зсуває нас у бік суттєвого обмеження широкого розгортання, хоча я все ще вважаю, що навіть якщо пом'якшення дистиляції дуже складне, широке розгортання все одно варте того.", "It’s unclear, and will be dependent on observations at the time. Here are some key considerations:": "Це незрозуміло і залежатиме від спостережень на той момент. Ось кілька ключових міркувань:", "Is the deal likely to break down soon?": "Чи ймовірно, що угода скоро розпадеться?", " If the deal is more likely to break down soon (for example, due to political reasons, or due to covert project takeover), then you should be willing to take on more risk, and so you should be more willing to scale faster.": " Якщо угода з більшою ймовірністю скоро розпадеться (наприклад, через політичні причини або через захоплення через таємний проєкт), тоді варто бути готовим взяти на себе більше ризику, а отже бути більш готовим до швидшого масштабування.", "If the deal is more likely to break down soon (for example, due to political reasons, or due to covert project takeover), then you should be willing to take on more risk, and so you should be more willing to scale faster.": "Якщо угода з більшою ймовірністю скоро розпадеться (наприклад, через політичні причини або через захоплення через таємний проєкт), тоді варто бути готовим взяти на себе більше ризику, а отже бути більш готовим до швидшого масштабування.", "How good do current safety cases look (and how misaligned do the models seem)?": "Наскільки хорошими виглядають поточні кейси безпеки (і наскільки неузгодженими здаються моделі)?", " The more AI takeover risk there is from marginal scaling, the slower we should scale capabilities.": " Чим вищий ризик захоплення влади ШІ від граничного масштабування, тим повільніше слід масштабувати можливості.", "The more AI takeover risk there is from marginal scaling, the slower we should scale capabilities.": "Чим вищий ризик захоплення влади ШІ від граничного масштабування, тим повільніше слід масштабувати можливості.", "How large are the returns to better AIs?": "Наскільки великою є віддача від кращих ШІ?", " If better AIs won’t contribute useful labor (for example because we can’t trust their outputs, and control isn’t very scaleable), then we shouldn’t scale. On the other hand, if scaling AI capabilities would dramatically increase the amount of high-quality alignment research we can do, it may be worth scaling, even if doing so is risky.": " Якщо кращі ШІ не даватимуть корисної праці (наприклад, бо ми не можемо довіряти їхнім результатам, а контроль погано масштабується), тоді масштабувати не варто. З іншого боку, якщо масштабування можливостей ШІ різко збільшить обсяг якісних досліджень узгодження, які ми можемо проводити, можливо, варто масштабувати, навіть якщо це ризиковано.", "If better AIs won’t contribute useful labor (for example because we can’t trust their outputs, and control isn’t very scaleable), then we shouldn’t scale. On the other hand, if scaling AI capabilities would dramatically increase the amount of high-quality alignment research we can do, it may be worth scaling, even if doing so is risky.": "Якщо кращі ШІ не даватимуть корисної праці (наприклад, бо ми не можемо довіряти їхнім результатам, а контроль погано масштабується), тоді масштабувати не варто. З іншого боку, якщо масштабування можливостей ШІ різко збільшить обсяг якісних досліджень узгодження, які ми можемо проводити, можливо, варто масштабувати, навіть якщо це ризиковано.", "Will the weights and algorithms leak to covert projects, and how bad are the leaks?": "Чи просочаться ваги й алгоритми до таємних проєктів, і наскільки серйозними будуть ці витоки?", " If the model weights and/or algorithms of a scaled up AI model were to leak this would accelerate defecting projects by some amount, decreasing the amount of slack the regime has. If it’s possible to secure the model weights and algorithms, or to scale capabilities without doing substantial algorithmic progress, then we should update towards scaling more. In the Plan A scenario, we mostly scale with hardware buildouts, to avoid the need to make substantial algorithmic progress, because we are not optimistic about securing the algorithmic secrets.": " Якщо ваги моделі та/або алгоритми масштабованої ШІ-моделі просочаться, це певною мірою пришвидшить проєкти-порушники, зменшуючи запас часу, який має режим. Якщо можливо захистити ваги моделі й алгоритми, або масштабувати можливості без суттєвого алгоритмічного прогресу, тоді слід зсунутися в бік більшого масштабування. У сценарії Плану А ми переважно масштабуємося через нарощування апаратного забезпечення, щоб уникнути потреби в суттєвому алгоритмічному прогресі, бо не дуже оптимістично налаштовані щодо захисту алгоритмічних секретів.", "If the model weights and/or algorithms of a scaled up AI model were to leak this would accelerate defecting projects by some amount, decreasing the amount of slack the regime has. If it’s possible to secure the model weights and algorithms, or to scale capabilities without doing substantial algorithmic progress, then we should update towards scaling more. In the Plan A scenario, we mostly scale with hardware buildouts, to avoid the need to make substantial algorithmic progress, because we are not optimistic about securing the algorithmic secrets.": "Якщо ваги моделі та/або алгоритми масштабованої ШІ-моделі просочаться, це певною мірою пришвидшить проєкти-порушники, зменшуючи запас часу, який має режим. Якщо можливо захистити ваги моделі й алгоритми, або масштабувати можливості без суттєвого алгоритмічного прогресу, тоді слід зсунутися в бік більшого масштабування. У сценарії Плану А ми переважно масштабуємося через нарощування апаратного забезпечення, щоб уникнути потреби в суттєвому алгоритмічному прогресі, бо не дуже оптимістично налаштовані щодо захисту алгоритмічних секретів.", "How much risk comes from current AIs vs future AIs?": "Скільки ризику походить від поточних ШІ порівняно з майбутніми ШІ?", " The earlier in the intelligence explosion we are, the more we should be sympathetic to scaling earlier, because the marginal risk of current scaling is much lower, whereas if we’re in the capabilities regime where we are incurring most of the risk, we should be much more careful and tend to slow down more. (This is why, in the scenario, the Consortium scales up AI capabilities reasonably but not entirely cautiously in the early 2030s, and then pauses at top expert level in 2035.)": " Чим раніше на етапі вибуху інтелекту ми перебуваємо, тим більше варто схилятися до раннього масштабування, бо граничний ризик поточного масштабування набагато нижчий, тоді як якщо ми перебуваємо в режимі можливостей, де несемо більшість ризику, слід бути набагато обережнішими й схилятися до більшого сповільнення. (Саме тому в сценарії Консорціум розсудливо, але не абсолютно обережно масштабує можливості ШІ на початку 2030-х, а потім призупиняється на рівні топ-експерта у 2035 році.)", "The earlier in the intelligence explosion we are, the more we should be sympathetic to scaling earlier, because the marginal risk of current scaling is much lower, whereas if we’re in the capabilities regime where we are incurring most of the risk, we should be much more careful and tend to slow down more. (This is why, in the scenario, the Consortium scales up AI capabilities reasonably but not entirely cautiously in the early 2030s, and then pauses at top expert level in 2035.)": "Чим раніше на етапі вибуху інтелекту ми перебуваємо, тим більше варто схилятися до раннього масштабування, бо граничний ризик поточного масштабування набагато нижчий, тоді як якщо ми перебуваємо в режимі можливостей, де несемо більшість ризику, слід бути набагато обережнішими й схилятися до більшого сповільнення. (Саме тому в сценарії Консорціум розсудливо, але не абсолютно обережно масштабує можливості ШІ на початку 2030-х, а потім призупиняється на рівні топ-експерта у 2035 році.)", "Is it possible to scale up capabilities without substantial algorithmic improvements?": "Чи можливо масштабувати можливості без суттєвих алгоритмічних покращень?", " In plan A, we try to scale up AI capabilities via hardware scaling, while heavily limiting algorithmic progress. However, it may be the case that scaling up AI capabilities inherently leads to lots of algorithmic progress (e.g. via distillation). Moreover, the main alternative to scaling up algorithms is scaling hardware. However, it may be the case that most algorithmic progress is downstream of hardware progress. In this case, the most effective way of governing algorithmic progress might be to limit hardware itself.": " У Плані А ми намагаємося масштабувати можливості ШІ через масштабування апаратного забезпечення, суттєво обмежуючи алгоритмічний прогрес. Утім, може виявитися, що масштабування можливостей ШІ за своєю природою призводить до значного алгоритмічного прогресу (наприклад, через дистиляцію). Крім того, головна альтернатива масштабуванню алгоритмів — масштабування апаратного забезпечення. Утім, може виявитися, що більшість алгоритмічного прогресу є похідною від прогресу апаратного забезпечення. У такому разі найефективнішим способом врядування алгоритмічним прогресом може бути обмеження самого апаратного забезпечення.", "In plan A, we try to scale up AI capabilities via hardware scaling, while heavily limiting algorithmic progress. However, it may be the case that scaling up AI capabilities inherently leads to lots of algorithmic progress (e.g. via distillation). Moreover, the main alternative to scaling up algorithms is scaling hardware. However, it may be the case that most algorithmic progress is downstream of hardware progress. In this case, the most effective way of governing algorithmic progress might be to limit hardware itself.": "У Плані А ми намагаємося масштабувати можливості ШІ через масштабування апаратного забезпечення, суттєво обмежуючи алгоритмічний прогрес. Утім, може виявитися, що масштабування можливостей ШІ за своєю природою призводить до значного алгоритмічного прогресу (наприклад, через дистиляцію). Крім того, головна альтернатива масштабуванню алгоритмів — масштабування апаратного забезпечення. Утім, може виявитися, що більшість алгоритмічного прогресу є похідною від прогресу апаратного забезпечення. У такому разі найефективнішим способом врядування алгоритмічним прогресом може бути обмеження самого апаратного забезпечення.", "Ultimately, trading off these considerations will require quantitatively modeling each of these sources of risk: covert project risk, risk of AI takeover from current AIs and future AIs, etc, understanding how the speed of deployment impacts each of these risks, and then making complicated tradeoffs about the overall best path forward.": "Зрештою, зважування цих міркувань вимагатиме кількісного моделювання кожного з цих джерел ризику: ризику таємних проєктів, ризику захоплення влади від поточних і майбутніх ШІ тощо, розуміння того, як швидкість розгортання впливає на кожен із цих ризиків, а потім ухвалення складних компромісних рішень щодо загалом найкращого шляху вперед.", "Plan A’s trajectory is essentially based on the viewpoint that deal dissolution risk will probably be high, that risks from early AGIs (e.g. ACs and SARs) can be mitigated via control (i.e. that control-based safety cases can be made good enough very quickly, for AIs at that level), and that we can elicit a huge amount of useful labor from these early AGIs. It also assumes that we can do most of our capabilities scaling via a rapid hardware buildout, and strongly limit the total amount of algorithmic progress that occurs, including successfully mitigating distillation (largely by hiding the intermediate reasoning traces). Under these assumptions, the best trajectory seems to involve scaling quite rapidly at the beginning of the slowdown agreement, and then slowing down dramatically at the maximum controllable capability level.": "Траєкторія Плану А по суті базується на погляді, що ризик розпаду угоди, ймовірно, буде високим, що ризики від ранніх AGI (наприклад, AC та SAR) можна пом'якшити через контроль (тобто що кейси безпеки на основі контролю можна зробити достатньо хорошими дуже швидко для ШІ такого рівня), і що ми можемо отримати величезний обсяг корисної праці від цих ранніх AGI. Це також припускає, що більшу частину масштабування можливостей можна здійснити через швидке нарощування апаратного забезпечення, суттєво обмежуючи загальний обсяг алгоритмічного прогресу, включно з успішним пом'якшенням дистиляції (переважно приховуючи проміжні сліди міркувань). За цих припущень найкраща траєкторія, схоже, передбачає доволі швидке масштабування на початку угоди про сповільнення, а потім різке сповільнення на максимальному контрольованому рівні можливостей.", "Plan A’s specific trajectory is our best guess for the best way to handle these tradeoffs. However, we aren’t confident whatsoever that this is the correct path, and we hope that decisionmakers at the time will have a better understanding of these empirical factors at the time, whereas we have to make rough guesses.": "Конкретна траєкторія Плану А — це наша найкраща здогадка щодо найкращого способу розв'язати ці компроміси. Утім, ми зовсім не впевнені, що це правильний шлях, і сподіваємося, що особи, які ухвалюватимуть рішення на той момент, матимуть краще розуміння цих емпіричних факторів, тоді як нам доводиться робити приблизні здогадки.", "Another very plausible trajectory, Plan S, is essentially the opposite choice about how fast to scale: immediately issue a moratorium on further AI capability scaling. This policy looks better if there is a small risk of deal dissolution, and/or the returns to better AIs for safety research are low, and/or the risks of any capability scaling are high.": "Інша дуже правдоподібна траєкторія, План S, по суті є протилежним вибором щодо того, наскільки швидко масштабувати: негайно запровадити мораторій на подальше масштабування можливостей ШІ. Ця політика виглядає кращою, якщо ризик розпаду угоди малий, та/або віддача від кращих ШІ для досліджень безпеки низька, та/або ризики будь-якого масштабування можливостей високі.", "It is desirable to do a massive datacenter buildout in Plan A if (and only if!) the upside of scaling quickly, reducing covert project takeover risk, and having additional capacity to pay alignment taxes is bigger than the risk of verification failing or the additional risk incurred by the deal failing with a gigantic compute stockpile.": "Масштабна розбудова дата-центрів у Плані А бажана, якщо (і тільки якщо!) перевага швидкого масштабування, зниження ризику захоплення через таємний проєкт і наявність додаткової спроможності платити «податки на узгодження» переважує ризик провалу верифікації або додатковий ризик, спричинений провалом угоди за наявності гігантського запасу обчислювальних потужностей.", "In a bit more detail, the main upsides of a massive datacenter buildout are that it allows AI developers to:": "Трохи детальніше, основні переваги масштабної розбудови дата-центрів у тому, що вона дозволяє розробникам ШІ:", "Scale quickly without leaking algorithms to covert projects.": "Швидко масштабуватися без витоку алгоритмів до таємних проєктів.", " In the previous section, we discussed the conditions under which it is good to increase AI capabilities, and the tradeoffs associated with going faster and slower. Simplistically, to increase AI capabilities, you can either improve algorithms or scale compute. By leaning heavily on compute, we can avoid making algorithmic progress in the first place, which is the best way to ensure that said progress doesn’t leak.": " У попередньому розділі ми обговорювали умови, за яких добре нарощувати можливості ШІ, та компроміси, пов'язані з рухом швидше чи повільніше. Спрощено кажучи, щоб збільшити можливості ШІ, можна або покращувати алгоритми, або масштабувати обчислювальні потужності. Якщо значною мірою покладатися на обчислювальні потужності, можна взагалі уникнути алгоритмічного прогресу, а це найкращий спосіб гарантувати, що цей прогрес не просочиться.", "In the previous section, we discussed the conditions under which it is good to increase AI capabilities, and the tradeoffs associated with going faster and slower. Simplistically, to increase AI capabilities, you can either improve algorithms or scale compute. By leaning heavily on compute, we can avoid making algorithmic progress in the first place, which is the best way to ensure that said progress doesn’t leak.": "У попередньому розділі ми обговорювали умови, за яких добре нарощувати можливості ШІ, та компроміси, пов'язані з рухом швидше чи повільніше. Спрощено кажучи, щоб збільшити можливості ШІ, можна або покращувати алгоритми, або масштабувати обчислювальні потужності. Якщо значною мірою покладатися на обчислювальні потужності, можна взагалі уникнути алгоритмічного прогресу, а це найкращий спосіб гарантувати, що цей прогрес не просочиться.", "Pay alignment taxes.": "Платити «податки на узгодження».", " Large compute-based alignment taxes might be very helpful for safety. For example, it might be that neuralese is much more performant than current architectures, but also has dramatically worse safety properties. If we have enough compute that we can just accept the performance penalty and continue with current architectures anyways, this might dramatically reduce risk. Without a massive compute buildup, we will by definition not be able to pursue architectures that are much less compute efficient.": " Великі «податки на узгодження», що спираються на обчислювальні потужності, можуть бути дуже корисними для безпеки. Наприклад, може виявитися, що «нейролізе» набагато продуктивніша за поточні архітектури, але водночас має різко гірші властивості безпеки. Якщо в нас достатньо обчислювальних потужностей, щоб просто прийняти зниження продуктивності й усе одно продовжувати з поточними архітектурами, це могло б різко знизити ризик. Без масштабного нарощування обчислювальних потужностей ми за визначенням не зможемо застосовувати архітектури, значно менш ефективні за обчислювальними ресурсами.", "Large compute-based alignment taxes might be very helpful for safety. For example, it might be that neuralese is much more performant than current architectures, but also has dramatically worse safety properties. If we have enough compute that we can just accept the performance penalty and continue with current architectures anyways, this might dramatically reduce risk. Without a massive compute buildup, we will by definition not be able to pursue architectures that are much less compute efficient.": "Великі «податки на узгодження», що спираються на обчислювальні потужності, можуть бути дуже корисними для безпеки. Наприклад, може виявитися, що «нейролізе» набагато продуктивніша за поточні архітектури, але водночас має різко гірші властивості безпеки. Якщо в нас достатньо обчислювальних потужностей, щоб просто прийняти зниження продуктивності й усе одно продовжувати з поточними архітектурами, це могло б різко знизити ризик. Без масштабного нарощування обчислювальних потужностей ми за визначенням не зможемо застосовувати архітектури, значно менш ефективні за обчислювальними ресурсами.", "The main downsides are:": "Основні недоліки такі:", "Verification and regulation becomes more load bearing.": "Верифікація та регулювання стають більш навантаженими.", " Since the verified projects have even more compute, it is more important that this compute is used safely, and, in particular, not used to do an intelligence explosion as fast as possible. So it becomes even more important that the regulations that AI projects are subject to are sufficiently conservative that they preclude an intelligence explosion, and that the verification is sufficiently robust that companies or rogue AIs can’t undermine it, and illegally gain control of a huge amount of compute within the verified clusters.": " Оскільки верифіковані проєкти мають ще більше обчислювальних потужностей, стає ще важливіше, щоб ці потужності використовувалися безпечно, і, зокрема, не використовувалися для якомога швидшого вибуху інтелекту. Тож стає ще важливіше, щоб регулювання, якому підлягають ШІ-проєкти, було достатньо консервативним, щоб унеможливити вибух інтелекту, і щоб верифікація була достатньо надійною, щоб компанії чи ШІ-порушники не могли її підірвати й нелегально отримати контроль над величезним обсягом обчислювальних потужностей у межах верифікованих кластерів.", "Since the verified projects have even more compute, it is more important that this compute is used safely, and, in particular, not used to do an intelligence explosion as fast as possible. So it becomes even more important that the regulations that AI projects are subject to are sufficiently conservative that they preclude an intelligence explosion, and that the verification is sufficiently robust that companies or rogue AIs can’t undermine it, and illegally gain control of a huge amount of compute within the verified clusters.": "Оскільки верифіковані проєкти мають ще більше обчислювальних потужностей, стає ще важливіше, щоб ці потужності використовувалися безпечно, і, зокрема, не використовувалися для якомога швидшого вибуху інтелекту. Тож стає ще важливіше, щоб регулювання, якому підлягають ШІ-проєкти, було достатньо консервативним, щоб унеможливити вибух інтелекту, і щоб верифікація була достатньо надійною, щоб компанії чи ШІ-порушники не могли її підірвати й нелегально отримати контроль над величезним обсягом обчислювальних потужностей у межах верифікованих кластерів.", "If the deal breaks down with a gigantic compute cluster, and the clusters are not destroyed, the intelligence explosion might be extremely rapid.": "Якщо угода розпадається за наявності гігантського обчислювального кластера, а кластери не знищено, вибух інтелекту може виявитися надзвичайно стрімким.", " One naive estimate is that a 10x of compute leads to a 5.5x increase in the speed of the intelligence explosion, so a 10,000x increase in compute might increase the speed of the intelligence explosion by 900x. So if it would take a year by default, it might take less than a day with the Plan A hardware explosion. This is obviously extremely dangerous, hence why we put so much emphasis on mutually assured compute destruction.": " За однією наївною оцінкою, десятикратне збільшення обчислювальних потужностей призводить до 5.5-кратного зростання швидкості вибуху інтелекту, тож збільшення обчислювальних потужностей у 10 000 разів може підвищити швидкість вибуху інтелекту у 900 разів. Тож якщо за замовчуванням це зайняло б рік, то з «апаратним вибухом» Плану А це могло б зайняти менше дня. Це, очевидно, надзвичайно небезпечно, тому ми робимо такий великий акцент на взаємно гарантованому знищенні обчислювальних потужностей.", "One naive estimate is that a 10x of compute leads to a 5.5x increase in the speed of the intelligence explosion, so a 10,000x increase in compute might increase the speed of the intelligence explosion by 900x. So if it would take a year by default, it might take less than a day with the Plan A hardware explosion. This is obviously extremely dangerous, hence why we put so much emphasis on mutually assured compute destruction.": "За однією наївною оцінкою, десятикратне збільшення обчислювальних потужностей призводить до 5.5-кратного зростання швидкості вибуху інтелекту, тож збільшення обчислювальних потужностей у 10 000 разів може підвищити швидкість вибуху інтелекту у 900 разів. Тож якщо за замовчуванням це зайняло б рік, то з «апаратним вибухом» Плану А це могло б зайняти менше дня. Це, очевидно, надзвичайно небезпечно, тому ми робимо такий великий акцент на взаємно гарантованому знищенні обчислювальних потужностей.", "Putting all of this together, my view on how to decide to what extent we should pursue a massive hardware buildout under Plan A is as follows:": "Підсумовуючи все це, мій погляд на те, як вирішувати, якою мірою слід прагнути масштабної розбудови апаратного забезпечення в межах Плану А, такий:", "If covert projects aren’t a concern (because, for example, it’s impossible to do a reasonably fast intelligence explosion on a 100,000 GPU cluster), then ": "Якщо таємні проєкти не є проблемою (бо, наприклад, неможливо здійснити достатньо швидкий вибух інтелекту на кластері зі 100 000 GPU), тоді ", "If covert projects aren’t a concern (because, for example, it’s impossible to do a reasonably fast intelligence explosion on a 100,000 GPU cluster), then": "Якщо таємні проєкти не є проблемою (бо, наприклад, неможливо здійснити достатньо швидкий вибух інтелекту на кластері зі 100 000 GPU), тоді", "don’t scale hardware at all, or only go slowly.": "не варто масштабувати апаратне забезпечення взагалі, або робити це лише повільно.", "If there are reliable mechanisms for destroying compute after the deal dissolution, and reliable verification mechanisms so that we can have high confidence that there will not be major rogue internal deployments (either by countries or AIs), and there is reliable verification for within-deal compute, then the downsides of a compute buildout are small. Therefore, it is beneficial to ": "Якщо існують надійні механізми знищення обчислювальних потужностей після розпаду угоди, і надійні механізми верифікації, які дають високу впевненість у відсутності значних внутрішніх розгортань-порушників (з боку країн чи ШІ), і є надійна верифікація обчислювальних потужностей у межах угоди, тоді недоліки нарощування обчислювальних потужностей невеликі. Тому вигідно ", "If there are reliable mechanisms for destroying compute after the deal dissolution, and reliable verification mechanisms so that we can have high confidence that there will not be major rogue internal deployments (either by countries or AIs), and there is reliable verification for within-deal compute, then the downsides of a compute buildout are small. Therefore, it is beneficial to": "Якщо існують надійні механізми знищення обчислювальних потужностей після розпаду угоди, і надійні механізми верифікації, які дають високу впевненість у відсутності значних внутрішніх розгортань-порушників (з боку країн чи ШІ), і є надійна верифікація обчислювальних потужностей у межах угоди, тоді недоліки нарощування обчислювальних потужностей невеликі. Тому вигідно", "scale hardware ~as aggressively as possible.": "масштабувати апаратне забезпечення ~настільки агресивно, наскільки можливо.", "Otherwise, it is going to be a complicated tradeoff, which needs to be decided by weighing the magnitudes of the various costs and benefits listed above.": "В інших випадках це буде складний компроміс, який потрібно вирішувати, зважуючи масштаби різних витрат і вигід, перелічених вище.", "The verification plan used in the Plan A scenario can be summarized as follows:": "План верифікації, використаний у сценарії Плану А, можна підсумувати так:", "Mutually declare the locations of all large datacenters. Check the declared counts against intelligence estimates.": "Взаємно задекларувати розташування всіх великих дата-центрів. Звірити задекларовані показники з розвідувальними оцінками.", "Agree to pause training and experiments. Install inference-only verification devices on the declared clusters to verify this pause.": "Домовитися призупинити навчання та експерименти. Встановити на задекларованих кластерах пристрої верифікації режиму «лише інференс», щоб перевіряти дотримання цієї паузи.", "Race to set up verifiable (and totally transparent) training and experiment clusters; when complete, resume capability scaling within the constraints of safety and transparency.": "Прискорено розгорнути верифіковувані (і повністю прозорі) кластери для навчання та експериментів; після завершення відновити масштабування можливостей у межах обмежень безпеки й прозорості.", "We discuss this in more depth ": "Ми обговорюємо це детальніше ", "We discuss this in more depth": "Ми обговорюємо це детальніше", "This version of the verification plan assumes that at the beginning of the deal (1) we can verify inference, and (2) AI development verification is feasible within a relatively short research sprint (but is not immediately feasible). It is most likely that one or both of these assumptions will be wrong; these assumptions are my central guess of what could be done under Plan A assumptions of political will and competence, but reality will most likely involve less good preparations.": "Ця версія плану верифікації припускає, що на початку угоди (1) ми можемо верифікувати інференс, і (2) верифікація розробки ШІ здійсненна протягом відносно короткого дослідницького ривка (але не здійсненна одразу). Найімовірніше, одне або обидва ці припущення виявляться хибними; ці припущення — моя центральна здогадка щодо того, що можна було б зробити за припущень Плану А про політичну волю й компетентність, але реальність, найімовірніше, передбачатиме менш якісну підготовку.", "What if we don’t have verification measures ready in time?": "А що, якщо заходи верифікації не будуть готові вчасно?", "Three high level buckets of verification approaches are:": "Три категорії підходів до верифікації високого рівня:", "Technical verification methods": "Технічні методи верифікації", ". These methods would allow ongoing AI usage or development, with both sides of a deal being confident that the other isn’t doing anything dangerous. An example of this is what we do in Plan A where we initially rely on inference-only, while sprinting to technical methods to verify training and experiments.": ". Ці методи дозволили б продовжувати використання чи розробку ШІ, коли обидві сторони угоди впевнені, що інша не робить нічого небезпечного. Приклад цього — те, що ми робимо в Плані А, де ми спочатку покладаємося на режим «лише інференс», паралельно прискорено розробляючи технічні методи верифікації навчання та експериментів.", "Rely on trust,": "Покладатися на довіру,", " i.e. accept that either side could defect, and hope that neither side is foolish enough to try, or that they’d be caught by HUMINT and so forth if they did.": " тобто прийняти, що будь-яка зі сторін може порушити угоду, і сподіватися, що жодна сторона не настільки нерозважлива, щоб спробувати, або що її спіймають через агентурну розвідку та подібні методи, якщо вона все ж спробує.", "i.e. accept that either side could defect, and hope that neither side is foolish enough to try, or that they’d be caught by HUMINT and so forth if they did.": "тобто прийняти, що будь-яка зі сторін може порушити угоду, і сподіватися, що жодна сторона не настільки нерозважлива, щоб спробувати, або що її спіймають через агентурну розвідку та подібні методи, якщо вона все ж спробує.", "Blunt verification techniques": "Грубі техніки верифікації", " (e.g. compute destruction or mutual power down).": " (наприклад, знищення обчислювальних потужностей або взаємне вимкнення живлення).", "(e.g. compute destruction or mutual power down).": "(наприклад, знищення обчислювальних потужностей або взаємне вимкнення живлення).", "Viable technical": "Життєздатні технічні", "verification methods?": "методи верифікації?", "Rely on trust?": "Покладатися на довіру?", "1 · Technical verification": "1 · Технічна верифікація", "inference-only devices, then verifiable": "пристрої «лише інференс», потім верифіковувані", "training & experiment clusters (Plan A)": "кластери для навчання й експериментів (План А)", "2 · Rely on trust": "2 · Покладатися на довіру", "accept that either side could defect;": "прийняти, що будь-яка сторона може порушити угоду;", "HUMINT etc. as the backstop": "агентурна розвідка тощо як запобіжник", "3 · Blunt verification": "3 · Груба верифікація", "mutual GPU destruction, mutual": "взаємне знищення GPU, взаємне", "power-down, burn compute on mining": "вимкнення живлення, витрата обчислювальних потужностей на майнінг", "Three buckets of verification approaches": "Три категорії підходів до верифікації", "It is highly desirable that we have technical verification methods ready before the beginning of the intelligence explosion. If inference verification devices are ready, then access to AIs gets to continue at the beginning of the deal. If development verification is ready, then we don’t need to stop AI capabilities scaling or AI safety research that involves frontier models at the beginning of the deal, and can instead scale until it is sufficiently unsafe not to (following the considerations above).": "Вкрай бажано мати готові технічні методи верифікації до початку вибуху інтелекту. Якщо пристрої верифікації інференсу готові, тоді доступ до ШІ можна продовжити з початку угоди. Якщо верифікація розробки готова, тоді на початку угоди не потрібно зупиняти масштабування можливостей ШІ чи дослідження безпеки ШІ, що передбачають передові моделі, і натомість можна масштабувати, доки це не стане достатньо небезпечним, щоб зупинитися (з урахуванням наведених вище міркувань).", "2 and 3 will likely only be temporary regimes, and be paired with a sprint to get technical measures online. Therefore, we hope that eventually we’ll get to sufficiently good technical methods.": "2 і 3, ймовірно, будуть лише тимчасовими режимами, поєднаними з прискореною роботою над впровадженням технічних заходів. Тому ми сподіваємося, що зрештою досягнемо достатньо хороших технічних методів.", "The main downside of 2 is that it runs a risk of defection. Therefore, it may also run into increased political difficulties, as both parties will be worried that the other will defect, and so will be less likely to sign in the first place. However, it’s not correct to entirely write off trust, because it may be that the risk of AI takeover becomes so high that neither side is incentivized to defect, because doing so would so likely result in existential catastrophe. If high AI takeover risk becomes common knowledge (for example, after we’ve caught early misaligned AIs in the act of sabotage), relying on trust may be the best option.": "Головний недолік варіанту 2 — ризик порушення угоди. Через це можуть виникнути й підвищені політичні труднощі, бо обидві сторони будуть побоюватися, що інша порушить угоду, а отже менш охоче підпишуть її взагалі. Утім, не варто повністю списувати довіру з рахунків, бо може виявитися, що ризик захоплення влади ШІ стане настільки високим, що жодна зі сторін не матиме стимулу порушувати угоду, оскільки це з високою ймовірністю призвело б до екзистенційної катастрофи. Якщо високий ризик захоплення влади ШІ стане загальновідомим (наприклад, після того як ми спіймаємо ранні неузгоджені ШІ на саботажі), покладання на довіру може виявитися найкращим варіантом.", "The main downside of 3 is that it involves a temporary period where large scale inference goes offline. However, this would be less bad than one might naively think; even an agreement to power off (or destroy) 90% of the compute, would only force a reversion to 10x cheaper models. Since cost of a given level of capability has historically decreased very rapidly (": "Головний недолік варіанту 3 — тимчасовий період, коли масштабний інференс вимикається. Утім, це менш погано, ніж могло б наївно здатися; навіть угода про вимкнення (чи знищення) 90% обчислювальних потужностей змусила б лише повернутися до моделей у 10 разів дешевших. Оскільки вартість заданого рівня можливостей історично знижувалася дуже швидко (", "averaging ~40x/yr": "у середньому ~40x/рік", "), having 10x less compute would roughly correspond with having to use SOTA models from 7.5 months ago.": "), наявність у 10 разів менших обчислювальних потужностей приблизно відповідала б необхідності використовувати SOTA-моделі 7.5-місячної давнини.", " A downside of 3 is obvious; if defection is viable, it becomes more likely that both sides would choose to defect in the first place.": " Недолік варіанту 3 очевидний: якщо порушення угоди життєздатне, стає ймовірнішим, що обидві сторони взагалі оберуть порушити угоду.", "A downside of 3 is obvious; if defection is viable, it becomes more likely that both sides would choose to defect in the first place.": "Недолік варіанту 3 очевидний: якщо порушення угоди життєздатне, стає ймовірнішим, що обидві сторони взагалі оберуть порушити угоду.", "Note that this is one upside of Plan S over Plan A; Plan A requires (1), while Plan S only requires (3).": "Зауважте, що це одна з переваг Плану S над Планом А; План А потребує (1), тоді як План S потребує лише (3).", "There is an inherent tradeoff between security and transparency—to secure something, you inherently need to prevent some group from being able to see it.": "Між безпекою й прозорістю є невід'ємний компроміс — щоб щось захистити, за своєю природою потрібно завадити певній групі це побачити.", "% of progress competitors can’t steal": "% прогресу, який конкуренти не можуть викрасти", "% of relevant info that’s public": "% релевантної інформації, що є публічною", "Livestream the": "Транслювати", "singularity": "сингулярність", "Open source everything": "Відкрити вихідний код усього", "except the weights and datasets": "крім ваг і наборів даних", "Airgap the researchers & auditors;": "Ізолювати (air-gap) дослідників і аудиторів;", "relay all safety-relevant info": "передавати всю релевантну для безпеки інформацію", "via paper memos": "через паперові записки", "Airgap the singularity;": "Ізолювати (air-gap) сингулярність;", "hand off to airgapped auditors": "передати повноваження ізольованим аудиторам", "Today": "Сьогодні", "Plan A: increase both": "План А: збільшити обидва", "Security vs. transparency": "Безпека проти прозорості", "Plan A biases towards transparency, in large part because I am more worried about the risk of poor governance within the legal projects than the risk of covert projects defecting and successfully undermining the deal. Increasing transparency will on average improve the quality of the governance decisions made by the Consortium, whereas increasing security makes it harder for covert projects to succeed. Furthermore, even if the governance decisions are perfect, the legal projects may not be able to solve alignment in time themselves, and may need help from the wider world to e.g. notice some subtle flawed assumption in a safety case. Also, transparency is very helpful for verification.": "План А ухиляється в бік прозорості, значною мірою тому, що мене більше турбує ризик поганого врядування в межах легальних проєктів, ніж ризик того, що таємні проєкти порушать угоду й успішно її підірвуть. Збільшення прозорості в середньому покращить якість рішень щодо врядування, які ухвалює Консорціум, тоді як збільшення безпеки ускладнює успіх таємних проєктів. Крім того, навіть якщо рішення щодо врядування ідеальні, легальні проєкти можуть виявитися нездатними самостійно вчасно розв'язати проблему узгодження, і їм може знадобитися допомога ширшого світу, наприклад, щоб помітити якесь тонке хибне припущення в кейсі безпеки. Також прозорість дуже корисна для верифікації.", "That being said, we are currently nowhere near the pareto frontier between these two dimensions. Plan A proposes dramatically increasing both security and transparency into frontier AI projects. We discuss transparency-related tradeoffs in much more detail in our ": "З огляду на це, наразі ми зовсім не наблизилися до межі Парето між цими двома вимірами. План А пропонує різко збільшити і безпеку, і прозорість передових ШІ-проєктів. Ми детальніше обговорюємо компроміси, пов'язані з прозорістю, у нашому ", "That being said, we are currently nowhere near the pareto frontier between these two dimensions. Plan A proposes dramatically increasing both security and transparency into frontier AI projects. We discuss transparency-related tradeoffs in much more detail in our": "З огляду на це, наразі ми зовсім не наблизилися до межі Парето між цими двома вимірами. План А пропонує різко збільшити і безпеку, і прозорість передових ШІ-проєктів. Ми детальніше обговорюємо компроміси, пов'язані з прозорістю, у нашому", "Space governance supplement": "Додаток про космічне врядування", "AI 2040 epilogue": "Епілог AI 2040", "We make a concrete guess as to what a positive post-ASI governance plan might look like. However, we expect that there exist better proposals, which we haven’t thought of yet, that will be discoverable at the time. Therefore, we want readers to orient to our plan as a baseline with which to compare other plans to on dimensions that they care about. Then, we hope that humanity will spend vastly more effort—both human and AI cognitive labor—on designing a system that performs better.": "Ми робимо конкретну здогадку щодо того, як міг би виглядати позитивний план врядування після появи ASI. Утім, ми очікуємо, що існують кращі пропозиції, про які ми ще не подумали і які стануть очевидними згодом. Тому ми хочемо, щоб читачі сприймали наш план як базову точку відліку, з якою можна порівнювати інші плани за важливими для них вимірами. Далі ми сподіваємося, що людство докладе набагато більше зусиль — як людської, так і ШІ-когнітивної праці — щоб розробити систему, яка працює краще.", "The Plan A scenario involves broadly deploying AI into the economy during takeoff. This has massive effects on the world during takeoff: almost everyone loses their jobs and starts relying on Citizen’s Dividend. Overall, I think that it is better for massive AI impacts to happen gradually, e.g., over the course of a 10 year takeoff, than to have all of the impacts happen really quickly, right at the end, once AIs are vastly smarter than humans.": "Сценарій Плану А передбачає широке розгортання ШІ в економіці протягом зльоту. Це має величезні наслідки для світу під час зльоту: майже всі втрачають роботу й починають покладатися на Громадянський дивіденд. Загалом я вважаю, що краще, коли масштабні впливи ШІ відбуваються поступово, наприклад протягом 10-річного зльоту, ніж коли всі впливи стаються справді швидко, аж наприкінці, щойно ШІ стають значно розумнішими за людей.", "Capital": "Капітал", "US factor income shares (Plan A)": "Частки факторних доходів США (План А)", "(See more about how AI impacts the broader economy in ": "(Детальніше про те, як ШІ впливає на ширшу економіку, — в ", "(See more about how AI impacts the broader economy in": "(Детальніше про те, як ШІ впливає на ширшу економіку, — в", "our economics model": "нашій економічній моделі", ", and discussion in our ": ", та обговорення в нашому ", ", and discussion in our": ", та обговорення в нашому", "However, this relies on a few key questions:": "Утім, це залежить від кількох ключових питань:", "Is the net effect on societal epistemics positive or negative? I currently feel highly unsure. On one hand, broad deployment of human level AI will increase access to information, like the internet. On the other hand, while the internet is definitely helpful for some people, it’s unclear if the average effect on societal epistemics is good or bad. More research is needed on this; what plan we actually recommend at the time would depend a lot on our best guess about the epistemic effects of broad AI deployment. With our current state of knowledge, I currently don’t feel like this is a major consideration in either direction.": "Чи є чистий ефект на суспільну епістеміку позитивним чи негативним? Наразі я почуваюся дуже невпевнено. З одного боку, широке розгортання ШІ людського рівня збільшить доступ до інформації, подібно до інтернету. З іншого боку, хоча інтернет однозначно корисний для деяких людей, незрозуміло, чи середній ефект на суспільну епістеміку хороший чи поганий. Тут потрібно більше досліджень; який план ми фактично рекомендуватимемо на той момент, значною мірою залежатиме від нашої найкращої здогадки щодо епістемічних ефектів широкого розгортання ШІ. За нашого поточного стану знань я наразі не відчуваю, що це серйозний фактор в той чи інший бік.", "Does broad deployment meaningfully increase the difficulty of AI control? I think probably not, because the main risks of AI takeover route through rogue internal deployments and recursive self improvement. The case for broad deployment increasing risks is that it may lead to AIs having affordances that might be helpful for takeover, especially (i) a large robot workforce and manufacturing base, (ii) control over robot armies, (iii) access to biology labs, and (iv) regular contact with a broad range of humans. I think that these risks are likely mitigatable through a combination of monitoring AI behaviour, limiting access to the most dangerous physical infrastructure (e.g. biolabs), preventing any one AI system from having control of a large fraction of the physical resources, and preventing collusion between different AI systems. However, I do think that it’s plausible that broad deployment makes control much harder. Hopefully this can be handled via limiting AI deployment in a particular domain of concern, but it may in practice limit deployment across many domains.": "Чи суттєво посилює широке розгортання складність контролю ШІ? Гадаю, ймовірно, ні, бо основні ризики захоплення влади ШІ йдуть через внутрішні розгортання-порушники та рекурсивне самовдосконалення. Аргумент на користь того, що широке розгортання підвищує ризики, полягає в тому, що воно може дати ШІ можливості, корисні для захоплення влади, зокрема (i) велика робоча сила роботів і виробнича база, (ii) контроль над арміями роботів, (iii) доступ до біологічних лабораторій, та (iv) регулярний контакт з широким колом людей. Я вважаю, що ці ризики, ймовірно, можна пом'якшити поєднанням моніторингу поведінки ШІ, обмеження доступу до найнебезпечнішої фізичної інфраструктури (наприклад, біолабораторій), запобігання тому, щоб будь-яка одна ШІ-система контролювала велику частку фізичних ресурсів, та запобігання змові між різними ШІ-системами. Утім, я справді вважаю правдоподібним, що широке розгортання значно ускладнює контроль. Сподіваюся, це можна вирішити через обмеження розгортання ШІ в конкретній проблемній сфері, але на практиці це може обмежити розгортання в багатьох сферах.", "How high are misuse risks from broadly deployed closed-source models? My inclination is that these risks are reasonably low, because (1) I’m optimistic about adversarial robustness in a regime like Plan A, where you are slowing down substantially in order to improve safety, and you have the capacity to run lots of monitoring, and (2) even if it’s possible to jailbreak widely deployed AI models, I think that the defensive measures put into place will be sufficient for preventing existential catastrophes from misuse risk. However, it is plausible that both of these assumptions fail (either because of intrinsically high difficulty or incompetent execution), in which case, we would be incurring serious misuse risk from broadly deployed models.": "Наскільки високі ризики зловживань від широко розгорнутих моделей із закритим кодом? Моя схильність — вважати ці ризики достатньо низькими, бо (1) я оптимістично налаштований щодо стійкості до змагальних атак у режимі на кшталт Плану А, де відбувається суттєве сповільнення заради покращення безпеки, і є спроможність вести великий обсяг моніторингу, і (2) навіть якщо можливо здійснити джейлбрейк широко розгорнутих ШІ-моделей, я вважаю, що впроваджені захисні заходи будуть достатніми для запобігання екзистенційним катастрофам через ризик зловживань. Утім, правдоподібно, що обидва ці припущення виявляться хибними (через внутрішньо високу складність або некомпетентне виконання), і в такому разі ми нестимемо серйозний ризик зловживань від широко розгорнутих моделей.", "If we’re not broadly deploying AI through society, the main alternative is to be developing AI inside closed projects. This incurs additional risks. Whatever closed off group of people that are managing the intelligence explosion without contact with the rest of the world will have a huge amount of power over the future. For an extreme case, the closed project might literally be developing AI in secret, without notifying the rest of the world, as described in ": "Якщо ми не розгортаємо ШІ широко в суспільстві, головна альтернатива — розробляти ШІ в межах закритих проєктів. Це несе додаткові ризики. Будь-яка закрита група людей, яка керує вибухом інтелекту без контакту з рештою світу, матиме величезну владу над майбутнім. У крайньому випадку закритий проєкт може буквально розробляти ШІ таємно, не повідомляючи решту світу, як описано в ", "If we’re not broadly deploying AI through society, the main alternative is to be developing AI inside closed projects. This incurs additional risks. Whatever closed off group of people that are managing the intelligence explosion without contact with the rest of the world will have a huge amount of power over the future. For an extreme case, the closed project might literally be developing AI in secret, without notifying the rest of the world, as described in": "Якщо ми не розгортаємо ШІ широко в суспільстві, головна альтернатива — розробляти ШІ в межах закритих проєктів. Це несе додаткові ризики. Будь-яка закрита група людей, яка керує вибухом інтелекту без контакту з рештою світу, матиме величезну владу над майбутнім. У крайньому випадку закритий проєкт може буквально розробляти ШІ таємно, не повідомляючи решту світу, як описано в", "Training AGI in Secret would be Unsafe and Unethical": "Training AGI in Secret would be Unsafe and Unethical", ". A secret intelligence explosion would be bad for misalignment risk, because far fewer people would know and understand what’s going on, and be able to give input on the alignment techniques, and would be bad for the distribution of power, because powerseeking individuals might be able to seize control of the AGI project, and build ASI aligned with their values (as opposed to humanity more broadly)": ". Таємний вибух інтелекту був би поганим з погляду ризику неузгодженості, бо набагато менше людей знали й розуміли б, що відбувається, і могли б робити внесок у техніки узгодження, і був би поганим з погляду розподілу влади, бо особи, що прагнуть влади, могли б захопити контроль над проєктом AGI та створити ASI, узгоджений з їхніми цінностями (а не з людством загалом)", "A better proposal for avoiding broad deployment is to do local deployment, but maximize transparency: publish evaluation results, publish demos of AIs doing very impressive things, publish the AI-generated research (on non-AI domains), publish the model spec, etc. This is far better than a secret intelligence explosion. However, it seems likely that if this is happening, humanity will be still largely in the dark about what’s going on, because to normal people, without AI impacting their day to day life, it’ll seem like some far-away science project that people like to talk about—it’ll be in far mode, not near mode. Therefore, it seems likely that broad deployment of AI will improve epistemics around AI in particular, which seems positive.": "Краща пропозиція для уникнення широкого розгортання — здійснювати локальне розгортання, але максимізувати прозорість: публікувати результати оцінювання, публікувати демонстрації того, як ШІ роблять справді вражаючі речі, публікувати згенеровані ШІ дослідження (у сферах, не пов'язаних з ШІ), публікувати специфікацію моделі тощо. Це набагато краще, ніж таємний вибух інтелекту. Утім, схоже, що якби це відбувалося, людство все одно значною мірою залишалося б у невіданні щодо того, що відбувається, бо для звичайних людей, чиє повсякденне життя ШІ не зачіпає, це видаватиметься якимось далеким науковим проєктом, про який люблять говорити — це буде в «далекому режимі», а не в «близькому». Тому схоже, що широке розгортання ШІ покращить епістеміку саме навколо ШІ, що виглядає позитивно.", "Appendix: How plausible and how desirable are our key policies?": "Додаток: наскільки правдоподібні й наскільки бажані наші ключові політики?", "Plan A is neither a pure recommendation nor a pure prediction. A pure recommendation in which every actor makes maximally responsible moves starting tomorrow would have been too implausible. And we already wrote a pure prediction scenario—that’s AI 2027. So we chose to make Plan A a compromise between plausibility and desirability.": "План А — це не суто рекомендація і не суто прогноз. Суто рекомендація, за якої кожен актор з завтрашнього дня робить максимально відповідальні кроки, була б надто неправдоподібною. А суто прогнозний сценарій ми вже написали — це AI 2027. Тож ми обрали зробити План А компромісом між правдоподібністю й бажаністю.", "The interactive graph below shows roughly where each of the scenario’s policies sits on these two dimensions. Plausibility is judged at the point in the scenario when the policy is adopted, conditional on everything that has happened up to then. It does not represent how likely the policy is to happen starting from today’s world. For instance, “Pause at top human level” is rated highly plausible not because we think a pause is highly likely from where we stand in 2026, but because in a world where the deal has held for years and control-based safety cases are visibly reaching their limits, we expect decisionmakers to choose something like it. Desirability measures how much better we currently expect a policy to be than the most plausible alternative at that same point in the scenario. It is not a ranking of which policies we’re most keen to see adopted today. A low score can mean that our recommendation is subject to lots of unpredictable empirical updates or that alternative policies look about as good to us as our recommendation.": "Інтерактивний графік нижче приблизно показує, де кожна політика сценарію розташована за цими двома вимірами. Правдоподібність оцінюється в той момент сценарію, коли політику ухвалюють, за умови всього, що сталося до того. Вона не відображає, наскільки ймовірно, що політика реалізується, якщо рахувати від сьогоднішнього світу. Наприклад, «Пауза на рівні топ-людини» отримує оцінку високої правдоподібності не тому, що ми вважаємо паузу дуже ймовірною з нашої позиції в 2026 році, а тому, що у світі, де угода трималася роками, а кейси безпеки на основі контролю очевидно наближаються до своїх меж, ми очікуємо, що особи, які ухвалюють рішення, оберуть щось подібне. Бажаність вимірює, наскільки кращою ми наразі очікуємо політику порівняно з найправдоподібнішою альтернативою в той самий момент сценарію. Це не рейтинг того, які політики нам найбільше хочеться бачити ухваленими сьогодні. Низька оцінка може означати, що наша рекомендація піддається численним непередбачуваним емпіричним оновленням, або що альтернативні політики виглядають для нас приблизно так само хорошими, як і наша рекомендація.", "Click on a policy to read more.": "Натисніть на політику, щоб дізнатися більше.", "Plausibility at time of adoption": "Правдоподібність на момент ухвалення", "Relative desirability": "Відносна бажаність", "Pre-deal lab": "Прозорість лабораторій", "transparency": "прозорості", "Pre-deal export": "Забезпечення", "Pre-deal": "Інвестиції в", "verification R&D": "R&D верифікації", "investment": "до угоди", "Pre-deal limiting": "Обмеження бюджетів", "of AI R&D budgets": "AI R&D до угоди", "intelligence": "збір", "gathering": "розвідданих", "Pre-deal increase": "Підвищення спроможності", "in government": "уряду щодо ШІ", "capacity on AI": "до угоди", "Pause a bit below": "Пауза трохи нижче", "Total research": "Повна дослідницька", "Citizen’s Dividend": "Громадянський дивіденд", "Diffuse AI broadly": "Широко розповсюдити ШІ", "Mutually assured": "Взаємно гарантоване", "destruction": "потужностей", "Time the deal to": "Розрахувати початок угоди", "start a year": "за рік до", "before Automated": "Автоматизованого", "Coder": "програміста", "Do a deal that": "Укласти угоду, що", "slows down AI": "сповільнює ШІ", "Click a point to read the policy’s explanation.": "Натисніть на точку, щоб прочитати пояснення політики.", "Policy plausibility vs. desirability": "Правдоподібність політики проти бажаності", "Why isn’t this scenario purely a prediction? We already did that: read AI 2027. Why isn’t this scenario purely a recommendation? If we completely abandoned realism, the output would be useless because it was so unrealistic.": "Чому цей сценарій не є суто прогнозом? Ми вже це зробили: читайте AI 2027. Чому цей сценарій не є суто рекомендацією? Якби ми повністю відмовилися від реалізму, результат був би марним через свою повну нереалістичність.", "This is in scare quotes because, as our scenario illustrates, even if we do a well-enforced international deal to limit the pace of AI progress, the overall pace of AI progress will be extremely fast compared to what most people are expecting and used to. For more on why we think this, you can view our models of AI progress (the ": "Це в лапках, бо, як показує наш сценарій, навіть якщо укласти добре забезпечувану міжнародну угоду про обмеження темпів прогресу ШІ, загальний темп прогресу ШІ все одно буде надзвичайно швидким порівняно з тим, чого очікує й до чого звикла більшість людей. Детальніше про те, чому ми так вважаємо, можна переглянути наші моделі прогресу ШІ (", "This is in scare quotes because, as our scenario illustrates, even if we do a well-enforced international deal to limit the pace of AI progress, the overall pace of AI progress will be extremely fast compared to what most people are expecting and used to. For more on why we think this, you can view our models of AI progress (the": "Це в лапках, бо, як показує наш сценарій, навіть якщо укласти добре забезпечувану міжнародну угоду про обмеження темпів прогресу ШІ, загальний темп прогресу ШІ все одно буде надзвичайно швидким порівняно з тим, чого очікує й до чого звикла більшість людей. Детальніше про те, чому ми так вважаємо, можна переглянути наші моделі прогресу ШІ (", ") and of AI economic impacts (": ") та економічних наслідків ШІ (", "Economics of Plan A supplement": "додаток про економіку Плану А", "), as well as numerous blog posts and of course ": "), а також численні дописи в блозі і, звісно, ", "), as well as numerous blog posts and of course": "), а також численні дописи в блозі і, звісно,", "AGI = Artificial General Intelligence, or, AIs that have a similar amount of general intelligence to humans. Our actual thinking uses more precise concepts which you can read about in the ": "AGI = Artificial General Intelligence (загальний штучний інтелект), тобто ШІ з рівнем загального інтелекту, подібним до людського. Наше фактичне мислення використовує точніші поняття, про які можна прочитати в ", "AGI = Artificial General Intelligence, or, AIs that have a similar amount of general intelligence to humans. Our actual thinking uses more precise concepts which you can read about in the": "AGI = Artificial General Intelligence (загальний штучний інтелект), тобто ШІ з рівнем загального інтелекту, подібним до людського. Наше фактичне мислення використовує точніші поняття, про які можна прочитати в", ". Concepts like AC, SAR, TED-AI. However, we find “AGI” to be a handy shorthand for some vague combo of the above milestones, because we expect those milestones to arrive within a few years of each other or less. So when we say ‘AGI’, understand that we are gesturing at milestones such as the above, and being deliberately nonspecific because the context doesn’t require precision": ". Такі поняття, як AC, SAR, TED-AI. Утім, ми вважаємо «AGI» зручним скороченням для якоїсь розмитої комбінації наведених вище віх, бо очікуємо, що ці віхи настануть у межах кількох років одна від одної, а то й швидше. Тож коли ми кажемо «AGI», розумійте це як вказівку на подібні до наведених вище віхи, навмисно неточну, бо контекст не вимагає точності", "Eli’s timelines are similar to mine, but his takeoff would be about two times slower.": "Часові горизонти Eli подібні до моїх, але його зліт був би приблизно вдвічі повільнішим.", "Note: some people use takeoff speeds to refer to the period after TEDAI, it’s an ambiguous term, but for the purposes of this document, I’ll use the definition given here: the length of time between AC and TED AI.": "Примітка: деякі люди використовують «швидкість зльоту» для позначення періоду після TEDAI — це неоднозначний термін, але для цілей цього документа я використовуватиму наведене тут визначення: тривалість часу між AC і TED AI.", "To illustrate, suppose that the length of time between AC and TEDAI is one month. Even if we can (optimistically) use compute governance to slow down rogue projects with ACs by 20x, you still only have 2 years until the rogue projects have TEDAI, which is a smaller window than Plan A assumes.": "Для ілюстрації припустимо, що тривалість часу між AC і TEDAI становить один місяць. Навіть якщо ми (оптимістично) можемо використати врядування обчислювальними потужностями, щоб сповільнити проєкти-порушники з AC у 20 разів, у нас все одно лише 2 роки до появи TEDAI в проєктів-порушників, а це коротше вікно, ніж припускає План А.", "This reasoning is given in the ": "Це міркування наведено в ", "This reasoning is given in the": "Це міркування наведено в", "datacenter buildout": "розбудові дата-центрів", " section below.": " розділі нижче.", "section below.": "розділі нижче.", "Note that covert projects doing an intelligence explosion is only one of the reasons to be worried about them, there’s also the risk of them directly obtaining a decisive strategic advantage; so it would still be risky if they were, e.g., able to train a top expert level AI.": "Зауважте, що здатність таємних проєктів здійснити вибух інтелекту — лише одна з причин про них турбуватися; є також ризик того, що вони безпосередньо отримають вирішальну стратегічну перевагу; тож це все одно було б ризиковано, якби вони, наприклад, змогли натренувати ШІ рівня топ-експерта.", "As well as various aspects of takeoff besides speed, notably the possibility of fast progress on a small, fixed, amount of hardware.": "А також різні аспекти зльоту, окрім швидкості, зокрема можливість швидкого прогресу на малому, фіксованому обсязі апаратного забезпечення.", "There’s a good chance that empirical feedback will be highly ambiguous, but overall I’m optimistic that if there’s a long period with broad access to experiment on roughly human level AIs, then we will surface a huge amount of evidence related to the difficulty of alignment. Given the current (poor) epistemic environment, I don’t think this evidence will be sufficient for broad scientific consensus (until we have a good fundamental understanding of AI), but I personally expect to learn a lot and change my mind in substantive ways.": "Є непоганий шанс, що емпіричний зворотний зв'язок буде вкрай неоднозначним, але загалом я оптимістично налаштований, що якщо буде тривалий період широкого доступу до експериментів з ШІ приблизно людського рівня, ми виявимо величезну кількість доказів щодо складності узгодження. З огляду на поточне (слабке) епістемічне середовище, я не думаю, що цих доказів вистачить для широкого наукового консенсусу (доки в нас не буде хорошого фундаментального розуміння ШІ), але особисто я очікую багато чого навчитися й суттєво змінити свою думку.", "Note that pre-deal compute matters a lot because it seems probable that post-deal compute will be effectively monitored, because (1) there are very few extremely expensive fabs which can build the relevant chips, all of which can be directly monitored with auditors, and (2) it is intractable to build illicit fabs.": "Зауважте, що обчислювальні потужності до укладення угоди мають велике значення, бо видається імовірним, що обчислювальні потужності після угоди будуть ефективно моніторитися, оскільки (1) є дуже мало надзвичайно дорогих фабрик, здатних виробляти відповідні чипи, і всі вони можуть безпосередньо моніторитися аудиторами, і (2) побудувати нелегальні фабрики практично неможливо.", "Specifically, security to China, because China is probably the best placed actor to run a covert project.": "Зокрема, безпека щодо Китаю, бо Китай, імовірно, найкраще розташований актор для ведення таємного проєкту.", "For example, we might need to do things like move all humans into bunkers that are robust to nanotechnology (friendly nanotech is defending), mirror life (no air is allowed to enter), and superpersuasion (all information coming in is mediated by friendly AIs, who screen out superpersuasive content).": "Наприклад, нам, можливо, доведеться робити такі речі, як переселення всіх людей у бункери, стійкі до нанотехнологій (дружні нанотехнології обороняють), дзеркального життя (жодне повітря не допускається всередину) та надпереконання (уся вхідна інформація опосередковується дружніми ШІ, які відсіюють надпереконливий контент).", "Thanks to the transparency of AI development to other companies, many governments, and the public, there are some failsafes in place for governments making poor decisions about safety techniques.": "Завдяки прозорості розробки ШІ для інших компаній, багатьох урядів і громадськості, існують певні запобіжники на випадок, якщо уряди ухвалять погані рішення щодо технік безпеки.", "Probably covert projects are somewhat of a concern, but it’s very unclear, and depends centrally on when international coordination to slowdown starts—the later a deal happens, the higher the risk of defection because (1) we’re closer to superintelligence, and (2) the smaller the personnel footprint is because the AIs can do a larger fraction of the tasks involved in running a covert project.": "Ймовірно, таємні проєкти певною мірою є проблемою, але це дуже неясно і центрально залежить від того, коли починається міжнародна координація щодо сповільнення — чим пізніше настає угода, тим вищий ризик порушення, бо (1) ми ближче до суперінтелекту, і (2) менший кадровий слід, бо ШІ можуть виконувати більшу частку завдань, пов'язаних з веденням таємного проєкту.", "If algorithmic efficiency improves at ~40x per year, then the number of years of progress ": "Якщо алгоритмічна ефективність покращується приблизно у 40 разів на рік, тоді кількість років прогресу, ", "If algorithmic efficiency improves at ~40x per year, then the number of years of progress": "Якщо алгоритмічна ефективність покращується приблизно у 40 разів на рік, тоді кількість років прогресу,", " lost by a 10x compute reduction is log_40(10) = .624 years = ~7.5 months.": " втрачених через 10-кратне скорочення обчислювальних потужностей, становить log_40(10) = .624 року = ~7.5 місяця.", "lost by a 10x compute reduction is log_40(10) = .624 years = ~7.5 months.": "втрачених через 10-кратне скорочення обчислювальних потужностей, становить log_40(10) = .624 року = ~7.5 місяця.", "This appendix was written by Miles Kodama.": "Цей додаток написав Miles Kodama.", "Plan A security summary": "Підсумок безпеки Плану А", "Model weights security": "Безпека ваг моделі", "Plan A implementation": "Реалізація Плану А", "Verification integrity": "Цілісність верифікації", "Algorithmic security": "Алгоритмічна безпека", "Plan A: Total Research Transparency": "План А: Повна дослідницька прозорість", "Security is an area where expertise and access to classified information is particularly important for having an informed opinion. Nonetheless, this supplement provides a high-level overview of the security needed in Plan A in our best understanding, and why we think it is tractable.": "Безпека — це сфера, де експертиза й доступ до засекреченої інформації особливо важливі для формування обґрунтованої думки. Тим не менш, цей додаток надає огляд високого рівня безпеки, необхідної в Плані А, за нашим найкращим розумінням, і пояснює, чому ми вважаємо це здійсненним.", "We think it useful to think about three types of security, in increasing levels of difficulty from our point of view:": "Ми вважаємо корисним розглядати три типи безпеки, у порядку зростання складності з нашого погляду:", "Model weights security:": "Безпека ваг моделі:", " Defending the exfiltration of model weights, and other large datasets.": " Захист від ексфільтрації ваг моделі та інших великих наборів даних.", "Defending the exfiltration of model weights, and other large datasets.": "Захист від ексфільтрації ваг моделі та інших великих наборів даних.", "Metric we care about: Exfiltration bandwidth. I.e., how much can the attacker steal in a given amount of time?": "Метрика, яка нас цікавить: пропускна здатність ексфільтрації. Тобто скільки може вкрасти зловмисник за заданий проміжок часу?", "Verification integrity security:": "Безпека цілісності верифікації:", " Can we trust the results of our verification measures?": " Чи можемо ми довіряти результатам наших заходів верифікації?", "Can we trust the results of our verification measures?": "Чи можемо ми довіряти результатам наших заходів верифікації?", "Metric we care about: Assurance level (the confidence-coverage curve explained in the verification supplement). I.e., how confident are we that the maximum unverified compute usage was less than X% (for values of X between 0 and 100%).": "Метрика, яка нас цікавить: рівень впевненості (крива впевненість-покриття, пояснена в додатку про верифікацію). Тобто наскільки ми впевнені, що максимальне використання неверифікованих обчислювальних потужностей було меншим за X% (для значень X від 0 до 100%).", "Algorithmic confidentiality:": "Алгоритмічна конфіденційність:", " Defending the exfiltration of code, algorithmic secrets, and anything else that doesn’t classify as ‘large datasets’.": " Захист від ексфільтрації коду, алгоритмічних секретів та всього іншого, що не класифікується як «великі набори даних».", "Defending the exfiltration of code, algorithmic secrets, and anything else that doesn’t classify as ‘large datasets’.": "Захист від ексфільтрації коду, алгоритмічних секретів та всього іншого, що не класифікується як «великі набори даних».", "Metric we care about: We are unsure. On the one hand, we could think about algorithmic security in terms of exfiltration bandwidth as well, but algorithmic secrets might be tiny and have an unpredictable mapping from data size to usefulness. Therefore it’s probably best to think about the percentage of algorithmic efficiency that is exfiltrated and usable by the attacker.": "Метрика, яка нас цікавить: ми не впевнені. З одного боку, можна було б розглядати алгоритмічну безпеку теж у термінах пропускної здатності ексфільтрації, але алгоритмічні секрети можуть бути крихітними і мати непередбачуване співвідношення між розміром даних і корисністю. Тому, ймовірно, найкраще розглядати відсоток алгоритмічної ефективності, який ексфільтровано і придатний до використання зловмисником.", "Throughout this supplement, we assume an ": "У цьому додатку ми всюди припускаємо ", "Throughout this supplement, we assume an": "У цьому додатку ми всюди припускаємо", "OC5 attacker": "зловмисника рівня OC5", " per RAND’s definition, because in Plan A the US and China will be worried about each other being potential attackers.": " за визначенням RAND, бо в Плані А США і Китай турбуватимуться один про одного як про потенційних зловмисників.", "per RAND’s definition, because in Plan A the US and China will be worried about each other being potential attackers.": "за визначенням RAND, бо в Плані А США і Китай турбуватимуться один про одного як про потенційних зловмисників.", "In our scenario, we assume that SL5 security for model weights and to detect verification tampering is ": "У нашому сценарії ми припускаємо, що безпека рівня SL5 для ваг моделі та для виявлення втручання в верифікацію є ", "In our scenario, we assume that SL5 security for model weights and to detect verification tampering is": "У нашому сценарії ми припускаємо, що безпека рівня SL5 для ваг моделі та для виявлення втручання в верифікацію є", "viable with extreme effort; this is our low confidence best guess. It may turn out to be impossible": "здійсненною за надзвичайних зусиль; це наша найкраща здогадка з низькою впевненістю. Може виявитися, що це неможливо", ", in which case Plan A would need to be modified, which we discuss ": ", і в такому разі План А довелося б модифікувати, що ми обговорюємо ", ", in which case Plan A would need to be modified, which we discuss": ", і в такому разі План А довелося б модифікувати, що ми обговорюємо", "The security level desirable in Plan A is as follows:": "Бажаний рівень безпеки в Плані А такий:", "Model Weights": "Ваги моделі", "Algorithmic Secrets": "Алгоритмічні секрети", "Verification": "Верифікація", "Inference Datacenters": "Дата-центри інференсу", "SL5-100TB-5y": "SL5-100TB-5y", "(Maximum exfiltration of 100TB over 5y)": "(Максимальна ексфільтрація 100ТБ за 5 років)", "SL5": "SL5", "(increasing assurance over time as compute scales)": "(зростаюча впевненість з часом у міру масштабування обчислювальних потужностей)", "R&D Datacenters": "Дата-центри R&D", "Depends on the transparency regime. In Total Research Transparency, most are intentionally transparent, small fraction SL5.": "Залежить від режиму прозорості. За Повної дослідницької прозорості більшість навмисно прозорі, невелика частка — SL5.", "(increasing assurance over time with compute scale)": "(зростаюча впевненість з часом у міру масштабу обчислювальних потужностей)", "Goal: We think the goal for model weights security in Plan A requires that frontier model weights (and similarly large important datasets) cannot be exfiltrated and used by potential adversaries and/or covert projects.": "Мета: ми вважаємо, що мета безпеки ваг моделі в Плані А вимагає, щоб ваги передових моделей (і подібні за розміром важливі набори даних) не могли бути ексфільтровані й використані потенційними супротивниками та/або таємними проєктами.", "Concretely, we think the goal should be to defend against around 100TB of exfiltration over 5 years. Which we define as: weights security level 5, for 100TB over 5 years, or SL5-100TB-5y for short. We don’t think this will be trivial, but we do think it is highly tractable.": "Конкретно, ми вважаємо, що метою має бути захист від ексфільтрації приблизно 100ТБ за 5 років. Що ми визначаємо як: рівень безпеки ваг 5, для 100ТБ за 5 років, або скорочено SL5-100TB-5y. Ми не думаємо, що це буде тривіально, але вважаємо це вкрай здійсненним.", "The following figure shows the size we expect frontier models to be in Plan A (and we also expect other datasets to be of similar magnitude, since data and parameters should continue to trade off with each other in compute optimal scaling).": "На наступному рисунку показано розмір, якого, як ми очікуємо, набудуть передові моделі в Плані А (і ми також очікуємо, що інші набори даних матимуть подібний масштаб, оскільки дані й параметри мають продовжувати компенсувати одне одного за оптимального за обчисленнями масштабування).", "inference data centers": "інференс-дата-центри", " have SL-5 model weights security via defenses including:": " мають безпеку ваг моделі рівня SL-5 завдяки, серед іншого, таким заходам захисту:", "have SL-5 model weights security via defenses including:": "мають безпеку ваг моделі рівня SL-5 завдяки, серед іншого, таким заходам захисту:", "They are surrounded by an information boundary, which is the datacenter walls, including a copper box (a faraday cage) preventing signals from coming in or out, except for one cable in and out of the datacenter, and a secure exchange chamber for other things that need to cross the perimeter.": "Вони оточені інформаційним периметром — стінами дата-центру, включно з мідним боксом (кліткою Фарадея), що запобігає проходженню сигналів усередину чи назовні, за винятком одного кабелю входу-виходу з дата-центру та захищеної камери обміну для інших речей, яким потрібно перетнути периметр.", "For the output cable (which needs to exist, in order to communicate with the outside world), we make sure that the only information coming out of that wire is verified tokens produced by whitelisted models. You can read more in our ": "Щодо вихідного кабелю (який має існувати, щоб спілкуватися із зовнішнім світом), ми гарантуємо, що єдина інформація, яка виходить через цей провід, — це верифіковані токени, згенеровані моделями з білого списку. Детальніше можна прочитати в нашому ", "For the output cable (which needs to exist, in order to communicate with the outside world), we make sure that the only information coming out of that wire is verified tokens produced by whitelisted models. You can read more in our": "Щодо вихідного кабелю (який має існувати, щоб спілкуватися із зовнішнім світом), ми гарантуємо, що єдина інформація, яка виходить через цей провід, — це верифіковані токени, згенеровані моделями з білого списку. Детальніше можна прочитати в нашому", ". This is also similar to the proposal in ": ". Це також подібно до пропозиції в ", ". This is also similar to the proposal in": ". Це також подібно до пропозиції в", "For the other things that need to cross the boundary, power in, heat out, people in and out, we have further side channel mitigations and total bandwidth capping.": "Для інших речей, яким потрібно перетнути периметр — подача живлення, відведення тепла, вхід і вихід людей — у нас є додаткові заходи пом'якшення побічних каналів і обмеження загальної пропускної здатності.", "R&D datacenters": "R&D дата-центри", " have two deliberate channels that allow information to leave the datacenter: (1) physically sending model weights to the inference datacenters, and (2) the fully transparent output channel used by researchers and for queries.": " мають два навмисних канали, що дозволяють інформації покидати дата-центр: (1) фізичне надсилання ваг моделі до інференс-дата-центрів, і (2) повністю прозорий вихідний канал, що використовується дослідниками та для запитів.", "have two deliberate channels that allow information to leave the datacenter: (1) physically sending model weights to the inference datacenters, and (2) the fully transparent output channel used by researchers and for queries.": "мають два навмисних канали, що дозволяють інформації покидати дата-центр: (1) фізичне надсилання ваг моделі до інференс-дата-центрів, і (2) повністю прозорий вихідний канал, що використовується дослідниками та для запитів.", "The transportation of the model weights to the inference datacenters.": "Транспортування ваг моделі до інференс-дата-центрів.", " When a model is approved for public deployment,": " Коли модель схвалено для публічного розгортання,", "When a model is approved for public deployment,": "Коли модель схвалено для публічного розгортання,", " a package including the weights file, and any approved inference code (e.g., control scaffolds) gets downloaded on devices encrypted (sequentially) by both the US and China and physically escorted by both sides to inference clusters.": " пакет, що включає файл ваг та будь-який схвалений код інференсу (наприклад, скафолди контролю), завантажується на пристрої, послідовно зашифровані і США, і Китаєм, та фізично супроводжується обома сторонами до інференс-кластерів.", "a package including the weights file, and any approved inference code (e.g., control scaffolds) gets downloaded on devices encrypted (sequentially) by both the US and China and physically escorted by both sides to inference clusters.": "пакет, що включає файл ваг та будь-який схвалений код інференсу (наприклад, скафолди контролю), завантажується на пристрої, послідовно зашифровані і США, і Китаєм, та фізично супроводжується обома сторонами до інференс-кластерів.", " At the inference clusters, they are added to the inference whitelist to allow for inference verification on public deployment.": " В інференс-кластерах їх додають до білого списку інференсу, щоб уможливити верифікацію інференсу під час публічного розгортання.", "At the inference clusters, they are added to the inference whitelist to allow for inference verification on public deployment.": "В інференс-кластерах їх додають до білого списку інференсу, щоб уможливити верифікацію інференсу під час публічного розгортання.", "The transparent output channel": "Прозорий вихідний канал", " caps the total bandwidth coming off the datacenter at 1 MB/s, which means that over a 5 year period, 157 TB leave the datacenter.": " обмежує загальну пропускну здатність, що виходить з дата-центру, на рівні 1 МБ/с, а це означає, що за 5-річний період з дата-центру виходить 157 ТБ.", "caps the total bandwidth coming off the datacenter at 1 MB/s, which means that over a 5 year period, 157 TB leave the datacenter.": "обмежує загальну пропускну здатність, що виходить з дата-центру, на рівні 1 МБ/с, а це означає, що за 5-річний період з дата-центру виходить 157 ТБ.", " This is enough to let 50,000 people continuously read outputs at around 10 tokens / second (which might have thousands of corresponding internal chain of thought / scaffold tokens that don’t need to be outputted). Model weights of a current frontier model are currently on the order of 1T parameters (which corresponds to 1TB)": " Цього достатньо, щоб дозволити 50 000 людей безперервно читати результати зі швидкістю близько 10 токенів/с (яким можуть відповідати тисячі внутрішніх токенів ланцюжка міркувань/скафолда, які не потрібно виводити назовні). Ваги моделі поточної передової моделі наразі мають порядок 1Т параметрів (що відповідає 1ТБ)", "This is enough to let 50,000 people continuously read outputs at around 10 tokens / second (which might have thousands of corresponding internal chain of thought / scaffold tokens that don’t need to be outputted). Model weights of a current frontier model are currently on the order of 1T parameters (which corresponds to 1TB)": "Цього достатньо, щоб дозволити 50 000 людей безперервно читати результати зі швидкістю близько 10 токенів/с (яким можуть відповідати тисячі внутрішніх токенів ланцюжка міркувань/скафолда, які не потрібно виводити назовні). Ваги моделі поточної передової моделі наразі мають порядок 1Т параметрів (що відповідає 1ТБ)", ", so exfiltrating model weights via this channel would require hijacking .6% of the (fully transparent) output channel continuously for 5 years (or a larger fraction for a smaller duration of time), which would very likely be noticed. In Plan A, with compute scaling favoured over algorithmic progress, we expect the model weights of frontier models to become closer to 100T parameters, so a full exfiltration would require a continuous 60% of the output bandwidth for 5 years,": ", тож ексфільтрація ваг моделі через цей канал вимагала б захоплення 0.6% (повністю прозорого) вихідного каналу безперервно протягом 5 років (або більшої частки за коротший час), що з дуже високою ймовірністю було б помічено. У Плані А, де масштабування обчислювальних потужностей переважає над алгоритмічним прогресом, ми очікуємо, що ваги передових моделей наблизяться до 100Т параметрів, тож повна ексфільтрація вимагала б безперервних 60% вихідної пропускної здатності протягом 5 років,", " ignoring compressibility which shouldn’t be a huge factor.": " не враховуючи стисливість, яка не має бути значним фактором.", "ignoring compressibility which shouldn’t be a huge factor.": "не враховуючи стисливість, яка не має бути значним фактором.", " There are additional layers of defense against model weight exfiltration within the datacenter: notably, we attempt to keep model weights on the opaque internal database.": " Усередині дата-центру є додаткові рівні захисту від ексфільтрації ваг моделі: зокрема, ми намагаємося зберігати ваги моделі в непрозорій внутрішній базі даних.", "There are additional layers of defense against model weight exfiltration within the datacenter: notably, we attempt to keep model weights on the opaque internal database.": "Усередині дата-центру є додаткові рівні захисту від ексфільтрації ваг моделі: зокрема, ми намагаємося зберігати ваги моделі в непрозорій внутрішній базі даних.", "The remaining threat models involve side channel attacks (such as staff members carrying small flash drives), and we don’t have a creative solution here: access to all of the data centers is tightly controlled, and well-funded, creative security teams are constantly red teaming and hardening the facilities. It also helps that the datacenters in Plan A are built from scratch in areas with low background radiofrequency (RF) noise with security top of mind.": "Решта моделей загроз стосуються атак через побічні канали (наприклад, коли співробітники виносять маленькі флеш-накопичувачі), і тут у нас немає креативного рішення: доступ до всіх дата-центрів жорстко контролюється, а добре фінансовані, креативні команди безпеки постійно проводять red teaming і зміцнюють об'єкти. Також допомагає те, що дата-центри в Плані А будуються з нуля в зонах з низьким фоновим радіочастотним (РЧ) шумом з безпекою як пріоритетом від самого початку.", "Finally, the model weights also need to be regularly transported between the R&D datacenters (where they are trained) and the inference datacenters. We imagine that this could happen by transporting the model weights using several physical storage devices that are locked and continuously monitored by representatives of both the US and China for the entire duration of the transportation.": "Нарешті, ваги моделі також потрібно регулярно перевозити між R&D дата-центрами (де їх тренують) та інференс-дата-центрами. Ми уявляємо, що це може відбуватися шляхом перевезення ваг моделі за допомогою кількох фізичних накопичувачів, які замкнені й безперервно моніторяться представниками і США, і Китаю протягом усього часу перевезення.", "Goal: The goal for verification integrity should be to achieve a desirable assurance curve: The assurance curve captures information about the level of ": "Мета: метою для цілісності верифікації має бути досягнення бажаної кривої впевненості: крива впевненості охоплює інформацію про рівень ", "Goal: The goal for verification integrity should be to achieve a desirable assurance curve: The assurance curve captures information about the level of": "Мета: метою для цілісності верифікації має бути досягнення бажаної кривої впевненості: крива впевненості охоплює інформацію про рівень", "coverage": "покриття", " (the % of the AI compute that the verification solution makes claims about) and ": " (% обчислювальних потужностей ШІ, щодо яких рішення верифікації робить твердження) і ", "(the % of the AI compute that the verification solution makes claims about) and": "(% обчислювальних потужностей ШІ, щодо яких рішення верифікації робить твердження) і", "confidence": "впевненості", " (with what probability is the verification solution correct about the claims it makes on the covered resources). We define an assurance curve as a set of relevant (coverage, confidence) values.": " (з якою ймовірністю рішення з верифікації є правильним щодо заяв, які воно робить про покриті ресурси). Ми визначаємо криву впевненості як набір відповідних значень (покриття, впевненість).", "(with what probability is the verification solution correct about the claims it makes on the covered resources). We define an assurance curve as a set of relevant (coverage, confidence) values.": "(з якою ймовірністю рішення з верифікації є правильним щодо заяв, які воно робить про покриті ресурси). Ми визначаємо криву впевненості як набір відповідних значень (покриття, впевненість).", "For example, with the middle curve, there is 99.99% confidence that 99.9% of the compute was verified to have been used correctly. Of course, such curves are theoretical and will be hard to measure, but conceptually we think its useful to think about the verification integrity goal in terms of this curve.": "Наприклад, за середньої кривої існує 99.99% впевненість, що 99.9% обчислювальних потужностей верифіковано як використані правильно. Звісно, такі криві теоретичні й буде важко їх виміряти, але концептуально ми вважаємо корисним розглядати мету цілісності верифікації в термінах цієї кривої.", "We think that the verification integrity goal should compare the risk incurred from verification integrity subversions (i.e., internal rogue compute uses) to external ongoing risk from other sources of rogue compute usage, i.e., covert projects, and aim for the possible internal rogue compute uses to be negligible in terms of additional risk vs. the external uses. Since internal rogue compute might have access to the opaque internal information (frontier weights, datasets and potentially some defended algorithms/code depending on the transparency regime) it is potentially much riskier than an equivalent amount of external covert project compute usage. A good approximation of ‘how much riskier’ might be to consider the gap in algorithmic efficiency available inside the R&D datacenters vs. in the potential covert projects.": "Ми вважаємо, що мета цілісності верифікації має полягати в порівнянні ризику від підриву цілісності верифікації (тобто внутрішнього неправомірного використання обчислювальних потужностей) із зовнішнім поточним ризиком від інших джерел неправомірного використання обчислювальних потужностей, тобто таємних проєктів, і прагнути до того, щоб можливе внутрішнє неправомірне використання обчислювальних потужностей було незначним з погляду додаткового ризику порівняно із зовнішнім використанням. Оскільки внутрішні неправомірні обчислення можуть мати доступ до непрозорої внутрішньої інформації (передові ваги, набори даних і, можливо, деякі захищені алгоритми/код — залежно від режиму прозорості), вони потенційно набагато ризикованіші за еквівалентний обсяг зовнішнього використання обчислювальних потужностей таємного проєкту. Хорошим наближенням до того, «наскільки ризикованіші», може бути врахування розриву в алгоритмічній ефективності, доступній усередині дата-центрів R&D, порівняно з потенційними таємними проєктами.", "Concretely, we think we should take something like the 90th percentile estimate of covert project effective compute (in terms of the frontier project’s current software level, so it's scaled to be comparable to internal compute use), and then set the verification integrity target such that we are 90% confident that the coverage of internal compute usage is at the level X (e.g., X=99.999% of the internal compute) such that the potential rogue internal compute (1-X) would be 10x smaller than the covert project’s effective compute. This basically would be like saying “we are 90% confident that rogue internal deployments would be about equivalent to a 10x smaller covert project than what we think might exist.”": "Конкретно, ми вважаємо, що варто взяти щось на кшталт оцінки 90-го перцентиля ефективних обчислювальних потужностей таємного проєкту (у перерахунку на поточний рівень програмного забезпечення передового проєкту, тобто масштабовану так, щоб бути порівнянною з внутрішнім використанням обчислень), а потім встановити ціль цілісності верифікації так, щоб ми були на 90% впевнені, що охоплення внутрішнього використання обчислень перебуває на рівні X (наприклад, X=99.999% внутрішніх обчислень), таким чином, щоб потенційні неправомірні внутрішні обчислення (1-X) були в 10 разів меншими за ефективні обчислювальні потужності таємного проєкту. По суті, це означало б сказати: «ми на 90% впевнені, що неправомірні внутрішні розгортання були б приблизно еквівалентні таємному проєкту, у 10 разів меншому за той, що, на нашу думку, може існувати».", "Verification in both R&D and inference datacenters needs to be mutually trusted by the US and China, so that they are both confident only the approved training runs, experiments, and inference workloads are running. In our concrete proposal, inference and R&D verification both rely mostly on network taps for evidence collection and trusted recomputation servers for verification. In order to have durable trust in this verification solution, these devices should be mutually trusted (or alternatively, trusted ": "Верифікація як у дата-центрах R&D, так і в дата-центрах інференсу повинна мати взаємну довіру з боку США та Китаю, щоб обидві сторони були впевнені, що виконуються лише схвалені тренувальні прогони, експерименти та навантаження інференсу. У нашій конкретній пропозиції верифікація й інференсу, і R&D спирається переважно на мережеві тапи для збору доказів та довірені сервери повторних обчислень для верифікації. Щоб мати стійку довіру до цього рішення з верифікації, ці пристрої мають бути взаємно довіреними (або, як альтернатива, довіреними ", "Verification in both R&D and inference datacenters needs to be mutually trusted by the US and China, so that they are both confident only the approved training runs, experiments, and inference workloads are running. In our concrete proposal, inference and R&D verification both rely mostly on network taps for evidence collection and trusted recomputation servers for verification. In order to have durable trust in this verification solution, these devices should be mutually trusted (or alternatively, trusted": "Верифікація як у дата-центрах R&D, так і в дата-центрах інференсу повинна мати взаємну довіру з боку США та Китаю, щоб обидві сторони були впевнені, що виконуються лише схвалені тренувальні прогони, експерименти та навантаження інференсу. У нашій конкретній пропозиції верифікація й інференсу, і R&D спирається переважно на мережеві тапи для збору доказів та довірені сервери повторних обчислень для верифікації. Щоб мати стійку довіру до цього рішення з верифікації, ці пристрої мають бути взаємно довіреними (або, як альтернатива, довіреними", "optical splitters and unilaterally trusted devices": "оптичними розгалужувачами та односторонньо довіреними пристроями", "). There also needs to be physical security to check these devices don’t get tampered with or modified, and trust in the software stack they build on top of them (which probably means it should be extremely simple, and maybe even formally verified).": "). Також потрібен фізичний захист, щоб перевіряти, що ці пристрої не підроблені й не модифіковані, а також довіра до програмного стеку, побудованого на них (що, ймовірно, означає, що він має бути надзвичайно простим і, можливо, навіть формально верифікованим).", "Outside of the verification devices themselves, verification will also rely on wider security properties of the cluster that overlap with model weights security. For example, there not being side channels that could let an attacker smuggle out the results of rogue internal computations.": "Окрім самих пристроїв верифікації, верифікація також спиратиметься на ширші властивості безпеки кластера, що перетинаються з безпекою ваг моделі. Наприклад, на відсутність побічних каналів, які могли б дозволити зловмиснику непомітно вивести результати неправомірних внутрішніх обчислень.", "Over time, the verification assurance will need to improve drastically with the scale of compute. We discuss this in more detail in our ": "З часом рівень гарантій верифікації доведеться радикально підвищувати відповідно до масштабу обчислювальних потужностей. Детальніше ми обговорюємо це в нашому ", "Over time, the verification assurance will need to improve drastically with the scale of compute. We discuss this in more detail in our": "З часом рівень гарантій верифікації доведеться радикально підвищувати відповідно до масштабу обчислювальних потужностей. Детальніше ми обговорюємо це в нашому", "Goal: This depends on the transparency regime that we are aiming for, which is discussed in our ": "Мета: це залежить від режиму прозорості, до якого ми прагнемо, що обговорюється в нашому ", "Goal: This depends on the transparency regime that we are aiming for, which is discussed in our": "Мета: це залежить від режиму прозорості, до якого ми прагнемо, що обговорюється в нашому", "More concerned about": "Більше занепокоєні щодо", "poor regulation": "неякісного регулювання", "Proposal #1": "Пропозиція №1", "Proposal #2": "Пропозиція №2", "Filtered Transparency": "Фільтрована прозорість", "Proposal #3": "Пропозиція №3", "Algorithmic Security": "Алгоритмічна безпека", "Transparency proposals spectrum": "Спектр пропозицій щодо прозорості", "To a first approximation, there will no longer be any algorithmic secrets in AI under the Total Research Transparency version of Plan A. There are a few exceptions:": "У першому наближенні, за версією Плану А з Повною дослідницькою прозорістю, в ШІ більше не буде жодних алгоритмічних секретів. Є декілька винятків:", "Massive (potentially synthetic) datasets have similar properties to model weights (in particular, are very large), and so it is viable to limit their output via upload limits out of the R&D datacenter. This isn’t sufficient for preventing the exfiltration of any given data; but could prevent the exfiltration of most data. Data progress is a substantial fraction of overall algorithmic progress, and so securing data might be both tractable and important.": "Масивні (потенційно синтетичні) набори даних мають властивості, схожі на властивості ваг моделі (зокрема, вони дуже великі), тож можна обмежити їхнє виведення через ліміти на вивантаження з дата-центру R&D. Цього недостатньо, щоб запобігти ексфільтрації будь-яких конкретних даних, але це може запобігти ексфільтрації більшості даних. Прогрес у даних становить суттєву частку загального алгоритмічного прогресу, тож захист даних може бути водночас і здійсненним, і важливим.", "Hyperparameters found via computationally intensive procedures. For some hyperparameters, efficient settings for them are found via expensive procedures like sweeps over the possible values, and then tests for the training run. These values are small, but do not have to be known by any human. The code for selecting these hyperparameters can be transparent, but we can prevent anyone from knowing the value that running the code found, because it is computationally expensive to determine the value.": "Гіперпараметри, знайдені за допомогою обчислювально затратних процедур. Для деяких гіперпараметрів ефективні значення знаходять за допомогою дорогих процедур, таких як перебір можливих значень, а потім тестів для тренувального прогону. Ці значення невеликі, але жодній людині не обов'язково їх знати. Код для вибору цих гіперпараметрів може бути прозорим, але ми можемо не дати нікому дізнатися значення, яке знайшов запущений код, оскільки визначення цього значення є обчислювально затратним.", "Initially, this simply means “when the company that owns the model decides to deploy it publicly.” Later there’ll be more regulations, which may or may not take the form of a formal pre-deployment approval process.": "Спочатку це просто означає «коли компанія-власник моделі вирішує розгорнути її публічно». Пізніше з'явиться більше регуляцій, які можуть — або не можуть — набути форми офіційного процесу затвердження перед розгортанням.", "The process for downloading the weights file is extremely controlled, with both US and Chinese auditors unlocking a secure enclosure where there is a secure device that can make download requests to the opaque internal database and encrypt the files. It is the only device in the entire cluster with a usb (or similar) port that allows any physical device insertion for downloading.": "Процес завантаження файлу ваг надзвичайно контрольований: американські й китайські аудитори разом розблоковують захищений корпус, у якому міститься захищений пристрій, здатний робити запити на завантаження до непрозорої внутрішньої бази даних і шифрувати файли. Це єдиний пристрій у всьому кластері з usb-портом (або подібним), що дозволяє фізичне підключення будь-якого пристрою для завантаження.", "1 MB/s × 60 × 60 × 24 × 365.25 × 5 = 157 TB.": "1 MB/s × 60 × 60 × 24 × 365.25 × 5 = 157 TB.", "This assumes FP8 parameters, i.e., that each parameter is 1 byte.": "Це припускає параметри FP8, тобто що кожен параметр займає 1 байт.", "In Plan A, we also recommend deliberately increasing the size of the model weights in order to get the security benefit of the weights files being bigger and thus harder to exfiltrate. This would require additional training compute because you are no longer selecting model size to be on the ": "У Плані А ми також рекомендуємо навмисно збільшувати розмір ваг моделі, щоб отримати перевагу в безпеці від того, що файли ваг стають більшими, а отже, важчими для ексфільтрації. Це вимагатиме додаткових обчислювальних потужностей для тренування, оскільки розмір моделі вже не обирається так, щоб лежати на ", "In Plan A, we also recommend deliberately increasing the size of the model weights in order to get the security benefit of the weights files being bigger and thus harder to exfiltrate. This would require additional training compute because you are no longer selecting model size to be on the": "У Плані А ми також рекомендуємо навмисно збільшувати розмір ваг моделі, щоб отримати перевагу в безпеці від того, що файли ваг стають більшими, а отже, важчими для ексфільтрації. Це вимагатиме додаткових обчислювальних потужностей для тренування, оскільки розмір моделі вже не обирається так, щоб лежати на", "optimal compute-optimal curve": "оптимальній обчислювально-оптимальній кривій", "Cheap compression that requires tiny amounts of compute, and therefore might go undetected by the verification measures, should not go beyond a factor of 2-4x, e.g., through ": "Дешеве стиснення, яке потребує мізерної кількості обчислень і тому може лишитися непоміченим заходами верифікації, не повинно перевищувати коефіцієнт 2-4x, наприклад, за допомогою ", "Cheap compression that requires tiny amounts of compute, and therefore might go undetected by the verification measures, should not go beyond a factor of 2-4x, e.g., through": "Дешеве стиснення, яке потребує мізерної кількості обчислень і тому може лишитися непоміченим заходами верифікації, не повинно перевищувати коефіцієнт 2-4x, наприклад, за допомогою", "huffman encoding": "кодування Гаффмана", " (lossless) or cheap post-training quantization techniques (e.g., ": " (без втрат) або дешевих технік посттренувального квантування (наприклад, ", "(lossless) or cheap post-training quantization techniques (e.g.,": "(без втрат) або дешевих технік посттренувального квантування (наприклад,", "GPTQ": "GPTQ", "AWQ": "AWQ", "SmoothQuant": "SmoothQuant", "QuIP#": "QuIP#", "AQLM": "AQLM", ") which compress weights by 2-4× at negligible quality cost using typically 0.0001-0.01% of training compute. For compression attacks that go further, e.g., more aggressive quantization or LoRA-style decomposition (e.g., ": ") які стискають ваги у 2-4× з незначною втратою якості, використовуючи зазвичай 0.0001-0.01% обчислень тренування. Для атак стиснення, що йдуть далі, наприклад агресивнішого квантування або декомпозиції у стилі LoRA (наприклад, ", ") which compress weights by 2-4× at negligible quality cost using typically 0.0001-0.01% of training compute. For compression attacks that go further, e.g., more aggressive quantization or LoRA-style decomposition (e.g.,": ") які стискають ваги у 2-4× з незначною втратою якості, використовуючи зазвичай 0.0001-0.01% обчислень тренування. Для атак стиснення, що йдуть далі, наприклад агресивнішого квантування або декомпозиції у стилі LoRA (наприклад,", "LoRA": "LoRA", "QLoRA": "QLoRA", "VeRA": "VeRA", "DoRA": "DoRA", "AdaLoRA": "AdaLoRA", "), which might have >1000x compression, detection of the unauthorized computation to do this compression becomes the more load bearing security property than the bandwidth limit itself. Even still, 100TB weights being compressed 10,000x to 10GB still means you need to use 0.1% of the output channel for 116 days (1 KB * 60 * 60 * 24 * 116 = 10GB) without detection (which might require a large hit from steganography). Regulation can always be aware of the risks of compression and do red-teaming to determine how tractable it is, and adjust training run rules and/or the output bandwidth cap accordingly.": "), які можуть мати стиснення >1000x, виявлення несанкціонованих обчислень для такого стиснення стає більш навантаженою властивістю безпеки, ніж сам ліміт пропускної здатності. Навіть попри це, стиснення 100TB ваг у 10 000 разів до 10GB усе одно означає, що потрібно використовувати 0.1% вихідного каналу протягом 116 днів (1 KB * 60 * 60 * 24 * 116 = 10GB) непомітно (що може вимагати значного внеску від стеганографії). Регулювання завжди може враховувати ризики стиснення і проводити red-teaming, щоб визначити, наскільки це здійсненно, і відповідно коригувати правила тренувальних прогонів та/або ліміт вихідної пропускної здатності.", "Preliminaries": "Попередні зауваження", "Epistemic status": "Епістемічний статус", "What’s special about post-ASI governance?": "Що особливого в постASI-врядуванні?", "Evaluating proposals": "Оцінка пропозицій", "Summary of the most promising options for allocating space resources": "Огляд найперспективніших варіантів розподілу космічних ресурсів", "Some available options": "Деякі доступні варіанти", "Unpromising options": "Неперспективні варіанти", "More promising options": "Перспективніші варіанти", "Other decision points": "Інші точки прийняття рішень", "Should we commit to a process right away?": "Чи варто одразу зобов'язатися до певного процесу?", "Early decisions vs. late decisions": "Ранні рішення проти пізніх рішень", "Who should participate in the process?": "Хто має брати участь у процесі?", "One process or many processes?": "Один процес чи багато процесів?", "Mitigating downside risks": "Пом'якшення негативних ризиків", "Reflection": "Рефлексія", "Takes": "Думки", "Mia’s takes": "Думки Mia", "Thomas’s takes": "Думки Thomas", "It should be possible for almost all humans to get almost everything that they want from a post-ASI world. With huge numbers of robots capable of almost any task a human can do, it will be possible to provide everyone with the living standard that only the richest people today enjoy. People could spend their time doing what’s most meaningful to them—raising children, creating art, or spending time with friends. With ASI-driven advances in medicine, we’ll be able to treat mental illness, chronic pain, aging, cancer, and other diseases that shorten or worsen people’s lives today. In short, if we achieve the future described in Plan A, there will be enough to go around to give everyone a very good life. Many of the tough tradeoffs that are the focus of modern politics will be resolved. So in some sense, these decisions need not be extremely fraught.": "Має бути можливим, щоб майже всі люди отримали від постASI-світу майже все, чого вони бажають. Завдяки величезній кількості роботів, здатних виконувати практично будь-яке завдання, яке може виконати людина, стане можливим забезпечити кожному той рівень життя, яким сьогодні насолоджуються лише найбагатші люди. Люди зможуть присвячувати час тому, що для них найважливіше — вихованню дітей, творчості, спілкуванню з друзями. Завдяки прогресу в медицині, зумовленому ASI, ми зможемо лікувати психічні захворювання, хронічний біль, старіння, рак та інші хвороби, що скорочують або погіршують життя людей сьогодні. Одним словом, якщо ми досягнемо майбутнього, описаного в Плані А, ресурсів вистачить, щоб дати кожному дуже добре життя. Багато складних компромісів, що перебувають у фокусі сучасної політики, буде вирішено. Тож у певному сенсі ці рішення не мусять бути надзвичайно болісними.", "Yet, at the same time, the decisions we make are extremely high-stakes. If we handle things well, then we could create an enormously flourishing future for our descendants. But there are many ways we could waste this opportunity. We could fight over the resources, leaving a few people in control of the future and everyone else with nothing, or burning vast resources in internecine conflict. Even if we avoid those pitfalls, we could still misuse resources—squandering them on positional goods or failing to leverage ASI to figure out how best to achieve what we truly care about.": "Утім, водночас рішення, які ми приймаємо, мають надзвичайно високі ставки. Якщо ми впораємося добре, то зможемо створити для наших нащадків надзвичайно квітуче майбутнє. Але є багато способів змарнувати цю можливість. Ми могли б воювати за ресурси, залишивши небагатьох людей при владі над майбутнім, а всіх інших — ні з чим, або спалити величезні ресурси у міжусобному конфлікті. Навіть якщо ми уникнемо цих пасток, ми все одно можемо неправильно використати ресурси — розтративши їх на позиційні блага або не скориставшись ASI, щоб зрозуміти, як найкраще досягти того, що нас справді хвилює.", "We want a governance system that will allow us to make wise decisions from a foundation of abundance and cooperation.": "Ми хочемо систему врядування, яка дозволить нам приймати мудрі рішення, спираючись на основу достатку та співпраці.", "This document focuses on how to decide what to do with resources outside the solar system (henceforth referred to as “space resources”). This is an important aspect of post-ASI governance—the overwhelming majority of accessible resources are outside of the solar system and the overwhelming majority of future beings may live outside our solar system—but it is not the only important question.": "Цей документ зосереджений на тому, як вирішити, що робити з ресурсами за межами Сонячної системи (далі — «космічні ресурси»). Це важливий аспект постASI-врядування — переважна більшість доступних ресурсів перебуває за межами Сонячної системи, і переважна більшість майбутніх істот, можливо, житиме за межами нашої Сонячної системи, — але це не єдине важливе питання.", "We’re currently not confident in how the treaty signatories in Plan A should approach post-ASI governance: it depends on a lot of details about people’s preferences, technological capabilities, and optimal coordination mechanisms that are only partly worked out.": "Наразі ми не впевнені, як сторонам угоди в Плані А слід підходити до постASI-врядування: це залежить від багатьох деталей щодо уподобань людей, технологічних можливостей та оптимальних механізмів координації, які опрацьовані лише частково.", "Luckily, by the time the treaty signatories are making these decisions, they should have superintelligent automated researchers investigating the nature of the universe, doing moral philosophy, and figuring out optimal coordination mechanisms. And we’ll have AI therapists, advisors, and negotiators to help us understand our preferences and make deals with other actors.": "На щастя, до моменту, коли сторони угоди прийматимуть ці рішення, у них будуть суперінтелектуальні автоматизовані дослідники, які досліджуватимуть природу всесвіту, займатимуться моральною філософією та розроблятимуть оптимальні механізми координації. А ще в нас будуть ШІ-терапевти, радники й переговірники, які допоможуть нам зрозуміти власні уподобання та укладати угоди з іншими сторонами.", "So we think the actual best plan is to defer many of these questions until we have ASI-driven advice and coordination. However, there is value in concreteness and in sharing best guesses, so we wanted to provide some analysis. But we wouldn’t want readers to anchor too much on the ideas we present below.": "Тож ми вважаємо, що насправді найкращий план — відкласти вирішення багатьох із цих питань до того часу, коли в нас буде порада та координація, керовані ASI. Однак є цінність у конкретності та в оприлюдненні найкращих здогадок, тож ми вирішили надати певний аналіз. Але ми б не хотіли, щоб читачі надто прив'язувалися до ідей, які ми представляємо нижче.", "Post-ASI governance will differ from historical precedent in several important ways.": "ПостASI-врядування відрізнятиметься від історичних прецедентів у кількох важливих аспектах.", "Technological progress may quickly unlock new pools of resources that no one has previously exploited. The most important example is resources outside of our solar system.": "Технологічний прогрес може швидко відкрити нові пули ресурсів, які раніше ніхто не використовував. Найважливіший приклад — ресурси за межами нашої Сонячної системи.", "Because these resources have been unused, there are no historical claims to navigate.": "Оскільки ці ресурси не використовувалися, немає жодних історичних претензій, які довелося б враховувати.", " We should aim to govern them in a just and equitable way.": " Нам слід прагнути врядувати ними справедливо та рівноправно.", "We should aim to govern them in a just and equitable way.": "Нам слід прагнути врядувати ними справедливо та рівноправно.", "There will likely be extreme abundance relative to the present day. With just a tiny fraction of available resources, we’ll probably be able to give everyone alive today a long, happy, healthy, and extremely prosperous life by current standards.": "Порівняно із сьогоденням, імовірно, настане надзвичайний достаток. Використавши лише крихітну частку доступних ресурсів, ми, ймовірно, зможемо дати кожному, хто живе сьогодні, довге, щасливе, здорове та надзвичайно заможне за нинішніми мірками життя.", "We think that the most important question that governance will have to face is what to do with the huge quantities of remaining resources after we’ve ensured that everyone alive has enough to live an incredible life. Some salient options include:": "Ми вважаємо, що найважливіше питання, з яким доведеться зіткнутися врядуванню, — що робити з величезними обсягами ресурсів, що залишаться, після того як ми забезпечимо кожній живій людині достатньо, щоб прожити неймовірне життя. Серед помітних варіантів:", "Personal consumption": "Особисте споживання", ". People could develop ever-more-expensive ways to derive enjoyment from resources. But most resources are probably poorly suited to use for personal consumption. Most resources are outside our galaxy and thus ": ". Люди могли б винаходити дедалі дорожчі способи отримувати задоволення від ресурсів. Але більшість ресурсів, імовірно, погано підходять для особистого споживання. Більшість ресурсів перебувають за межами нашої галактики, тобто ", ". People could develop ever-more-expensive ways to derive enjoyment from resources. But most resources are probably poorly suited to use for personal consumption. Most resources are outside our galaxy and thus": ". Люди могли б винаходити дедалі дорожчі способи отримувати задоволення від ресурсів. Але більшість ресурсів, імовірно, погано підходять для особистого споживання. Більшість ресурсів перебувають за межами нашої галактики, тобто", "millions of light-years away": "за мільйони світлових років від нас", ". If you want to stay on Earth and consume anything—matter, energy, information—derived from another galaxy, you’d have to wait millions of years. If, on the other hand, you left Earth for another galaxy, then if you ever returned, you’d find that millions of years had passed.": ". Якщо ви хочете залишитися на Землі та споживати щось — матерію, енергію, інформацію, — здобуте з іншої галактики, вам доведеться чекати мільйони років. Якщо ж, навпаки, ви покинете Землю заради іншої галактики, то, коли б ви коли-небудь повернулися, виявите, що минули мільйони років.", "Positional goods": "Позиційні блага", ". People could spend resources on a zero-sum competition to have the most impressive galactic-scale art projects, or the largest number of statues of themselves. Positional goods could soak up a lot of resources. While there are probably generally diminishing returns to consuming more resources as people get richer, this might not hold for positional goods, since status is relative. We think it would probably be a mistake to spend huge quantities of resources on this type of zero-sum competition.": ". Люди могли б витрачати ресурси на гру з нульовою сумою — змагання за найвражаючі мистецькі проєкти галактичного масштабу або за найбільшу кількість статуй самих себе. Позиційні блага могли б поглинути величезну кількість ресурсів. Хоча зазвичай віддача від споживання дедалі більшої кількості ресурсів, імовірно, спадає в міру того, як люди багатіють, для позиційних благ це може не діяти, оскільки статус — річ відносна. Ми вважаємо, що витрачати величезні обсяги ресурсів на такий тип змагання з нульовою сумою, ймовірно, було б помилкою.", "Satisfying moral preferences": "Задоволення моральних уподобань", ". We could create societies full of flourishing people, or enormous nature reserves. We think this is the most promising way to use the cosmic endowment. But then the question becomes: how should we decide which moral preferences to pursue?": ". Ми могли б створити суспільства, сповнені процвітаючих людей, або величезні природні заповідники. Ми вважаємо, що це найперспективніший спосіб використання космічного надбання. Але тоді постає питання: як нам визначати, яких моральних уподобань дотримуватися?", "Technological progress will also change ": "Технологічний прогрес також змінить те, ", "Technological progress will also change": "Технологічний прогрес також змінить те,", "how": "як", " we make governance decisions:": " ми ухвалюємо рішення щодо врядування:", "we make governance decisions:": "ми ухвалюємо рішення щодо врядування:", "We may be able to make decisions with lasting effects far into the future.": "Ми можемо отримати змогу ухвалювати рішення, наслідки яких сягатимуть далеко в майбутнє.", "For example, we could hand over resources or hard power to ASI systems that have been aligned to a particular set of values. This will likely give us the option of creating ": "Наприклад, ми могли б передати ресурси або жорстку силу ASI-системам, узгодженим із певним набором цінностей. Це, ймовірно, дасть нам змогу створити ", "For example, we could hand over resources or hard power to ASI systems that have been aligned to a particular set of values. This will likely give us the option of creating": "Наприклад, ми могли б передати ресурси або жорстку силу ASI-системам, узгодженим із певним набором цінностей. Це, ймовірно, дасть нам змогу створити", "extremely long-lasting institutions": "надзвичайно довговічні інституції", "Typically later generations adopt somewhat different values than their parents, and as a result society’s values change over time. But ": "Зазвичай пізніші покоління переймають дещо інші цінності, ніж їхні батьки, і тому цінності суспільства з часом змінюються. Але ", "Typically later generations adopt somewhat different values than their parents, and as a result society’s values change over time. But": "Зазвичай пізніші покоління переймають дещо інші цінності, ніж їхні батьки, і тому цінності суспільства з часом змінюються. Але", "new technologies": "нові технології", "may enable parents": "можуть дати батькам змогу", " to exercise tighter control over the values that their children develop.": " здійснювати жорсткіший контроль над цінностями, які розвиватимуть їхні діти.", "to exercise tighter control over the values that their children develop.": "здійснювати жорсткіший контроль над цінностями, які розвиватимуть їхні діти.", "People will have access to superhuman advice and coordination assistance.": "Люди матимуть доступ до надлюдських порад і допомоги в координації.", "This means people will be better able to identify and advocate for policies that truly achieve what they care about.": "Це означає, що люди зможуть краще визначати й відстоювати політики, які справді реалізують те, що їм важливо.", "But we’ll probably also need to make our governance structure more robust than ever to people trying to game it, either individually or in a group. Just because a governance structure has not been severely exploited in the past does not guarantee that it won’t be severely exploited in the future.": "Але, ймовірно, нам також доведеться зробити структуру врядування стійкішою, ніж будь-коли, до спроб людей маніпулювати нею — поодинці чи групами. Те, що структуру врядування досі серйозно не експлуатували, не гарантує, що її не експлуатуватимуть серйозно в майбутньому.", "And we will have large responsibilities to make these decisions go well for people who aren’t able to participate:": "І на нас лежатиме велика відповідальність за те, щоб ці рішення були вдалими для людей, які не можуть у них брати участь:", "The overwhelming majority of the affected parties probably won’t be able to participate in the decision to govern space directly, because they won’t have been born yet. This is already true to some extent—in modern democracies, citizens set policies for non-citizens, adults decide for children, humans decide for animals—but in the post-ASI setting this becomes far more extreme. Present people may make decisions that affect the lives of vast numbers of people": "Переважна більшість зачеплених сторін, імовірно, не зможуть безпосередньо брати участь у рішенні щодо врядування космосом, бо ще не народяться. Певною мірою це вже так і є — у сучасних демократіях громадяни встановлюють політики для негромадян, дорослі вирішують за дітей, люди вирішують за тварин — але в постASI-контексті це стає значно екстремальнішим. Нинішні люди можуть ухвалювати рішення, що вплинуть на життя величезної кількості людей", " who cannot give input. The responsibility to get these decisions right is enormous.": " які не можуть висловити свою думку. Відповідальність за те, щоб ухвалити ці рішення правильно, — величезна.", "who cannot give input. The responsibility to get these decisions right is enormous.": "які не можуть висловити свою думку. Відповідальність за те, щоб ухвалити ці рішення правильно, — величезна.", "In this appendix, we’re evaluating proposals based on how well they achieve the following desiderata, which we believe will be broadly appealing across different value systems.": "У цьому додатку ми оцінюємо пропозиції за тим, наскільки добре вони відповідають наведеним нижче бажаним критеріям, які, на нашу думку, будуть загалом привабливими для різних систем цінностей.", "Preference satisfaction": "Задоволення уподобань", ". The governance system should try to satisfy all the participants’ preferences as much as possible. Some aspects of this include:": ". Система врядування повинна намагатися якнайбільше задовольняти уподобання всіх учасників. Це, зокрема, включає:", "Paretopianism": "Паретопіанізм", ". Given a massive windfall, it should be possible to make nearly everyone": ". За умови величезного несподіваного здобутку має бути можливо зробити майже кожного", " vastly better off than they are today, and a good proposal should do exactly that.": " набагато забезпеченішим, ніж сьогодні, і хороша пропозиція повинна робити саме це.", "vastly better off than they are today, and a good proposal should do exactly that.": "набагато забезпеченішим, ніж сьогодні, і хороша пропозиція повинна робити саме це.", "Limit extreme downside": "Обмеження екстремально негативних наслідків", ". Our post-ASI governance proposal should have a very low chance of producing outcomes widely considered extremely bad, such as ": ". Наша пропозиція щодо постASI-врядування повинна мати дуже низьку ймовірність призвести до наслідків, які загалом вважаються вкрай поганими, як-от ", ". Our post-ASI governance proposal should have a very low chance of producing outcomes widely considered extremely bad, such as": ". Наша пропозиція щодо постASI-врядування повинна мати дуже низьку ймовірність призвести до наслідків, які загалом вважаються вкрай поганими, як-от", "huge amounts of suffering": "величезні масштаби страждань", ", or all of space being destroyed.": ", або знищення всього космосу.", "Satisfy bounded views": "Задоволення обмежених поглядів", ". If someone has a preference or moral view that is not very costly to satisfy, we should satisfy it. For example, on a cosmic scale, it’s fairly cheap to ensure that every human alive in 2040 has a long, flourishing life.": ". Якщо в когось є уподобання чи моральний погляд, задовольнити який не надто затратно, ми повинні його задовольнити. Наприклад, у космічному масштабі досить дешево забезпечити, щоб кожна людина, яка житиме у 2040 році, мала довге, процвітаюче життя.", "Satisfy common-sense ethics": "Відповідність етиці здорового глузду", ". The process should not violate common-sense ethical views. This weighs against proposals where a small number of people predictably end up controlling the fate of the universe or where future generations end up totally disempowered.": ". Процес не повинен порушувати етичні погляди здорового глузду. Це є аргументом проти пропозицій, за яких доля всесвіту передбачувано опиняється під контролем невеликої кількості людей або за яких майбутні покоління повністю позбавляються впливу.", "Satisfy objective morality": "Відповідність об’єктивній моралі", ". Some aspects of ethics may be objective and discoverable. If so, we should try to identify and conform to them.": ". Деякі аспекти етики можуть бути об’єктивними й пізнаваними. Якщо це так, нам слід намагатися їх виявити і відповідати їм.", "These next criteria aren’t terminal goals, but we think that processes that satisfy them are more likely to achieve the criteria above.": "Наступні критерії не є кінцевими цілями, але ми вважаємо, що процеси, які їм відповідають, з більшою ймовірністю досягнуть критеріїв, наведених вище.", "Coordination": "Координація", ". The governance system should enable coordination on large-scale collective action problems. For example, if we encounter alien civilizations, we may need to coordinate to establish friendly relations with them. We may also need to coordinate to avoid actions that risk destroying all of Earth-originating civilization, or to avoid space races where factions compete to claim as many resources as possible, burning huge amounts of resources in the process.": ". Система врядування повинна уможливлювати координацію у великомасштабних проблемах колективної дії. Наприклад, якщо ми зустрінемо позаземні цивілізації, нам може знадобитися координація для встановлення дружніх стосунків з ними. Нам також може знадобитися координація, щоб уникнути дій, які ризикують знищити всю цивілізацію земного походження, або щоб уникнути космічних перегонів, у яких фракції змагаються за якнайбільшу кількість ресурсів, спалюючи в цьому процесі величезні їх обсяги.", " These goals probably require some minimal government functions: protecting property rights, enforcing prohibitions, and potentially collecting taxes to fund public goods.": " Для досягнення цих цілей, імовірно, потрібні певні мінімальні урядові функції: захист майнових прав, забезпечення дотримання заборон і, можливо, збір податків для фінансування суспільних благ.", "These goals probably require some minimal government functions: protecting property rights, enforcing prohibitions, and potentially collecting taxes to fund public goods.": "Для досягнення цих цілей, імовірно, потрібні певні мінімальні урядові функції: захист майнових прав, забезпечення дотримання заборон і, можливо, збір податків для фінансування суспільних благ.", "Moral trade": "Моральна торгівля", ". It might be possible to nearly satisfy many different moral viewpoints simultaneously. For example, some views might especially care about resources close to Earth or the near future, while others might be more indifferent across time and space: we might satisfy both by letting the former choose what happens in the Milky Way while the latter choose what happens in the rest of the universe. Here are two types of trade that we want our proposal to facilitate.": ". Можливо, вдасться майже одночасно задовольнити багато різних моральних поглядів. Наприклад, одні погляди можуть особливо дбати про ресурси поблизу Землі або в найближчому майбутньому, тоді як інші можуть бути байдужими до часу й простору: ми могли б задовольнити обидва, дозволивши першим обирати, що відбувається в Чумацькому Шляху, а другим — що відбувається в решті всесвіту. Ось два типи торгівлі, які ми хочемо, щоб наша пропозиція уможливлювала.", "Bilateral trade": "Двостороння торгівля", ". This is particularly well suited for satisfying uncommon preferences. These trades are most straightforward in market systems, where two people can literally trade deeds to resources or sign agreements about how they will use their resources. But it’s possible that some voting systems–e.g., ": ". Вона особливо добре підходить для задоволення нетипових уподобань. Такі угоди найпростіше укладати в ринкових системах, де двоє людей можуть буквально обмінюватися правами власності на ресурси або підписувати угоди про те, як вони використовуватимуть свої ресурси. Але можливо, що деякі системи голосування — наприклад, ", ". This is particularly well suited for satisfying uncommon preferences. These trades are most straightforward in market systems, where two people can literally trade deeds to resources or sign agreements about how they will use their resources. But it’s possible that some voting systems–e.g.,": ". Вона особливо добре підходить для задоволення нетипових уподобань. Такі угоди найпростіше укладати в ринкових системах, де двоє людей можуть буквально обмінюватися правами власності на ресурси або підписувати угоди про те, як вони використовуватимуть свої ресурси. Але можливо, що деякі системи голосування — наприклад,", "the": "", "Vickrey-Clarke-Groves mechanism": "механізм Вікрі-Кларка-Гровса", "—could also achieve similar results.": "— також можуть досягти подібних результатів.", "Coordination on ": "Координація щодо ", "Coordination on": "Координація щодо", "moral public goods": "моральних суспільних благ", ". People might share some values while also holding idiosyncratic preferences—individually preferring to pursue their own preferences, but collectively preferring that everyone work toward the shared values.": ". Люди можуть поділяти деякі цінності, водночас маючи й ідіосинкратичні уподобання — індивідуально вони можуть віддавати перевагу реалізації власних уподобань, але колективно — тому, щоб усі працювали заради спільних цінностей.", "Coordination on moral public goods is most straightforward in voting systems, since people can just vote to devote resources to shared projects. It’s possible that voluntary contracts—where people pledge to spend resources on shared goods if others do the same—could achieve similar results, but this is less straightforward because of ": "Координацію щодо моральних суспільних благ найпростіше здійснити в системах голосування, оскільки люди можуть просто проголосувати за виділення ресурсів на спільні проєкти. Можливо, подібних результатів можна досягти й добровільними угодами — коли люди зобов’язуються витрачати ресурси на спільні блага, якщо інші роблять те саме, — але це складніше через ", "Coordination on moral public goods is most straightforward in voting systems, since people can just vote to devote resources to shared projects. It’s possible that voluntary contracts—where people pledge to spend resources on shared goods if others do the same—could achieve similar results, but this is less straightforward because of": "Координацію щодо моральних суспільних благ найпростіше здійснити в системах голосування, оскільки люди можуть просто проголосувати за виділення ресурсів на спільні проєкти. Можливо, подібних результатів можна досягти й добровільними угодами — коли люди зобов’язуються витрачати ресурси на спільні блага, якщо інші роблять те саме, — але це складніше через", "free-riding incentives": "стимули до безбілетництва", "It might be particularly effective to coordinate to switch from funding positional goods to funding moral public goods. If done in a way that leaves people’s relative ability to purchase positional goods unchanged, then this is great for everyone: relative status doesn’t change, but people are able to satisfy their non-positional preferences, too.": "Особливо ефективною може бути координація для переходу від фінансування позиційних благ до фінансування моральних суспільних благ. Якщо зробити це так, щоб відносна спроможність людей купувати позиційні блага не змінилася, це буде чудово для всіх: відносний статус не зміниться, але люди зможуть задовольнити ще й свої непозиційні уподобання.", ". ASI will likely uncover novel considerations and empirical facts highly relevant to how people want to use space resources (e.g., are there objective moral truths, and what are they?). We want each person to have the time and resources necessary to think carefully about what they value before making important decisions, and we want to ensure that we invest in ASI-fuelled research on important questions to inform people’s decisions.": ". ASI, ймовірно, виявить нові міркування та емпіричні факти, вкрай важливі для того, як люди захочуть використовувати космічні ресурси (наприклад, чи існують об’єктивні моральні істини, і якщо так, то які вони?). Ми хочемо, щоб у кожної людини був час і ресурси, необхідні для того, щоб ретельно обдумати, що для неї цінне, перш ніж ухвалювати важливі рішення, і ми хочемо забезпечити інвестиції в дослідження важливих питань, підживлювані ASI, щоб інформувати рішення людей.", "Pluralism": "Плюралізм", ". Humans today have many different visions of the good. It’s possible that after deep reflection with ASI we’ll converge on a single set of shared values. More likely, we’ll still have some disagreements. Where people have different value systems, we prefer proposals that will allocate resources to pursue all of them.": ". Сьогодні люди мають багато різних уявлень про добро. Можливо, що після глибокої рефлексії за участі ASI ми дійдемо до єдиного набору спільних цінностей. Але ймовірніше, що деякі розбіжності залишаться. Там, де в людей різні системи цінностей, ми віддаємо перевагу пропозиціям, які виділятимуть ресурси на реалізацію всіх цих систем.", "Avoid brittle decision-making structures": "Уникнення крихких структур ухвалення рішень", ". There are likely many important considerations that we’re not yet aware of. Where possible, we favor flexible decision-making structures that won’t make it difficult to solve unforeseen problems.": ". Імовірно, є багато важливих міркувань, про які ми поки не знаємо. Там, де це можливо, ми віддаємо перевагу гнучким структурам ухвалення рішень, які не ускладнюватимуть розв’язання непередбачених проблем.", "Fairness": "Справедливість", ". Each living adult should have an opportunity to give equal input into the process.": ". Кожен живий дорослий повинен мати можливість зробити рівний внесок у цей процес.", " We don’t think that this criterion necessarily means that each person ends up controlling an equal quantity of resources. For one thing, some people might care a lot about what happens with resources closer to Earth while not caring much about resources in distant galaxies, and we’re happy for them to trade with people who care a lot about distant galaxies. Nor do we think that this criterion requires that everyone is equally happy with the outcome. For instance, if some decision is made by vote, then some people might end up voting for the losing side. But we want a neutral process that doesn’t privilege any particular people or viewpoints over others.": " Ми не вважаємо, що цей критерій обов’язково означає, що кожна людина зрештою контролюватиме рівну кількість ресурсів. По-перше, деяким людям може бути дуже важливо, що відбувається з ресурсами ближче до Землі, тоді як до ресурсів у віддалених галактиках вони можуть бути байдужими, — і ми не проти, щоб вони торгувалися з тими, кому дуже важливі віддалені галактики. Ми також не вважаємо, що цей критерій вимагає, щоб усі були однаково задоволені результатом. Наприклад, якщо якесь рішення ухвалюється голосуванням, дехто може опинитися серед тих, хто програв. Але ми хочемо нейтрального процесу, який не надає переваги жодним конкретним людям чи поглядам над іншими.", "We don’t think that this criterion necessarily means that each person ends up controlling an equal quantity of resources. For one thing, some people might care a lot about what happens with resources closer to Earth while not caring much about resources in distant galaxies, and we’re happy for them to trade with people who care a lot about distant galaxies. Nor do we think that this criterion requires that everyone is equally happy with the outcome. For instance, if some decision is made by vote, then some people might end up voting for the losing side. But we want a neutral process that doesn’t privilege any particular people or viewpoints over others.": "Ми не вважаємо, що цей критерій обов’язково означає, що кожна людина зрештою контролюватиме рівну кількість ресурсів. По-перше, деяким людям може бути дуже важливо, що відбувається з ресурсами ближче до Землі, тоді як до ресурсів у віддалених галактиках вони можуть бути байдужими, — і ми не проти, щоб вони торгувалися з тими, кому дуже важливі віддалені галактики. Ми також не вважаємо, що цей критерій вимагає, щоб усі були однаково задоволені результатом. Наприклад, якщо якесь рішення ухвалюється голосуванням, дехто може опинитися серед тих, хто програв. Але ми хочемо нейтрального процесу, який не надає переваги жодним конкретним людям чи поглядам над іншими.", "Political feasibility": "Політична здійсненність", ". Unlike the other criteria, this is purely pragmatic: a proposal must be acceptable to the relevant decision-makers to be implemented. It’s unclear who these decision-makers would be, but they could include the citizens and/or leadership of the US, China, or other powerful countries. It might also include AI company CEOs or shareholders.": ". На відміну від інших критеріїв, цей — суто прагматичний: щоб пропозицію можна було реалізувати, вона повинна бути прийнятною для відповідних осіб, які ухвалюють рішення. Хто саме будуть ці особи — незрозуміло, але це можуть бути громадяни та/або керівництво США, Китаю чи інших впливових країн. Також це можуть бути CEO або акціонери ШІ-компаній.", "We think that it’s best to decide on a specific structure for allocating space resources in 2040 at the time that the treaty is decided (": "Ми вважаємо, що найкраще визначати конкретну структуру розподілу космічних ресурсів у 2040 році на момент укладення угоди (", "more discussion here": "докладніше про це тут", "We’re currently fairly uncertain about what the best structure is, and that decision should be deferred until decision-makers have access to aligned ASI advice. But currently, these seem like the best object-level proposals.": "Наразі ми доволі не впевнені, яка структура є найкращою, і це рішення слід відкласти, доки особи, які ухвалюють рішення, не отримають доступ до порад узгодженого ASI. Але наразі ці пропозиції видаються найкращими на предметному рівні.", "Basic proposal": "Базова пропозиція", "Direct endowment + trade ": "Пряме наділення ресурсами + торгівля ", "Direct endowment + trade": "Пряме наділення ресурсами + торгівля", "(with prohibitions). Each adult is assigned an equal share of resources. They can trade, donate, give away, or use those resources in any way they want, except for a small category of prohibited activities (": "(із забороненими діями). Кожному дорослому виділяється рівна частка ресурсів. Вони можуть торгувати ними, дарувати, віддавати чи використовувати ці ресурси будь-яким чином на власний розсуд, за винятком невеликої категорії заборонених видів діяльності (", "Key advantages": "Ключові переваги", "Most views held by living humans will have at least some resources devoted to them.": "Більшість поглядів, яких дотримуються нині живі люди, отримають хоч якісь ресурси, присвячені їм.", "Bilateral trade between people with different moral views is very straightforward.": "Двостороння торгівля між людьми з різними моральними поглядами є дуже простою.", "Key disadvantages": "Ключові недоліки", "It’s harder to coordinate to fund moral public goods due to free-rider problems.": "Складніше координуватися для фінансування моральних суспільних благ через проблему безбілетників.", "Vote on how to use resources": "Голосування щодо використання ресурсів", ". Each adult gets to participate in a vote on how to use space resources (": ". Кожен дорослий бере участь у голосуванні щодо того, як використовувати космічні ресурси (", "It’s straightforward to coordinate to fund moral public goods.": "Просто координуватися для фінансування моральних суспільних благ.", "All known voting systems have serious issues, such as:": "Усі відомі системи голосування мають серйозні проблеми, як-от:", "Inefficiencies, e.g., strong minority preferences are overruled by very weak majority preferences.": "Неефективність — наприклад, сильні уподобання меншості перекреслюються дуже слабкими уподобаннями більшості.", "Incentives to strategically misrepresent preferences, either alone or in collusion with others.": "Стимули стратегічно спотворювати свої уподобання — самостійно або в змові з іншими.", "Direct preference aggregation": "Пряма агрегація уподобань", ". We use novel technology to directly elicit people’s preferences (e.g., through an interview with an ASI using lie detection) about the use of space resources and aggregate these preferences (": ". Ми використовуємо новітню технологію, щоб безпосередньо з’ясовувати уподобання людей (наприклад, через співбесіду з ASI із застосуванням детектора брехні) щодо використання космічних ресурсів, а потім агрегувати ці уподобання (", "Many voting systems fail to get a globally-optimal outcome because people strategically misrepresent their preferences. But direct endowment fails to fund moral public goods. By eliciting people’s honest preferences and then aggregating them, we might be able to get the best of both worlds.": "Багатьом системам голосування не вдається досягти глобально оптимального результату, бо люди стратегічно спотворюють свої уподобання. Але пряме наділення ресурсами не забезпечує фінансування моральних суспільних благ. З’ясувавши чесні уподобання людей і потім агрегувавши їх, ми, можливо, зможемо отримати найкраще з обох підходів.", "People might object to the preference elicitation step, especially if the method is time-consuming or invasive.": "Люди можуть заперечувати проти етапу з’ясування уподобань, особливо якщо метод є тривалим або вторгається в приватність.", "(We discuss alternative proposals that we like less ": "(Ми обговорюємо альтернативні пропозиції, які подобаються нам менше, ", "(We discuss alternative proposals that we like less": "(Ми обговорюємо альтернативні пропозиції, які подобаються нам менше,", "Other important decision points include:": "Інші важливі моменти для ухвалення рішень включають:", "At what time should votes, preference elicitation, or distribution of resources happen? (discussion ": "У який момент часу мають відбуватися голосування, з’ясування уподобань чи розподіл ресурсів? (обговорення ", "At what time should votes, preference elicitation, or distribution of resources happen? (discussion": "У який момент часу мають відбуватися голосування, з’ясування уподобань чи розподіл ресурсів? (обговорення", "Should later generations get a say? (discussion ": "Чи повинні пізніші покоління мати право голосу? (обговорення ", "Should later generations get a say? (discussion": "Чи повинні пізніші покоління мати право голосу? (обговорення", "Should we prefer a hybrid approach that allocates some resources according to one proposal and allocates other resources according to other proposals? (discussion ": "Чи варто віддавати перевагу гібридному підходу, за якого частина ресурсів розподіляється згідно з однією пропозицією, а інша частина — згідно з іншими пропозиціями? (обговорення ", "Should we prefer a hybrid approach that allocates some resources according to one proposal and allocates other resources according to other proposals? (discussion": "Чи варто віддавати перевагу гібридному підходу, за якого частина ресурсів розподіляється згідно з однією пропозицією, а інша частина — згідно з іншими пропозиціями? (обговорення", "How do we enable each decision-maker to make the best decisions by their own lights? (discussion ": "Як нам зробити так, щоб кожна особа, яка ухвалює рішення, могла ухвалювати найкращі рішення на власний розсуд? (обговорення ", "How do we enable each decision-maker to make the best decisions by their own lights? (discussion": "Як нам зробити так, щоб кожна особа, яка ухвалює рішення, могла ухвалювати найкращі рішення на власний розсуд? (обговорення", "Here, we discuss options for governing future resources. We begin by describing a couple of notable options which seem relatively unpromising on the criteria above, then turn to proposals that we find more promising. In both cases, we’re trying to cover important and illustrative cases, not every possible outcome.": "Тут ми обговорюємо варіанти врядування майбутніми ресурсами. Спершу ми опишемо кілька помітних варіантів, які видаються відносно неперспективними за наведеними вище критеріями, а потім перейдемо до пропозицій, які вважаємо перспективнішими. В обох випадках ми намагаємося охопити важливі й показові випадки, а не кожен можливий результат.", "Anarchy": "Анархія", "No property rights system is established for space resources. To use a resource, an actor must either be the first to claim it or seize it from another actor. Actors can do whatever they want with resources they currently control—there’s no governance system for prohibiting particularly bad behaviors or any other forms of large-scale coordination (e.g., to fund public goods).": "Для космічних ресурсів не встановлено жодної системи майнових прав. Щоб використати ресурс, актор повинен або першим заявити на нього права, або відібрати його в іншого актора. Актори можуть робити зі своїми наявними ресурсами все, що завгодно, — немає жодної системи врядування, яка б забороняла особливо погану поведінку чи забезпечувала будь-які інші форми масштабної координації (наприклад, для фінансування суспільних благ).", "Drawbacks:": "Недоліки:", " there could be significant negative-sum conflict over resources, and insecure property claims would make trade—including moral trade—harder.": " можуть виникати значні конфлікти за ресурси з негативною сумою, а незахищені майнові претензії ускладнюватимуть торгівлю — зокрема моральну торгівлю.", "there could be significant negative-sum conflict over resources, and insecure property claims would make trade—including moral trade—harder.": "можуть виникати значні конфлікти за ресурси з негативною сумою, а незахищені майнові претензії ускладнюватимуть торгівлю — зокрема моральну торгівлю.", "Anarchy is worse than the feasible alternatives. We do expect that it is not a stable long-term equilibrium. Given much more advanced tools for coordination and communication, we expect people to create ad hoc governance structures.": "Анархія гірша за здійсненні альтернативи. Ми справді очікуємо, що вона не є стабільною довготривалою рівновагою. З огляду на значно досконаліші інструменти координації та комунікації, ми очікуємо, що люди створюватимуть спеціальні структури врядування.", " But a government that emerges organically from anarchy could be worse than one designed intentionally. In particular, it might favor the interests of those who were able to claim and defend lots of space resources early on.": " Але уряд, що виникає органічно з анархії, може бути гіршим за той, що створений навмисно. Зокрема, він може надавати перевагу інтересам тих, хто зміг заявити права на великі обсяги космічних ресурсів і захистити їх на ранньому етапі.", "But a government that emerges organically from anarchy could be worse than one designed intentionally. In particular, it might favor the interests of those who were able to claim and defend lots of space resources early on.": "Але уряд, що виникає органічно з анархії, може бути гіршим за той, що створений навмисно. Зокрема, він може надавати перевагу інтересам тих, хто зміг заявити права на великі обсяги космічних ресурсів і захистити їх на ранньому етапі.", "Finders-keepers property rights": "Майнові права за принципом «хто знайшов — того й є»", "Actors can claim unclaimed resources or they can buy resources from earlier owners, but they can’t seize claimed resources without the owner’s permission (similar to homesteading). As before, no effective system exists for large-scale coordination or public goods provision, and no governance system can enforce prohibitions.": "Актори можуть претендувати на незайняті ресурси або купувати ресурси в попередніх власників, але не можуть захоплювати заявлені ресурси без дозволу власника (подібно до освоєння незайнятих ресурсів). Як і раніше, не існує ефективної системи для широкомасштабної координації чи забезпечення суспільних благ, і жодна система врядування не може примусово забезпечити виконання заборон.", "Strengths:": "Переваги:", " we think this is an improvement on anarchy. Once a claim is recognised, the holder no longer needs to spend resources defending it. Moreover, secure and widely recognised property claims make trade possible.": " ми вважаємо це покращенням порівняно з анархією. Щойно заявку визнано, її власнику більше не потрібно витрачати ресурси на її захист. Крім того, захищені й широко визнані майнові права уможливлюють торгівлю.", "we think this is an improvement on anarchy. Once a claim is recognised, the holder no longer needs to spend resources defending it. Moreover, secure and widely recognised property claims make trade possible.": "ми вважаємо це покращенням порівняно з анархією. Щойно заявку визнано, її власнику більше не потрібно витрачати ресурси на її захист. Крім того, захищені й широко визнані майнові права уможливлюють торгівлю.", " value is no longer wasted contesting claimed resources but is still wasted in the race to claim them.": " цінність більше не витрачається на оскарження вже заявлених ресурсів, але все ще витрачається в перегонах, щоб заявити права на них.", "value is no longer wasted contesting claimed resources but is still wasted in the race to claim them.": "цінність більше не витрачається на оскарження вже заявлених ресурсів, але все ще витрачається в перегонах, щоб заявити права на них.", " It also seems likely that a small number of powerful actors—perhaps whoever can send out a wave of probes first—will claim most resources. And this proposal has no mechanism for public goods provision or enforcement of prohibitions, so it forgoes potentially large gains from moral public goods and from preventing egregiously unpopular uses of resources.": " Також видається ймовірним, що невелика кількість потужних акторів — можливо, ті, хто першими зможуть відправити хвилю зондів, — заявлять права на більшість ресурсів. Крім того, ця пропозиція не має механізму забезпечення суспільних благ чи примусового виконання заборон, тож вона відмовляється від потенційно великих виграшів від моральних суспільних благ і від запобігання кричуще непопулярним способам використання ресурсів.", "It also seems likely that a small number of powerful actors—perhaps whoever can send out a wave of probes first—will claim most resources. And this proposal has no mechanism for public goods provision or enforcement of prohibitions, so it forgoes potentially large gains from moral public goods and from preventing egregiously unpopular uses of resources.": "Також видається ймовірним, що невелика кількість потужних акторів — можливо, ті, хто першими зможуть відправити хвилю зондів, — заявлять права на більшість ресурсів. Крім того, ця пропозиція не має механізму забезпечення суспільних благ чи примусового виконання заборон, тож вона відмовляється від потенційно великих виграшів від моральних суспільних благ і від запобігання кричуще непопулярним способам використання ресурсів.", "Next, we discuss governance proposals that we think improve on these scenarios according to the criteria above.": "Далі ми розглянемо пропозиції щодо врядування, які, на нашу думку, покращують ці сценарії за вищезгаданими критеріями.", "Direct endowment and trade": "Пряме наділення ресурсами і торгівля", "Each person receives title to a portion of all future resources, which gives them the right to decide how those resources will be used in the future. For example, people can sell their shares of future resources, gift them to other people or to trusts, or ": "Кожна людина отримує право власності на частку всіх майбутніх ресурсів, що дає їй право вирішувати, як ці ресурси використовуватимуться в майбутньому. Наприклад, люди можуть продавати свої частки майбутніх ресурсів, дарувати їх іншим людям чи трастам, або ", "Each person receives title to a portion of all future resources, which gives them the right to decide how those resources will be used in the future. For example, people can sell their shares of future resources, gift them to other people or to trusts, or": "Кожна людина отримує право власності на частку всіх майбутніх ресурсів, що дає їй право вирішувати, як ці ресурси використовуватимуться в майбутньому. Наприклад, люди можуть продавати свої частки майбутніх ресурсів, дарувати їх іншим людям чи трастам, або", "make bilateral deals with each other": "укладати двосторонні угоди одне з одним", " about how they’ll use their resources. Property rights are well-enforced in practice.": " про те, як вони використовуватимуть свої ресурси. На практиці майнові права добре захищені й забезпечуються.", "about how they’ll use their resources. Property rights are well-enforced in practice.": "про те, як вони використовуватимуть свої ресурси. На практиці майнові права добре захищені й забезпечуються.", " As before, no effective system exists for large-scale coordination or public goods provision, and no governance system can enforce prohibitions.": " Як і раніше, не існує ефективної системи для широкомасштабної координації чи забезпечення суспільних благ, і жодна система врядування не може примусово забезпечити виконання заборон.", "As before, no effective system exists for large-scale coordination or public goods provision, and no governance system can enforce prohibitions.": "Як і раніше, не існує ефективної системи для широкомасштабної координації чи забезпечення суспільних благ, і жодна система врядування не може примусово забезпечити виконання заборон.", "(A related approach: auction titles to all space resources and then redistribute the proceeds equally. In theory, if we make some standard assumptions, this scheme would result in the same distribution of ownership as direct endowment.": "(Споріднений підхід: продати права власності на всі космічні ресурси на аукціоні, а потім порівну розподілити виручені кошти. Теоретично, за деяких стандартних припущень, ця схема призвела б до такого ж розподілу власності, як і пряме наділення ресурсами.", " when property rights are clear and well-established from the outset, bilateral trade—including moral trade—becomes easier. Compared to finders-keepers, there are no longer incentives to waste resources through racing.": " коли майнові права чіткі й добре встановлені із самого початку, двостороння торгівля — включно з моральною торгівлею — стає простішою. Порівняно з принципом «хто знайшов — того й є», зникають стимули витрачати ресурси на перегони за заявками.", "when property rights are clear and well-established from the outset, bilateral trade—including moral trade—becomes easier. Compared to finders-keepers, there are no longer incentives to waste resources through racing.": "коли майнові права чіткі й добре встановлені із самого початку, двостороння торгівля — включно з моральною торгівлею — стає простішою. Порівняно з принципом «хто знайшов — того й є», зникають стимули витрачати ресурси на перегони за заявками.", "Since each property-holder is free to decide what to do with their share of the future, at least some resources will be devoted to pursuing most moral views, making it likely that cheap-to-satisfy views will be satisfied.": "Оскільки кожен власник вільний вирішувати, що робити зі своєю часткою майбутнього, принаймні частина ресурсів буде спрямована на реалізацію більшості моральних поглядів, що робить імовірним задоволення тих поглядів, які легко задовольнити.", " moral public goods would have to be funded through voluntary contracts, and it’s not clear whether voluntary contracts will be sufficient to ensure that moral public goods are funded at the optimal level, since ": " моральні суспільні блага довелося б фінансувати через добровільні угоди, і не зрозуміло, чи буде добровільних угод достатньо для забезпечення фінансування моральних суспільних благ на оптимальному рівні, оскільки ", "moral public goods would have to be funded through voluntary contracts, and it’s not clear whether voluntary contracts will be sufficient to ensure that moral public goods are funded at the optimal level, since": "моральні суспільні блага довелося б фінансувати через добровільні угоди, і не зрозуміло, чи буде добровільних угод достатньо для забезпечення фінансування моральних суспільних благ на оптимальному рівні, оскільки", "individuals will face a strong incentive to free-ride": "окремі особи матимуть сильний стимул до безбілетництва", "Since direct endowment doesn’t involve a way to impose universal prohibitions on how to use future resources, the same drawbacks carry over from anarchy and finders-keepers: if there are some uses of resources which are egregiously bad by most people’s lights, but preferred by a few actors, it may be hard to prevent those uses, and bad actors could even threaten those uses to extract concessions. This is the mirror image of the moral public goods drawback: there is no easy way to coordinate to prevent moral public bads.": "Оскільки пряме наділення ресурсами не передбачає способу запровадити універсальні заборони на використання майбутніх ресурсів, ті самі недоліки, що й в анархії та принципі «хто знайшов — того й є», зберігаються тут: якщо якісь способи використання ресурсів є кричуще поганими на думку більшості людей, але бажані для кількох акторів, запобігти такому використанню може бути важко, і недобросовісні актори можуть навіть погрожувати таким використанням, щоб виторгувати поступки. Це дзеркальне відображення недоліку з моральними суспільними благами: так само немає простого способу скоординуватися, щоб запобігти моральним суспільним лихам.", "A fuzzier concern: we think it’s probably better for the current generation to think of themselves as stewards who seek to create the best future by their own lights in the space that they control, rather than as “space emperors” who try to squeeze the maximum personal enjoyment or aggrandizement out of their share of resources. If people get unilateral control over space resources ": "Менш чітке занепокоєння: ми вважаємо, що нинішньому поколінню, ймовірно, краще сприймати себе як розпорядників, які прагнуть створити найкраще майбутнє на власний розсуд у тому просторі, який вони контролюють, а не як «космічних імператорів», що намагаються вичавити максимум особистої насолоди чи самовеличання зі своєї частки ресурсів. Якщо люди отримують одноосібний контроль над космічними ресурсами ", "A fuzzier concern: we think it’s probably better for the current generation to think of themselves as stewards who seek to create the best future by their own lights in the space that they control, rather than as “space emperors” who try to squeeze the maximum personal enjoyment or aggrandizement out of their share of resources. If people get unilateral control over space resources": "Менш чітке занепокоєння: ми вважаємо, що нинішньому поколінню, ймовірно, краще сприймати себе як розпорядників, які прагнуть створити найкраще майбутнє на власний розсуд у тому просторі, який вони контролюють, а не як «космічних імператорів», що намагаються вичавити максимум особистої насолоди чи самовеличання зі своєї частки ресурсів. Якщо люди отримують одноосібний контроль над космічними ресурсами", " they’re allowed to buy and sell them like normal property, we worry that this might push people to think of the resources as a personal windfall rather than a serious moral responsibility.": " і їм дозволено купувати й продавати їх, як звичайну власність, ми побоюємося, що це може підштовхнути людей сприймати ці ресурси як особисту несподівану удачу, а не як серйозну моральну відповідальність.", "they’re allowed to buy and sell them like normal property, we worry that this might push people to think of the resources as a personal windfall rather than a serious moral responsibility.": "і їм дозволено купувати й продавати їх, як звичайну власність, ми побоюємося, що це може підштовхнути людей сприймати ці ресурси як особисту несподівану удачу, а не як серйозну моральну відповідальність.", "Uncertainties and decision points:": "Невизначеності та точки прийняття рішень:", " We’d also need to make a call on decisions like:": " Нам також доведеться визначитися з такими рішеннями:", "We’d also need to make a call on decisions like:": "Нам також доведеться визначитися з такими рішеннями:", "Who gets resources? (For example, should resources be reserved for future generations?)": "Хто отримує ресурси? (Наприклад, чи варто резервувати ресурси для майбутніх поколінь?)", "Should people be allowed to sell, transfer, or wager their resources immediately? Or do we want to—somewhat paternalistically—enforce a waiting period for people to carefully consider their options?": "Чи варто дозволити людям одразу продавати, передавати чи ставити на кін свої ресурси? Чи, натомість, дещо патерналістично, запровадити період очікування, щоб люди могли ретельно обміркувати свої варіанти?", "What is the relationship of a galaxy’s “owner” to the future inhabitants of the galaxy?": "Яким є взаємозв'язок «власника» галактики з майбутніми мешканцями цієї галактики?", "One important variant on this is to add some mechanisms for preventing people from using resources in egregiously bad ways. In the section ": "Один важливий варіант цього підходу — додати певні механізми, що запобігають кричуще поганому використанню ресурсів людьми. У розділі ", "One important variant on this is to add some mechanisms for preventing people from using resources in egregiously bad ways. In the section": "Один важливий варіант цього підходу — додати певні механізми, що запобігають кричуще поганому використанню ресурсів людьми. У розділі", ", we discuss some possibilities.": ", ми розглядаємо деякі можливості.", "Voting on collective uses of resources": "Голосування щодо колективного використання ресурсів", "Everyone votes on proposals for what to do with space resources. These proposals could range from very concrete (e.g., “create digital minds according to this specification”), to very meta (e.g., “delay doing anything with space resources right now, and re-assess with another vote X years from now” or “allocate some future resources to private ownership”), or something in between.": "Кожен голосує за пропозиції щодо того, що робити з космічними ресурсами. Ці пропозиції можуть бути як дуже конкретними (наприклад, «створити цифрові розуми за такою специфікацією»), так і дуже метарівневими (наприклад, «наразі відкласти будь-які дії з космічними ресурсами й переглянути питання на новому голосуванні через X років» або «виділити частину майбутніх ресурсів у приватну власність»), або чимось проміжним.", "Strengths.": "Переваги.", " Compared to the other proposals so far, it’s easier to fund ": " Порівняно з розглянутими досі пропозиціями, тут легше фінансувати ", "Compared to the other proposals so far, it’s easier to fund": "Порівняно з розглянутими досі пропозиціями, тут легше фінансувати", "—if people prefer resources to go to a shared project rather than divided among all voters, they can vote for that proposal.": "— якщо люди хочуть, щоб ресурси пішли на спільний проєкт, а не були розділені між усіма виборцями, вони можуть проголосувати за таку пропозицію.", "It’s also a more flexible plan: once future resources are transferred to private ownership, recovering the ability to make collective decisions might be impossible even if almost everyone wanted it. With some kind of regular vote, the electorate can switch to a different plan at the time of the vote, including agreeing to delay doing anything with space resources.": "Це також гнучкіший план: щойно майбутні ресурси передано в приватну власність, повернути можливість ухвалювати колективні рішення може бути неможливо, навіть якщо цього хотіли б майже всі. За наявності певної форми регулярного голосування електорат може під час голосування перейти на інший план, зокрема погодитися відкласти будь-які дії з космічними ресурсами.", " All known voting systems have significant problems. Some are simply inefficient: for instance, majority rule faces the familiar problem that the majority view can succeed when the majority wouldn’t deem the minority’s preferred option much worse, but the minority greatly dislikes the majority’s preferred option. Others incentivize people to ": " Усі відомі системи голосування мають суттєві проблеми. Деякі просто неефективні: наприклад, правило більшості стикається з відомою проблемою, коли позиція більшості перемагає навіть тоді, коли сама більшість не вважає варіант меншості набагато гіршим, тоді як меншість категорично не сприймає варіант більшості. Інші стимулюють людей ", "All known voting systems have significant problems. Some are simply inefficient: for instance, majority rule faces the familiar problem that the majority view can succeed when the majority wouldn’t deem the minority’s preferred option much worse, but the minority greatly dislikes the majority’s preferred option. Others incentivize people to": "Усі відомі системи голосування мають суттєві проблеми. Деякі просто неефективні: наприклад, правило більшості стикається з відомою проблемою, коли позиція більшості перемагає навіть тоді, коли сама більшість не вважає варіант меншості набагато гіршим, тоді як меншість категорично не сприймає варіант більшості. Інші стимулюють людей", "misreport their preferences": "неправдиво подавати свої уподобання", ", individually or through collusion, to benefit themselves at the expense of overall value. This problem is especially serious when people know the details of the voting system well in advance and have ample time to develop strategies to game it with ASI assistance.": ", індивідуально чи через змову, щоб отримати вигоду для себе за рахунок сумарної цінності. Ця проблема особливо серйозна, коли люди заздалегідь добре знають деталі системи голосування й мають достатньо часу, щоб за допомогою ASI розробити стратегії маніпулювання нею.", "A further drawback is that voting requires synchronized decisions: everyone must vote at the same time. If the vote happens in 2100, you vote according to your preferences at that time, even if you would have preferred more time to reflect first. In principle, people could vote to delay the vote. But you could still face situations where a majority wants to vote now while a minority wants to keep reflecting, and the minority gets overruled. Contrast this with direct endowment, where each person can reflect for as long as they want before deciding what to do with their resources.": "Ще один недолік полягає в тому, що голосування вимагає синхронізованих рішень: усі мають проголосувати одночасно. Якщо голосування відбудеться у 2100 році, ви голосуєте відповідно до своїх тодішніх уподобань, навіть якщо воліли б мати більше часу на роздуми. У принципі, люди могли б проголосувати за перенесення голосування. Але все одно можлива ситуація, коли більшість хоче голосувати зараз, а меншість хоче й далі розмірковувати, — і думку меншості просто перекреслюють. Порівняйте це з прямим наділенням ресурсами, де кожна людина може розмірковувати стільки, скільки захоче, перш ніж вирішити, що робити зі своїми ресурсами.", "Uncertainties and decision points": "Невизначеності та точки прийняття рішень", ": How badly can strategic voting distort outcomes in practice, and can novel technology (e.g., lie-detection technology) mitigate this? How well does voting handle bilateral trades between people with rare preferences? And we’d need to decide: when do we hold the vote, who is included, and which voting system do we use?": ": Наскільки сильно стратегічне голосування може спотворювати результати на практиці, і чи здатні нові технології (наприклад, технологія детекції брехні) це пом'якшити? Наскільки добре голосування враховує двосторонні угоди між людьми з рідкісними уподобаннями? І нам потрібно буде вирішити: коли проводити голосування, кого до нього залучати і яку систему голосування використовувати?", "Similar to voting, but instead of people casting votes, AI systems try to directly ascertain people’s preferences. For example, AI systems might build a profile of a person’s preferences from all their writing, extensive interviews perhaps under lie detection, and/or brain scans. Then, everyone’s preferences are aggregated to decide what to do with space resources. As with voting, the decision might be quite meta—e.g., wait 100 years and then do preference aggregation again.": "Подібно до голосування, але замість того, щоб люди подавали голоси, ШІ-системи намагаються напряму з'ясувати уподобання людей. Наприклад, ШІ-системи можуть скласти профіль уподобань людини на основі всіх її текстів, розгорнутих інтерв'ю — можливо, під детекцією брехні, — та/або сканувань мозку. Потім уподобання всіх людей агрегуються, щоб вирішити, що робити з космічними ресурсами. Як і в разі голосування, рішення може бути доволі метарівневим — наприклад, зачекати 100 років, а потім знову провести агрегацію уподобань.", "It’s not clear how best to aggregate preference, but here’s a sketch of a proposal. Everyone is first assigned 1/N of future resources as a baseline—their fallback if no gains from trade are found. An AI arbiter then identifies reassignments of resources that would improve everyone’s preference satisfaction above this baseline, splitting the gains fairly among all beneficiaries. This handles bilateral moral trade: if person A most wants statues of herself and person B most wants statues of himself, but both value statues of George Washington at 60% as much, the arbiter directs their combined resources toward Washington statues, leaving both better off than their baseline. It can also handle moral public goods: if funding some public good would improve everyone’s welfare, the arbiter taxes each person in proportion to how much they value that good (": "Не зовсім зрозуміло, як найкраще агрегувати уподобання, але ось начерк однієї з пропозицій. Спочатку кожній людині призначається 1/N майбутніх ресурсів як базовий рівень — її запасний варіант, якщо не буде знайдено вигоди від обміну. Далі ШІ-арбітр визначає такі перерозподіли ресурсів, які підвищили б задоволення уподобань кожного понад цей базовий рівень, справедливо розподіляючи виграш між усіма бенефіціарами. Це дає змогу здійснювати двосторонню моральну торгівлю: якщо особа A найбільше хоче статуй самої себе, а особа B найбільше хоче статуй самого себе, але обидві цінують статуї Джорджа Вашингтона на 60% так само високо, арбітр спрямовує їхні спільні ресурси на статуї Вашингтона, залишаючи обох у виграші порівняно з базовим рівнем. Це також дає змогу забезпечувати моральні суспільні блага: якщо фінансування якогось суспільного блага підвищило б добробут кожного, арбітр оподатковує кожну людину пропорційно до того, наскільки вона цінує це благо (", "a Lindahl tax": "податок Ліндаля", " Direct preference aggregation is a modification of the voting proposal above and inherits its strengths. Its major additional advantage is that it makes strategic manipulation more difficult than in voting systems.": " Пряма агрегація уподобань — це модифікація описаної вище пропозиції щодо голосування, яка успадковує її переваги. Її головна додаткова перевага в тому, що вона ускладнює стратегічні маніпуляції порівняно із системами голосування.", "Direct preference aggregation is a modification of the voting proposal above and inherits its strengths. Its major additional advantage is that it makes strategic manipulation more difficult than in voting systems.": "Пряма агрегація уподобань — це модифікація описаної вище пропозиції щодо голосування, яка успадковує її переваги. Її головна додаткова перевага в тому, що вона ускладнює стратегічні маніпуляції порівняно із системами голосування.", "Drawbacks.": "Недоліки.", " Eliciting people’s honest preferences would require some novel technology and it’s not clear what this process would look like. It’s possible that this process would be invasive, time-consuming, or unpleasant for participants (e.g., an interview while hooked up to a lie detector). It seems unjust and contrary to common-sense morality to require that people go through a procedure that they strongly object to in order to have input into the allocation of future resources.": " З'ясування чесних уподобань людей вимагатиме певної нової технології, і не зовсім зрозуміло, як цей процес виглядатиме. Можливо, він виявиться інвазивним, довготривалим або неприємним для учасників (наприклад, інтерв'ю, підключеним до детектора брехні). Здається несправедливим і таким, що суперечить моралі здорового глузду, вимагати від людей проходити процедуру, проти якої вони рішуче заперечують, лише для того, щоб мати право голосу в розподілі майбутніх ресурсів.", "Eliciting people’s honest preferences would require some novel technology and it’s not clear what this process would look like. It’s possible that this process would be invasive, time-consuming, or unpleasant for participants (e.g., an interview while hooked up to a lie detector). It seems unjust and contrary to common-sense morality to require that people go through a procedure that they strongly object to in order to have input into the allocation of future resources.": "З'ясування чесних уподобань людей вимагатиме певної нової технології, і не зовсім зрозуміло, як цей процес виглядатиме. Можливо, він виявиться інвазивним, довготривалим або неприємним для учасників (наприклад, інтерв'ю, підключеним до детектора брехні). Здається несправедливим і таким, що суперечить моралі здорового глузду, вимагати від людей проходити процедуру, проти якої вони рішуче заперечують, лише для того, щоб мати право голосу в розподілі майбутніх ресурсів.", "There are a few more technical issues. For instance, people could strategically modify their preferences before assessment, breaking the main reason for trying to directly elicit people’s preferences (although mitigations might be possible—e.g., governments could ban people from modifying their preferences using novel technologies or require that they register their pre-modification preferences). We also haven’t spelled out a specific algorithm for doing the preference aggregation, and it could be difficult to avoid perverse or hard-to-predict outcomes, especially if many people are best represented as having inconsistent or incoherent preferences. Indeed, the question of how to represent someone’s preferences, including on questions they haven’t explicitly considered, seems very contentious and underdetermined.": "Є ще кілька технічних проблем. Наприклад, люди могли б стратегічно змінювати свої уподобання перед оцінюванням, що підриває саму ідею намагатися напряму з'ясувати уподобання людей (хоча можливі й пом'якшувальні заходи — наприклад, уряди могли б заборонити людям змінювати свої уподобання за допомогою нових технологій або вимагати реєструвати уподобання до їх зміни). Ми також не описали конкретний алгоритм проведення агрегації уподобань, і може бути важко уникнути перекручених або важкопередбачуваних результатів, особливо якщо уподобання багатьох людей найкраще описуються як непослідовні чи несумісні. Справді, питання про те, як представляти чиїсь уподобання, включно з питаннями, які людина явно не розглядала, здається дуже спірним і недостатньо визначеним.", "Defer to superintelligence": "Покластися на суперінтелект", "Instead of any particular method of inferring and aggregating people’s preferences, humanity builds aligned superintelligence to plan on its behalf and give it control of nearly all space resources.": "Замість того, щоб застосовувати якийсь конкретний метод з'ясування та агрегації уподобань людей, людство створює узгоджений суперінтелект, який планує від його імені, і надає йому контроль над майже всіма космічними ресурсами.", "For example, we could start with a “council” of superintelligent delegates, each starting from one of many diverse moral and philosophical traditions. Those delegates then engage in deep reflection and deliberation with one another. The delegates can initially be trained to be reliable and accurate on all verifiable domains, like forecasting and mathematics, and not post-trained to strongly avoid novel, ‘weird’, or otherwise unpopular views just because they are currently unpopular. If the superintelligences converged onto a single moral view, then they could devote space resources to that plan. If the superintelligences continued to have different views, they could come to a compromise plan via voting, direct endowment, or direct preference aggregation.": "Наприклад, можна почати з «ради» суперінтелектуальних делегатів, кожен з яких вихідно спирається на одну з багатьох різноманітних моральних і філософських традицій. Далі ці делегати вступають між собою в глибоку рефлексію та обговорення. Спочатку делегатів можна натренувати бути надійними й точними в усіх верифіковуваних сферах, як-от прогнозування та математика, і не піддавати їх такому пост-тренуванню, яке змушувало б їх активно уникати нових, «дивних» чи інакше непопулярних поглядів лише тому, що ті наразі непопулярні. Якщо суперінтелекти зійдуться на єдиному моральному погляді, вони зможуть спрямувати космічні ресурси на реалізацію цього плану. Якщо ж суперінтелекти й надалі матимуть різні погляди, вони зможуть дійти компромісного плану через голосування, пряме наділення ресурсами або пряму агрегацію уподобань.", "Or we could design an ASI system to be motivated to discover and act on objective moral truths, if they exist. (If they don’t exist, then it would revert to a backup plan—perhaps one of the proposals above).": "Або ж можна створити систему ASI, мотивовану відкривати об'єктивні моральні істини й діяти відповідно до них, якщо такі істини існують. (Якщо вони не існують, система переходить до резервного плану — можливо, однієї з описаних вище пропозицій).", "Strengths": "Переваги", ". Determining the best plan under a particular moral view probably requires discovering and grappling with lots of novel and counterintuitive considerations. The resulting plan might seem ": ". Визначення найкращого плану в межах конкретного морального погляду, ймовірно, вимагає відкриття й осмислення багатьох нових і контрінтуїтивних міркувань. Отриманий план може здатися ", ". Determining the best plan under a particular moral view probably requires discovering and grappling with lots of novel and counterintuitive considerations. The resulting plan might seem": ". Визначення найкращого плану в межах конкретного морального погляду, ймовірно, вимагає відкриття й осмислення багатьох нових і контрінтуїтивних міркувань. Отриманий план може здатися", "very weird and alien to humans": "дуже дивним і чужим для людей", ", and they might not be motivated to act on it, even if they’re assured by a superintelligence that it is the morally best course of action. People might also have competing personal interests that take precedence over doing the right thing. But an ASI could potentially be designed to have no competing personal interests. These considerations are particularly strong if moral realism is true, and a plan like this might be our best shot at devoting substantial resources to pursuing objective morality if it exists.": ", і люди можуть не мати мотивації діяти відповідно до нього, навіть якщо суперінтелект запевнить їх, що це морально найкращий варіант дій. У людей також можуть бути конкурентні особисті інтереси, які превалюватимуть над прагненням чинити правильно. Але ASI потенційно можна створити так, щоб він не мав конкурентних особистих інтересів. Ці міркування особливо вагомі, якщо моральний реалізм правдивий, і подібний план може бути нашим найкращим шансом спрямувати значні ресурси на реалізацію об'єктивної моралі, якщо вона існує.", "Drawbacks": "Недоліки", ". The ultimate outcome of this process might depend a lot on the details of the process—e.g., what initial viewpoints were represented on the “council” of deliberating ASIs? If this is true, who should decide? It seems rather unfair for the treaty signatories to get to choose.": ". Кінцевий результат цього процесу може значною мірою залежати від деталей самого процесу — наприклад, які початкові погляди були представлені в «раді» ASI, що радяться між собою? Якщо це так, хто має це вирішувати? Здається доволі несправедливим, щоб право вибору мали лише сторони, які підписали договір.", "We think that a process like this might be the best ultimate use of space resources. But if so it should probably result from one of the proposals above. For example, if many people found moral realism compelling after reflection, they could vote to spend public resources on the most morally valuable uses (or express a preference in direct preference aggregation). (It’s unclear whether the direct endowment proposal is sufficient for this: handing off resources to morally-aligned ASI is probably a moral public good in this scenario, so we’d expect it to be underfunded if people were individually deciding how to spend their resources).": "Ми вважаємо, що процес на кшталт цього, можливо, є найкращим кінцевим використанням космічних ресурсів. Але якщо так, це, ймовірно, мало б випливати з однієї з наведених вище пропозицій. Наприклад, якби багато людей після роздумів визнали моральний реалізм переконливим, вони могли б проголосувати за витрачання суспільних ресурсів на найбільш морально цінні цілі (або висловити свою перевагу в прямій агрегації уподобань). (Незрозуміло, чи достатньо для цього пропозиції прямого наділення ресурсами: передача ресурсів морально узгодженому ASI, ймовірно, є моральним суспільним благом у цьому сценарії, тож ми очікували б, що воно буде недофінансованим, якби люди індивідуально вирішували, як витрачати свої ресурси).", "The treaty signatories could approach this decision in three ways:": "Сторони угоди могли б підійти до цього рішення трьома способами:", "Decide on a specific process in 2040.": "Визначити конкретний процес у 2040 році.", "E.g., schedule an election in 2070 using ": "Наприклад, призначити вибори у 2070 році з використанням ", "E.g., schedule an election in 2070 using": "Наприклад, призначити вибори у 2070 році з використанням", "quadratic voting": "квадратичного голосування,", " where all living people over the age of 16 vote on what to do with all extrasolar resources.": " де всі живі люди віком від 16 років голосують за те, що робити з усіма позасонячними ресурсами.", "where all living people over the age of 16 vote on what to do with all extrasolar resources.": "де всі живі люди віком від 16 років голосують за те, що робити з усіма позасонячними ресурсами.", "Decide on a process in 2040 for picking a process later.": "Визначити у 2040 році процес для подальшого вибору процесу.", "approval voting": "Схвальне голосування", ", where all living people over the age of 16 vote on what decision process to use.": ", де всі живі люди віком від 16 років голосують за те, який процес прийняття рішень використовувати.", "E.g., design an ASI arbiter who will do a bunch of research and then pick a process that best satisfies some abstract desiderata put forward by the signatories of the Treaty in 2040.": "Наприклад, створити ASI-арбітра, який проведе велику дослідницьку роботу, а потім обере процес, що найкраще відповідає певним абстрактним критеріям, висунутим сторонами Угоди у 2040 році.", "Make no explicit decision about a process or a process for picking a process.": "Не ухвалювати жодного явного рішення щодо процесу чи процесу для вибору процесу.", "It’s not clear we’d end up deciding what to do with space, under this option. Perhaps at some point one of the signatories to the Treaty would decide that they wanted to colonize space and either do so unilaterally or negotiate with the other signatories to be allowed to do so.": "За цього варіанту не зрозуміло, чи ми взагалі дійшли б рішення щодо того, що робити з космосом. Можливо, в якийсь момент одна зі сторін Угоди вирішила б, що хоче колонізувати космос, і або зробила б це в односторонньому порядку, або домовилася б з іншими сторонами про дозвіл це зробити.", "Option 3 is probably worse than options 1 or 2. Having a concrete proposal—even a meta-level one about how to select an object-level process—allows public scrutiny, which we expect would push the proposal to be fairer and more principled. Without a concrete proposal, two failure modes become more likely. First, parties who especially wanted space resources might start lobbying the Treaty governments, and those who are well-connected or have invested heavily in lobbying would end up with outsized influence over how space resources are used. Second, some parties might start unilaterally colonizing space, which could trigger a space race. Governments could ban unilateral colonization, but that would require a plan for lifting the ban—at what point are people actually allowed to colonize?—which brings us back to option 2.": "Варіант 3, ймовірно, гірший за варіанти 1 або 2. Наявність конкретної пропозиції — навіть на метарівні, щодо того, як обрати процес на рівні конкретних дій, — дає змогу для суспільного контролю, що, як ми очікуємо, зробило б пропозицію справедливішою і більш принциповою. Без конкретної пропозиції зростає ймовірність двох сценаріїв провалу. По-перше, сторони, які особливо прагнули космічних ресурсів, могли б почати лобіювати уряди-учасники Угоди, і ті, хто має добрі зв'язки або вклав значні ресурси в лобіювання, отримали б непропорційно великий вплив на те, як використовуються космічні ресурси. По-друге, деякі сторони могли б почати колонізацію космосу в односторонньому порядку, що могло б спричинити космічну гонку. Уряди могли б заборонити односторонню колонізацію, але це вимагало б плану скасування заборони — у який момент людям справді дозволено колонізувати? — що знову повертає нас до варіанту 2.", "We’re less confident about whether option 1 or option 2 is better.": "Ми менш впевнені щодо того, який варіант кращий — 1 чи 2.", "The main argument for option 2 over option 1 is that we’ll probably get more information about how to design a good process after 2040.": "Головний аргумент на користь варіанту 2 порівняно з варіантом 1 полягає в тому, що після 2040 року ми, ймовірно, отримаємо більше інформації про те, як розробити гарний процес.", "We might discover new voting or preference aggregation systems that avoid issues with systems that we know about. However, we’re relatively pessimistic about learning much on this front after 2040, given existing ": "Ми могли б відкрити нові системи голосування або агрегації уподобань, які уникають проблем, притаманних відомим нам системам. Однак ми доволі песимістично налаштовані щодо того, що дізнаємося тут щось суттєво нове після 2040 року, з огляду на наявні ", "We might discover new voting or preference aggregation systems that avoid issues with systems that we know about. However, we’re relatively pessimistic about learning much on this front after 2040, given existing": "Ми могли б відкрити нові системи голосування або агрегації уподобань, які уникають проблем, притаманних відомим нам системам. Однак ми доволі песимістично налаштовані щодо того, що дізнаємося тут щось суттєво нове після 2040 року, з огляду на наявні", "impossibility results": "результати про неможливість,", " showing that voting systems can’t simultaneously satisfy a set of desirable features. Also, designing new preference aggregation systems is a relatively well-scoped, tractable mathematical problem so we would be somewhat surprised if we didn’t have the answer in 2040 after devoting a small amount of ASI labor to it.": " які показують, що системи голосування не можуть одночасно задовольнити певний набір бажаних властивостей. Крім того, розробка нових систем агрегації уподобань є відносно чітко окресленою, розв'язною математичною задачею, тож ми були б дещо здивовані, якби у 2040 році, витративши на це лише невелику кількість праці ASI, ми досі не мали відповіді.", "showing that voting systems can’t simultaneously satisfy a set of desirable features. Also, designing new preference aggregation systems is a relatively well-scoped, tractable mathematical problem so we would be somewhat surprised if we didn’t have the answer in 2040 after devoting a small amount of ASI labor to it.": "які показують, що системи голосування не можуть одночасно задовольнити певний набір бажаних властивостей. Крім того, розробка нових систем агрегації уподобань є відносно чітко окресленою, розв'язною математичною задачею, тож ми були б дещо здивовані, якби у 2040 році, витративши на це лише невелику кількість праці ASI, ми досі не мали відповіді.", "We might learn how well particular processes are likely to work in practice.": "Ми могли б дізнатися, наскільки добре певні процеси, ймовірно, працюватимуть на практиці.", "For instance, we might learn about strategies that people are actually using to try to game the current system and adapt the rules accordingly, e.g., if we have rules intended to prevent parents from controlling their children’s values to an excessive degree, and it turns out that some parents can find loopholes to exert a lot of control, we could adapt the rules in response).": "Наприклад, ми могли б дізнатися про стратегії, які люди насправді використовують, щоб намагатися обійти чинну систему, і відповідно скоригувати правила — наприклад, якщо в нас є правила, покликані не допустити, щоб батьки надмірною мірою контролювали цінності своїх дітей, а виявиться, що деякі батьки можуть знаходити лазівки для здійснення значного контролю, ми могли б скоригувати правила у відповідь).", "We might discover new tools or capabilities that enable a better process.": "Ми могли б відкрити нові інструменти чи можливості, які уможливлюють кращий процес.", "For instance, we might develop new methods for noninvasively scanning people’s brains to determine their preferences.": "Наприклад, ми могли б розробити нові методи неінвазивного сканування мозку людей для визначення їхніх уподобань.", "We might discover new considerations that affect the optimal preference aggregation process.": "Ми могли б виявити нові міркування, які впливають на оптимальний процес агрегації уподобань.", "For instance, we might identify valuable forms of moral trade that we want our preference aggregation process to accommodate.": "Наприклад, ми могли б визначити цінні форми моральної торгівлі, які ми хотіли б, щоб наш процес агрегації уподобань міг врахувати.", "On the other hand, people will also accumulate information about the likely object-level consequences of each possible process": "З іншого боку, люди також накопичуватимуть інформацію про ймовірні наслідки кожного можливого процесу на рівні конкретних дій", ". For example, suppose that we decided to vote in 2070 to decide on a procedure for deciding what to do with space, choosing between the policies of “hold a majority vote and do whatever the winning proposal says” and “direct endowment.” And at this time, it turns out that 50.1% of people favor colonizing the Milky Way while leaving the rest of space as a permanent nature preserve, while 49.9% have plans to colonize more distant galaxies.": ". Наприклад, припустімо, що ми вирішили провести у 2070 році голосування, щоб визначити процедуру ухвалення рішення про те, що робити з космосом, обираючи між політиками «провести голосування більшістю і зробити так, як каже пропозиція-переможець» і «пряме наділення ресурсами». І в цей момент виявляється, що 50,1% людей віддають перевагу колонізації Чумацького Шляху, залишивши решту космосу як постійний природний заповідник, тоді як 49,9% мають плани колонізувати віддаленіші галактики.", "In 2070, it would be clear that if we chose the majority vote, then all space resources would be allocated to the majority’s colonize-the-Milky-Way-and-nothing-else plan, but if we went with the direct endowment plan, then some galaxies would be left as nature preserves, while others would be colonized by the minority. Members of the colonize-the-Milky-Way-and-nothing-else coalition would then be strongly tempted to favor the majority vote when choosing a process.": "У 2070 році було б зрозуміло, що якщо ми оберемо голосування більшістю, то всі космічні ресурси буде спрямовано на план більшості «колонізувати лише Чумацький Шлях і нічого більше», але якщо ми оберемо план прямого наділення ресурсами, то деякі галактики залишаться природними заповідниками, тоді як інші колонізує меншість. Члени коаліції «колонізувати лише Чумацький Шлях і нічого більше» тоді матимуть сильну спокусу підтримати голосування більшістю під час вибору процесу.", "At best, the process-revision vote becomes redundant—we might as well have voted directly on the object-level outcome. At worst, we lose the opportunity for people to agree on a process grounded in principles like fairness or Paretopianism.": "У найкращому разі голосування щодо перегляду процесу стає зайвим — ми могли б з таким самим успіхом голосувати прямо за результат на рівні конкретних дій. У найгіршому разі ми втрачаємо можливість для людей домовитися про процес, заснований на таких принципах, як справедливість чи паретопіанство.", "One possible way around this would be to delegate process revisions to an AI arbiter that adjusts the process based on principles established in 2040, without regard for which factions benefit from any given change. This approach relies heavily on being able to verifiably align an AI system to a set of principles. It also requires being able to identify principles in 2040 that are specific enough for the AI arbiter to apply without heavy extrapolation, but not so specific that we forfeit much of the upside of deferring process decisions to a later date. But if it’s possible, this might be a good way to incorporate new information in a principled way.": "Один із можливих способів обійти цю проблему — делегувати перегляд процесу ШІ-арбітру, який коригує процес на основі принципів, встановлених у 2040 році, незалежно від того, яким фракціям вигідна та чи інша зміна. Такий підхід значною мірою покладається на здатність верифіковано узгодити систему ШІ з набором принципів. Він також вимагає здатності визначити у 2040 році принципи, достатньо конкретні, щоб ШІ-арбітр міг застосовувати їх без значної екстраполяції, але не настільки конкретні, щоб ми втратили значну частину переваг відкладання рішень щодо процесу на пізніший термін. Але якщо це можливо, це може бути гарним способом принципово враховувати нову інформацію.", "Once we’ve picked an object-level process—like a vote, a preference aggregation procedure, or directly distributing deeds to space resources—there’s a question of when to run that process.": "Після того як ми оберемо процес на рівні конкретних дій — наприклад, голосування, процедуру агрегації уподобань або пряму передачу прав власності на космічні ресурси, — постає питання, коли саме запускати цей процес.", "Here are some advantages of delaying the process:": "Ось деякі переваги відкладання цього процесу:", "People have more time to reflect on what they care about and how they endorse using space resources before it’s time to make a decision. This matters most for voting and direct preference aggregation, where everyone must decide simultaneously.": "У людей більше часу для роздумів про те, що для них важливо і як вони підтримують використання космічних ресурсів, перш ніж настане час ухвалювати рішення. Це має найбільше значення для голосування і прямої агрегації уподобань, де всі мають ухвалювати рішення одночасно.", "People may have access to more information at the time of the decision—e.g., a clearer sense of what is technically feasible to do with space resources.": "На момент ухвалення рішення в людей може бути доступ до більшої кількості інформації — наприклад, чіткіше розуміння того, що технічно можливо зробити з космічними ресурсами.", "It’s possible to incorporate later generations into the process—e.g., allow them a vote, take their preferences into account for direct preference aggregation, or distribute resources directly. This seems good on grounds of common-sense ethics, as it’s plausibly unfair for the current generation to make decisions about the use of space resources on behalf of all future generations.": "Можна залучити до процесу майбутні покоління — наприклад, надати їм право голосу, врахувати їхні уподобання в прямій агрегації уподобань або розподілити ресурси безпосередньо між ними. Це виглядає доцільним з погляду етики здорового глузду, оскільки, ймовірно, було б несправедливо, якби нинішнє покоління ухвалювало рішення щодо використання космічних ресурсів від імені всіх майбутніх поколінь.", "Here are some advantages of running the process relatively early:": "Ось деякі переваги запуску процесу відносно рано:", "Some types of ": "Деякі види ", "Some types of": "Деякі види", "potentially valuable moral trade": "потенційно цінної моральної торгівлі", " are possible only if participants are uncertain about the future, and people’s uncertainty about the future will probably decrease over time.": " можливі лише тоді, коли учасники не впевнені щодо майбутнього, а невпевненість людей щодо майбутнього, ймовірно, з часом зменшуватиметься.", "are possible only if participants are uncertain about the future, and people’s uncertainty about the future will probably decrease over time.": "можливі лише тоді, коли учасники не впевнені щодо майбутнього, а невпевненість людей щодо майбутнього, ймовірно, з часом зменшуватиметься.", "People might want to bet on the outcomes of some reflective processes. For example, Alice might care deeply about maximizing positive impact if moral realism turns out to be true and discoverable, but care little about having resources if there are no objective moral truths. If Bob values resources equally regardless of whether moral realism is true, Alice and Bob might make the following bet: if ASIs discover objective moral truths, then Bob gives some of his resources to Alice. Otherwise, Alice pays Bob (": "Люди могли б захотіти робити ставки на результати деяких рефлективних процесів. Наприклад, Аліса могла б глибоко перейматися максимізацією позитивного впливу, якщо виявиться, що моральний реалізм правдивий і пізнаваний, але мало перейматися наявністю ресурсів, якщо об'єктивних моральних істин не існує. Якщо Боб цінує ресурси однаково незалежно від того, чи правдивий моральний реалізм, Аліса і Боб могли б укласти таке парі: якщо ASI відкриють об'єктивні моральні істини, тоді Боб віддасть частину своїх ресурсів Алісі. В іншому разі Аліса заплатить Бобу (", "more discussion of these wagers here": "детальніший розгляд цих парі тут", "People might also want to bet on empirical facts. For instance, we may still have uncertainty about how many galaxies are within the reachable universe and which of those galaxies are already occupied by aliens. A fairly risk-averse person might buy resources that are likely reachable and unoccupied, in exchange for a larger amount of more uncertain resources, while a more risk-tolerant person might take the other side of the trade.": "Люди також могли б захотіти робити ставки на емпіричні факти. Наприклад, у нас усе ще може залишатися невизначеність щодо того, скільки галактик перебуває в межах досяжного всесвіту і які з цих галактик уже заселені інопланетянами. Доволі схильна уникати ризику людина могла б купити ресурси, які, ймовірно, досяжні і незаселені, в обмін на більшу кількість ресурсів з вищою невизначеністю, тоді як більш схильна до ризику людина могла б взяти на себе протилежну сторону цієї угоди.", "These deals are most straightforward under direct endowment, but they could also work in voting systems, e.g., a coalition of moral realists and subjectivists might be willing to vote for a proposal that spent resources in the most moral way (conditional on moral truths existing and being discoverable) and otherwise distribute the resources to the subjectivists’ preferred purposes.": "Такі угоди найпростіше реалізувати за прямого наділення ресурсами, але вони також можуть працювати в системах голосування — наприклад, коаліція моральних реалістів і суб'єктивістів могла б бути готова проголосувати за пропозицію, яка витрачає ресурси найморальнішим чином (за умови, що моральні істини існують і є пізнаваними), а інакше розподіляє ресурси на цілі, яким віддають перевагу суб'єктивісти.", "Delaying decisions also gives people more time to figure out how to strategically misrepresent their preferences ahead of a vote or preference aggregation process.": "Відкладання рішень також дає людям більше часу, щоб зметикувати, як стратегічно спотворити свої уподобання перед голосуванням чи процесом агрегації уподобань.", "Running the process earlier may allow more flexibility.": "Запуск процесу раніше може забезпечити більшу гнучкість.", "If an early vote is scheduled and delaying seems wise at the time of the vote, voters can simply vote to defer to a later vote. If resources are distributed early, recipients can take their time deciding what to do with them.": "Якщо заплановано раннє голосування, а на момент голосування відкладання видається розумним рішенням, виборці можуть просто проголосувати за перенесення на пізніше голосування. Якщо ресурси розподіляються рано, отримувачі можуть не поспішати з рішенням про те, що з ними робити.", "On the other hand, if the process is scheduled for later, then we can’t make an early decision even if that would have been wise.": "З іншого боку, якщо процес заплановано на пізніший термін, ми не можемо ухвалити раннє рішення, навіть якщо це було б розумно.", "In this section, we discuss who should participate in deciding how to use space resources. This is distinct from who should receive other rights, such as autonomy over their own lives or the right not to be mistreated. We discuss more about how those basic rights could be assured in a ": "У цьому розділі ми обговорюємо, хто має брати участь в ухваленні рішень про те, як використовувати космічні ресурси. Це відрізняється від питання, хто повинен отримати інші права, наприклад автономію над власним життям або право не зазнавати поганого поводження. Докладніше про те, як можна забезпечити ці базові права, ми розповідаємо в ", "In this section, we discuss who should participate in deciding how to use space resources. This is distinct from who should receive other rights, such as autonomy over their own lives or the right not to be mistreated. We discuss more about how those basic rights could be assured in a": "У цьому розділі ми обговорюємо, хто має брати участь в ухваленні рішень про те, як використовувати космічні ресурси. Це відрізняється від питання, хто повинен отримати інші права, наприклад автономію над власним життям або право не зазнавати поганого поводження. Докладніше про те, як можна забезпечити ці базові права, ми розповідаємо в", "later section": "одному з наступних розділів", "People with substantial bargaining power in 2040": "Люди зі значною переговорною силою у 2040 році", "It’s unclear who these people will be, but some plausible candidates are: AI company CEOs, AI company shareholders, the US president (and advisors), the US electorate, Chinese leadership, or the leadership and/or electorate of other countries that participate in the treaty.": "Незрозуміло, ким саме будуть ці люди, але серед вірогідних кандидатів: керівники ШІ-компаній, акціонери ШІ-компаній, президент США (і його радники), електорат США, керівництво Китаю, або керівництво та/чи електорат інших країн — учасниць угоди.", "This is probably the default outcome. It’s also very unfair, contrary to common-sense ethics, and could lead to many people’s cheap-to-satisfy preferences being neglected unless powerful people are sympathetic to them.": "Це, ймовірно, і є результат за замовчуванням. Він також дуже несправедливий, суперечить етиці здорового глузду і може призвести до того, що дешеві для задоволення уподобання багатьох людей будуть проігноровані, якщо тільки впливові люди не поставляться до них зі співчуттям.", " We’re also concerned that if many people expect that this is how decisions will be made, then they’ll focus on jockeying over power during the intelligence explosion rather than cooperating to avert risks.": " Ми також стурбовані тим, що якщо багато людей очікуватимуть, що рішення ухвалюватимуться саме так, вони зосередяться на боротьбі за владу під час вибуху інтелекту, а не на співпраці заради відвернення ризиків.", "We’re also concerned that if many people expect that this is how decisions will be made, then they’ll focus on jockeying over power during the intelligence explosion rather than cooperating to avert risks.": "Ми також стурбовані тим, що якщо багато людей очікуватимуть, що рішення ухвалюватимуться саме так, вони зосередяться на боротьбі за владу під час вибуху інтелекту, а не на співпраці заради відвернення ризиків.", "All living humans": "Усі живі люди", "Another option is to share power among all humans who are alive in 2040, as in the Plan A scenario. This is fairer and more in line with common-sense ethics than the previous plan. And, to the extent that decision-makers can credibly signal that this will happen, committing to this plan might make people more cooperative during the intelligence explosion (although it’s unclear how credibly decision-makers could commit to this). Unlike proposals that share power with later generations (discussed ": "Інший варіант — розподілити владу між усіма людьми, які будуть живі у 2040 році, як у сценарії Плану А. Це справедливіше і більше узгоджується з етикою здорового глузду, ніж попередній план. І тією мірою, якою особи, що ухвалюють рішення, можуть переконливо просигналізувати, що так і буде, взяття на себе зобов'язання щодо цього плану могло б зробити людей більш схильними до співпраці під час вибуху інтелекту (хоча незрозуміло, наскільки переконливо особи, що ухвалюють рішення, могли б взяти на себе таке зобов'язання). На відміну від пропозицій, які розподіляють владу з майбутніми поколіннями (обговорюється ", "Another option is to share power among all humans who are alive in 2040, as in the Plan A scenario. This is fairer and more in line with common-sense ethics than the previous plan. And, to the extent that decision-makers can credibly signal that this will happen, committing to this plan might make people more cooperative during the intelligence explosion (although it’s unclear how credibly decision-makers could commit to this). Unlike proposals that share power with later generations (discussed": "Інший варіант — розподілити владу між усіма людьми, які будуть живі у 2040 році, як у сценарії Плану А. Це справедливіше і більше узгоджується з етикою здорового глузду, ніж попередній план. І тією мірою, якою особи, що ухвалюють рішення, можуть переконливо просигналізувати, що так і буде, взяття на себе зобов'язання щодо цього плану могло б зробити людей більш схильними до співпраці під час вибуху інтелекту (хоча незрозуміло, наскільки переконливо особи, що ухвалюють рішення, могли б взяти на себе таке зобов'язання). На відміну від пропозицій, які розподіляють владу з майбутніми поколіннями (обговорюється", "next": "далі", "), this option makes it possible to make decisions relatively early, ": "), цей варіант дає змогу ухвалювати рішення відносно рано, ", "), this option makes it possible to make decisions relatively early,": "), цей варіант дає змогу ухвалювати рішення відносно рано,", "which might be important": "що може бути важливим", "On the other hand, it’s unclear how politically feasible this will be. And it doesn’t include everyone who might deserve a say in how space resources are used—it excludes future people and digital minds.": "З іншого боку, незрозуміло, наскільки це буде політично здійсненним. І це не охоплює всіх, хто, можливо, заслуговує на право голосу щодо того, як використовуються космічні ресурси, — це виключає майбутніх людей і цифрові розуми.", "Some plausible options:": "Деякі вірогідні варіанти:", "Include all living humans": "Включити всіх живих людей", ". This seems like a fairly natural coordination point.": ". Це виглядає як доволі природна точка координації.", "Include all living humans in some capacity, but give people with bargaining power extra weight": "Включити всіх живих людей у тій чи іншій ролі, але надати додаткову вагу людям з переговорною силою", ". For instance, more powerful people might get larger endowments or have their votes or preferences more heavily weighted. This might be a more politically feasible compromise.": ". Наприклад, впливовіші люди могли б отримати більші наділи ресурсів або їхні голоси чи уподобання могли б враховуватися з більшою вагою. Це міг би бути політично більш здійсненний компроміс.", "Later generations": "Майбутні покоління", "“Future” generations are the generations born after the intelligence explosion. The “current” generation is the set of humans alive in 2040. We could include future generations in decisions by:": "«Майбутні» покоління — це покоління, народжені після вибуху інтелекту. «Нинішнє» покоління — це сукупність людей, живих у 2040 році. Ми могли б залучити майбутні покоління до ухвалення рішень такими способами:", "Delaying votes (or rounds of preference aggregation) until future generations are adults.": "Відкладання голосувань (або раундів агрегації уподобань) до моменту, коли майбутні покоління стануть дорослими.", "Reserving some decisions for future generations, e.g., allowing the current generation to vote on how to use 10% of space resources, but letting later generations decide at later votes how to use the remaining 90%, or directly distributing deeds to 10% of resources to the current generation, but saving 90% of resources for later generations.": "Залишити деякі рішення на розсуд майбутніх поколінь, наприклад, дозволити нинішньому поколінню проголосувати за те, як використати 10% космічних ресурсів, але надати пізнішим поколінням право вирішити на пізніших голосуваннях, як використати решту 90%, або напряму розподілити права власності на 10% ресурсів серед нинішнього покоління, зберігши 90% ресурсів для майбутніх поколінь.", "One reason to share power with later generations is that it’s plausibly unfair not to. However, if we share power with future generations, then this potentially incentivizes parents to have as many children as possible and indoctrinate them to share the parents’ beliefs and values. This could let parents swing a later vote or ensure that a larger share of resources goes to people who share their values.": "Одна з причин ділитися владою з майбутніми поколіннями полягає в тому, що не робити цього, ймовірно, нечесно. Однак якщо ми ділитимемося владою з майбутніми поколіннями, це потенційно стимулюватиме батьків мати якомога більше дітей і навіювати їм переконання та цінності батьків. Це могло б дозволити батькам вплинути на результат пізнішого голосування або забезпечити, щоб більша частка ресурсів діставалася людям, які поділяють їхні цінності.", "It’s not clear how big of a problem this is. On the one hand, it’s currently quite rare for ideological groups to deliberately try to have as many children as possible in order to increase their political and economic power. And we expect that most people would find the prospect of having huge numbers of children and brainwashing them to vote the parents’ way abhorrent. On the other hand, new technologies might lower the personal costs of having huge numbers of children (e.g., artificial wombs, robot caretakers). Other technologies could increase parents’ ability to transmit their values to children (e.g., through genetic engineering or novel techniques based on advances in neuroscience or psychology). And a small number of bad actors might be able to substantially increase their population share within a few generations through rapid reproduction.": "Не зовсім зрозуміло, наскільки серйозна це проблема. З одного боку, наразі доволі рідко трапляється, щоб ідеологічні групи свідомо намагалися мати якомога більше дітей, щоб збільшити свою політичну й економічну владу. І ми очікуємо, що більшість людей вважали б огидною перспективу мати величезну кількість дітей і промивати їм мізки, щоб ті голосували так, як хочуть батьки. З іншого боку, нові технології можуть знизити особисті витрати на народження великої кількості дітей (наприклад, штучні матки, роботи-доглядальники). Інші технології можуть посилити здатність батьків передавати свої цінності дітям (наприклад, за допомогою генної інженерії або нових методів, заснованих на досягненнях нейронауки чи психології). А невелика кількість зловмисників могла б суттєво збільшити свою частку в населенні впродовж кількох поколінь завдяки швидкому розмноженню.", "One way to navigate this is to place guardrails around the rate of reproduction or the extent of control—say, trying to ensure that parents could not use novel technology to reproduce substantially ": "Один зі способів впоратися з цим — встановити обмеження на темп розмноження або ступінь контролю, наприклад, намагатися забезпечити, щоб батьки не могли використовувати нові технології, щоб розмножуватися суттєво ", "One way to navigate this is to place guardrails around the rate of reproduction or the extent of control—say, trying to ensure that parents could not use novel technology to reproduce substantially": "Один зі способів впоратися з цим — встановити обмеження на темп розмноження або ступінь контролю, наприклад, намагатися забезпечити, щоб батьки не могли використовувати нові технології, щоб розмножуватися суттєво", "faster": "швидше", " nor exercise substantially greater control over their children’s values than early-21st century parents were able to.": " або мати суттєво більший контроль над цінностями своїх дітей, ніж могли батьки на початку XXI століття.", "nor exercise substantially greater control over their children’s values than early-21st century parents were able to.": "або мати суттєво більший контроль над цінностями своїх дітей, ніж могли батьки на початку XXI століття.", "Don’t include future generations directly": "Не залучати майбутні покоління напряму", ". Instead, let the current generation decide whether and how to include them.": ". Натомість дозволити нинішньому поколінню вирішити, чи і як їх залучати.", "For example, if decisions were made by a vote, the current generation could vote to delay decisions until a later vote, where future generations could participate. (And analogously, under direct preference aggregation, if the current generation prefers to reserve some power for future generations, then that would happen).": "Наприклад, якщо рішення ухвалюються голосуванням, нинішнє покоління могло б проголосувати за те, щоб відкласти рішення до пізнішого голосування, у якому зможуть брати участь майбутні покоління. (І аналогічно, за прямої агрегації уподобань, якщо нинішнє покоління воліє залишити частину влади для майбутніх поколінь, то так і станеться).", "Under an equal distribution proposal, the current generation could share resources with their descendants or donate to trusts that gifted resources to later generations.": "За пропозиції рівного розподілу нинішнє покоління могло б ділитися ресурсами зі своїми нащадками або жертвувати кошти в трасти, які передавали б ресурси майбутнім поколінням.", "(Although power granted to future generations is plausibly a moral public good, so we might expect it to be undersupplied in the equal distribution proposal).": "(Хоча влада, надана майбутнім поколінням, імовірно є моральним суспільним благом, тож можна очікувати, що за пропозиції рівного розподілу її буде недостатньо).", "Include later generations, with restrictions to prevent strategic reproduction and/or indoctrination of one’s children": "Залучати майбутні покоління, з обмеженнями для запобігання стратегічному розмноженню та/або навіюванню переконань власним дітям", ". These restrictions could be chosen by a vote of the current generation.": ". Ці обмеження могли б обиратися голосуванням нинішнього покоління.", "Include later generations, with no restrictions to prevent strategic reproduction or indoctrination of one’s children": "Залучати майбутні покоління без обмежень для запобігання стратегічному розмноженню чи навіюванню переконань власним дітям", "Digital minds": "Цифрові розуми", "Another difficult question is whether and how digital minds should have input into decisions about space resources. Digital minds could include AI systems or ": "Ще одне складне питання — чи повинні цифрові розуми впливати на рішення щодо космічних ресурсів і як саме. До цифрових розумів можуть належати ШІ-системи або ", "Another difficult question is whether and how digital minds should have input into decisions about space resources. Digital minds could include AI systems or": "Ще одне складне питання — чи повинні цифрові розуми впливати на рішення щодо космічних ресурсів і як саме. До цифрових розумів можуть належати ШІ-системи або", "simulated human brains": "симульовані людські мізки", "In the Plan A scenario, by 2040, there may be huge numbers of digital minds. Some of these minds could be very sophisticated, with long-term stable preferences, human or superhuman intelligence, and perhaps even ": "У сценарії Плану А до 2040 року цифрових розумів може бути величезна кількість. Деякі з цих розумів можуть бути дуже складними, мати довгостроково стабільні уподобання, людський або надлюдський інтелект і, можливо, навіть ", "In the Plan A scenario, by 2040, there may be huge numbers of digital minds. Some of these minds could be very sophisticated, with long-term stable preferences, human or superhuman intelligence, and perhaps even": "У сценарії Плану А до 2040 року цифрових розумів може бути величезна кількість. Деякі з цих розумів можуть бути дуже складними, мати довгостроково стабільні уподобання, людський або надлюдський інтелект і, можливо, навіть", "subjective experience": "суб'єктивний досвід", ". On some views, such minds have moral status and deserve a say in future governance.": ". Згідно з деякими поглядами, такі розуми мають моральний статус і заслуговують права голосу в майбутньому врядуванні.", "But this is pretty controversial and might remain so in 2050. Different people could have wildly different views depending on their beliefs about what makes a being worthy of inclusion in the political process. It seems challenging to decide in a value-neutral way which digital minds should be empowered, and choices here could radically affect the composition of the electorate.": "Але це доволі суперечливе питання, і воно може лишатися таким і в 2050 році. Різні люди можуть мати кардинально різні погляди залежно від їхніх переконань щодо того, що робить істоту гідною включення в політичний процес. Здається складним визначити ціннісно-нейтральним способом, які цифрові розуми варто наділити правами, а вибір тут може радикально вплинути на склад електорату.", "There are further difficulties in integrating digital minds into the decision process. While it’s conceptually straightforward to give each human adult an equal stake in the decision—e.g., one vote, one share of space resources—it’s less clear how to individuate digital minds. Should two copies of the same mind running on different computers each receive a vote? If not, how different do two minds have to be before they count as different individuals?": "Є й додаткові труднощі з інтеграцією цифрових розумів у процес ухвалення рішень. Якщо концептуально просто надати кожній дорослій людині рівну частку в рішенні — наприклад, один голос, одну частку космічних ресурсів, — то набагато менш зрозуміло, як індивідуалізувати цифрові розуми. Чи повинні дві копії того самого розуму, що працюють на різних комп'ютерах, отримувати по окремому голосу кожна? Якщо ні, то наскільки різними мають бути два розуми, щоб вважатися різними індивідами?", "The issues of strategic reproduction and indoctrination discussed above are even more severe for digital minds than for human children. New digital minds could be created as fast as copying data from one computer to another. And the creators of digital minds may have a huge amount of fine-grained control over the values and behavior of those minds. Given sufficient compute, it would be trivial to spin up billions of minds that sincerely want to vote exactly the way their creator tells them.": "Проблеми стратегічного розмноження й навіювання переконань, розглянуті вище, ще гостріші для цифрових розумів, ніж для людських дітей. Нові цифрові розуми можна створювати так само швидко, як копіювати дані з одного комп'ютера на інший. А творці цифрових розумів можуть мати величезний, детальний контроль над цінностями й поведінкою цих розумів. За наявності достатніх обчислювальних потужностей було б тривіально створити мільярди розумів, які щиро хочуть голосувати саме так, як їм скаже їхній творець.", "Include a subset of digital minds": "Залучати лише підмножину цифрових розумів", " where the concerns about gaming the process through strategic reproduction and indoctrination are less strong.": " де побоювання щодо маніпулювання процесом через стратегічне розмноження та навіювання переконань менш гострі.", "where the concerns about gaming the process through strategic reproduction and indoctrination are less strong.": "де побоювання щодо маніпулювання процесом через стратегічне розмноження та навіювання переконань менш гострі.", "Some possible subsets include:": "Ось декілька можливих підмножин:", "Allow digital minds who were created before 2040 to participate in the process, perhaps with some overall cap on the share of total votes or resources they could receive.": "Дозволити цифровим розумам, які були створені до 2040 року, брати участь у процесі, можливо, із загальним обмеженням на частку голосів або ресурсів, яку вони можуть отримати.", "(We would still somehow need to resolve the issue of individuating digital minds and deciding which digital minds deserved votes).": "(Нам усе одно якось довелося б вирішити питання індивідуалізації цифрових розумів і визначення того, які цифрові розуми заслуговують права голосу).", "Allow digital minds that are uploads of deceased biological humans to participate in the process, one upload per original human.": "Дозволити цифровим розумам, які є завантаженими свідомостями померлих біологічних людей, брати участь у процесі — по одному завантаженню на кожну оригінальну людину.", "Allow people to “adopt” digital minds and enfranchise those adopted digital minds, but only if the creators exercise no more control over the values and beliefs of those digital minds nor are producing digital minds at a faster rate than parents in 2026 could with biological children.": "Дозволити людям «усиновлювати» цифрові розуми й надавати таким усиновленим цифровим розумам право голосу, але лише за умови, що творці не матимуть більшого контролю над цінностями й переконаннями цих цифрових розумів і не створюватимуть цифрові розуми швидшими темпами, ніж це могли робити батьки в 2026 році з біологічними дітьми.", "Most likely, most digital minds would not be enfranchised under any of these proposals.": "Найімовірніше, більшість цифрових розумів не отримали б права голосу за жодної з цих пропозицій.", "Don’t include digital minds directly": "Не залучати цифрові розуми напряму", ". Instead, let biological humans decide whether and how to include them.": ". Натомість дозволити біологічним людям вирішити, чи і як їх залучати.", "How this decision is made would depend on the proposal:": "Те, як ухвалюється це рішення, залежатиме від конкретної пропозиції:", "For example, if decisions were made by a vote, the biological humans could vote on a proposal to defer decisions to a later vote where digital minds were allowed to participate.": "Наприклад, якщо рішення ухвалюються голосуванням, біологічні люди могли б проголосувати за пропозицію відкласти рішення до пізнішого голосування, у якому дозволено брати участь цифровим розумам.", "Under a direct endowment proposal, humans who received resources could give resources to digital minds. (Although, again, this would plausibly be a moral public good and we might expect it to be underfunded under the direct endowment proposal).": "За пропозиції прямого наділення ресурсами люди, які отримали ресурси, могли б передавати ресурси цифровим розумам. (Хоча, знову ж таки, це, ймовірно, є моральним суспільним благом, тож можна очікувати, що за пропозиції прямого наділення ресурсами це буде недофінансовано).", "Designing a governance system involves many tradeoffs—for example, direct endowment and voting both have disadvantages. Should we hedge our bets with hybrid approaches that combine multiple processes?": "Розробка системи врядування пов'язана з багатьма компромісами — наприклад, і пряме наділення ресурсами, і голосування мають свої недоліки. Чи варто нам підстрахуватися гібридними підходами, що поєднують кілька процесів?", "Here are some examples of hybrid approaches:": "Ось кілька прикладів гібридних підходів:", "50% of space resources are distributed directly to the population at a set time, and 50% are allocated according to the outcome of one or more votes.": "50% космічних ресурсів розподіляються напряму серед населення у визначений момент часу, а решта 50% розподіляються відповідно до результатів одного чи кількох голосувань.", "Each country (or each treaty signatory) is allocated a share of space resources. These countries each pick their own processes for deciding how to use space resources.": "Кожній країні (або кожній стороні договору) виділяється частка космічних ресурсів. Кожна з цих країн самостійно обирає власний процес для ухвалення рішень про те, як використовувати космічні ресурси.", "10% of space resources will be distributed in 2040, 10% will be distributed in 100 years, 10% will be distributed in 1000 years, and so on.": "10% космічних ресурсів буде розподілено в 2040 році, 10% — через 100 років, 10% — через 1000 років і так далі.", "The main advantage of hybrid approaches is that different processes can direct resources toward different kinds of values. For example, votes may be particularly likely to fund widely shared values, whereas direct resource endowment might be better suited towards ensuring that rarer preferences are funded. By adopting a hybrid approach, we ensure that a broader set of values each get at least some resources allocated to them.": "Головна перевага гібридних підходів полягає в тому, що різні процеси можуть спрямовувати ресурси на різні види цінностей. Наприклад, голосування, ймовірно, особливо добре фінансуватиме широко поширені цінності, тоді як пряме наділення ресурсами може краще підходити для забезпечення фінансування рідкісніших уподобань. Застосовуючи гібридний підхід, ми забезпечуємо, щоб ширший набір цінностей отримав хоча б якісь виділені ресурси.", "Voting on how many resources to allocate with each process.": "Голосування за те, скільки ресурсів виділяти кожному процесу.", "A hybrid approach could directly incorporate people’s views on which governance and allocation processes are better, and use this to decide how many resources should be allocated by each.": "Гібридний підхід міг би напряму враховувати погляди людей на те, які процеси врядування та розподілу кращі, і використовувати це, щоб вирішити, скільки ресурсів має виділятися на кожен з них.", "Here’s one such proposal.": "Ось одна така пропозиція.", "First, a number of governance methods are proposed. This could include all the kinds of systems discussed above (direct endowment, voting using various different voting systems, direct preference elicitation, etc). The only constraint is that each governance method must be reasonably fair in how it weighs participants’ views, rather than artificially biasing the outcome towards specific people or values.": "По-перше, пропонується низка методів врядування. Це можуть бути будь-які системи, розглянуті вище (пряме наділення ресурсами, голосування з використанням різних систем голосування, пряме виявлення уподобань тощо). Єдина умова полягає в тому, що кожен метод врядування повинен достатньо справедливо враховувати погляди учасників, а не штучно зміщувати результат на користь конкретних людей чи цінностей.", "Second, all humans submit a view on what fraction of resources should be distributed by each governance process. The fraction of resources governed by each process is set to the ": "По-друге, усі люди подають свою думку щодо того, яку частку ресурсів має розподіляти кожен процес врядування. Частка ресурсів, керована кожним процесом, встановлюється як ", "Second, all humans submit a view on what fraction of resources should be distributed by each governance process. The fraction of resources governed by each process is set to the": "По-друге, усі люди подають свою думку щодо того, яку частку ресурсів має розподіляти кожен процес врядування. Частка ресурсів, керована кожним процесом, встановлюється як", " of everyone’s proposal.": " значення пропозицій усіх учасників.", "of everyone’s proposal.": "значення пропозицій усіх учасників.", "Finally, all humans participate in each of the processes—deciding what to vote for or what to do with resources they’ve been allocated.": "Нарешті, усі люди беруть участь у кожному з процесів — вирішуючи, за що голосувати або що робити з ресурсами, які їм було виділено.", "One advantage of this approach is that everyone gets a say on what governance processes get used. Another advantage is that it delays the decision about which process to use. If it later turns out that there are big gains from coordinating on moral public goods, people can choose to allocate most resources using voting. Conversely, if some minority of people realize that they might get frozen out of a large-scale vote, they can cause a significant fraction of resources to be distributed via direct endowment instead.": "Одна з переваг цього підходу в тому, що кожен отримує право голосу щодо того, які процеси врядування використовуватимуться. Інша перевага — він відкладає рішення про те, який процес використовувати. Якщо пізніше виявиться, що координація навколо моральних суспільних благ дає великий виграш, люди можуть вибрати розподіл більшості ресурсів через голосування. І навпаки, якщо якась меншість людей зрозуміє, що їх можуть відсунути від масштабного голосування, вони можуть домогтися того, щоб значна частка ресурсів розподілялася натомість через пряме наділення ресурсами.", "This approach could plausibly be further improved by allowing people to freely trade their voting rights at each decision point.": "Цей підхід, імовірно, можна було б додатково вдосконалити, дозволивши людям вільно торгувати своїми правами голосу в кожній точці ухвалення рішення.", "In other words, people’s right to participate in each different governance process (each vote, each round of resource endowment, etc) could be represented by different shares. These shares could then be freely traded. This might, for example, allow people with more idiosyncratic moral views to get more rights to resources that they have unilateral control over. Conversely, people who care more about the outcome of large-scale votes could get more of the corresponding votes. We could even allow people to trade the right to vote on what fraction of resources should be allocated by each process.": "Іншими словами, право людини брати участь у кожному окремому процесі врядування (кожному голосуванні, кожному раунді наділення ресурсами тощо) могло б бути представлене окремими частками. Ці частки потім можна було б вільно продавати й купувати. Це могло б, наприклад, дозволити людям з більш нетиповими моральними поглядами отримати більше прав на ресурси, якими вони одноосібно розпоряджаються. І навпаки, люди, для яких важливіший результат масштабних голосувань, могли б отримати більше відповідних голосів. Ми могли б навіть дозволити людям торгувати правом голосувати за те, яку частку ресурсів має розподіляти кожен процес.", "(We find it difficult to predict the outcome of such trades, and it’s possible that it would be better to disallow some of them.)": "(Нам складно передбачити результат таких обмінів, і цілком можливо, що деякі з них варто було б заборонити.)", "The main disadvantage of hybrid approaches is that one process might generate outcomes that other processes would regard as substantially harmful. This can be mitigated through some of the strategies discussed in the next section.": "Головний недолік гібридних підходів полягає в тому, що один процес може породжувати результати, які інші процеси вважали б суттєво шкідливими. Це можна пом'якшити за допомогою деяких зі стратегій, розглянутих у наступному розділі.", "Under some governance regimes, individuals will be able to unilaterally decide how to use space resources. This has some strong upsides: people can create stuff that’s valuable to them even if others are indifferent to it, which makes it more likely that bounded views are satisfied and makes it more likely that nearly everyone is much better off. But it also has downsides: people might use their resources in ways that impose large negative externalities on others.": "За деяких режимів врядування окремі особи зможуть одноосібно вирішувати, як використовувати космічні ресурси. Це має вагомі переваги: люди можуть створювати те, що цінне для них, навіть якщо іншим це байдуже, а це підвищує ймовірність того, що обмежені погляди будуть задоволені, і того, що майже всім стане значно краще. Але це має і недоліки: люди можуть використовувати свої ресурси у спосіб, що накладає великі негативні зовнішні ефекти на інших.", "Some specific examples include:": "До конкретних прикладів належать:", "Seizing other people’s resources. Early settlers might try to use their star systems to launch probes to settle star systems earmarked for others who hadn’t yet laid physical claim on them, which could initiate a (": "Захоплення чужих ресурсів. Ранні поселенці можуть спробувати використати свої зоряні системи для запуску зондів з метою заселення зоряних систем, призначених для інших, хто ще не встиг заявити на них фізичні права, що могло б започаткувати (", "potentially highly negative-sum": "потенційно вкрай негативно-сумову", ") space race. Or people might attack star systems where others had already settled.": ") космічну гонку. Або люди можуть атакувати зоряні системи, які вже заселили інші.", "Uses of resources that most people find intrinsically repugnant. For example, some people might make themselves absolute rulers over societies where nearly all citizens are oppressed or enslaved. Sadists might create new beings that experience immense pain.": "Використання ресурсів у спосіб, який більшість людей вважає внутрішньо огидним. Наприклад, деякі люди можуть зробити себе абсолютними правителями суспільств, де майже всі громадяни пригноблені або поневолені. Садисти можуть створювати нових істот, які зазнають нестерпного болю.", "Risking the destruction of other people’s resources. People might deliberately destroy the universe (e.g., by initiating false vacuum decay).": "Ризик знищення чужих ресурсів. Люди можуть навмисно знищити всесвіт (наприклад, ініціювавши розпад хибного вакууму).", "Taking other actions with severe negative externalities on others, e.g., starting a war with space-faring alien civilizations.": "Вчинення інших дій із серйозними негативними зовнішніми ефектами для інших, наприклад, розв'язання війни з позаземними цивілізаціями, що освоюють космос.", "We need to strike a balance. If we’re too permissive, then a few bad actors could cause enormous damage. But if we’re too restrictive, then we risk banning things that are enormously valuable to a few people just because the majority finds them a bit offputting.": "Нам потрібно знайти баланс. Якщо ми будемо надто поблажливими, невелика кількість зловмисників зможе завдати величезної шкоди. Але якщо ми будемо надто обмежувальними, ми ризикуємо заборонити те, що має величезну цінність для небагатьох людей, лише тому, що більшість вважає це трохи неприємним.", "Here are some potential systems for mitigating these downside risks.": "Ось кілька можливих систем для пом'якшення цих ризиків негативних наслідків.", "Market": "Ринок", ". If someone doesn’t like how someone else is using their resources, they can pay them to stop.": ". Якщо комусь не подобається, як хтось інший використовує свої ресурси, він може заплатити йому за те, щоб той припинив.", ": under this proposal, an activity is only stopped when its cost to others exceeds its benefit to the actor, and they’re compensated for their loss. Thus, this proposal is less vulnerable to “tyranny of the majority” worries. Another strength is that we don’t have to collectively decide far in advance what to ban. If someone wants someone else to stop doing something, they can make an offer at any time (although, late into the future, as decision-makers spread out from Earth it might become more difficult to negotiate these trades).": ": за цією пропозицією діяльність зупиняють лише тоді, коли її вартість для інших перевищує вигоду для того, хто її здійснює, і йому компенсують втрату. Тож ця пропозиція менш вразлива до побоювань щодо «тиранії більшості». Ще одна її перевага — не треба заздалегідь колективно вирішувати, що саме забороняти. Якщо хтось хоче, щоб інша людина припинила щось робити, він може в будь-який момент запропонувати їй оплату (хоча в далекому майбутньому, коли ті, хто ухвалює рішення, розселяться за межі Землі, домовлятися про такі угоди може стати складніше).", ": this could create perverse incentives: some people might do things that others find objectionable so that they’ll be paid to stop. This might result in even more objectionable behavior that would have happened without that incentive. And if a single actor wants to do something a large group objects to, the group may struggle to coordinate payment because of free-rider problems.": ": це може створити хибні стимули: дехто може робити те, що інші вважають неприйнятним, лише щоб їм заплатили за припинення. Це може призвести до ще гіршої поведінки, ніж та, що трапилася б без такого стимулу. А якщо одна особа хоче зробити щось, проти чого заперечує велика група, цій групі може бути складно скоординувати оплату через проблему безбілетництва.", "Voting on bans": "Голосування щодо заборон", ". We could prohibit activities that a supermajority of the population (say, 80%) votes to ban.": ". Ми могли б забороняти діяльність, за заборону якої проголосувала кваліфікована більшість населення (скажімо, 80%).", ": avoids both of the drawbacks of the market solution—since there’s no transfer of resources from the people who want to ban to the people who would otherwise do the banned activity, there’s no collective action problem among the former to raise money to pay off the latter. And no one is incentivized to do objectionable things in hopes of a payout.": ": уникає обох недоліків ринкового рішення — оскільки ресурси не передаються від тих, хто хоче заборони, до тих, хто інакше займався б забороненою діяльністю, у перших не виникає проблеми колективної дії для збору коштів на виплату другим. І ніхто не має стимулу робити неприйнятні речі в надії отримати виплату.", ": a majority that very slightly disliked an activity could ban it even if it was very important to a small minority. Since there’s no transfer of resources, there’s no check to make sure the ban is sufficiently valuable to supporters to justify the cost to opponents.": ": більшість, якій діяльність не подобається лише дуже незначно, може заборонити її, навіть якщо вона дуже важлива для невеликої меншості. Оскільки ресурси не передаються, немає механізму перевірки, чи заборона достатньо цінна для прихильників, щоб виправдати витрати для противників.", "If we went with this system, we’d have to decide when and how often to vote on which activities to ban.": "Якщо ми обрали б цю систему, нам довелося б вирішити, коли і як часто голосувати за те, яку діяльність забороняти.", "If we did a single early vote, we might fail to ban activities that were later widely considered bad.": "Якщо провести одне раннє голосування, ми можемо не заборонити діяльність, яку пізніше широко визнають шкідливою.", "Voters might not know of those activities at the time of the vote (e.g., because the activities are only possible due to unanticipated technology). Or voters might not be in reflective equilibrium at the time of the vote. For instance, perhaps they would later, on reflection, decide that they cared about the welfare of digital minds.": "Виборці можуть не знати про цю діяльність на момент голосування (наприклад, тому що вона стає можливою лише завдяки непередбаченим технологіям). Або виборці можуть не перебувати в рефлективній рівновазі на момент голосування. Наприклад, можливо, пізніше, після роздумів, вони вирішили б, що їх турбує добробут цифрових розумів.", "We might be able to circumvent these issues by adopting bans with broad, non-specific language and creating an AI arbiter to interpret the ban. But the arbiter may have to do nontrivial amounts of extrapolation and there might not be a single canonical way to do that extrapolation.": "Ці проблеми можна було б обійти, ухваливши заборони в широких, неконкретних формулюваннях і створивши ШІ-арбітра для їхнього тлумачення. Але арбітру, можливо, доведеться робити нетривіальну екстраполяцію, а єдиного канонічного способу її здійснити може не існувати.", "If we had a recurring vote or a single late vote, then voters might have more time to develop and carry out strategies to game the voting system before the vote(s) (see discussion ": "Якщо проводити регулярні голосування або одне пізнє голосування, у виборців буде більше часу, щоб розробити й реалізувати стратегії маніпулювання системою голосування до голосування(-ань) (див. обговорення ", "If we had a recurring vote or a single late vote, then voters might have more time to develop and carry out strategies to game the voting system before the vote(s) (see discussion": "Якщо проводити регулярні голосування або одне пізнє голосування, у виборців буде більше часу, щоб розробити й реалізувати стратегії маніпулювання системою голосування до голосування(-ань) (див. обговорення", "Currently, we think that at least the following activities should be banned:": "Наразі ми вважаємо, що заборонити слід щонайменше таку діяльність:", "Torture of conscious beings, including digital minds and non-human animals that are sufficiently likely to be capable of having strongly negatively-valenced experiences.": "Катування свідомих істот, зокрема цифрових розумів і тварин (не людей), які з достатньою ймовірністю здатні відчувати переживання із сильно негативним забарвленням.", "It might take non-trivial reflection by advanced ASI to figure out the precise bounds of this.": "Щоб визначити точні межі цього, передовому ASI, можливо, доведеться провести нетривіальну рефлексію.", "Unilaterally destroying Earth-originating civilization, or taking actions that bear a significant risk of destroying all of Earth-originating civilization.": "Одностороннє знищення цивілізації земного походження або дії, що несуть значний ризик знищення всієї цивілізації земного походження.", "Seizing other people’s property without permission.": "Захоплення чужої власності без дозволу.", "Making and/or carrying out threats to destroy other people’s resources, in order to extort them.": "Висловлення та/або здійснення погроз знищити чужі ресурси з метою вимагання.", "Making and/or carrying out threats to create large amounts of disvalue by someone else’s lights in order to extort resources from them.": "Висловлення та/або здійснення погроз завдати великої шкоди в розумінні іншої сторони з метою вимагання в неї ресурсів.", "Bans decided by treaty signatories": "Заборони, ухвалені сторонами угоди", ". Treaty signatories could negotiate bans before signing the treaty. This has many of the same strengths and drawbacks as bans decided by a single early vote.": ". Сторони угоди можуть домовитися про заборони ще до підписання угоди. Це має багато тих самих переваг і недоліків, що й заборони, ухвалені одним раннім голосуванням.", "Cancelling out resources": "Взаємне анулювання ресурсів", ". We could allow people to forfeit control of their resources in exchange for removing someone else’s control of their resources at a k:1 ratio (for k > 1).": ". Ми могли б дозволити людям відмовлятися від контролю над своїми ресурсами в обмін на позбавлення контролю над ресурсами іншої особи у співвідношенні k:1 (де k > 1).", ": as with the Market approach, by imposing a cost on the people who want the ban, it ensures that people don’t block valuable activities that they only slightly dislike. And unlike the Market approach, since there’s no compensation for the person carrying out the activity, there’s no perverse incentives to do stuff that others dislike in search of a payout.": ": як і в Ринковому підході, накладаючи витрати на тих, хто хоче заборони, цей механізм гарантує, що люди не блокуватимуть цінну діяльність, яка їм лише трохи не подобається. І, на відміну від Ринкового підходу, оскільки той, хто здійснює діяльність, не отримує компенсації, немає хибних стимулів робити те, що не подобається іншим, заради виплати.", ": as with the Market approach, a large group seeking to prevent a particular use of resources may struggle to coordinate.": ": як і в Ринковому підході, великій групі, що прагне запобігти певному використанню ресурсів, може бути складно скоординуватися.", "Under most of the proposals discussed in this appendix, individuals will need to make extremely high-stakes decisions, for example:": "За більшістю пропозицій, розглянутих у цьому додатку, окремим особам доведеться ухвалювати рішення з надзвичайно високими ставками, наприклад:", "Should I sell galaxies allocated to me in an auction? Should I save them to pass onto my children? Should I donate them to a trust, and which trust should I donate to? Should I wait until I’ve thought more to decide, and how should I go about thinking about it?": "Чи варто мені продати галактики, виділені мені на аукціоні? Чи варто зберегти їх, щоб передати дітям? Чи варто пожертвувати їх у траст, і в який саме траст? Чи варто почекати з рішенням, поки я не обміркую це глибше, і як мені підійти до цих роздумів?", "Should I vote for a particular activity to be permanently banned throughout the universe? Should I vote for public resources to be allocated to a particular activity?": "Чи варто мені голосувати за те, щоб певну діяльність назавжди заборонили в усьому всесвіті? Чи варто голосувати за виділення суспільних ресурсів на певну діяльність?", "We want people to make wise decisions that reflect their values.": "Ми хочемо, щоб люди ухвалювали мудрі рішення, які відображають їхні цінності.", "Making these decisions well will likely require resolving open scientific and philosophical questions. The specific questions will vary with individual values, but the following areas are likely to be relevant to a wide range of people:": "Щоб ухвалювати ці рішення добре, найімовірніше, знадобиться розв’язати відкриті наукові й філософські питання. Конкретні питання відрізнятимуться залежно від індивідуальних цінностей, але наведені нижче напрями, ймовірно, будуть актуальні для широкого кола людей:", "Improved understanding of morally significant concepts": "Поглиблене розуміння морально значущих понять", ". Many people consider consciousness and preferences to be morally significant—it’s wrong to inflict suffering on a conscious being and good to help people get what they want. But our current scientific and philosophical understanding of consciousness is insufficient to answer important questions like: which minds are conscious and which of their experiences have positive or negative valence—especially as our technological capabilities expand to allow creation of minds very different from human minds in substrate or structure.": ". Багато людей вважають свідомість і уподобання морально значущими — заподіювати страждання свідомій істоті погано, а допомагати людям отримати бажане добре. Але наше нинішнє наукове й філософське розуміння свідомості недостатнє, щоб відповісти на важливі питання на кшталт: які розуми свідомі та які з їхніх переживань мають позитивне чи негативне забарвлення — особливо в міру того, як наші технологічні можливості розширюються, дозволяючи створювати розуми, дуже відмінні від людських за субстратом чи структурою.", "Moral truths": "Моральні істини", ". There might be objective and discoverable moral truths.": ". Можливо, існують об’єктивні й пізнавані моральні істини.", "Acausal trade": "Акаузальна торгівля", ". The reachable universe might be only a small part of what exists. There are regions of our universe outside our ": ". Досяжний всесвіт може бути лише малою часткою того, що існує. Є ділянки нашого всесвіту за межами нашого ", ". The reachable universe might be only a small part of what exists. There are regions of our universe outside our": ". Досяжний всесвіт може бути лише малою часткою того, що існує. Є ділянки нашого всесвіту за межами нашого", "light cone": "світлового конуса", ", and there may even be ": ", а можливо, існують навіть ", ", and there may even be": ", а можливо, існують навіть", "other universes": "інші всесвіти", ". Although we cannot causally interact with beings outside our light cone, our own choices may give us some evidence about how those beings will behave. On some decision theories (e.g., ": ". Хоча ми не можемо причинно взаємодіяти з істотами за межами нашого світлового конуса, наші власні рішення можуть дати нам певні свідчення про те, як ці істоти поводитимуться. Згідно з деякими теоріями прийняття рішень (наприклад, ", ". Although we cannot causally interact with beings outside our light cone, our own choices may give us some evidence about how those beings will behave. On some decision theories (e.g.,": ". Хоча ми не можемо причинно взаємодіяти з істотами за межами нашого світлового конуса, наші власні рішення можуть дати нам певні свідчення про те, як ці істоти поводитимуться. Згідно з деякими теоріями прийняття рішень (наприклад,", "evidential decision theory": "евіденційною теорією рішень", "), this should affect what we do. For instance, we might want to “trade” with these beings, doing stuff that matters to them in exchange for them doing stuff that matters to us. If this argument works out, our acausal impact could plausibly dwarf our causal impact.": "), це має впливати на те, що ми робимо. Наприклад, ми могли б захотіти «торгувати» з цими істотами, роблячи те, що важливо для них, в обмін на те, що вони робитимуть важливе для нас. Якщо цей аргумент спрацює, наш акаузальний вплив цілком може переважити наш каузальний вплив.", "Evidential Cooperation in Large Worlds": "Евіденційна кооперація у великих світах", " (ECL) is one such mechanism. The multiverse contains many causally disconnected agents whose decisions may be correlated with ours: that is, when we observe ourselves making some decision, we should update about their choices too. So if we commit to pursuing multiverse-wide compromise values, this gives us evidence that huge numbers of other agents are doing the same. And this could be great—there might be substantial gains from trade if everyone pursues compromise values rather than their own.": " (ECL) — один із таких механізмів. Мультивсесвіт містить безліч причинно не пов’язаних між собою агентів, чиї рішення можуть корелювати з нашими: тобто, спостерігаючи, що самі ухвалюємо якесь рішення, ми маємо оновлювати й свої очікування щодо їхнього вибору. Тож якщо ми зобов’яжемося дотримуватися компромісних цінностей у масштабі всього мультивсесвіту, це дає нам свідчення, що величезна кількість інших агентів робить те саме. І це може бути чудово — якщо кожен дотримуватиметься компромісних цінностей замість власних, це може принести суттєвий виграш від такої «торгівлі».", "(ECL) is one such mechanism. The multiverse contains many causally disconnected agents whose decisions may be correlated with ours: that is, when we observe ourselves making some decision, we should update about their choices too. So if we commit to pursuing multiverse-wide compromise values, this gives us evidence that huge numbers of other agents are doing the same. And this could be great—there might be substantial gains from trade if everyone pursues compromise values rather than their own.": "(ECL) — один із таких механізмів. Мультивсесвіт містить безліч причинно не пов’язаних між собою агентів, чиї рішення можуть корелювати з нашими: тобто, спостерігаючи, що самі ухвалюємо якесь рішення, ми маємо оновлювати й свої очікування щодо їхнього вибору. Тож якщо ми зобов’яжемося дотримуватися компромісних цінностей у масштабі всього мультивсесвіту, це дає нам свідчення, що величезна кількість інших агентів робить те саме. І це може бути чудово — якщо кожен дотримуватиметься компромісних цінностей замість власних, це може принести суттєвий виграш від такої «торгівлі».", "These are just a few examples of potential crucial considerations that we might want to consider before making important decisions.": "Це лише кілька прикладів потенційно вирішальних міркувань, які варто взяти до уваги перед ухваленням важливих рішень.", "Deciding how to reflect": "Рішення про те, як рефлексувати", "People will also need to think carefully about how they want to make these decisions, including how they want to use new technologies:": "Людям також доведеться ретельно обдумати, як саме вони хочуть ухвалювати ці рішення, зокрема як вони хочуть використовувати нові технології:", "Deciding ": "Рішення про те, ", "Deciding": "Рішення про те,", "when": "коли", " to learn information": " дізнаватися інформацію", "to learn information": "дізнаватися інформацію", ". While it’s probably important to learn the answers to questions like those above before making object-level decisions about how to use space resources, there might be costs to learning information too early. For example, there might be positive-sum trades that can only be made ": ". Хоча, ймовірно, важливо дізнатися відповіді на подібні до наведених вище питання ще до ухвалення предметних рішень про використання космічних ресурсів, надто раннє отримання інформації теж може мати свою ціну. Наприклад, можуть існувати взаємовигідні угоди, які вдасться укласти лише ", ". While it’s probably important to learn the answers to questions like those above before making object-level decisions about how to use space resources, there might be costs to learning information too early. For example, there might be positive-sum trades that can only be made": ". Хоча, ймовірно, важливо дізнатися відповіді на подібні до наведених вище питання ще до ухвалення предметних рішень про використання космічних ресурсів, надто раннє отримання інформації теж може мати свою ціну. Наприклад, можуть існувати взаємовигідні угоди, які вдасться укласти лише", " the parties to the deal know some empirical results. One example of this dynamic is wagers (discussed ": " коли сторонам угоди стануть відомі деякі емпіричні результати. Один із прикладів такої динаміки — парі (обговорюються ", "the parties to the deal know some empirical results. One example of this dynamic is wagers (discussed": "коли сторонам угоди стануть відомі деякі емпіричні результати. Один із прикладів такої динаміки — парі (обговорюються", "). More speculatively, if we end up wanting to do ECL, it might be ": "). Якщо говорити ще спекулятивніше, то якщо зрештою ми захочемо здійснювати ECL, можливо, буде ", "). More speculatively, if we end up wanting to do ECL, it might be": "). Якщо говорити ще спекулятивніше, то якщо зрештою ми захочемо здійснювати ECL, можливо, буде", "necessary to commit to doing ECL": "необхідно взяти на себе зобов’язання здійснювати ECL", " before we become confident whether other agents will do ECL—our decision only gives evidence about everyone else’s decision if we’re not sure what others will decide.": " ще до того, як ми станемо впевненими, чи інші агенти здійснюватимуть ECL, — адже наше рішення дає нам свідчення про рішення всіх інших лише тоді, коли ми не впевнені, що вирішать інші.", "before we become confident whether other agents will do ECL—our decision only gives evidence about everyone else’s decision if we’re not sure what others will decide.": "ще до того, як ми станемо впевненими, чи інші агенти здійснюватимуть ECL, — адже наше рішення дає нам свідчення про рішення всіх інших лише тоді, коли ми не впевнені, що вирішать інші.", "Engaging with ASI-generated arguments.": "Взаємодія з аргументами, згенерованими ASI.", " ASI will likely be able to research the philosophical and scientific questions above more quickly and rigorously than humans, giving us access to rapid intellectual progress on how to best live out our values.": " ASI, ймовірно, зможе досліджувати наведені вище філософські та наукові питання швидше й ретельніше за людей, даючи нам доступ до стрімкого інтелектуального прогресу в питанні того, як найкраще втілювати наші цінності в житті.", "ASI will likely be able to research the philosophical and scientific questions above more quickly and rigorously than humans, giving us access to rapid intellectual progress on how to best live out our values.": "ASI, ймовірно, зможе досліджувати наведені вище філософські та наукові питання швидше й ретельніше за людей, даючи нам доступ до стрімкого інтелектуального прогресу в питанні того, як найкраще втілювати наші цінності в житті.", "But ASI could also direct enormous intellectual effort toward crafting extremely persuasive arguments. And it’s not clear that the most compelling arguments will necessarily support true positions or positions we would endorse holding. If ASI is optimizing for maximally compelling arguments, then we might end up believing whatever ideology the ASI was subtly biased toward, or perhaps whatever ideologies are easiest to argue for compellingly.": "Але ASI також може спрямувати колосальні інтелектуальні зусилля на створення надзвичайно переконливих аргументів. І не факт, що найпереконливіші аргументи обов’язково підтримуватимуть істинні позиції або позиції, які ми схвалили б. Якщо ASI оптимізується під максимально переконливі аргументи, ми можемо зрештою повірити в будь-яку ідеологію, до якої ASI мав приховану упередженість, або ж у будь-яку ідеологію, яку найлегше переконливо обстоювати.", "One safeguard: ASI could refuse to generate superhumanly compelling arguments for claims it knows to be empirically false, in the same way that AIs today refuse to assist with creating biological weapons. But for some questions we care about, there might not be an empirical fact of the matter.": "Один із запобіжників: ASI міг би відмовлятися генерувати надлюдськи переконливі аргументи на підтримку тверджень, які він знає як емпірично хибні, — так само, як сучасні ШІ відмовляються допомагати створювати біологічну зброю. Але для деяких важливих для нас питань емпіричного факту, який визначав би відповідь, може просто не існувати.", " For these cases, we need to think about how we want to be persuaded—what counts as legitimate moral suasion and what counts as illicit manipulation. It’s not clear where the line is—is vividly describing the suffering of a particular being emotionally manipulative, or just helping you understand the true stakes of your decisions? And the line might be different for different people.": " Для таких випадків нам потрібно продумати, як саме ми хочемо, щоб нас переконували, — що вважати легітимним моральним переконанням, а що незаконною маніпуляцією. Не зрозуміло, де саме проходить межа: чи є яскравий опис страждань конкретної істоти емоційною маніпуляцією, чи це просто допомагає зрозуміти справжні ставки ваших рішень? І ця межа може бути різною для різних людей.", "For these cases, we need to think about how we want to be persuaded—what counts as legitimate moral suasion and what counts as illicit manipulation. It’s not clear where the line is—is vividly describing the suffering of a particular being emotionally manipulative, or just helping you understand the true stakes of your decisions? And the line might be different for different people.": "Для таких випадків нам потрібно продумати, як саме ми хочемо, щоб нас переконували, — що вважати легітимним моральним переконанням, а що незаконною маніпуляцією. Не зрозуміло, де саме проходить межа: чи є яскравий опис страждань конкретної істоти емоційною маніпуляцією, чи це просто допомагає зрозуміти справжні ставки ваших рішень? І ця межа може бути різною для різних людей.", "Delegating to aligned ASI": "Делегування узгодженому ASI", ". Another option is to delegate reflection to an aligned ASI. We will probably be able to design ASI systems that are much better suited to careful reflection than humans. These systems would be smarter, capable of understanding and integrating more complicated arguments or empirical results than any human.": ". Інший варіант — делегувати рефлексію узгодженому ASI. Ми, ймовірно, зможемо розробити ASI-системи, значно краще пристосовані до ретельної рефлексії, ніж люди. Такі системи будуть розумнішими, здатними розуміти й інтегрувати складніші аргументи чи емпіричні результати, ніж будь-яка людина.", "Moreover, for many people, reflecting in a very careful way might be less pleasant than other ways of spending their time. An ideal reflection process might involve carefully controlling your memetic environment (if it’s possible for ASI to develop illegitimate, yet highly compelling arguments or ideologies). It might require modifying your mind to make yourself smarter, more reflective, or more free of biases that you don’t endorse. In general, it’s not clear that “optimal lifestyle for human flourishing” and “optimal lifestyle for figuring out the most idealized form of one’s values” will be the same for most people. Offloading reflection onto an ASI system that is better suited for the process might let those people get the best of both worlds.": "Крім того, для багатьох людей дуже ретельна рефлексія може бути менш приємним заняттям, ніж інші способи проводити час. Ідеальний процес рефлексії може включати ретельний контроль свого меметичного середовища (якщо ASI здатен вигадувати нелегітимні, але вкрай переконливі аргументи чи ідеології). Він може вимагати модифікації власного розуму, щоб зробити себе розумнішим, більш схильним до рефлексії або вільнішим від упереджень, які ви не схвалюєте. Загалом не зрозуміло, чи «оптимальний спосіб життя для людського процвітання» і «оптимальний спосіб життя для з’ясування найбільш ідеалізованої форми власних цінностей» збігатимуться для більшості людей. Перекладання рефлексії на ASI-систему, краще пристосовану до цього процесу, могло б дозволити цим людям отримати найкраще з обох світів.", "Digital reflection has other advantages difficult to replicate on a biological substrate, including running many parallel reflection processes, reverting to earlier checkpoints, and potentially greater transparency about the trajectory that one’s values took over time. (This last is particularly important in versions of this proposal where many people’s preferences are aggregated together, since people might have incentives to strategically self-modify or misrepresent their preferences. Carrying out a digital reflection with a legible trace could let people verify that they hadn’t done so).": "Цифрова рефлексія має й інші переваги, які важко відтворити на біологічному субстраті, зокрема можливість запускати багато паралельних процесів рефлексії, повертатися до попередніх контрольних точок і потенційно мати більшу прозорість щодо траєкторії, якою з часом розвивалися чиїсь цінності. (Останнє особливо важливо у варіантах цієї пропозиції, де уподобання багатьох людей агрегуються разом, оскільки в людей можуть виникати стимули стратегічно модифікувати себе або спотворювати свої уподобання. Проведення цифрової рефлексії з читабельним слідом дало б людям змогу перевірити, що вони цього не робили).", "Delegating to future generations": "Делегування майбутнім поколінням", ". Another option is to delegate decisions to one’s descendants or to future generations more broadly. If so, how should one raise their children? Parents will plausibly have much greater capacity to shape their children’s values—how should they exercise this power?": ". Ще один варіант — делегувати рішення своїм нащадкам або, ширше, майбутнім поколінням. Якщо так, то як тоді виховувати дітей? Батьки, ймовірно, матимуть значно більшу здатність формувати цінності своїх дітей — як їм слід користуватися цією владою?", "We’re not sure what the right answers are, and indeed the right answers may vary from person to person based on their values, but we think these are important decisions and want to help people make them carefully.": "Ми не впевнені, якими є правильні відповіді, і справді, правильні відповіді можуть відрізнятися від людини до людини залежно від їхніх цінностей, але ми вважаємо ці рішення важливими і хочемо допомогти людям ухвалювати їх зважено.", "The role of governance": "Роль врядування", "It’s important for the governance structure to facilitate reflection.": "Важливо, щоб структура врядування сприяла рефлексії.", "Timing of decisions": "Терміни ухвалення рішень", ". Delaying decisions about how to use space resources gives decision-makers more time to think. Although ASI labor may speed up the rate of scientific and philosophical research, many people will likely need years or decades to integrate those findings into their thinking. Additionally, reaching these decisions may require substantial introspection into what the decision-maker truly values, which might also be time-consuming.": ". Відкладання рішень про те, як використовувати космічні ресурси, дає особам, що ухвалюють рішення, більше часу подумати. Хоча праця ASI може пришвидшити темп наукових і філософських досліджень, багатьом людям, ймовірно, знадобляться роки чи десятиліття, щоб інтегрувати ці висновки у своє мислення. Крім того, ухвалення цих рішень може вимагати ґрунтовної інтроспекції щодо того, що особа, яка ухвалює рішення, справді цінує, а це також може бути тривалим процесом.", "For governance structures where the timing of an important decision is scheduled in advance—e.g., a vote or a preference aggregation—this consideration favors delaying that decision (although there are considerations in the other direction, discussed ": "Для структур врядування, де час ухвалення важливого рішення заплановано заздалегідь — наприклад, голосування чи агрегація преференцій — це міркування на користь відкладення такого рішення (хоча є й міркування в протилежному напрямку, які обговорюються ", "For governance structures where the timing of an important decision is scheduled in advance—e.g., a vote or a preference aggregation—this consideration favors delaying that decision (although there are considerations in the other direction, discussed": "Для структур врядування, де час ухвалення важливого рішення заплановано заздалегідь — наприклад, голосування чи агрегація преференцій — це міркування на користь відкладення такого рішення (хоча є й міркування в протилежному напрямку, які обговорюються", "An important advantage of direct endowment governance structures is that they allow individuals to reflect for as long as needed before making object-level decisions. If individuals were still prone to hasty decisions, we could—somewhat paternalistically—require them to wait a few decades before selling or committing their resources to a trust.": "Важлива перевага структур врядування прямого наділення ресурсами полягає в тому, що вони дозволяють людям розмірковувати стільки часу, скільки потрібно, перш ніж ухвалювати рішення на рівні конкретних дій. Якщо люди все ще схильні до поспішних рішень, ми могли б — дещо патерналістично — вимагати від них зачекати кілька десятиліть, перш ніж продавати свої ресурси чи передавати їх у траст.", "Subsidizing reflection.": "Субсидування рефлексії.", " Governments could offer all voters or resource recipients access to ASI labor to help them decide how to use those resources. Governments could also directly fund research into open scientific and philosophical questions likely to bear on decisions many people will face.": " Уряди могли б надати всім виборцям або отримувачам ресурсів доступ до праці ASI, щоб допомогти їм вирішити, як використовувати ці ресурси. Уряди також могли б напряму фінансувати дослідження відкритих наукових і філософських питань, які, ймовірно, вплинуть на рішення, з якими зіткнеться багато людей.", "Governments could offer all voters or resource recipients access to ASI labor to help them decide how to use those resources. Governments could also directly fund research into open scientific and philosophical questions likely to bear on decisions many people will face.": "Уряди могли б надати всім виборцям або отримувачам ресурсів доступ до праці ASI, щоб допомогти їм вирішити, як використовувати ці ресурси. Уряди також могли б напряму фінансувати дослідження відкритих наукових і філософських питань, які, ймовірно, вплинуть на рішення, з якими зіткнеться багато людей.", "Avoiding perverse incentives": "Уникнення хибних стимулів", ". Governance structures could incentivize people to warp their reflective process or interfere in others’ reflective processes. For example:": ". Структури врядування можуть стимулювати людей викривляти власний процес рефлексії або втручатися в чужі процеси рефлексії. Наприклад:", "Voting systems that offer voting rights to future generations could incentivize strategic reproduction and indoctrination.": "Системи голосування, які надають право голосу майбутнім поколінням, можуть стимулювати стратегічне відтворення та ідеологічну обробку.", "Voting systems (with lie detection) or direct preference aggregation systems could incentivize people to modify their own preferences strategically to gain an advantage (just as traditional voting systems incentivize strategic voting).": "Системи голосування (з детекцією брехні) або системи прямої агрегації преференцій можуть стимулювати людей стратегічно змінювати власні преференції заради переваги (так само як традиційні системи голосування стимулюють стратегічне голосування).", "The answers to some of the questions above could have implications for which governance procedures are best. One important tradeoff among the governance proposals is between enabling coordination on (moral) public goods and enabling individuals to pursue their own values. ASI-powered research into these questions could shed light on:": "Відповіді на деякі з наведених вище питань можуть вплинути на те, які процедури врядування є найкращими. Один важливий компроміс серед пропозицій щодо врядування — між можливістю координації щодо (моральних) суспільних благ та можливістю для людей переслідувати власні цінності. Дослідження цих питань за допомогою ASI могло б пролити світло на:", "Whether there are important public goods that we might want to coordinate on. For example, perhaps acausal trade has large fixed costs—e.g., running lots of simulations of alien civilizations to figure out the distribution of values that trade partners have—and it would be wise to ensure that there are governance mechanisms that let us pool our resources to do that.": "Чи існують важливі суспільні блага, координацію щодо яких нам варто забезпечити. Наприклад, можливо, акаузальна торгівля має великі фіксовані витрати — скажімо, запуск багатьох симуляцій позаземних цивілізацій, щоб з'ясувати розподіл цінностей торговельних партнерів, — і було б розумно забезпечити механізми врядування, які дозволять нам об'єднувати ресурси для цього.", "The degree to which humans’ moral views converge after endorsed reflection. If people converge substantially, this favors governance proposals with coordination mechanisms that let them pool resources to pursue shared values. If there’s a lot of divergence, this favors governance proposals that allow each person to pursue their own values.": "Ступінь, до якого моральні погляди людей сходяться після схваленої рефлексії. Якщо люди суттєво сходяться в поглядах, це на користь пропозицій щодо врядування з механізмами координації, які дозволяють об'єднувати ресурси заради спільних цінностей. Якщо розбіжність велика, це на користь пропозицій щодо врядування, які дозволяють кожній людині переслідувати власні цінності.", "My actual take is that we should wait for aligned ASI and ask it to design a governance proposal that meets the desiderata above (and perhaps more that I haven’t thought of).": "Моя особиста думка полягає в тому, що нам слід дочекатися узгодженого ASI й попросити його розробити пропозицію щодо врядування, яка відповідає наведеним вище критеріям (і, можливо, ще й тим, про які я не подумав).", "It seems very important that everyone making irreversible high-stakes decisions carefully reflect on what they care about with the help of aligned ASI advisors. To make this more likely, governments should probably fund lots of public-domain ASI research into scientific and philosophical questions that are likely to be of broad interest (like the questions above). They should also subsidize ASI compute used by people thinking about these decisions.": "Здається дуже важливим, щоб кожен, хто ухвалює незворотні рішення з високими ставками, ретельно обмірковував те, що для нього справді важливо, за допомогою узгоджених радників ASI. Щоб це стало більш імовірним, уряди, ймовірно, мають фінансувати чимало відкритих досліджень ASI з наукових і філософських питань, які, ймовірно, становитимуть широкий інтерес (на кшталт наведених вище). Їм також варто субсидувати обчислювальні потужності ASI, які використовують люди, що обмірковують ці рішення.", "Likewise, it seems important that decisions about the use of resources beyond the solar system are made for altruistic or moral reasons, not selfish ones.": "Так само здається важливим, щоб рішення про використання ресурсів за межами Сонячної системи ухвалювалися з альтруїстичних чи моральних міркувань, а не з егоїстичних.", "We should guarantee that all humans alive in 2040 and their descendants": "Нам слід гарантувати, що всі люди, які житимуть у 2040 році, та їхні нащадки", " get enough to support them indefinitely at a very comfortable standard of living (i.e., at least the material standard of living of a multi-millionaire in 2026). This will hopefully lower the personal stakes of the decision about what to do with space and encourage people to be more high-minded when they vote.": " отримають достатньо, щоб безстроково підтримувати дуже комфортний рівень життя (тобто щонайменше матеріальний рівень життя мультимільйонера 2026 року). Сподіваємося, це знизить особисту зацікавленість у рішенні про те, що робити з космосом, і заохотить людей бути більш високодумними, коли вони голосуватимуть.", "get enough to support them indefinitely at a very comfortable standard of living (i.e., at least the material standard of living of a multi-millionaire in 2026). This will hopefully lower the personal stakes of the decision about what to do with space and encourage people to be more high-minded when they vote.": "отримають достатньо, щоб безстроково підтримувати дуже комфортний рівень життя (тобто щонайменше матеріальний рівень життя мультимільйонера 2026 року). Сподіваємося, це знизить особисту зацікавленість у рішенні про те, що робити з космосом, і заохотить людей бути більш високодумними, коли вони голосуватимуть.", "It is also great on common-sense ethical grounds—on a cosmic scale, it’s relatively cheap to satisfy people’s preferences, and so we should do that.": "Це також чудово з погляду здорового глузду в етиці — у космічному масштабі задовольнити преференції людей відносно дешево, тож нам варто це зробити.", "I think coordination capacity—where we can collectively use resources to provide (moral) public goods—is potentially really important and it’s not clear that we’ll be able to do that with voluntary contracts. Unless we’re confident that this is possible, it seems good to maintain capacity to coordinate, i.e., have a government (or a few governments) that control substantial amounts of resources (or which are empowered to levy taxes if they need to).": "Я вважаю, що спроможність до координації — коли ми можемо колективно використовувати ресурси для забезпечення (моральних) суспільних благ — потенційно справді важлива, і не зовсім зрозуміло, чи вдасться досягти цього за допомогою добровільних угод. Якщо ми не впевнені, що це можливо, здається розумним зберегти спроможність координуватися, тобто мати уряд (чи кілька урядів), який контролює значні обсяги ресурсів (або має повноваження стягувати податки, якщо це буде потрібно).", "On the other hand, I also want to enable people with unusual value systems to spend some resources pursuing their values.": "З іншого боку, я також хочу дати змогу людям з нетиповими системами цінностей витрачати частину ресурсів на переслідування власних цінностей.", "For these reasons, my top choice is direct preference aggregation if it’s technically feasible and not so unpleasant that many people opt out, perhaps combined with automated reflection (like what’s described ": "З цих причин мій головний вибір — пряма агрегація преференцій, якщо вона технічно здійсненна і не настільки неприємна, щоб багато людей від неї відмовилися, можливо, у поєднанні з автоматизованою рефлексією (як описано ", "For these reasons, my top choice is direct preference aggregation if it’s technically feasible and not so unpleasant that many people opt out, perhaps combined with automated reflection (like what’s described": "З цих причин мій головний вибір — пряма агрегація преференцій, якщо вона технічно здійсненна і не настільки неприємна, щоб багато людей від неї відмовилися, можливо, у поєднанні з автоматизованою рефлексією (як описано", "If that doesn’t work, my next favorite option is a hackier solution that ensures that some resources go to individuals and some resources are decided collectively. Here’s one way of approaching this.": "Якщо це не спрацює, моїм наступним улюбленим варіантом є трохи хитріше рішення, яке гарантує, що частина ресурсів дістається окремим людям, а щодо іншої частини рішення ухвалюється колективно. Ось один зі способів підійти до цього.", "At least 5% of resources are guaranteed to be directly granted to humans alive in 2040.": "Щонайменше 5% ресурсів гарантовано напряму передаються людям, які житимуть у 2040 році.", "By default, the remaining 95% of resources will also be directly granted to humans alive today, unless a supermajority votes that it should instead be spent on public goods.": "За замовчуванням решта 95% ресурсів також будуть напряму передані людям, що живуть сьогодні, якщо тільки кваліфікована більшість не проголосує за те, щоб натомість витратити їх на суспільні блага.", "If highly reliable lie detection is available, governments could use that to check for strategic voting and disqualify people who were sufficiently likely to be executing these strategies.": "Якщо доступна високонадійна детекція брехні, уряди могли б використовувати її для перевірки на стратегічне голосування та дискваліфікувати людей, які з достатньою ймовірністю застосовували такі стратегії.", "Governments could also have ASI systems refuse to assist with attempts to coordinate to vote strategically (in the same way that ASI systems will presumably continue to refuse to assist with other harmful requests—e.g., making bioweapons).": "Уряди також могли б налаштувати системи ASI так, щоб вони відмовлялися допомагати у спробах координувати стратегічне голосування (так само як системи ASI, ймовірно, і надалі відмовлятимуться допомагати з іншими шкідливими запитами — наприклад, зі створенням біологічної зброї).", "We will also vote on bans and on the process to use to amend the list of bans (e.g., should we have recurring votes?). There should be a high threshold for bans, perhaps 90%.": "Ми також голосуватимемо за заборони та за процес внесення змін до переліку заборон (наприклад, чи варто проводити повторні голосування?). Для заборон має бути високий поріг, можливо, 90%.", "I agree that we should wait for aligned ASI and ask it to design a good governance proposal. The most important things for us to do now are (1) avoid losing control of the future, e.g. via misaligned AI takeover or a human dictator getting control, (2) distribute the power reasonably, and (3) try to do philosophy well.": "Я погоджуюся, що нам слід дочекатися узгодженого ASI й попросити його розробити гарну пропозицію щодо врядування. Найважливіше, що нам слід робити зараз, — це (1) уникати втрати контролю над майбутнім, наприклад, через захоплення влади неузгодженим ШІ або встановлення контролю людиною-диктатором, (2) розумно розподілити владу і (3) намагатися добре займатися філософією.", "I think there’s a good chance that in practice, the best path forward will be to lock in some governance structure over the future, because deliberation within a fixed structure (like the ones discussed above) will go better than in a looser structure (like today’s government) where, e.g., more power will accrue to people who are, for example, more politically well connected.": "Я вважаю, що є непогана ймовірність того, що на практиці найкращим шляхом буде закріпити певну структуру врядування над майбутнім, бо обговорення в межах фіксованої структури (як ті, що обговорювалися вище) піде краще, ніж у більш вільній структурі (як сьогоднішній уряд), де, наприклад, більше влади накопичуватиметься в людей, які, скажімо, мають кращі політичні зв'язки.", "My tentative favorite concrete guess for what to do above is “direct endowment” with some form of amendment process with a very high threshold (e.g. 90% approval). I think it’s very similar to voting based proposals, where you “vote” by making trades with other people about what to do with your resources. The public goods concern is the strongest counterargument, and if there is a voting system discovered that addresses this concern without adding additional, even more dire consequences, then I would change to wanting that.": "Мій попередній улюблений конкретний варіант дій — «пряме наділення ресурсами» з якоюсь формою процесу внесення змін із дуже високим порогом (наприклад, 90% схвалення). Я вважаю, що це дуже схоже на пропозиції на основі голосування, де ви «голосуєте», укладаючи угоди з іншими людьми про те, що робити зі своїми ресурсами. Занепокоєння щодо суспільних благ — найсильніший контраргумент, і якби була знайдена система голосування, яка вирішує це занепокоєння, не додаючи додаткових, ще гірших наслідків, я змінив би свою думку на користь неї.", "All voting systems that we know of are screwed up, and I would not want them to be used for something as high stakes as deciding about what to do in the future. But I’m pretty optimistic about this changing, for two reasons:": "Усі відомі нам системи голосування недосконалі, і я не хотів би, щоб їх використовували для чогось із такими високими ставками, як рішення про те, що робити в майбутньому. Але я досить оптимістично налаштований щодо того, що це зміниться, з двох причин:", "I think there’s a good chance that ASIs (and humans who think about it for longer) will come up with voting systems that incentivize honest reporting of preferences, and choose a good policy that aggregates the votes.": "Я вважаю, що є непогана ймовірність того, що ASI (та люди, які подумають над цим довше) вигадають системи голосування, що стимулюють чесне повідомлення преференцій, і оберуть гарну політику агрегації голосів.", "I think that we might be able to do preference elicitation along the lines of “direct preference aggregation” above. Once you have honest preferences, the problem of designing a good voting system seems much easier.": "Я вважаю, що ми, можливо, зможемо здійснювати виявлення преференцій у дусі «прямої агрегації преференцій», описаної вище. Коли у вас є чесні преференції, завдання розробити гарну систему голосування здається значно простішим.", "I care a lot about power in the future going to virtuous people. I think that it would be really bad if a huge fraction of the power in the future goes to selfish people or terminally evil people (e.g. people who want to cause massive amounts of suffering). Of course, different people have different moral views that are reasonable, and I don’t think it’s fair, for example, to claim that everyone should follow my moral views. But I do think that it’s reasonable to exclude people with sufficiently bad moral views, as agreed on from the perspective of the rest of society, from having a large amount of power over the future, for example, to exclude sociopaths from many of the preference aggregation systems above.": "Мене дуже хвилює, щоб у майбутньому влада діставалася доброчесним людям. Я вважаю, що було б дуже погано, якби величезна частка майбутньої влади дісталася егоїстичним людям або невиправно злим людям (наприклад, тим, хто хоче спричинити величезні страждання). Звісно, різні люди мають різні розумні моральні погляди, і я не думаю, що було б справедливо, наприклад, стверджувати, що всі мають дотримуватися моїх моральних поглядів. Але я справді вважаю розумним виключати людей із достатньо поганими моральними поглядами — за згодою решти суспільства — з отримання великого обсягу влади над майбутнім, наприклад, виключати соціопатів із багатьох описаних вище систем агрегації преференцій.", "I think that any attempt to have “normal governance” continue is not going to work, because our current systems will be totally exploited by actors using superintelligence to gain power. I think that we’re going to need to make massive changes to our system of government really quickly in order to maintain a reasonable ongoing distribution of power.": "Я вважаю, що будь-яка спроба зберегти «звичайне врядування» не спрацює, бо наші нинішні системи будуть повністю використані акторами, які застосовують суперінтелект для здобуття влади. Я думаю, нам доведеться дуже швидко внести масштабні зміни до нашої системи врядування, щоб підтримувати розумний поточний розподіл влади.", "Other important questions in post-ASI governance that we don’t address, or address only cursorily:": "Інші важливі питання пост-ASI врядування, які ми не розглядаємо або розглядаємо лише побіжно:", "Post-ASI governance on Earth or elsewhere in the solar system.": "Пост-ASI врядування на Землі чи деінде в Сонячній системі.", "Meme wars": "Мемні війни", ", if ASI are able to construct extremely compelling arguments, and members of different ideologies try to spread their views using these arguments.": ", якщо ASI зможуть конструювати надзвичайно переконливі аргументи, а прихильники різних ідеологій намагатимуться поширювати свої погляди за допомогою цих аргументів.", "Rights for digital minds.": "Права цифрових розумів.", "Managing risk in ": "Управління ризиком у ", "Managing risk in": "Управління ризиком у", "highly offense-dominant worlds": "світах з вираженою перевагою нападу", ", where a small group of people are able to cause huge amounts of destruction.": ", де невелика група людей здатна спричинити величезні руйнування.", "The Outer Space Treaty forbids nations and (according to some interpretations) individuals from claiming celestial bodies. In this document, we’re assuming, as in the Plan A scenario, that the Outer Space Treaty will be renegotiated once extrasolar colonization becomes technologically feasible.": "Договір про космічний простір забороняє державам і (за деякими тлумаченнями) окремим особам заявляти права на небесні тіла. У цьому документі ми, як і в сценарії Плану А, припускаємо, що Договір про космічний простір буде переглянуто, щойно позасонячна колонізація стане технологічно здійсненною.", "Toby Newberry": "Toby Newberry", " estimates that the affectable universe could support 10^35 biological humans or 10^44 digital minds at a time. For comparison, the number of humans who have ever lived is 10^11.": " оцінює, що досяжний всесвіт міг би одночасно підтримувати 10^35 біологічних людей або 10^44 цифрових розумів. Для порівняння, кількість людей, які коли-небудь жили, становить 10^11.", "estimates that the affectable universe could support 10^35 biological humans or 10^44 digital minds at a time. For comparison, the number of humans who have ever lived is 10^11.": "оцінює, що досяжний всесвіт міг би одночасно підтримувати 10^35 біологічних людей або 10^44 цифрових розумів. Для порівняння, кількість людей, які коли-небудь жили, становить 10^11.", "One possible exception is people with strong preferences for ": "Один можливий виняток — люди з сильними преференціями щодо ", "One possible exception is people with strong preferences for": "Один можливий виняток — люди з сильними преференціями щодо", "positional goods": "позиційних благ", ", e.g., people who care a lot about being richer than others, rather than their absolute level of wealth.": ", тобто людей, яких дуже хвилює те, щоб бути багатшими за інших, а не їхній абсолютний рівень багатства.", "For example, it might be possible to move our universe from a false vacuum state to a true vacuum state, which could ": "Наприклад, можливо, наш всесвіт вдасться перевести зі стану хибного вакууму в стан істинного вакууму, що могло б ", "For example, it might be possible to move our universe from a false vacuum state to a true vacuum state, which could": "Наприклад, можливо, наш всесвіт вдасться перевести зі стану хибного вакууму в стан істинного вакууму, що могло б", "destroy all matter": "знищити всю матерію", "See the paper ": "Див. статтю ", "See the paper": "Див. статтю", "Burning the Cosmic Commons": "Burning the Cosmic Commons", " for more on this threat model.": " для докладнішої інформації про цю модель загрози.", "for more on this threat model.": "для докладнішої інформації про цю модель загрози.", "Some examples of moral public goods that might be quite important to fund:": "Кілька прикладів моральних суспільних благ, фінансування яких може бути досить важливим:", "Broadly appealing moral projects, such as building societies of flourishing biological humans, uploaded humans, or other digital minds; providing resources to future generations; or discovering and acting in accordance with objective moral truths, if any exist.": "Широко привабливі моральні проєкти, як-от побудова суспільств процвітаючих біологічних людей, завантажених людей чи інших цифрових розумів; забезпечення ресурсами майбутніх поколінь; або відкриття об'єктивних моральних істин, якщо такі існують, і дії відповідно до них.", "Trading with people who intend to do something with side effects that others consider harmful to get them to modify their plans. Obviously, it’s important to approach this carefully to avoid creating perverse incentives where people do some activity that’s broadly considered harmful in search of a payout (see ": "Торгівля з людьми, які мають намір робити щось із побічними ефектами, які інші вважають шкідливими, щоб спонукати їх змінити свої плани. Очевидно, важливо підходити до цього обережно, щоб уникнути створення хибних стимулів, коли люди займаються діяльністю, яку загалом вважають шкідливою, в пошуках виплати (див. ", "Trading with people who intend to do something with side effects that others consider harmful to get them to modify their plans. Obviously, it’s important to approach this carefully to avoid creating perverse incentives where people do some activity that’s broadly considered harmful in search of a payout (see": "Торгівля з людьми, які мають намір робити щось із побічними ефектами, які інші вважають шкідливими, щоб спонукати їх змінити свої плани. Очевидно, важливо підходити до цього обережно, щоб уникнути створення хибних стимулів, коли люди займаються діяльністю, яку загалом вважають шкідливою, в пошуках виплати (див.", " for more discussion of reducing downside risk).": " для докладнішого обговорення зниження ризику негативних наслідків).", "for more discussion of reducing downside risk).": "для докладнішого обговорення зниження ризику негативних наслідків).", "Ideally, we’d also like to weigh the preferences of other stakeholders like future generations and digital minds, although we’re uncertain about whether it will be feasible to do this without opening up the political system to exploitation (see ": "В ідеалі, ми також хотіли б враховувати преференції інших зацікавлених сторін, як-от майбутніх поколінь і цифрових розумів, хоча ми не впевнені, чи буде це можливим без того, щоб відкрити політичну систему для експлуатації (див. ", "Ideally, we’d also like to weigh the preferences of other stakeholders like future generations and digital minds, although we’re uncertain about whether it will be feasible to do this without opening up the political system to exploitation (see": "В ідеалі, ми також хотіли б враховувати преференції інших зацікавлених сторін, як-от майбутніх поколінь і цифрових розумів, хоча ми не впевнені, чи буде це можливим без того, щоб відкрити політичну систему для експлуатації (див.", "That is, we should either decide how future governance decisions will be made or at least pick a meta-level process for choosing how that decision will be made (e.g., the voting system should be chosen by an AI arbiter verifiably aligned to choose based on a particular set of principles)": "Тобто нам слід або вирішити, як ухвалюватимуться майбутні рішення щодо врядування, або принаймні обрати мета-процес для вибору того, як буде ухвалено це рішення (наприклад, систему голосування має обирати ШІ-арбітр, чия узгодженість верифіковано підтверджена для вибору на основі певного набору принципів)", "Via mutual defence coalitions, mutual insurance, or law-enforcing equilibria emerging from multi-turn interactions.": "За допомогою коаліцій взаємного захисту, взаємного страхування або правозастосовних рівноваг, що виникають із багатоходових взаємодій.", "Barzel (1997), ": "Barzel (1997), ", "Barzel (1997),": "Barzel (1997),", "Economic Analysis of Property Rights": "Economic Analysis of Property Rights", "; Anderson & Hill (1990), ": "; Anderson & Hill (1990), ", "; Anderson & Hill (1990),": "; Anderson & Hill (1990),", "“The Race for Property Rights”": "«The Race for Property Rights»", "One way to do this might be to require that all probes sent to colonize other star systems carry a nightwatchman ASI to prevent the colony from sending out probes to seize space resources that belong to others.": "Один зі способів це зробити — вимагати, щоб усі зонди, надіслані для колонізації інших зоряних систем, несли на борту ASI-«нічного вартового», який запобігав би тому, щоб колонія надсилала зонди для захоплення космічних ресурсів, що належать іншим.", "The point is that each person’s eventual wealth only depends on the value of whatever they inherit at equilibrium prices, and not on whether they originally inherited titles to future resources directly, or received a cash transfer of equal value at equilibrium prices. If resources R are divided equally among N people and traded at competitive prices p, each person’s wealth is p · R/N. Under the auction alternative, total revenue is p · R, and equal redistribution gives each person p · R/N. ": "Суть у тому, що кінцевий добробут кожної людини залежить лише від вартості того, що вона успадковує за рівноважними цінами, а не від того, чи успадкувала вона спочатку права на майбутні ресурси напряму, чи отримала грошовий переказ еквівалентної вартості за рівноважними цінами. Якщо ресурси R порівну поділені між N людьми і торгуються за конкурентними цінами p, добробут кожної людини становить p · R/N. За альтернативи з аукціоном сукупний дохід становить p · R, а рівний перерозподіл дає кожній людині p · R/N. ", "The point is that each person’s eventual wealth only depends on the value of whatever they inherit at equilibrium prices, and not on whether they originally inherited titles to future resources directly, or received a cash transfer of equal value at equilibrium prices. If resources R are divided equally among N people and traded at competitive prices p, each person’s wealth is p · R/N. Under the auction alternative, total revenue is p · R, and equal redistribution gives each person p · R/N.": "Суть у тому, що кінцевий добробут кожної людини залежить лише від вартості того, що вона успадковує за рівноважними цінами, а не від того, чи успадкувала вона спочатку права на майбутні ресурси напряму, чи отримала грошовий переказ еквівалентної вартості за рівноважними цінами. Якщо ресурси R порівну поділені між N людьми і торгуються за конкурентними цінами p, добробут кожної людини становить p · R/N. За альтернативи з аукціоном сукупний дохід становить p · R, а рівний перерозподіл дає кожній людині p · R/N.", "This requires": "Це вимагає", ": competitive (price-taking) behaviour, that the auction clears at competitive equilibrium prices, markets are ": ": конкурентної поведінки (прийняття цін), щоб аукціон закривався за конкурентними рівноважними цінами, а ринки були ", ": competitive (price-taking) behaviour, that the auction clears at competitive equilibrium prices, markets are": ": конкурентної поведінки (прийняття цін), щоб аукціон закривався за конкурентними рівноважними цінами, а ринки були", "complete": "повними", " and have sufficient numbers of buyers and sellers, and people have convex preferences. The equivalence between auctioning and direct endowment could break down: especially if actors are large enough to coordinate to influence prices, or if resources are indivisible.": " і мали достатню кількість покупців і продавців, а люди мали опуклі преференції. Еквівалентність між аукціоном і прямим наділенням ресурсами може порушитися: особливо якщо актори достатньо великі, щоб координуватися й впливати на ціни, або якщо ресурси неподільні.", "and have sufficient numbers of buyers and sellers, and people have convex preferences. The equivalence between auctioning and direct endowment could break down: especially if actors are large enough to coordinate to influence prices, or if resources are indivisible.": "і мали достатню кількість покупців і продавців, а люди мали опуклі преференції. Еквівалентність між аукціоном і прямим наділенням ресурсами може порушитися: особливо якщо актори достатньо великі, щоб координуватися й впливати на ціни, або якщо ресурси неподільні.", "It’s true that in principle, under a direct endowment proposal, everyone could decide to voluntarily pool their galaxies into a trust and allocate resources by vote, but free-rider problems make this less likely in practice.": "Це правда, що в принципі, за пропозиції прямого наділення ресурсами, кожен міг би вирішити добровільно об'єднати свої галактики в траст і розподіляти ресурси голосуванням, але проблеми безбілетника роблять це менш імовірним на практиці.", "Obviously, versions where voters from a few countries get to weigh in are much better than versions where, say, only AI company CEOs and national leaders get to weigh in. But we think all of these have some of the same problems to different degrees.": "Очевидно, що варіанти, за яких висловитися можуть виборці з кількох країн, набагато кращі за варіанти, за яких висловитися можуть, скажімо, лише CEO ШІ-компаній і лідери держав. Але ми вважаємо, що всі вони тією чи іншою мірою мають деякі спільні проблеми.", "Suppose there are a thousand actors, each with equal resources. One actor wants to use their resources in a way which is viewed as harmful by all the other actors. Without enforceable prohibitions, each of the majority would need to decide individually how much to spend bribing the unpopular actor to stop. No one of the 999 actors cares so much about the harms that they are willing to pay one-half of their wealth to individually prevent them; but all of the 999 are willing to pay 0.05% of their wealth to prevent them, and that would raise a large enough bribe for the unpopular actor to agree to switch to some other use of his resources. In other words, preventing the use of resources which enough people care strongly about for moral reasons is a moral public good which requires taxation to fund efficiently.": "Припустімо, є тисяча акторів, кожен з рівними ресурсами. Один актор хоче використати свої ресурси у спосіб, який усі інші актори вважають шкідливим. Без примусових заборон кожен із більшості мав би самостійно вирішувати, скільки витратити на підкуп непопулярного актора, щоб той зупинився. Жоден із 999 акторів не переймається завданою шкодою настільки, щоб бути готовим заплатити половину свого багатства, аби самотужки запобігти їй; але всі 999 готові заплатити 0,05% свого багатства, щоб запобігти їй, і цього вистачило б, щоб зібрати достатньо великий підкуп, аби непопулярний актор погодився перейти до якогось іншого використання своїх ресурсів. Іншими словами, запобігання використанню ресурсів, щодо якого достатня кількість людей має сильні моральні переконання, — це моральне суспільне благо, яке потребує оподаткування для ефективного фінансування.", "For example:": "Наприклад:", "What exactly are negatively-valenced experiences? Probably our current understanding of consciousness and suffering is rather muddled, and people might create minds that have some of the features of classic examples of negatively valenced experiences but not others.": "Що саме таке негативно-валентний досвід? Ймовірно, наше нинішнє розуміння свідомості та страждання є доволі непроясненим, і люди можуть створювати розуми, які мають деякі риси класичних прикладів негативно-валентного досвіду, але не всі.", "How strongly negative does an experience have to be to fall under this ban?": "Наскільки сильно негативним має бути досвід, щоб підпадати під цю заборону?", "Are there any mitigating factors, e.g., the experience being necessary for a strongly positive life, the being in question consenting?": "Чи є якісь пом'якшувальні фактори, наприклад, необхідність такого досвіду для сильно позитивного життя чи згода відповідної істоти?", "This mechanism was originally introduced under the name “multiverse-wide superrationality” in this ": "Цей механізм спершу було представлено під назвою «мультивсесвітня надраціональність» у цій ", "This mechanism was originally introduced under the name “multiverse-wide superrationality” in this": "Цей механізм спершу було представлено під назвою «мультивсесвітня надраціональність» у цій", "paper": "статті", "Some more crucial considerations are discussed ": "Деякі більш вагомі міркування обговорюються ", "Some more crucial considerations are discussed": "Деякі більш вагомі міркування обговорюються", "For instance, the question of “is a particular digital mind capable of having morally relevant experiences?” hinges on both empirical properties of the digital mind but also questions about what properties are morally relevant.": "Наприклад, питання «чи здатен конкретний цифровий розум мати морально значущий досвід?» залежить як від емпіричних властивостей цифрового розуму, так і від питань про те, які властивості є морально значущими.", "Probably there should be some limit on the number of descendants who could be supported by these resources because otherwise we presumably will eventually hit Malthusian limits.": "Ймовірно, має існувати якесь обмеження на кількість нащадків, яких можуть підтримувати ці ресурси, бо інакше ми, вочевидь, зрештою впремося в мальтузіанські межі.", "Modifications": "Модифікації", "Explicit modeling of the frontier training run": "Явне моделювання передового тренувального прогону", "Changes to the compute and labor time series": "Зміни до часових рядів обчислювальних потужностей і праці", "Changes to the default parameters": "Зміни до параметрів за замовчуванням", "Modeling the consortium trajectory": "Моделювання траєкторії консорціуму", "Modeling covert projects": "Моделювання таємних проєктів", "Modeling deal dissolution": "Моделювання розпаду Угоди", "This supplement explains how we forecast AI capabilities in various parts of Plan A. We modified the AI Futures Model to simulate four situations:": "У цьому додатку пояснюється, як ми прогнозуємо можливості ШІ в різних частинах Плану А. Ми модифікували AI Futures Model, щоб симулювати чотири ситуації:", "the default trajectory, if there had been no deal to slow down capabilities progress,": "траєкторію за замовчуванням, якби не було укладено угоди про сповільнення прогресу можливостей,", "the Plan A consortium trajectory, which scales to TED-AI in a controlled manner, then halts to do alignment research,": "траєкторію консорціуму Плану А, яка контрольовано масштабується до TED-AI, а потім зупиняється для проведення досліджень з узгодження,", " defecting from the deal and trying to build AGI in secret, and": ", що ухиляється від Угоди та намагається таємно побудувати AGI, і", "defecting from the deal and trying to build AGI in secret, and": ", що ухиляється від Угоди та намагається таємно побудувати AGI, і", "the trajectory after ": "траєкторію після ", "the trajectory after": "траєкторію після", "deal dissolution": "розпаду Угоди", ", where most of the post-deal compute is destroyed and the leading project resumes racing.": ", коли більшість обчислювальних потужностей, накопичених після Угоди, знищено, а провідний проєкт відновлює гонку.", "The rest of this document is structured accordingly. Section 1 covers the differences between the Plan A model and the December 2025 AI Futures Model: a major change to training run modeling, our updated compute forecasts, and the changes to the default parameters. In sections 2 through 4, we explain the various extensions added on to simulate the three additional situations. If you haven’t read the AI Futures Model documentation, we recommend reading it ": "Решта цього документа структурована відповідно. Розділ 1 охоплює відмінності між моделлю Плану А та AI Futures Model грудня 2025 року: суттєву зміну в моделюванні тренувального прогону, наші оновлені прогнози обчислювальних потужностей і зміни параметрів за замовчуванням. У розділах 2–4 ми пояснюємо різні розширення, додані для симуляції трьох додаткових ситуацій. Якщо ви ще не читали документацію AI Futures Model, радимо прочитати її ", "The rest of this document is structured accordingly. Section 1 covers the differences between the Plan A model and the December 2025 AI Futures Model: a major change to training run modeling, our updated compute forecasts, and the changes to the default parameters. In sections 2 through 4, we explain the various extensions added on to simulate the three additional situations. If you haven’t read the AI Futures Model documentation, we recommend reading it": "Решта цього документа структурована відповідно. Розділ 1 охоплює відмінності між моделлю Плану А та AI Futures Model грудня 2025 року: суттєву зміну в моделюванні тренувального прогону, наші оновлені прогнози обчислювальних потужностей і зміни параметрів за замовчуванням. У розділах 2–4 ми пояснюємо різні розширення, додані для симуляції трьох додаткових ситуацій. Якщо ви ще не читали документацію AI Futures Model, радимо прочитати її", " first.": " спочатку.", "first.": "спочатку.", "Modifications to the core model": "Модифікації основної моделі", "Here we describe the three ways this model differs from the December 2025 AI Futures Model. These apply across all trajectories simulated.": "Тут ми описуємо три способи, якими ця модель відрізняється від AI Futures Model грудня 2025 року. Вони застосовуються до всіх симульованих траєкторій.", "Like most other AI takeoff models, the AI Futures Model (December 2025 version) defined ": "Як і більшість інших моделей зльоту ШІ, AI Futures Model (версія грудня 2025 року) визначала ", "Like most other AI takeoff models, the AI Futures Model (December 2025 version) defined": "Як і більшість інших моделей зльоту ШІ, AI Futures Model (версія грудня 2025 року) визначала", "effective training compute": "ефективні обчислювальні потужності тренування", " at a given time as the cumulative training compute ": " у певний момент часу як сукупні обчислювальні потужності тренування ", "at a given time as the cumulative training compute": "у певний момент часу як сукупні обчислювальні потужності тренування", " of the frontier model (in FLOP) times the software efficiency level ": " передової моделі (у FLOP), помножені на рівень ефективності програмного забезпечення ", "of the frontier model (in FLOP) times the software efficiency level": "передової моделі (у FLOP), помножені на рівень ефективності програмного забезпечення", " at that time (in present-day-FLOP per FLOP):": " на той момент (у сьогоднішніх FLOP на FLOP):", "at that time (in present-day-FLOP per FLOP):": "на той момент (у сьогоднішніх FLOP на FLOP):", "E(t) = C(t) \\cdot S(t).": "E(t) = C(t) \\cdot S(t).", "In reality, training runs take time, and the formulation above assumes that today’s software efficiency applies retroactively to the training run for the model that’s already in use. One consequence is ": "У реальності тренувальні прогони тривають у часі, а наведена вище формула передбачає, що сьогоднішня ефективність програмного забезпечення застосовується заднім числом до тренувального прогону моделі, яка вже використовується. Один із наслідків цього — ", "In reality, training runs take time, and the formulation above assumes that today’s software efficiency applies retroactively to the training run for the model that’s already in use. One consequence is": "У реальності тренувальні прогони тривають у часі, а наведена вище формула передбачає, що сьогоднішня ефективність програмного забезпечення застосовується заднім числом до тренувального прогону моделі, яка вже використовується. Один із наслідків цього —", "slightly overestimating": "незначне завищення оцінки", " how fast takeoff can proceed. But more importantly for Plan A, this model gives us no good way of dealing with situations where the ": " того, наскільки швидко може відбуватися зліт. Але що важливіше для Плану А, ця модель не дає нам гарного способу розглядати ситуації, коли ", "how fast takeoff can proceed. But more importantly for Plan A, this model gives us no good way of dealing with situations where the": "того, наскільки швидко може відбуватися зліт. Але що важливіше для Плану А, ця модель не дає нам гарного способу розглядати ситуації, коли", "training system performance": "продуктивність тренувальної системи", " (in FLOP/yr) of an AI project suddenly becomes very small compared to the system that was used to train the best model available to that project (as is the case for covert projects and after deal dissolution).": " (у FLOP/рік) ШІ-проєкту раптово стає дуже малою порівняно із системою, яку використовували для тренування найкращої моделі, доступної цьому проєкту (як це відбувається з таємними проєктами та після розпаду Угоди).", "(in FLOP/yr) of an AI project suddenly becomes very small compared to the system that was used to train the best model available to that project (as is the case for covert projects and after deal dissolution).": "(у FLOP/рік) ШІ-проєкту раптово стає дуже малою порівняно із системою, яку використовували для тренування найкращої моделі, доступної цьому проєкту (як це відбувається з таємними проєктами та після розпаду Угоди).", "In the Plan A version, we instead model effective training compute as increasing continuously as part of one long training run, at a rate determined by the ": "У версії Плану А ми натомість моделюємо ефективні обчислювальні потужності тренування як такі, що безперервно зростають у межах одного довгого тренувального прогону, зі швидкістю, яку визначає ", "In the Plan A version, we instead model effective training compute as increasing continuously as part of one long training run, at a rate determined by the": "У версії Плану А ми натомість моделюємо ефективні обчислювальні потужності тренування як такі, що безперервно зростають у межах одного довгого тренувального прогону, зі швидкістю, яку визначає", " and the software efficiency of the known training methods:": " та ефективність програмного забезпечення відомих методів тренування:", "and the software efficiency of the known training methods:": "та ефективність програмного забезпечення відомих методів тренування:", "E^\\prime(t) = T(t) \\cdot S(t).": "E^\\prime(t) = T(t) \\cdot S(t).", "We call this rate the ": "Ми називаємо цю швидкість ", "We call this rate the": "Ми називаємо цю швидкість", "effective training system performance": "ефективною продуктивністю тренувальної системи", " and abbreviate it as ETSP.": " і скорочуємо її як ETSP.", "and abbreviate it as ETSP.": "і скорочуємо її як ETSP.", "When all inputs grow exponentially, ETSP and effective compute also grow exponentially at the same rate, so this model behaves like the simpler one. All other equations are unchanged from the December 2025 AI Futures Model.": "Коли всі вхідні дані зростають експоненційно, ETSP та ефективні обчислювальні потужності також зростають експоненційно з тією самою швидкістю, тож ця модель поводиться так само, як простіша. Усі інші рівняння не змінилися порівняно з AI Futures Model грудня 2025 року.", "The AI Futures Model depends on exogenously-supplied forecasts of compute and labor. The Plan A version uses two sets of time series: one representing the default world if Plan A had not been implemented, and one that branches off from the default when the deal comes into effect. The modeling behind both of these is discussed in our ": "AI Futures Model залежить від екзогенно заданих прогнозів обчислювальних потужностей і праці. Версія Плану А використовує два набори часових рядів: один, що відображає базовий світ, якби Плану А не було реалізовано, і другий, що відгалужується від базового, коли Угода набуває чинності. Моделювання, що лежить в основі обох цих рядів, обговорюється в нашому ", "The AI Futures Model depends on exogenously-supplied forecasts of compute and labor. The Plan A version uses two sets of time series: one representing the default world if Plan A had not been implemented, and one that branches off from the default when the deal comes into effect. The modeling behind both of these is discussed in our": "AI Futures Model залежить від екзогенно заданих прогнозів обчислювальних потужностей і праці. Версія Плану А використовує два набори часових рядів: один, що відображає базовий світ, якби Плану А не було реалізовано, і другий, що відгалужується від базового, коли Угода набуває чинності. Моделювання, що лежить в основі обох цих рядів, обговорюється в нашому", "Compute Supplement": "Додатку «Обчислювальні потужності»", ". In summary,": ". Коротко кажучи,", "The default time series before 2029 has been updated to be slightly more bullish compared to that in the AI Futures Model": "Базовий часовий ряд до 2029 року оновлено, щоб він був трохи оптимістичнішим порівняно з рядом в AI Futures Model", "The Plan A time series from 2030 to 2035 reflects the controlled-but-massive compute buildout enabled by robotics, then slows down from 2035 to 2040.": "Часовий ряд Плану А з 2030 по 2035 рік відображає контрольоване, але масштабне нарощування обчислювальних потужностей, уможливлене робототехнікою, а потім сповільнюється з 2035 по 2040 рік.", "One limitation is that the human labor projections are not very realistic; we did not put much effort into these because human labor plays a very small role in the model dynamics after AI R&D is automated.": "Одне з обмежень полягає в тому, що прогнози людської праці не дуже реалістичні; ми не доклали до них багато зусиль, бо людська праця відіграє дуже малу роль у динаміці моделі після автоматизації AI R&D.", "The default parameters governing timelines and takeoff in the scenario were set to reflect scenario first-author Thomas Larsen’s views. However, since capabilities forecasting was not the main focus of AI 2040, they do not reflect as much consideration as do the values used in the AI Futures Model, and were sometimes adjusted ad-hoc as the scenario narrative and modeling were being written concurrently. Nevertheless, they deviate only slightly from Daniel Kokotajlo’s median values as of April 2026, and all authors find the default trajectory entirely plausible. Below we include a table describing each parameter that was changed from Daniel’s median.": "Параметри за замовчуванням, що визначають часові рамки та зліт у сценарії, було встановлено відповідно до поглядів першого автора сценарію Thomas Larsen. Проте, оскільки прогнозування можливостей не було головним фокусом AI 2040, вони не відображають стільки ж міркувань, скільки значення, використані в AI Futures Model, і подекуди коригувалися ситуативно, поки наратив сценарію та моделювання писалися паралельно. Тим не менш, вони лише незначно відхиляються від медіанних значень Daniel Kokotajlo станом на квітень 2026 року, і всі автори вважають траєкторію за замовчуванням цілком правдоподібною. Нижче наведено таблицю з описом кожного параметра, який було змінено відносно медіани Daniel.", "Change": "Зміна", "Gap years": "Років розриву", "1.1 2025-effective-flop-growth": "1.1 2025-effective-flop-growth", "Set to achieve the AC milestone at Jan 2030.": "Встановлено для досягнення віхи AC у січні 2030 року.", "Time horizon required for AC (before gap)": "Часовий горизонт, необхідний для AC (до розриву)", "10 work years": "10 робочих років", "Median-to-top taste multiplier": "Множник дослідницького чуття від медіани до топового рівня", "Set to reach ASI roughly one year after AC, while leaving ~3 OOMs of effective compute between AC and TED-AI.": "Встановлено так, щоб досягти ASI приблизно через рік після AC, залишаючи ~3 порядки величини ефективних обчислювальних потужностей між AC і TED-AI.", "AI research taste slope": "Нахил дослідницького чуття ШІ", "3.5 SDs per 2025-effective-flop-growth": "3,5 SD на 2025-effective-flop-growth", "Median-to-top-human jumps above SAR needed to reach TED-AI": "Стрибки від медіани до топової людини понад SAR, необхідні для досягнення TED-AI", "Unlike all other actors we model, the consortium is ": "На відміну від усіх інших акторів, яких ми моделюємо, консорціум ", "Unlike all other actors we model, the consortium is": "На відміну від усіх інших акторів, яких ми моделюємо, консорціум", " racing to build better AIs as fast as they possibly can. The specific strategies are discussed in more detail in the Capabilities Scaling Strategy supplement, but at a high level, the strategy is to scale smoothly to Top-Expert-Dominating AI (TED-AI)": " перебуває в гонці, щоб створювати кращі ШІ настільки швидко, наскільки це можливо. Конкретні стратегії детальніше обговорюються в додатку «Стратегія масштабування можливостей», але на високому рівні стратегія полягає в плавному масштабуванні до Top-Expert-Dominating AI (TED-AI)", "racing to build better AIs as fast as they possibly can. The specific strategies are discussed in more detail in the Capabilities Scaling Strategy supplement, but at a high level, the strategy is to scale smoothly to Top-Expert-Dominating AI (TED-AI)": "перебуває в гонці, щоб створювати кращі ШІ настільки швидко, наскільки це можливо. Конкретні стратегії детальніше обговорюються в додатку «Стратегія масштабування можливостей», але на високому рівні стратегія полягає в плавному масштабуванні до Top-Expert-Dominating AI (TED-AI)", ", then pause to do alignment research before eventually handing over control to AIs.": ", а потім у паузі для проведення досліджень з узгодження, перш ніж зрештою передати контроль ШІ.", "Here, we consider strategies that vary along two axes:": "Тут ми розглядаємо стратегії, що варіюються за двома осями:", "How far into the deal consortium aims to reach Top-Expert-Dominating AI (TED-AI), and": "На якому етапі дії Угоди консорціум прагне досягти Top-Expert-Dominating AI (TED-AI), і", "How much of a safety tax the consortium aims to be paying when TED-AI is reached.": "Який податок на безпеку консорціум прагне сплачувати на момент досягнення TED-AI.", "The safety tax is the difference between the capability level of the actual consortium AI and the capability level of the best AI the consortium ": "Податок на безпеку — це різниця між рівнем можливостей фактичного ШІ консорціуму та рівнем можливостей найкращого ШІ, який консорціум ", "The safety tax is the difference between the capability level of the actual consortium AI and the capability level of the best AI the consortium": "Податок на безпеку — це різниця між рівнем можливостей фактичного ШІ консорціуму та рівнем можливостей найкращого ШІ, який консорціум", "could have trained": "міг би натренувати", ", had they used all their training compute and the best-known algorithms for capabilities training. One example of “paying a safety tax” would be discovering neuralese training, finding that it would be much more efficient, but deciding not to use it to make control easier. We expect that in reality the consortium would want to pay some safety tax.": ", якби використав усі свої обчислювальні потужності для тренування та найкращі відомі алгоритми для тренування можливостей. Одним із прикладів «сплати податку на безпеку» було б відкриття тренування у форматі neuralese, з'ясування, що воно набагато ефективніше, але рішення не використовувати його, щоб полегшити контроль. Ми очікуємо, що в реальності консорціум захоче сплачувати певний податок на безпеку.", "The rough shape of the consortium’s capabilities trajectory: a brief halt, then smooth scaling, then a long near-pause before handoff.": "Приблизна форма траєкторії можливостей консорціуму: коротка зупинка, потім плавне масштабування, потім тривала майже-пауза перед передачею керування.", "The consortium trajectory is simulated according to slightly different rules during each of the following stages.": "Траєкторія консорціуму симулюється за дещо різними правилами на кожному з наведених нижче етапів.", "Stage 0: AI Training Pause": "Етап 0: пауза в тренуванні ШІ", "This phase starts some number of years before AC would have happened on the default path. (In the scenario, about 9 months before). Though effective compute is forced to stay flat (training is paused!), training system performance can still increase as the leading company within the consortium ends up with more compute at the end of the period.": "Цей етап починається за певну кількість років до того, як AC мало б відбутися на базовому шляху. (У сценарії — приблизно за 9 місяців до цього). Хоча ефективні обчислювальні потужності примусово залишаються незмінними (тренування призупинено!), продуктивність тренувальної системи все ще може зростати, оскільки провідна компанія в межах консорціуму зрештою отримує більше обчислювальних потужностей наприкінці цього періоду.", "AI R&D is ": "AI R&D ", "AI R&D is": "AI R&D", "also": "теж", " essentially paused during Phase 0.": " по суті призупинено на Етапі 0.", "essentially paused during Phase 0.": "по суті призупинено на Етапі 0.", " However, we model the software efficiency of the leading actor within the consortium as growing by a set number of OOMs during this period. This is because of Total Research Transparency: by the time scaling resumes at the end of Phase 0, essentially company IP is public. We expect the companies to have made non-overlapping software discoveries prior to the deal; hence pooling the intellectual property will increase software efficiency at the frontier.": " Втім, ми моделюємо ефективність програмного забезпечення провідного актора в межах консорціуму як таку, що зростає на встановлену кількість порядків величини протягом цього періоду. Це пояснюється Повною дослідницькою прозорістю: до моменту відновлення масштабування наприкінці Етапу 0 інтелектуальна власність компаній по суті стає публічною. Ми очікуємо, що компанії зробили різні, взаємно доповнювані відкриття в галузі програмного забезпечення до Угоди; тож об'єднання інтелектуальної власності підвищить ефективність програмного забезпечення на передньому краї.", "However, we model the software efficiency of the leading actor within the consortium as growing by a set number of OOMs during this period. This is because of Total Research Transparency: by the time scaling resumes at the end of Phase 0, essentially company IP is public. We expect the companies to have made non-overlapping software discoveries prior to the deal; hence pooling the intellectual property will increase software efficiency at the frontier.": "Втім, ми моделюємо ефективність програмного забезпечення провідного актора в межах консорціуму як таку, що зростає на встановлену кількість порядків величини протягом цього періоду. Це пояснюється Повною дослідницькою прозорістю: до моменту відновлення масштабування наприкінці Етапу 0 інтелектуальна власність компаній по суті стає публічною. Ми очікуємо, що компанії зробили різні, взаємно доповнювані відкриття в галузі програмного забезпечення до Угоди; тож об'єднання інтелектуальної власності підвищить ефективність програмного забезпечення на передньому краї.", "Stage 1: Scale to max-controllable AI": "Етап 1: масштабування до максимально контрольованого ШІ", "During this phase, effective compute increases with effective training system performance via the usual ": "Протягом цього етапу ефективні обчислювальні потужності зростають разом з ефективною продуктивністю тренувальної системи за звичною формулою ", "During this phase, effective compute increases with effective training system performance via the usual": "Протягом цього етапу ефективні обчислювальні потужності зростають разом з ефективною продуктивністю тренувальної системи за звичною формулою", "E^\\prime = T \\cdot S": "E^\\prime = T \\cdot S", ". TSP grows via the exogenously-supplied Plan A time series, and software efficiency growth is carefully controlled in order to reach TED-AI at a particular time. We assume a mandatory minimum amount of software progress is required per OOM of TSP increase.": ". TSP зростає відповідно до екзогенно заданого часового ряду Плану А, а зростання ефективності програмного забезпечення ретельно контролюється, щоб досягти TED-AI в конкретний момент часу. Ми припускаємо, що на кожен порядок величини зростання TSP потрібен обов'язковий мінімальний прогрес програмного забезпечення.", "To keep track of the safety tax paid at each point, we actually simulate two different trajectories:": "Щоб відстежувати податок на безпеку, сплачений у кожен момент часу, ми фактично симулюємо дві різні траєкторії:", "One represents the legal project’s ": "Одна відображає ", "One represents the legal project’s": "Одна відображає", "realizable": "реалізовувані", " capabilities. This trajectory aims to maintain the (constant) software progress rate that achieves TED-AI ": " можливості легального проєкту. Ця траєкторія намагається підтримувати (сталу) швидкість прогресу програмного забезпечення, яка досягає TED-AI ", "capabilities. This trajectory aims to maintain the (constant) software progress rate that achieves TED-AI": "можливості легального проєкту. Ця траєкторія намагається підтримувати (сталу) швидкість прогресу програмного забезпечення, яка досягає TED-AI", " the desired safety tax amount at the target time.": " бажаний обсяг податку на безпеку в цільовий момент часу.", "the desired safety tax amount at the target time.": "бажаний обсяг податку на безпеку в цільовий момент часу.", "realized": "реалізовані", " capabilities. This trajectory aims to maintain the (constant) software progress rate that reaches TED-AI at the same time that ": " можливості. Ця траєкторія намагається підтримувати (сталу) швидкість прогресу програмного забезпечення, яка досягає TED-AI одночасно з тим, як ", "capabilities. This trajectory aims to maintain the (constant) software progress rate that reaches TED-AI at the same time that": "можливості. Ця траєкторія намагається підтримувати (сталу) швидкість прогресу програмного забезпечення, яка досягає TED-AI одночасно з тим, як", " capabilities reach TED-AI+tax.": " можливості досягають TED-AI+податок.", "capabilities reach TED-AI+tax.": "можливості досягають TED-AI+податок.", "At each timestep the trajectories moderate their research effort from the theoretical maximum, choosing instead the value which brings them closest to the pre-selected software progress path.": "На кожному часовому кроці траєкторії стримують свої дослідницькі зусилля відносно теоретичного максимуму, обираючи натомість значення, яке наближає їх найбільше до заздалегідь обраного шляху прогресу програмного забезпечення.", "Upper and lower limits imposed on software progress": "Верхні та нижні межі, накладені на прогрес програмного забезпечення", "If the chosen scaling duration and takeoff parameters demand faster software progress than would be naturally possible at a given point, the research effort may not be moderated at all. Often, once AI capability level increases enough, the consortium is able to catch up to the desired software path. Occasionally, the consortium may not be capable of reaching TED-AI by the desired time, e.g. in worlds where reaching TED-AI from the pause level would naturally have taken ten years but where the consortium attempts to reach it in just one.": "Якщо обрана тривалість масштабування та параметри зльоту вимагають швидшого прогресу програмного забезпечення, ніж природно можливо в певний момент, дослідницькі зусилля можуть взагалі не стримуватися. Часто, щойно рівень можливостей ШІ достатньо зростає, консорціум здатен наздогнати бажаний шлях програмного забезпечення. Іноді консорціум може виявитися нездатним досягти TED-AI до бажаного часу, наприклад, у світах, де досягнення TED-AI від рівня паузи природно зайняло б десять років, але консорціум намагається досягти цього лише за один.", "Conversely, a sufficiently long scaling period or a sufficiently narrow effective compute gap from the pause level to TED-AI can mean that hardware scaling alone (plus the mandatory minimum software growth rate) would reach TED-AI before the target year. In this case, the consortium simply reaches TED-AI early.": "І навпаки, достатньо тривалий період масштабування або достатньо вузький розрив ефективних обчислювальних потужностей від рівня паузи до TED-AI може означати, що саме лише апаратне масштабування (плюс обов'язкова мінімальна швидкість зростання програмного забезпечення) досягне TED-AI раніше цільового року. У такому разі консорціум просто достроково досягає TED-AI.", "For simplicity, we model this stage as a literal halt for the consortium’s ": "Для простоти ми моделюємо цей етап як буквальну зупинку можливостей консорціуму ", "For simplicity, we model this stage as a literal halt for the consortium’s": "Для простоти ми моделюємо цей етап як буквальну зупинку можливостей консорціуму", " capabilities. In reality, we expect them to slow down more smoothly, then continue increasing very slowly as control techniques improve and the threshold for “max-controllable AI” inches upward.": ". У реальності ми очікуємо, що вони сповільнюватимуться плавніше, а потім продовжуватимуть зростати дуже повільно, у міру того як вдосконалюються техніки контролю, а поріг «максимально контрольованого ШІ» поступово підвищується.", "capabilities. In reality, we expect them to slow down more smoothly, then continue increasing very slowly as control techniques improve and the threshold for “max-controllable AI” inches upward.": ". У реальності ми очікуємо, що вони сповільнюватимуться плавніше, а потім продовжуватимуть зростати дуже повільно, у міру того як вдосконалюються техніки контролю, а поріг «максимально контрольованого ШІ» поступово підвищується.", "The consortium’s ": "Можливості консорціуму, натомість, ", "The consortium’s": "Можливості консорціуму, натомість,", " capabilities continue increasing however. TSP growth slows down but continues. As for software efficiency growth, we specify a constant rate of software progress in OOMs per year to represent the capabilities externalities incurred by the huge amounts of alignment research that happen during stage 2. (As an example, dramatic advances in mechanistic interpretability, while promising for alignment, could plausibly also enable much more efficient training methods.)": "продовжують зростати. Зростання TSP сповільнюється, але триває. Щодо зростання ефективності програмного забезпечення, ми задаємо сталу швидкість прогресу програмного забезпечення в порядках величини на рік, щоб відобразити зовнішні ефекти на можливості, спричинені величезними обсягами досліджень з узгодження, що відбуваються протягом Етапу 2. (Наприклад, різкі прориви в механістичній інтерпретованості, хоч і перспективні для узгодження, цілком можуть також уможливити значно ефективніші методи тренування.)", "capabilities continue increasing however. TSP growth slows down but continues. As for software efficiency growth, we specify a constant rate of software progress in OOMs per year to represent the capabilities externalities incurred by the huge amounts of alignment research that happen during stage 2. (As an example, dramatic advances in mechanistic interpretability, while promising for alignment, could plausibly also enable much more efficient training methods.)": "продовжують зростати. Зростання TSP сповільнюється, але триває. Щодо зростання ефективності програмного забезпечення, ми задаємо сталу швидкість прогресу програмного забезпечення в порядках величини на рік, щоб відобразити зовнішні ефекти на можливості, спричинені величезними обсягами досліджень з узгодження, що відбуваються протягом Етапу 2. (Наприклад, різкі прориви в механістичній інтерпретованості, хоч і перспективні для узгодження, цілком можуть також уможливити значно ефективніші методи тренування.)", "Since the ": "Оскільки ", "Since the": "Оскільки", " capabilities effectively halt while the ": "можливості фактично зупиняються, тоді як ", "capabilities effectively halt while the": "можливості фактично зупиняються, тоді як", " capabilities continue growing, the safety tax paid increases dramatically during this period.": "можливості продовжують зростати, сплачуваний податок на безпеку різко зростає протягом цього періоду.", "capabilities continue growing, the safety tax paid increases dramatically during this period.": "можливості продовжують зростати, сплачуваний податок на безпеку різко зростає протягом цього періоду.", "In reality, the consortium will choose to hand off to AIs at some point (in our scenario, it happens roughly five years into Stage 2). We do not currently model handoff explicitly however, because none of our analyses depend significantly on the dynamics after handoff. This is why the consortium capabilities line remains flat indefinitely in the explorer, rather than eventually jumping up as we would expect after handoff.": "У реальності консорціум у якийсь момент вирішить передати керування ШІ (у нашому сценарії це відбувається приблизно через п'ять років після початку Етапу 2). Однак наразі ми не моделюємо передачу керування явно, бо жоден із наших аналізів суттєво не залежить від динаміки після передачі керування. Саме тому лінія можливостей консорціуму в оглядачі залишається пласкою нескінченно довго, а не зрештою підстрибує вгору, як ми очікували б після передачі керування.", "At the moment that AI training is paused (": "У момент, коли тренування ШІ призупиняється (", "Stage 0": "Етап 0", "), the covert project is assumed to start with the following resources:": "), припускається, що таємний проєкт стартує з такими ресурсами:", "A total R&D compute budget equal to some fraction of the leading company’s R&D compute. We assume the covert project allocates between training, experiments, and internal inference in the same proportions as the leading lab did.": "Загальний бюджет обчислювальних потужностей для R&D, що дорівнює певній частці обчислювальних потужностей для R&D провідної компанії. Ми припускаємо, що таємний проєкт розподіляє їх між тренуванням, експериментами та внутрішнім інференсом у тих самих пропорціях, що й провідна лабораторія.", "An engineering labor force equal to that same fraction of the leading lab’s labor force,": "Інженерну робочу силу, що дорівнює тій самій частці робочої сили провідної лабораторії,", "AI capabilities, software efficiency, and research stock matching those of the pre-deal leading company.": "Можливості ШІ, ефективність програмного забезпечення та дослідницький запас, що відповідають показникам провідної компанії до Угоди.", "We also assume that the covert project’s supply of compute and labor stays constant over time.": "Ми також припускаємо, що обсяг обчислювальних потужностей і праці таємного проєкту залишається сталим із часом.", " Finally, we assume that the covert project cannot begin training or R&D for some period during which covert datacenters are being constructed.": " Нарешті, ми припускаємо, що таємний проєкт не може розпочати тренування чи R&D протягом певного періоду, поки будуються таємні дата-центри.", "Finally, we assume that the covert project cannot begin training or R&D for some period during which covert datacenters are being constructed.": "Нарешті, ми припускаємо, що таємний проєкт не може розпочати тренування чи R&D протягом певного періоду, поки будуються таємні дата-центри.", "With only these factors considered, our modeling indicates that covert projects would probably progress quite slowly. ": "З урахуванням лише цих факторів наше моделювання вказує на те, що таємні проєкти, ймовірно, прогресуватимуть доволі повільно. ", "With only these factors considered, our modeling indicates that covert projects would probably progress quite slowly.": "З урахуванням лише цих факторів наше моделювання вказує на те, що таємні проєкти, ймовірно, прогресуватимуть доволі повільно.", "In the median case, each OOM of R&D compute reduction (compared to the leading lab at the start of the deal) would cause the covert project to take over 6x as long to reach TED-AI than would the leading lab.": "У медіанному випадку кожен порядок величини скорочення обчислювальних потужностей для R&D (порівняно з провідною лабораторією на початку дії Угоди) призводив би до того, що таємному проєкту знадобилося б понад у 6 разів більше часу для досягнення TED-AI, ніж провідній лабораторії.", "However, we also assume that the covert project is uplifted to some degree by consortium AI progress. The primary factor, and the only one we model explicitly, is the leakage of software improvements from the consortium to the covert project.": "Однак ми також припускаємо, що таємний проєкт певною мірою отримує прискорення від прогресу ШІ консорціуму. Основний фактор — і єдиний, який ми моделюємо явно, — це витік вдосконалень програмного забезпечення від консорціуму до таємного проєкту.", " To account for this, we include a parameter for the fraction of the consortium’s software progress rate that gets added on to the covert project’s indigenous software progress rate. We conservatively assume covert projects will make full use of any algorithms discovered by the consortium, even those deemed potentially dangerous, so we take the ": " Щоб урахувати це, ми додаємо параметр для частки швидкості прогресу програмного забезпечення консорціуму, яка додається до власної швидкості прогресу програмного забезпечення таємного проєкту. Ми консервативно припускаємо, що таємні проєкти повною мірою використовуватимуть будь-які алгоритми, відкриті консорціумом, навіть ті, що вважаються потенційно небезпечними, тож ми беремо ", "To account for this, we include a parameter for the fraction of the consortium’s software progress rate that gets added on to the covert project’s indigenous software progress rate. We conservatively assume covert projects will make full use of any algorithms discovered by the consortium, even those deemed potentially dangerous, so we take the": "Щоб урахувати це, ми додаємо параметр для частки швидкості прогресу програмного забезпечення консорціуму, яка додається до власної швидкості прогресу програмного забезпечення таємного проєкту. Ми консервативно припускаємо, що таємні проєкти повною мірою використовуватимуть будь-які алгоритми, відкриті консорціумом, навіть ті, що вважаються потенційно небезпечними, тож ми беремо", " software efficiency growth rate as the quantity to steal from rather than the ": "швидкість зростання ефективності програмного забезпечення як величину, з якої відбувається запозичення, а не ", "software efficiency growth rate as the quantity to steal from rather than the": "швидкість зростання ефективності програмного забезпечення як величину, з якої відбувається запозичення, а не", " software efficiency growth rate.": "швидкість зростання ефективності програмного забезпечення.", "software efficiency growth rate.": "швидкість зростання ефективності програмного забезпечення.", "Due to software proliferation, the consortium’s scaling strategy is extremely important to the covert project’s ability to catch up. The less software progress the consortium needs to make to reach TED-AI at the desired time, the less the covert project is uplifted. As a result, accepting a ": "Через розповсюдження програмного забезпечення стратегія масштабування консорціуму надзвичайно важлива для здатності таємного проєкту наздогнати консорціум. Що менше прогресу програмного забезпечення потрібно зробити консорціуму, щоб досягти TED-AI в бажаний час, то менше прискорення отримує таємний проєкт. Як наслідок, погодження на ", "Due to software proliferation, the consortium’s scaling strategy is extremely important to the covert project’s ability to catch up. The less software progress the consortium needs to make to reach TED-AI at the desired time, the less the covert project is uplifted. As a result, accepting a": "Через розповсюдження програмного забезпечення стратегія масштабування консорціуму надзвичайно важлива для здатності таємного проєкту наздогнати консорціум. Що менше прогресу програмного забезпечення потрібно зробити консорціуму, щоб досягти TED-AI в бажаний час, то менше прискорення отримує таємний проєкт. Як наслідок, погодження на", "longer": "довшу", " scaling duration that requires less software progress ": " тривалість масштабування, яка вимагає менше прогресу програмного забезпечення, ", "scaling duration that requires less software progress": "тривалість масштабування, яка вимагає менше прогресу програмного забезпечення,", "increases": "збільшує", " the consortium’s ETSP lead at TED-AI, and typically also ": " відрив консорціуму за ETSP на момент TED-AI, а також, як правило, ", "the consortium’s ETSP lead at TED-AI, and typically also": "відрив консорціуму за ETSP на момент TED-AI, а також, як правило,", " the time between the consortium reaching TED-AI and the covert project reaching TED-AI.": "збільшує час між досягненням TED-AI консорціумом і досягненням TED-AI таємним проєктом.", "the time between the consortium reaching TED-AI and the covert project reaching TED-AI.": "збільшує час між досягненням TED-AI консорціумом і досягненням TED-AI таємним проєктом.", "The modeling of ": "Моделювання ", "The modeling of": "Моделювання", " is relatively simple.": " є відносно простим.", "is relatively simple.": "є відносно простим.", "The effectiveness of ": "Ефективність ", "The effectiveness of": "Ефективність", " is represented by the fraction of world compute available to the new leading project at the time of dissolution.": " представлена часткою світових обчислювальних потужностей, доступних новому провідному проєкту на момент розпаду.", "is represented by the fraction of world compute available to the new leading project at the time of dissolution.": "представлена часткою світових обчислювальних потужностей, доступних новому провідному проєкту на момент розпаду.", "We also include a parameter for the growth rate of R&D compute after the deal dissolves, representing the output of any non-destroyed or newly-constructed fabs.": "Ми також додаємо параметр для швидкості зростання обчислювальних потужностей для R&D після розпаду Угоди, що відображає випуск будь-яких незнищених або новозбудованих фабрик.", "As with covert projects, we technically assume that human R&D labor varies in proportion to compute. Though this might be unrealistic, the effect of human labor is essentially negligible after AC.": "Як і з таємними проєктами, ми технічно припускаємо, що людська праця в R&D варіюється пропорційно до обчислювальних потужностей. Хоча це може бути нереалістичним, вплив людської праці по суті незначний після AC.", "The post-dissolution leading project starts with the frontier model weights (from the ": "Провідний проєкт після розпаду стартує з ваг передової моделі (з ", "The post-dissolution leading project starts with the frontier model weights (from the": "Провідний проєкт після розпаду стартує з ваг передової моделі (з", " consortium trajectory) and all discovered software improvements (from the ": " траєкторії консорціуму) та всіх відкритих удосконалень програмного забезпечення (з ", "consortium trajectory) and all discovered software improvements (from the": "траєкторії консорціуму) та всіх відкритих удосконалень програмного забезпечення (з", " consortium trajectory) from before the deal dissolved.": " траєкторії консорціуму) до розпаду Угоди.", "consortium trajectory) from before the deal dissolved.": "траєкторії консорціуму) до розпаду Угоди.", "We assume that the leading project after a deal dissolves proceeds at full speed, as in the default trajectory.": "Ми припускаємо, що провідний проєкт після розпаду Угоди рухається на повній швидкості, як і в траєкторії за замовчуванням.", "Specifically, they should scale to something like “max-controllable AI”, but in AI 2040 we operationalize this as TED-AI.": "Зокрема, їм слід масштабуватися до чогось на кшталт «максимально контрольованого ШІ», але в AI 2040 ми операціоналізуємо це як TED-AI.", "Technically in the scenario, the pause lasts from March 2029 to September 2029, and “pilot” experiments are able to proceed during the last part of the year before the first major training run is approved in January 2030.": "Технічно в сценарії пауза триває з березня 2029 року по вересень 2029 року, а «пілотні» експерименти можуть проводитися протягом останньої частини року, перш ніж у січні 2030 року буде схвалено перший великий тренувальний прогін.", "This assumption may not represent the optimal strategy for a covert project. We did some rough experiments investigating various compute allocation strategies in an earlier version of this model, and found that they made a negligible difference to the speed of the covert project trajectories (except in extreme cases — for example, allocating zero compute to training will halt effective compute growth entirely. Similarly, allocating zero compute to experiments would halt software efficiency growth entirely.)": "Це припущення може не відображати оптимальну стратегію для таємного проєкту. Ми провели кілька грубих експериментів, досліджуючи різні стратегії розподілу обчислювальних потужностей у ранішій версії цієї моделі, і виявили, що вони мають незначний вплив на швидкість траєкторій таємного проєкту (за винятком крайніх випадків — наприклад, виділення нульових обчислювальних потужностей на тренування повністю зупинить зростання ефективних обчислювальних потужностей. Так само виділення нульових обчислювальних потужностей на експерименти повністю зупинить зростання ефективності програмного забезпечення.)", "This, too, is a somewhat unprincipled assumption (compared to, e.g., carrying out a dedicated estimate of covert R&D labor and including that as a separate parameter.) However, the precise reduction in the engineering headcount matters very little when engineering is nearly fully automated. We are fairly confident that improving upon this simplification does not affect the results in any significant way, and have checked this empirically at various points. Due to time constraints, we do not currently include detailed results here.": "Це також дещо безпринципне припущення (порівняно, наприклад, зі спеціальною оцінкою обсягу таємної праці в R&D і включенням її як окремого параметра). Однак точне скорочення чисельності інженерів має дуже мале значення, коли інженерна робота майже повністю автоматизована. Ми досить впевнені, що вдосконалення цього спрощення не вплине суттєво на результати, і перевіряли це емпірично в різних точках. Через обмеження в часі ми наразі не наводимо тут детальних результатів.", "This is one of the ways our model is generous to covert projects; it is similar to assuming that whoever is operating the covert project has access to the frontier model weights, datasets, and full stock of algorithmic knowledge from the leading lab at the time of the deal’s signing. As an improvement, we could add a model parameter representing the number of “months behind” the covert project starts at. Unfortunately, we do not include this as of the Plan A release due to time constraints.": "Це один зі способів, у який наша модель є щедрою до таємних проєктів; це подібно до припущення, що той, хто керує таємним проєктом, має доступ до ваг передової моделі, наборів даних і повного запасу алгоритмічних знань провідної лабораторії на момент підписання Угоди. Як удосконалення, ми могли б додати параметр моделі, що відображає кількість «місяців відставання», з якою стартує таємний проєкт. На жаль, ми не включаємо це станом на випуск Плану А через обмеження в часі.", "This is slightly generous but on the whole seems likely to be accurate. The most catastrophic way this could fail is if some amount of the legal compute produced during Plan A could be smuggled to a covert project (or used illegally from within the R&D clusters). This would be catastrophic because world compute increases by several OOMs during Plan A. A milder failure mode would involve the covert project making use of the growing stock of consumer hardware during the deal (as makeshift AI R&D compute). Finally, a covert project could attempt to build and operate its own independent, unmonitored semiconductor supply chain during the deal. Our strategy for preventing all of these things from happening is described in the ": "Це дещо щедре припущення, але загалом, здається, воно, ймовірно, точне. Найкатастрофічніший спосіб, у який це могло б не спрацювати, — якби певний обсяг легальних обчислювальних потужностей, вироблених протягом дії Плану А, вдалося контрабандою передати таємному проєкту (або нелегально використати всередині R&D-кластерів). Це було б катастрофічним, бо світові обчислювальні потужності зростають на кілька порядків величини протягом дії Плану А. М'якіший режим збою передбачав би використання таємним проєктом зростаючого запасу споживчого апаратного забезпечення протягом дії Угоди (як саморобних обчислювальних потужностей для AI R&D). Нарешті, таємний проєкт міг би спробувати побудувати й експлуатувати власний незалежний, немоніторований ланцюг постачання напівпровідників протягом дії Угоди. Наша стратегія запобігання всьому цьому описана в ", "This is slightly generous but on the whole seems likely to be accurate. The most catastrophic way this could fail is if some amount of the legal compute produced during Plan A could be smuggled to a covert project (or used illegally from within the R&D clusters). This would be catastrophic because world compute increases by several OOMs during Plan A. A milder failure mode would involve the covert project making use of the growing stock of consumer hardware during the deal (as makeshift AI R&D compute). Finally, a covert project could attempt to build and operate its own independent, unmonitored semiconductor supply chain during the deal. Our strategy for preventing all of these things from happening is described in the": "Це дещо щедре припущення, але загалом, здається, воно, ймовірно, точне. Найкатастрофічніший спосіб, у який це могло б не спрацювати, — якби певний обсяг легальних обчислювальних потужностей, вироблених протягом дії Плану А, вдалося контрабандою передати таємному проєкту (або нелегально використати всередині R&D-кластерів). Це було б катастрофічним, бо світові обчислювальні потужності зростають на кілька порядків величини протягом дії Плану А. М'якіший режим збою передбачав би використання таємним проєктом зростаючого запасу споживчого апаратного забезпечення протягом дії Угоди (як саморобних обчислювальних потужностей для AI R&D). Нарешті, таємний проєкт міг би спробувати побудувати й експлуатувати власний незалежний, немоніторований ланцюг постачання напівпровідників протягом дії Угоди. Наша стратегія запобігання всьому цьому описана в", "We do permit them to accumulate stolen software during the construction period, described below.": "Ми дозволяємо їм накопичувати вкрадене програмне забезпечення протягом періоду будівництва, описаного нижче.", "We say “over” because the stated result compares the covert project to a trajectory whose compute level was ": "Ми кажемо «понад», бо наведений результат порівнює таємний проєкт із траєкторією, рівень обчислювальних потужностей якої був ", "We say “over” because the stated result compares the covert project to a trajectory whose compute level was": "Ми кажемо «понад», бо наведений результат порівнює таємний проєкт із траєкторією, рівень обчислювальних потужностей якої був", "frozen": "заморожений", " at the branch point, where in reality the leading lab benefits from growing R&D compute during takeoff.": " у точці розгалуження, тоді як у реальності провідна лабораторія отримує вигоду від зростання обчислювальних потужностей для R&D під час зльоту.", "at the branch point, where in reality the leading lab benefits from growing R&D compute during takeoff.": "у точці розгалуження, тоді як у реальності провідна лабораторія отримує вигоду від зростання обчислювальних потужностей для R&D під час зльоту.", "Other factors include distillation and weight theft. In this model, we assume these can be prevented.": "Інші фактори включають дистиляцію та крадіжку ваг. У цій моделі ми припускаємо, що їм можна запобігти.", "Baseline Transparency Desiderata": "Базові вимоги до прозорості", "Four Transparency Proposals": "Чотири пропозиції щодо прозорості", "When is each proposal desirable?": "Коли яка пропозиція бажана?", "What fraction of algorithms will leak under each proposal?": "Яка частка алгоритмів просочиться за кожної пропозиції?", "Total Research Transparency Upsides": "Переваги Повної дослідницької прозорості", "Total Research Transparency Downsides": "Недоліки Повної дослідницької прозорості", "AGI projects face key decisions around ": "Проєкти AGI стикаються з ключовими рішеннями щодо ", "AGI projects face key decisions around": "Проєкти AGI стикаються з ключовими рішеннями щодо", ": who gets to see algorithmic secrets, who gets real time access to the datacenters sufficient to be confident in what they are doing, who gets to be aware of ongoing experiments and training runs, and with what latency. This document outlines our current thinking on transparency in the context of Plan A.": ": хто отримує доступ до алгоритмічних секретів, хто отримує доступ у реальному часі до дата-центрів, достатній, щоб бути впевненим у тому, що там відбувається, хто дізнається про поточні експерименти й тренувальні прогони, і з якою затримкою. У цьому документі викладено наше поточне бачення прозорості в контексті Плану А.", "First, we discuss baseline transparency desiderata—aspects of transparency proposals that are core to Plan A. A fundamental component of Plan A is a trustless US/China deal to ensure that AI development is safe, which necessitates a minimal amount of US/China transparency, sufficient to verify that the other is following the agreement. (": "По-перше, ми обговорюємо базові вимоги до прозорості — аспекти пропозицій щодо прозорості, які є ключовими для Плану А. Фундаментальний компонент Плану А — угода між США та Китаєм, що не покладається на довіру, для забезпечення безпеки розвитку ШІ, яка вимагає мінімального обсягу прозорості між США та Китаєм, достатнього для перевірки того, що інша сторона дотримується угоди. (", "Second, we give an overview of possible transparency regimes which can satisfy these desiderata. (": "По-друге, ми даємо огляд можливих режимів прозорості, які можуть задовольнити ці вимоги. (", "Third, we give an in depth explanation of our favorite proposal, “total research transparency”. In this proposal, almost all algorithmic secrets, experiments, and training runs would be visible to the public immediately. (": "По-третє, ми даємо детальне пояснення нашої улюбленої пропозиції — «повної дослідницької прозорості». За цієї пропозиції майже всі алгоритмічні секрети, експерименти та тренувальні прогони будуть негайно видимі громадськості. (", "Finally, we give an analysis of the tradeoffs between the different proposals outlined, and the reasons why transparency is beneficial. The main reason we recommend Total Research Transparency is because it would improve government and corporate decisionmaking during Plan A; which is our current most concerning failure mode. The second-most important reason is that it makes it much harder for corporations and governments to abuse their power. (": "Нарешті, ми аналізуємо компроміси між різними викладеними пропозиціями та причини, чому прозорість є корисною. Основна причина, з якої ми рекомендуємо Повну дослідницьку прозорість, — вона покращить ухвалення рішень урядами й корпораціями протягом дії Плану А, що є нашим наразі найбільш тривожним сценарієм провалу. Другою за важливістю причиною є те, що вона значно ускладнює зловживання владою для корпорацій та урядів. (", "Any transparency proposal in Plan A should be consistent with the following desiderata:": "Будь-яка пропозиція щодо прозорості в Плані А має відповідати таким вимогам:", "Trustless Verification.": "Верифікація без довіри.", " The US and China need to be able to verify slowdown agreements without relying on trust. This means that specifically the US and Chinese governments need visibility into how compute is being used.": " США та Китай мають бути здатні верифікувати угоди про сповільнення, не покладаючись на довіру. Це означає, що саме урядам США та Китаю потрібна видимість того, як використовуються обчислювальні потужності.", "The US and China need to be able to verify slowdown agreements without relying on trust. This means that specifically the US and Chinese governments need visibility into how compute is being used.": "США та Китай мають бути здатні верифікувати угоди про сповільнення, не покладаючись на довіру. Це означає, що саме урядам США та Китаю потрібна видимість того, як використовуються обчислювальні потужності.", "Model weights security robust against nation-state adversaries.": "Безпека ваг моделі, стійка до державних супротивників.", " We’d like to prevent model weights from leaking because if the model weights were to leak it would (1) greatly accelerate covert projects and (2) increase misuse risk. Neither of these are necessarily fatal, but we’d very much like to avoid them. Once we get to AIs that are as or more generally capable than top human experts, model weight security will probably be necessary.": " Ми хочемо запобігти витоку ваг моделі, бо якби ваги моделі просочилися, це (1) значно прискорило б таємні проєкти та (2) підвищило б ризик зловживання. Жодне з цього не обов'язково фатальне, але ми дуже хотіли б цього уникнути. Щойно ми дійдемо до ШІ, які настільки ж або більш загально здатні, ніж найкращі людські експерти, безпека ваг моделі, ймовірно, стане необхідною.", "We’d like to prevent model weights from leaking because if the model weights were to leak it would (1) greatly accelerate covert projects and (2) increase misuse risk. Neither of these are necessarily fatal, but we’d very much like to avoid them. Once we get to AIs that are as or more generally capable than top human experts, model weight security will probably be necessary.": "Ми хочемо запобігти витоку ваг моделі, бо якби ваги моделі просочилися, це (1) значно прискорило б таємні проєкти та (2) підвищило б ризик зловживання. Жодне з цього не обов'язково фатальне, але ми дуже хотіли б цього уникнути. Щойно ми дійдемо до ШІ, які настільки ж або більш загально здатні, ніж найкращі людські експерти, безпека ваг моделі, ймовірно, стане необхідною.", "Ongoing consumer access to frontier AI.": "Постійний споживчий доступ до передового ШІ.", " Direct access to the AI models is perhaps the most important form of transparency. Seeing the results of evaluations and high level descriptions of model behavior are much less informative than directly using the model.": " Прямий доступ до моделей ШІ — це, мабуть, найважливіша форма прозорості. Бачити результати оцінювань і описи поведінки моделі на високому рівні значно менш інформативно, ніж безпосередньо користуватися моделлю.", "Direct access to the AI models is perhaps the most important form of transparency. Seeing the results of evaluations and high level descriptions of model behavior are much less informative than directly using the model.": "Прямий доступ до моделей ШІ — це, мабуть, найважливіша форма прозорості. Бачити результати оцінювань і описи поведінки моделі на високому рівні значно менш інформативно, ніж безпосередньо користуватися моделлю.", "We have four viable candidates for transparency, each of which meet the above desiderata. Proposals #1-3 are further consistent with Plan A, while Proposal #4 only works for Plan S.": "У нас є чотири життєздатні кандидати щодо прозорості, кожен з яких відповідає наведеним вище вимогам. Пропозиції №1–3 далі узгоджуються з Планом А, тоді як Пропозиція №4 працює лише для Плану S.", "Proposal #1: Total Research Transparency.": "Пропозиція №1: Повна дослідницька прозорість.", " Nearly all AI research is fully transparent to the public, including AI algorithms, code, and documentation, for all frontier AI projects. AI model weights, significant fractions of the training data, and a small amount of other sensitive information is prevented from leaving the datacenters.": " Майже всі дослідження ШІ повністю прозорі для громадськості, включно з алгоритмами ШІ, кодом і документацією, для всіх передових ШІ-проєктів. Вагам моделей ШІ, значним часткам тренувальних даних і невеликому обсягу іншої чутливої інформації не дозволяється залишати межі дата-центрів.", "Nearly all AI research is fully transparent to the public, including AI algorithms, code, and documentation, for all frontier AI projects. AI model weights, significant fractions of the training data, and a small amount of other sensitive information is prevented from leaving the datacenters.": "Майже всі дослідження ШІ повністю прозорі для громадськості, включно з алгоритмами ШІ, кодом і документацією, для всіх передових ШІ-проєктів. Вагам моделей ШІ, значним часткам тренувальних даних і невеликому обсягу іншої чутливої інформації не дозволяється залишати межі дата-центрів.", "Proposal #2: Filtered Transparency.": "Пропозиція №2: Фільтрована прозорість.", " Nearly all AI research is done within a physical security boundary containing both the researchers and the compute. Within the security boundary, US and Chinese auditors have sufficient access to verify deals.": " Майже всі дослідження ШІ проводяться в межах фізичного периметра безпеки, що містить як дослідників, так і обчислювальні потужності. У межах периметра безпеки аудитори США та Китаю мають достатній доступ для верифікації угод.", "Nearly all AI research is done within a physical security boundary containing both the researchers and the compute. Within the security boundary, US and Chinese auditors have sufficient access to verify deals.": "Майже всі дослідження ШІ проводяться в межах фізичного периметра безпеки, що містить як дослідників, так і обчислювальні потужності. У межах периметра безпеки аудитори США та Китаю мають достатній доступ для верифікації угод.", " Three things are allowed to leave the datacenter: (1) (partially redacted) reports approved by both sides about what is going on inside, (2) model weights that get sent to the inference datacenters, and (3) researchers themselves. One can vary the level of redaction: with minimal redaction, this proposal approaches Proposal #1, and with maximal redaction, this proposal is similar to Proposal #3.": " Дозволено, щоб із дата-центру виходили три речі: (1) (частково відредаговані) звіти, схвалені обома сторонами, про те, що відбувається всередині, (2) ваги моделі, що надсилаються до дата-центрів інференсу, і (3) самі дослідники. Рівень редагування можна варіювати: за мінімального редагування ця пропозиція наближається до Пропозиції №1, а за максимального редагування ця пропозиція подібна до Пропозиції №3.", "Three things are allowed to leave the datacenter: (1) (partially redacted) reports approved by both sides about what is going on inside, (2) model weights that get sent to the inference datacenters, and (3) researchers themselves. One can vary the level of redaction: with minimal redaction, this proposal approaches Proposal #1, and with maximal redaction, this proposal is similar to Proposal #3.": "Дозволено, щоб із дата-центру виходили три речі: (1) (частково відредаговані) звіти, схвалені обома сторонами, про те, що відбувається всередині, (2) ваги моделі, що надсилаються до дата-центрів інференсу, і (3) самі дослідники. Рівень редагування можна варіювати: за мінімального редагування ця пропозиція наближається до Пропозиції №1, а за максимального редагування ця пропозиція подібна до Пропозиції №3.", "Proposal #3: Algorithmic Security.": "Пропозиція №3: Алгоритмічна безпека.", " It may be necessary to prevent the exfiltration of algorithmic secrets. This requires tightening the security boundary above: if people are regularly entering and leaving the AI datacenters, then they will almost certainly report back most of the algorithms to their governments. Similarly, filtered reports provide a channel for steganographically encoded versions of the model weights to be exfiltrated. Under this proposal, all frontier AI research is done in a secure datacenter with researchers and auditors located onsite and prevented from leaving or communicating any information out. Model weights are allowed to move from the R&D datacenters to the inference datacenters. This involves something like “handing off trust” to the auditors inside the datacenters, because so limited information is allowed to leave the datacenter that external actors cannot exert meaningful oversight internally.": " Може виявитися необхідним запобігти ексфільтрації алгоритмічних секретів. Це вимагає посилення описаного вище периметра безпеки: якщо люди регулярно заходять до ШІ-дата-центрів і виходять з них, вони майже напевно доповідатимуть про більшість алгоритмів своїм урядам. Так само відфільтровані звіти надають канал для ексфільтрації стеганографічно закодованих версій ваг моделі. За цієї пропозиції всі передові дослідження ШІ проводяться в захищеному дата-центрі, де дослідники й аудитори перебувають на місці й позбавлені можливості виходити чи передавати будь-яку інформацію назовні. Вагам моделі дозволено переміщуватися з R&D-дата-центрів до дата-центрів інференсу. Це передбачає щось на кшталт «передачі довіри» аудиторам усередині дата-центрів, бо назовні дозволено виносити настільки обмежену інформацію, що зовнішні актори не можуть здійснювати значущий нагляд зсередини.", "It may be necessary to prevent the exfiltration of algorithmic secrets. This requires tightening the security boundary above: if people are regularly entering and leaving the AI datacenters, then they will almost certainly report back most of the algorithms to their governments. Similarly, filtered reports provide a channel for steganographically encoded versions of the model weights to be exfiltrated. Under this proposal, all frontier AI research is done in a secure datacenter with researchers and auditors located onsite and prevented from leaving or communicating any information out. Model weights are allowed to move from the R&D datacenters to the inference datacenters. This involves something like “handing off trust” to the auditors inside the datacenters, because so limited information is allowed to leave the datacenter that external actors cannot exert meaningful oversight internally.": "Може виявитися необхідним запобігти ексфільтрації алгоритмічних секретів. Це вимагає посилення описаного вище периметра безпеки: якщо люди регулярно заходять до ШІ-дата-центрів і виходять з них, вони майже напевно доповідатимуть про більшість алгоритмів своїм урядам. Так само відфільтровані звіти надають канал для ексфільтрації стеганографічно закодованих версій ваг моделі. За цієї пропозиції всі передові дослідження ШІ проводяться в захищеному дата-центрі, де дослідники й аудитори перебувають на місці й позбавлені можливості виходити чи передавати будь-яку інформацію назовні. Вагам моделі дозволено переміщуватися з R&D-дата-центрів до дата-центрів інференсу. Це передбачає щось на кшталт «передачі довіри» аудиторам усередині дата-центрів, бо назовні дозволено виносити настільки обмежену інформацію, що зовнішні актори не можуть здійснювати значущий нагляд зсередини.", "Proposal #4: Shut it all down.": "Пропозиція №4: Закрити все.", " Specifically, ban compute-intensive AI R&D. Under this proposal, there is no large-scale AI R&D, so there’s no need for AI R&D transparency. This could be enforced through compute declarations and physical inspections (but doesn’t require sharing digital access to the clusters, i.e. algorithms). This is similar to the MIRI proposal, and also what occurred for about 6 months during 2029 in the AI 2040 scenario.": " Зокрема, заборонити ресурсомісткі AI R&D. За цієї пропозиції немає масштабних AI R&D, тож немає потреби в прозорості AI R&D. Це можна забезпечити через декларування обчислювальних потужностей і фізичні інспекції (але це не вимагає надання цифрового доступу до кластерів, тобто до алгоритмів). Це подібно до пропозиції MIRI, а також до того, що відбувалося протягом близько 6 місяців 2029 року в сценарії AI 2040.", "Specifically, ban compute-intensive AI R&D. Under this proposal, there is no large-scale AI R&D, so there’s no need for AI R&D transparency. This could be enforced through compute declarations and physical inspections (but doesn’t require sharing digital access to the clusters, i.e. algorithms). This is similar to the MIRI proposal, and also what occurred for about 6 months during 2029 in the AI 2040 scenario.": "Зокрема, заборонити ресурсомісткі AI R&D. За цієї пропозиції немає масштабних AI R&D, тож немає потреби в прозорості AI R&D. Це можна забезпечити через декларування обчислювальних потужностей і фізичні інспекції (але це не вимагає надання цифрового доступу до кластерів, тобто до алгоритмів). Це подібно до пропозиції MIRI, а також до того, що відбувалося протягом близько 6 місяців 2029 року в сценарії AI 2040.", "This table summarizes the rough tradeoffs between them:": "У цій таблиці узагальнено приблизні компроміси між ними:", "Proposal #1: Total Research Transparency": "Пропозиція №1: Повна дослідницька прозорість", "Proposal #2: Filtered Transparency": "Пропозиція №2: Фільтрована прозорість", "Proposal #3: Algorithmic Security": "Пропозиція №3: Алгоритмічна безпека", "Proposal #4: Shut it all down": "Пропозиція №4: Закрити все", "SL5 algorithmic secrets security": "Безпека алгоритмічних секретів рівня SL5", "No": "Ні", "Partial, depends on redactions": "Частково, залежить від редагувань", "Maybe": "Можливо", "N/A, no new algos discovered": "Н/З, нових алгоритмів не відкрито", "Allows new training runs": "Дозволяє нові тренувальні прогони", "Yes": "Так", "How informed are public discussions of safety cases?": "Наскільки поінформовані публічні обговорення safety cases?", "Very": "Дуже", "Depends on redactions.": "Залежить від редагувань.", "N/A, no new safety cases needed": "Н/З, нові safety cases не потрібні", "In Plan A, we currently recommend Total Research Transparency for many reasons, chief of which is that the likelihood of reasonable analyses of safety cases is much higher if external researchers and the general public are able to critically analyze them.": "У Плані А ми наразі рекомендуємо Повну дослідницьку прозорість з багатьох причин, головна з яких — ймовірність розумних аналізів safety cases значно вища, якщо зовнішні дослідники й широка громадськість можуть критично їх аналізувати.", " The main drawback relative to Proposals 2&3 is that there is less algorithmic security, and so algorithms will probably leak to covert projects. However, we think that SL5 algorithmic secrets security is incredibly difficult. Therefore, our main mitigation for algorithms leaking is to prevent new algorithmic secrets from being developed in the first place.": " Головний недолік порівняно з Пропозиціями 2 і 3 полягає в тому, що алгоритмічна безпека нижча, а отже, алгоритми, ймовірно, просочуватимуться до таємних проєктів. Однак ми вважаємо, що безпека алгоритмічних секретів рівня SL5 неймовірно складна. Тому наш головний спосіб пом'якшення витоку алгоритмів — запобігати самому виникненню нових алгоритмічних секретів.", "The main drawback relative to Proposals 2&3 is that there is less algorithmic security, and so algorithms will probably leak to covert projects. However, we think that SL5 algorithmic secrets security is incredibly difficult. Therefore, our main mitigation for algorithms leaking is to prevent new algorithmic secrets from being developed in the first place.": "Головний недолік порівняно з Пропозиціями 2 і 3 полягає в тому, що алгоритмічна безпека нижча, а отже, алгоритми, ймовірно, просочуватимуться до таємних проєктів. Однак ми вважаємо, що безпека алгоритмічних секретів рівня SL5 неймовірно складна. Тому наш головний спосіб пом'якшення витоку алгоритмів — запобігати самому виникненню нових алгоритмічних секретів.", "In this section we’ll discuss a specific possible implementation of Total Research Transparency, which will correspond to the implementation done in Plan A.": "У цьому розділі ми обговоримо конкретну можливу реалізацію Повної дослідницької прозорості, яка відповідатиме реалізації, застосованій у Плані А.", "Auditors": "Аудитори", "R&D Compute": "Обчислювальні потужності R&D", "Opaque Internal": "Непрозора внутрішня", "Database": "База даних", "(Model weights,": "(Ваги моделі,", "Activations,": "Активації,", "RL Data,": "Дані RL,", "Hyperparams)": "Гіперпараметри)", "Internal Silo": "Внутрішня ізоляція", "code": "код", "outputs": "виходи", "(screened to prevent": "(перевіряється, щоб запобігти", "Opaque info from leaking)": "витоку непрозорої інформації)", "Variable latency": "Змінна затримка", "Weights": "Ваги", "High Risk": "Високий ризик", "Outputs": "Виходи", "Requests for info": "Запити на інформацію", "Misuse-Infohazardous": "Небезпечні для зловживання", "Trajectories": "Траєкторії", "Requests for code": "Запити на код", "and other information": "та іншу інформацію", "1 MB/sec global": "1 МБ/с загальний", "bandwidth cap": "ліміт пропускної здатності", "All outputs": "Усі виходи", "All inputs": "Усі входи", "Transparent": "Прозора", "Internal Database": "Внутрішня база даних", "(Code, AI COT,": "(Код, AI COT,", "prompts, etc)": "промпти тощо)", "Inference only": "Лише інференс", "recomputation": "переобчислення", "Output": "Вихід", "Tokens": "Токени", "Input": "Вхід", "Visible to": "Видимо для", "Public Database": "Публічна база даних", "Includes all outputs from R&D Datacenters,": "Включає всі виходи з дата-центрів R&D,", "outputs from models used for AI R&D, and": "виходи моделей, що використовуються для AI R&D, та", "all inputs to the R&D datacenters": "усі входи до дата-центрів R&D", "The Public": "Громадськість", "AI & Human": "ШІ та люди", "AI Researchers": "Дослідники ШІ", "AIs used for AI R&D": "ШІ, що використовуються для AI R&D", "happen in special": "відбуваються в спеціальних", "inference datacenters": "дата-центрах інференсу", "with additional transparency": "з додатковими вимогами", "requirements (e.g. no ZDR)": "щодо прозорості (наприклад, без ZDR)", "and additional control": "та додатковим", "scaffolding": "контрольним каркасом", "The arrows in the diagram show the flow of information between humans, R&D datacenters, and Inference datacenters.": "Стрілки на діаграмі показують потік інформації між людьми, дата-центрами R&D і дата-центрами інференсу.", "Under this proposal, there are two types of datacenters:": "За цієї пропозиції існує два типи дата-центрів:", " only provide inference made by whitelisted models.": " надають лише інференс, здійснений моделями зі схваленого переліку.", "only provide inference made by whitelisted models.": "надають лише інференс, здійснений моделями зі схваленого переліку.", " These datacenters host consumer chatbots, almost all agent workloads, robot foundation model inference, etc. Arbitrary requests are allowed to be sent into the datacenter, but only verified AI model outputs are allowed to come out, so that the model weights are secure.": " Ці дата-центри обслуговують споживчі чат-боти, майже все агентне навантаження, інференс базових моделей для роботів тощо. У дата-центр дозволено надсилати довільні запити, але виходити з нього дозволено лише верифікованим виходам ШІ-моделі, щоб ваги моделі залишалися захищеними.", "These datacenters host consumer chatbots, almost all agent workloads, robot foundation model inference, etc. Arbitrary requests are allowed to be sent into the datacenter, but only verified AI model outputs are allowed to come out, so that the model weights are secure.": "Ці дата-центри обслуговують споживчі чат-боти, майже все агентне навантаження, інференс базових моделей для роботів тощо. У дата-центр дозволено надсилати довільні запити, але виходити з нього дозволено лише верифікованим виходам ШІ-моделі, щоб ваги моделі залишалися захищеними.", " allow training runs and experiments—everything needed to produce a new set of model weights. They are “transparent datacenters,” as described above. These datacenters are much higher risk than inference datacenters, because they could be used to do an intelligence explosion.": " дозволяють тренувальні прогони та експерименти — все необхідне для отримання нового набору ваг моделі. Це «прозорі дата-центри», як описано вище. Ці дата-центри мають значно вищий ризик, ніж дата-центри інференсу, бо їх можна використати для здійснення вибуху інтелекту.", "allow training runs and experiments—everything needed to produce a new set of model weights. They are “transparent datacenters,” as described above. These datacenters are much higher risk than inference datacenters, because they could be used to do an intelligence explosion.": "дозволяють тренувальні прогони та експерименти — все необхідне для отримання нового набору ваг моделі. Це «прозорі дата-центри», як описано вище. Ці дата-центри мають значно вищий ризик, ніж дата-центри інференсу, бо їх можна використати для здійснення вибуху інтелекту.", "Information from the AI R&D Datacenters is organized as follows:": "Інформація з дата-центрів AI R&D організована так:", "An ": "", "An": "", "Opaque Internal Database": "Непрозора внутрішня база даних", " contains all information that shouldn’t be public. This includes model weights, activations, some datasets, and some hyperparameters. No human (internal or external) is able to directly view the information in this database.": " містить усю інформацію, яка не має бути публічною. Це включає ваги моделі, активації, деякі набори даних і деякі гіперпараметри. Жодна людина (внутрішня чи зовнішня) не може безпосередньо переглядати інформацію в цій базі даних.", "contains all information that shouldn’t be public. This includes model weights, activations, some datasets, and some hyperparameters. No human (internal or external) is able to directly view the information in this database.": "містить усю інформацію, яка не має бути публічною. Це включає ваги моделі, активації, деякі набори даних і деякі гіперпараметри. Жодна людина (внутрішня чи зовнішня) не може безпосередньо переглядати інформацію в цій базі даних.", "Transparent Internal Database": "Прозора внутрішня база даних", " contains all other information, including all code, AI chains of thought, prompts, etc. However, it’s not directly accessible to the public or AI researchers who aren’t physically located within the security boundary of the AI R&D datacenter.": " містить усю іншу інформацію, включно з усім кодом, ланцюжками міркувань ШІ, промптами тощо. Однак вона не є безпосередньо доступною для громадськості чи дослідників ШІ, які фізично не перебувають у межах периметра безпеки дата-центру AI R&D.", "contains all other information, including all code, AI chains of thought, prompts, etc. However, it’s not directly accessible to the public or AI researchers who aren’t physically located within the security boundary of the AI R&D datacenter.": "містить усю іншу інформацію, включно з усім кодом, ланцюжками міркувань ШІ, промптами тощо. Однак вона не є безпосередньо доступною для громадськості чи дослідників ШІ, які фізично не перебувають у межах периметра безпеки дата-центру AI R&D.", "Transparent Public Database": "Прозора публічна база даних", " is accessible to everyone. It is a record of all information going in or out of the R&D datacenter. It logs all activities of AI researchers interacting with the R&D clusters, as well as any additional queries by members of the public that wish to see some piece of information. For example, they might want to task an AI to look through the internal database and write a short report about the state of some particular field of research.": " доступна кожному. Це запис усієї інформації, що надходить до дата-центру R&D або виходить з нього. Вона фіксує всю діяльність дослідників ШІ, які взаємодіють з R&D-кластерами, а також будь-які додаткові запити представників громадськості, які хочуть побачити якийсь фрагмент інформації. Наприклад, вони можуть захотіти доручити ШІ переглянути внутрішню базу даних і написати короткий звіт про стан певної галузі досліджень.", "is accessible to everyone. It is a record of all information going in or out of the R&D datacenter. It logs all activities of AI researchers interacting with the R&D clusters, as well as any additional queries by members of the public that wish to see some piece of information. For example, they might want to task an AI to look through the internal database and write a short report about the state of some particular field of research.": "доступна кожному. Це запис усієї інформації, що надходить до дата-центру R&D або виходить з нього. Вона фіксує всю діяльність дослідників ШІ, які взаємодіють з R&D-кластерами, а також будь-які додаткові запити представників громадськості, які хочуть побачити якийсь фрагмент інформації. Наприклад, вони можуть захотіти доручити ШІ переглянути внутрішню базу даних і написати короткий звіт про стан певної галузі досліджень.", "Anything that’s in the transparent internal database could end up in the transparent public database if anyone requests that information. However, what stops everything from leaving to the public database are upload limits that cap outgoing information to ~1 megabyte / second, as a layer of defense for the opaque information being exfiltrated (i.e., model weight exfiltration in particular).": "Усе, що є в прозорій внутрішній базі даних, може опинитися в прозорій публічній базі даних, якщо хтось запитає цю інформацію. Однак те, що заважає всьому потрапити в публічну базу даних, — це ліміти завантаження, які обмежують вихідну інформацію приблизно 1 мегабайтом на секунду, як рівень захисту від ексфільтрації непрозорої інформації (тобто, зокрема, від ексфільтрації ваг моделі).", " There is an ongoing auction for the outgoing bandwidth to allocate access, and all outgoing bandwidth is also copied to a freely accessible database on the internet. In practice, this means that almost all algorithms are immediately revealed to the public.": " Триває постійний аукціон за вихідну пропускну здатність для розподілу доступу, і вся вихідна пропускна здатність також копіюється у вільно доступну базу даних в інтернеті. На практиці це означає, що майже всі алгоритми негайно розкриваються громадськості.", "There is an ongoing auction for the outgoing bandwidth to allocate access, and all outgoing bandwidth is also copied to a freely accessible database on the internet. In practice, this means that almost all algorithms are immediately revealed to the public.": "Триває постійний аукціон за вихідну пропускну здатність для розподілу доступу, і вся вихідна пропускна здатність також копіюється у вільно доступну базу даних в інтернеті. На практиці це означає, що майже всі алгоритми негайно розкриваються громадськості.", "The R&D datacenters are still owned and operated by tech companies, like in today’s world. In fact each R&D datacenter is really a campus of datacenters, inside which several tech companies‘ datacenters are located. The US and Chinese governments, with their respective auditors and monitoring devices, ensure that each tech company’s datacenters on the campus create logs of their activities that go to the internal opaque database and the internal transparent database.": "Дата-центрами R&D, як і в сьогоднішньому світі, і надалі володіють і керують технологічні компанії. Насправді кожен дата-центр R&D — це фактично кампус дата-центрів, усередині якого розташовані дата-центри кількох технологічних компаній. Уряди США та Китаю за допомогою своїх відповідних аудиторів і моніторингових пристроїв забезпечують, щоб дата-центри кожної технологічної компанії на кампусі створювали журнали своєї діяльності, які надходять до внутрішньої непрозорої бази даних і внутрішньої прозорої бази даних.", "Anyone, including members of the public, can purchase compute inside the R&D datacenters and have the same level of access to frontier AI development as frontier AI company researchers.": "Будь-хто, включно з представниками громадськості, може купити обчислювальні потужності всередині дата-центрів R&D і отримати той самий рівень доступу до розробки передового ШІ, що й дослідники передових ШІ-компаній.", " Members of the public can, for example, run experiments on intermediate model checkpoints, see loss curves during training, or ask an AI to run a desired analysis for them.": " Представники громадськості можуть, наприклад, проводити експерименти на проміжних контрольних точках моделі, бачити криві втрат під час тренування або попросити ШІ провести для них бажаний аналіз.", "Members of the public can, for example, run experiments on intermediate model checkpoints, see loss curves during training, or ask an AI to run a desired analysis for them.": "Представники громадськості можуть, наприклад, проводити експерименти на проміжних контрольних точках моделі, бачити криві втрат під час тренування або попросити ШІ провести для них бажаний аналіз.", "There are three risk tiers of inference:": "Існує три рівні ризику інференсу:", "Extreme Risk:": "Екстремальний ризик:", " AIs used for AI R&D need to have direct access to R&D compute, and so they run on the R&D datacenters instead of the inference datacenters. This also allows additional security—these AIs are subject to carefully designed control protocols.": " ШІ, що використовуються для AI R&D, потребують прямого доступу до обчислювальних потужностей R&D, тому вони працюють у дата-центрах R&D, а не в дата-центрах інференсу. Це також дає змогу забезпечити додаткову безпеку — такі ШІ підпорядковуються ретельно розробленим протоколам контролю.", "AIs used for AI R&D need to have direct access to R&D compute, and so they run on the R&D datacenters instead of the inference datacenters. This also allows additional security—these AIs are subject to carefully designed control protocols.": "ШІ, що використовуються для AI R&D, потребують прямого доступу до обчислювальних потужностей R&D, тому вони працюють у дата-центрах R&D, а не в дата-центрах інференсу. Це також дає змогу забезпечити додаткову безпеку — такі ШІ підпорядковуються ретельно розробленим протоколам контролю.", "High Risk:": "Високий ризик:", " AIs used for construction in dangerous domains (e.g. constructing robots, constructing GPUs or semiconductor manufacturing equipment) OR AIs used for research in dangerous domains (e.g. research relevant to engineered pandemics). These AIs live on the inference datacenters and must log the trajectories produced by AIs operating in high risk domains.": " ШІ, що використовуються для будівництва в небезпечних сферах (наприклад, конструювання роботів, GPU або обладнання для виробництва напівпровідників), АБО ШІ, що використовуються для досліджень у небезпечних сферах (наприклад, дослідження, пов'язані зі створеними пандеміями). Такі ШІ живуть у дата-центрах інференсу й мають реєструвати траєкторії, згенеровані ШІ, що працюють у сферах високого ризику.", "AIs used for construction in dangerous domains (e.g. constructing robots, constructing GPUs or semiconductor manufacturing equipment) OR AIs used for research in dangerous domains (e.g. research relevant to engineered pandemics). These AIs live on the inference datacenters and must log the trajectories produced by AIs operating in high risk domains.": "ШІ, що використовуються для будівництва в небезпечних сферах (наприклад, конструювання роботів, GPU або обладнання для виробництва напівпровідників), АБО ШІ, що використовуються для досліджень у небезпечних сферах (наприклад, дослідження, пов'язані зі створеними пандеміями). Такі ШІ живуть у дата-центрах інференсу й мають реєструвати траєкторії, згенеровані ШІ, що працюють у сферах високого ризику.", "Lower Risk:": "Нижчий ризик:", " AIs used for anything else. This includes most commercial use (e.g. using AIs as a chatbot), most corporate use (e.g. using AIs for medicine/law/architecture/etc). These AIs are allowed to run with zero-data-retention (ZDR), allowing for maximum privacy. Just like standard practice today, even AIs running with ZDR are still subject to refusals and anti-misuse classifiers. However, only AIs behind the frontier are allowed to run with true ZDR. This is discussed in more detail in our ": " ШІ, що використовуються для всього іншого. Це включає більшість комерційних застосувань (наприклад, використання ШІ як чат-бота), більшість корпоративних застосувань (наприклад, використання ШІ в медицині/праві/архітектурі тощо). Таким ШІ дозволено працювати з нульовим збереженням даних (ZDR), що забезпечує максимальну приватність. Так само як і за сьогоднішньою стандартною практикою, навіть ШІ, що працюють із ZDR, все одно підпорядковуються відмовам і класифікаторам проти зловживань. Однак лише ШІ, що відстають від переднього краю, можуть працювати зі справжнім ZDR. Це детальніше обговорюється в нашому ", "AIs used for anything else. This includes most commercial use (e.g. using AIs as a chatbot), most corporate use (e.g. using AIs for medicine/law/architecture/etc). These AIs are allowed to run with zero-data-retention (ZDR), allowing for maximum privacy. Just like standard practice today, even AIs running with ZDR are still subject to refusals and anti-misuse classifiers. However, only AIs behind the frontier are allowed to run with true ZDR. This is discussed in more detail in our": "ШІ, що використовуються для всього іншого. Це включає більшість комерційних застосувань (наприклад, використання ШІ як чат-бота), більшість корпоративних застосувань (наприклад, використання ШІ в медицині/праві/архітектурі тощо). Таким ШІ дозволено працювати з нульовим збереженням даних (ZDR), що забезпечує максимальну приватність. Так само як і за сьогоднішньою стандартною практикою, навіть ШІ, що працюють із ZDR, все одно підпорядковуються відмовам і класифікаторам проти зловживань. Однак лише ШІ, що відстають від переднього краю, можуть працювати зі справжнім ZDR. Це детальніше обговорюється в нашому", "High Risk and Lower Risk inference operates on the inference clusters, while Extreme risk inference occurs within the AI R&D clusters on a compute cluster that’s verified to be inference only.": "Інференс високого й нижчого ризику здійснюється на кластерах інференсу, тоді як інференс екстремального ризику відбувається всередині кластерів AI R&D на обчислювальному кластері, верифікованому як призначений лише для інференсу.", "All of the high risk trajectories and some of the non-ZDR lower risk trajectories are physically transported (under guard!) between the inference datacenters and the R&D datacenters in order to give safety researchers access.": "Усі траєкторії високого ризику та деякі траєкторії нижчого ризику без ZDR фізично перевозяться (під охороною!) між дата-центрами інференсу та дата-центрами R&D, щоб надати доступ дослідникам безпеки.", "Government-only": "Лише для уряду", "reports": "звіти", "Includes reports from inside the R&D datacenters": "Включає звіти зсередини дата-центрів R&D", "In filtered transparency, AI researchers are physically located within a security boundary, and we attempt to prevent information from leaking across this boundary. Then there are also auditors inside the R&D datacenters that have sufficient access to verify and make judgement calls about safety.": "За фільтрованої прозорості дослідники ШІ фізично перебувають у межах периметра безпеки, і ми намагаємося запобігти витоку інформації через цей периметр. Також усередині дата-центрів R&D є аудитори з достатнім доступом для верифікації та ухвалення експертних рішень щодо безпеки.", "The three ways that information crosses out of the boundary are:": "Існує три способи, якими інформація перетинає межу периметра:", "Model Weights.": "Ваги моделі.", " Just like in total research transparency, model weights need to pass from the R&D datacenters to the inference datacenters, and this channel needs to be high bandwidth because model weights are so large.": " Так само як і за повної дослідницької прозорості, ваги моделі мають переходити з дата-центрів R&D до дата-центрів інференсу, і цей канал має мати високу пропускну здатність, бо ваги моделі настільки великі.", "Just like in total research transparency, model weights need to pass from the R&D datacenters to the inference datacenters, and this channel needs to be high bandwidth because model weights are so large.": "Так само як і за повної дослідницької прозорості, ваги моделі мають переходити з дата-центрів R&D до дата-центрів інференсу, і цей канал має мати високу пропускну здатність, бо ваги моделі настільки великі.", "Auditor Reports.": "Звіти аудиторів.", " The auditors write up reports about progress inside the R&D datacenters, which include things like current capabilities, safety relevant information about the current architectures. Redacted versions of these reports could be made public.": " Аудитори складають звіти про прогрес усередині дата-центрів R&D, які включають таку інформацію, як поточні можливості, дані про безпеку, що стосуються поточних архітектур. Відредаговані версії цих звітів можна оприлюднювати.", "The auditors write up reports about progress inside the R&D datacenters, which include things like current capabilities, safety relevant information about the current architectures. Redacted versions of these reports could be made public.": "Аудитори складають звіти про прогрес усередині дата-центрів R&D, які включають таку інформацію, як поточні можливості, дані про безпеку, що стосуються поточних архітектур. Відредаговані версії цих звітів можна оприлюднювати.", "Humans leaving the security boundary.": "Люди, що залишають периметр безпеки.", " Human researchers periodically enter and leave the security boundary. This is the main way that we expect algorithms to be exfiltrated from the datacenters.": " Дослідники-люди періодично заходять у периметр безпеки й виходять з нього. Це основний спосіб, яким, на нашу думку, алгоритми ексфільтруватимуться з дата-центрів.", "Human researchers periodically enter and leave the security boundary. This is the main way that we expect algorithms to be exfiltrated from the datacenters.": "Дослідники-люди періодично заходять у периметр безпеки й виходять з нього. Це основний спосіб, яким, на нашу думку, алгоритми ексфільтруватимуться з дата-центрів.", "There’s no restriction on information crossing into the security boundary.": "Немає жодних обмежень на інформацію, що потрапляє в межі периметра безпеки.", "Like Total Research Transparency, there are R&D datacenters and inference datacenters. This allows for one of the most important forms of transparency: widespread access to frontier AI models. The main downside of filtered transparency relative to total research transparency is that it does not allow for fully open access and scientific scrutiny of the safety cases related to AI R&D. Instead we have to hope that the relatively small group of researchers inside the security barrier will be able to identify all the flawed assumptions of each safety case, make appropriate assessments, make sufficient research progress, etc.": "Як і за Повної дослідницької прозорості, тут є дата-центри R&D і дата-центри інференсу. Це уможливлює одну з найважливіших форм прозорості: широкий доступ до передових ШІ-моделей. Головний недолік фільтрованої прозорості порівняно з повною дослідницькою прозорістю полягає в тому, що вона не дозволяє повністю відкритий доступ і наукову перевірку safety cases, пов'язаних з AI R&D. Натомість нам доводиться сподіватися, що відносно невелика група дослідників усередині периметра безпеки зможе виявити всі хибні припущення кожного safety case, зробити належні оцінки, досягти достатнього дослідницького прогресу тощо.", "Algorithmic security is similar to an extreme form of filtered transparency. The central idea is that algorithmic progress is allowed to be made in the project, but doesn’t leak outside. This is extremely difficult because algorithmic progress is often memorizable.": "Алгоритмічна безпека подібна до екстремальної форми фільтрованої прозорості. Центральна ідея полягає в тому, що прогрес алгоритмів у проєкті дозволений, але не просочується назовні. Це надзвичайно складно, бо алгоритмічний прогрес часто можна просто запам'ятати.", "Therefore, the main difference is that for the “algorithmic security” proposal, it is necessary to prevent humans from crossing the security boundary. This enables us, in principle, to secure algorithmic insights.": "Тому головна відмінність полягає в тому, що для пропозиції «алгоритмічна безпека» необхідно запобігти перетину людьми периметра безпеки. Це дає нам змогу, в принципі, убезпечити алгоритмічні відкриття.", "The main axis for deciding between transparency proposals for R&D is whether we are more concerned about possible covert projects, or poor regulation. Increasing transparency will result in more algorithms leaking, boosting covert projects, but improving public oversight of AI projects and increasing the expected quality of AI regulation.": "Головна вісь для вибору між пропозиціями щодо прозорості для R&D — це те, що нас більше турбує: можливі таємні проєкти чи неякісне регулювання. Підвищення прозорості призведе до більшого витоку алгоритмів, що посилить таємні проєкти, але покращить публічний нагляд за ШІ-проєктами й підвищить очікувану якість регулювання ШІ.", "Overall, we think that poor regulation is more concerning than covert projects, and so we recommend Total Research Transparency.": "Загалом ми вважаємо, що неякісне регулювання турбує більше, ніж таємні проєкти, тому ми рекомендуємо Повну дослідницьку прозорість.", "Proposal #4 does not allow for the development of new AI models, i.e. it only works as part of Plan S as opposed to Plan A. The decision about Plan A vs Plan S will mostly be made on other factors, which are discussed more in the ": "Пропозиція №4 не дозволяє розробляти нові ШІ-моделі, тобто вона працює лише в межах Плану S, на відміну від Плану А. Рішення щодо Плану А проти Плану S переважно ухвалюватиметься на основі інших факторів, які детальніше обговорюються в ", "Proposal #4 does not allow for the development of new AI models, i.e. it only works as part of Plan S as opposed to Plan A. The decision about Plan A vs Plan S will mostly be made on other factors, which are discussed more in the": "Пропозиція №4 не дозволяє розробляти нові ШІ-моделі, тобто вона працює лише в межах Плану S, на відміну від Плану А. Рішення щодо Плану А проти Плану S переважно ухвалюватиметься на основі інших факторів, які детальніше обговорюються в", "The optimal policy on this spectrum will depend on quantitative factors around how much algorithmic progress would leak under each proposal. This will depend on what fraction of algorithmic progress is of the type that would be transparent (e.g. architectural improvements) vs what fraction of algorithmic progress is large dataset improvements. Overall, we make the current (very rough) best guess estimates of the fraction that will leak under each proposal:": "Оптимальна політика в цьому спектрі залежатиме від кількісних факторів щодо того, скільки алгоритмічного прогресу просочиться за кожної пропозиції. Це залежатиме від того, яка частка алгоритмічного прогресу належить до типу, що був би прозорим (наприклад, архітектурні вдосконалення), проти того, яка частка алгоритмічного прогресу — це вдосконалення великих наборів даних. Загалом ми наводимо наші поточні (дуже приблизні) найкращі оцінки частки, що просочиться за кожної пропозиції:", "Proposal": "Пропозиція", "Algo Fraction leaked": "Частка алгоритмів, що просочиться", "P1 Total": "P1 Повна", "P2 Filtered": "P2 Фільтрована", "P3 Algorithmic Security": "P3 Алгоритмічна безпека", "You can see the reasoning behind this estimate ": "Обґрунтування цієї оцінки можна побачити ", "You can see the reasoning behind this estimate": "Обґрунтування цієї оцінки можна побачити", ". We would be excited about security experts (which we are not) making their own forecasts; especially forecasts that are more granular (e.g., that include over what time period the algorithms leak).": ". Ми були б раді, якби експерти з безпеки (якими ми не є) робили власні прогнози; особливо прогнози детальніші, наприклад, ті, що враховують, за який період часу алгоритми просочуються.", "This section talks about the benefits of transparency for reducing loss of control risks and concentration of power risks. It’s basically an explanation of this diagram:": "У цьому розділі йдеться про переваги прозорості для зниження ризиків втрати контролю та ризиків концентрації влади. По суті, це пояснення такої діаграми:", "In the diagram, the two most important policy interventions of Plan A are described in blue. The two most important goals—preventing loss of control, and preventing extreme concentration of power—are described in green. Arrows represent causation.": "На діаграмі два найважливіші політичні втручання Плану А позначено синім. Дві найважливіші цілі — запобігання втраті контролю та запобігання надмірній концентрації влади — позначено зеленим. Стрілки позначають причинно-наслідкові зв'язки.", "This diagram is in some sense a summary of Plan A, except it’s biased towards depicting the benefits of transparency in particular.": "Ця діаграма певною мірою є узагальненням Плану А, хоча вона зміщена в бік зображення переваг саме прозорості.", "We won’t talk through the entire diagram here. Instead we’ll talk through the seven depicted benefits of Total Research Transparency, plus an additional eighth benefit. For each one, we’ll talk about how weaker kinds of transparency would get similar (but weaker) benefits.": "Тут ми не будемо розбирати всю діаграму. Натомість ми розглянемо сім зображених переваг Повної дослідницької прозорості плюс додаткову восьму перевагу. Для кожної з них ми поговоримо про те, як слабші види прозорості давали б подібні (але слабші) переваги.", "“Technical conversation no longer dominated by AI company employees.”": "«Технічна дискусія більше не домінується співробітниками ШІ-компаній».", " Transparency will improve epistemics about AI risks, and therefore will make regulations more likely to be implemented well.": " Прозорість покращить епістеміку щодо ризиків ШІ й тому підвищить імовірність того, що регулювання буде впроваджено якісно.", "Transparency will improve epistemics about AI risks, and therefore will make regulations more likely to be implemented well.": "Прозорість покращить епістеміку щодо ризиків ШІ й тому підвищить імовірність того, що регулювання буде впроваджено якісно.", "The US and China need to agree on AI regulation sufficient to dramatically reduce AI takeover risk. This regulation will involve things like deciding on a capabilities schedule (which capabilities are too dangerous, when is it worthwhile to accept some risk?), deciding on whether particular algorithms should be allowed vs. banned (e.g. new architectures that are more sample-efficient yet also more interpretable), and which research directions have worthwhile capabilities/alignment tradeoffs (e.g. whether research into new scalable oversight techniques is likely enough to be a useful component of a safety case).": "США та Китаю потрібно домовитися про регулювання ШІ, достатнє для різкого зниження ризику захоплення влади ШІ. Це регулювання включатиме такі речі, як визначення графіка можливостей (які можливості надто небезпечні, коли варто прийняти певний ризик?), вирішення, чи слід дозволяти конкретні алгоритми, чи забороняти їх (наприклад, нові архітектури, ефективніші за вибіркою, але водночас краще інтерпретовані), та які напрямки досліджень мають виправданий компроміс можливості/узгодження (наприклад, чи достатньо ймовірно, що дослідження нових масштабованих технік нагляду стане корисним компонентом safety case).", "Under status quo transparency, this would result in a small group of government officials needing to make these decisions. The only technical experts they would be able to consult that have access to the latest information would be at the AI company(ies) they are trying to regulate, because they wouldn’t be allowed to share information with the other technical experts. But the AI company employees have a massive conflict of interest here and so cannot be trusted to give unbiased opinions.": "За прозорості статус-кво це призвело б до того, що невелика група урядовців мусила б ухвалювати ці рішення. Єдиними технічними експертами, з якими вони могли б консультуватися і які мають доступ до найновішої інформації, були б працівники ШІ-компанії(й), яку вони намагаються регулювати, бо тим не дозволялося б ділитися інформацією з іншими технічними експертами. Але співробітники ШІ-компаній мають тут величезний конфлікт інтересів, тому їм не можна довіряти неупереджені думки.", "It helps to give the information to a broader group of experts (e.g. academics and rival AI companies), without publishing it. Now, AI companies can be used to audit each other. This has much better incentives because AI companies have an incentive to point out if their competitor is doing something reckless, dangerous, or illegal. However, this relies on governments selecting the right groups of experts, and relies on AI companies to report on AI companies, each of whom will still be biased against industry-wide regulation.": "Допомагає надання інформації ширшій групі експертів (наприклад, науковцям і конкурентним ШІ-компаніям) без її публікації. Тоді ШІ-компанії можна використовувати для взаємного аудиту. Це створює значно кращі стимули, бо ШІ-компанії зацікавлені вказувати, якщо їхній конкурент робить щось безрозсудне, небезпечне чи незаконне. Однак це залежить від того, чи уряди оберуть правильні групи експертів, і від того, чи ШІ-компанії звітуватимуть одна про одну, а кожна з них усе одно буде упереджена проти регулювання всієї галузі.", "It helps even more to make the relevant information public, because now we no longer rely on AI companies or government approved AI experts to process the information on their own and form good opinions about the necessary regulations. This allows anyone to write up high quality risk analyses about any given model, algorithm, or practice. Instead of the discussion of sufficient regulation happening in a few small offices with government and AI company employees, it can happen in public, making it dramatically more likely that mistakes will be caught and fixed. The government still needs to make good decisions, but they are in a better position to do so because they can peruse an ocean of research and analyses produced by different groups that are all able to see the relevant evidence.": "Ще більше допомагає оприлюднення відповідної інформації, бо тепер ми більше не покладаємося на ШІ-компанії чи схвалених урядом ШІ-експертів у самостійній обробці інформації та формуванні гарних думок щодо необхідного регулювання. Це дозволяє будь-кому писати якісні аналізи ризиків щодо будь-якої моделі, алгоритму чи практики. Замість того, щоб обговорення достатнього регулювання відбувалося в кількох невеликих кабінетах з урядовцями та співробітниками ШІ-компаній, воно може відбуватися публічно, що значно підвищує ймовірність того, що помилки будуть виявлені та виправлені. Уряду все одно потрібно ухвалювати добрі рішення, але він у кращій позиції для цього, бо може переглядати океан досліджень і аналізів, вироблених різними групами, які всі мають доступ до відповідних доказів.", "Furthermore, transparency makes it much more likely that the judicial system will be able to exert reasonable oversight on AI development, which is a core lever for enforcing reasonable safeguards.": "Крім того, прозорість значно підвищує ймовірність того, що судова система зможе здійснювати розумний нагляд за розробкою ШІ, що є ключовим важелем для забезпечення розумних запобіжників.", "“Huge increase in the number of alignment researchers with access to the latest models and evidence.”": "«Величезне збільшення кількості дослідників узгодження з доступом до найновіших моделей і доказів».", " More transparency means more researchers can participate in cutting-edge research, which means progress is made faster.": " Більше прозорості означає, що більше дослідників можуть брати участь у передових дослідженнях, а це означає, що прогрес відбувається швидше.", "More transparency means more researchers can participate in cutting-edge research, which means progress is made faster.": "Більше прозорості означає, що більше дослідників можуть брати участь у передових дослідженнях, а це означає, що прогрес відбувається швидше.", "In 2026, only a small fraction of people with the expertise to do AI alignment research have access to the latest models and the latest evidence. The rest are outside the frontier AI companies, either in laggard companies, or in nonprofits, or in academia. Total Research Transparency equalizes access, so that anyone can buy some compute and run some experiments on the latest models, and see the results of the experiments others have run. This straightforwardly increases the effective amount of human labor directed at making alignment research progress.": "У 2026 році лише невелика частка людей з експертизою для проведення досліджень з узгодження ШІ має доступ до найновіших моделей і найновіших доказів. Решта перебувають поза межами передових ШІ-компаній — у компаніях-аутсайдерах, некомерційних організаціях або академічних установах. Повна дослідницька прозорість вирівнює доступ, тож будь-хто може купити трохи обчислювальних потужностей і провести експерименти на найновіших моделях, а також побачити результати експериментів, проведених іншими. Це прямо збільшує ефективний обсяг людської праці, спрямованої на прогрес у дослідженнях з узгодження.", "More moderate forms of transparency would help in the same way, but to a lesser extent.": "Більш поміркові форми прозорості допомагали б так само, але меншою мірою.", "“Incentives not so perverse”": "«Стимули не такі хибні»", " Total Research Transparency removes the incentive for AI companies to race to better AI algorithms.": " Повна дослідницька прозорість усуває стимул для ШІ-компаній змагатися за кращі алгоритми ШІ.", "Total Research Transparency removes the incentive for AI companies to race to better AI algorithms.": "Повна дослідницька прозорість усуває стимул для ШІ-компаній змагатися за кращі алгоритми ШІ.", "In Plan A, the US and China directly regulate AI companies to limit their rate of algorithmic progress. But the transparency also serves as a second layer of defense by changing the incentives around algorithmic progress.": "У Плані А США та Китай безпосередньо регулюють ШІ-компанії, щоб обмежити темп їхнього алгоритмічного прогресу. Але прозорість також слугує другим рівнем захисту, змінюючи стимули навколо алгоритмічного прогресу.", "Under the status quo, AI companies’ main moat is their algorithmic advantages over competitors. Therefore, AI companies have a huge incentive to race to find better AI algorithms. When all AI algorithms are shared, this moat evaporates, and so too does this incentive. The race dynamic is a central upstream factor leading to high AI takeover risk, which Total Research Transparency directly undermines.": "За статус-кво головний рів ШІ-компаній — це їхні алгоритмічні переваги над конкурентами. Тому ШІ-компанії мають величезний стимул змагатися за пошук кращих алгоритмів ШІ. Коли всі алгоритми ШІ стають спільними, цей рів зникає, а разом з ним і цей стимул. Динаміка гонки — центральний першопричинний фактор, що веде до високого ризику захоплення влади ШІ, і Повна дослідницька прозорість безпосередньо підриває саме її.", " More moderate kinds of transparency would not achieve this to nearly the same extent.": " Більш поміркові види прозорості не досягли б цього навіть близько такою самою мірою.", "More moderate kinds of transparency would not achieve this to nearly the same extent.": "Більш поміркові види прозорості не досягли б цього навіть близько такою самою мірою.", "It helps to consider an example. In 2026, ": "Корисно розглянути приклад. У 2026 році ", "It helps to consider an example. In 2026,": "Корисно розглянути приклад. У 2026 році", "many AI researchers agree": "багато дослідників ШІ погоджуються", " that chain of thought monitorability is helpful for safety and that it would be a shame to lose it. However, each company is individually incentivised to have research programs into new paradigms that would destroy or damage chain of thought monitorability (call this “": ", що моніторованість ланцюжка міркувань корисна для безпеки і що було б шкода її втратити. Однак кожна компанія окремо зацікавлена мати дослідницькі програми щодо нових парадигм, які знищили б чи пошкодили б моніторованість ланцюжка міркувань (назвемо це «", "that chain of thought monitorability is helpful for safety and that it would be a shame to lose it. However, each company is individually incentivised to have research programs into new paradigms that would destroy or damage chain of thought monitorability (call this “": ", що моніторованість ланцюжка міркувань корисна для безпеки і що було б шкода її втратити. Однак кожна компанія окремо зацікавлена мати дослідницькі програми щодо нових парадигм, які знищили б чи пошкодили б моніторованість ланцюжка міркувань (назвемо це «", "neuralese": "neuralese", "”). After all, if they don’t do it, someone else will.": "»). Зрештою, якщо вони цього не зроблять, це зробить хтось інший.", "Now imagine that something like Plan A happens, with Total Research Transparency. AI companies can sleep more easily without doing any investment into neuralese research, because they know that if anyone else was making a serious attempt, they’d immediately see it. What would be the point of doing it anyway? You’d take a hit to monitorability for a competitive advantage that would be immediately shared with all your competitors.": "Тепер уявіть, що відбувається щось на кшталт Плану А з Повною дослідницькою прозорістю. ШІ-компанії можуть спати спокійніше, не інвестуючи в дослідження neuralese, бо вони знають, що якби хтось інший робив серйозну спробу, вони б негайно це побачили. Який взагалі був би сенс це робити? Ви б погіршили моніторованість заради конкурентної переваги, яка негайно стала б спільною для всіх ваших конкурентів.", "Now imagine that the regulation is not based on Total Research Transparency but instead on some more moderate kind of transparency—e.g. filtered transparency based on government audits. Now each company has an incentive to research neuralese again, and moreover, if they’ve started researching neuralese they may even have an incentive to convince the government that it’s not as dangerous as it sounds, because now they think maybe this really will be their competitive advantage.": "Тепер уявіть, що регулювання базується не на Повній дослідницькій прозорості, а на дещо поміркованішому виді прозорості — наприклад, фільтрованій прозорості на основі урядових аудитів. Тепер кожна компанія знову зацікавлена досліджувати neuralese, і, більше того, якщо вона вже почала його досліджувати, вона може навіть бути зацікавлена переконати уряд, що це не настільки небезпечно, як звучить, бо тепер вона думає, що це справді може стати її конкурентною перевагою.", "“Agreements to pay safety taxes and ban dangerous practices can be verified.”": "«Угоди про сплату податків на безпеку та заборону небезпечних практик можна верифікувати».", " Total Research Transparency makes AI agreements more robust.": " Повна дослідницька прозорість робить угоди щодо ШІ надійнішими.", "Total Research Transparency makes AI agreements more robust.": "Повна дослідницька прозорість робить угоди щодо ШІ надійнішими.", "Making the logs of most AI development public dramatically increases the aggregate brainpower that’s looking over the logs to ensure they are in compliance with the agreed upon rules. From the perspective of a company or country trying to defect from the agreement (e.g. by secretly using compute in the R&D clusters to do a massive illegal training run, or a training run that they argue is allowed but is really pushing the boundaries and is arguably illegal), it becomes massively more difficult for them to do this because it will be hard for them to predict what sorts of analyses the public will do on the logs. The alternative, trying to outwit a small group of overstretched government auditors (in proposals 2&3), will probably be much easier.": "Оприлюднення журналів більшості розробок ШІ різко збільшує сукупну «розумову потужність», яка перевіряє журнали на відповідність узгодженим правилам. З погляду компанії чи країни, що намагається ухилитися від угоди (наприклад, таємно використовуючи обчислювальні потужності в R&D-кластерах для масштабного нелегального тренувального прогону, або прогону, який вони стверджують дозволеним, але який насправді розсуває межі й імовірно нелегальний), це стає значно складніше зробити, бо їм важко буде передбачити, які саме аналізи громадськість проведе над журналами. Альтернатива — намагатися перехитрити невелику групу перевантажених урядових аудиторів (у пропозиціях 2 і 3) — ймовірно, буде значно легшою.", " And of course, without even some basic level of transparency that is already much stronger than what we have in 2026 (US and Chinese governments get to see what’s going on in each other’s datacenters) then they have hope that their spy and cyber operations are good enough to substitute, or else trust each other not to cheat.": " І, звісно, без бодай якогось базового рівня прозорості, вже значно сильнішого за той, що ми маємо в 2026 році (уряди США та Китаю отримують змогу бачити, що відбувається в дата-центрах одне одного), їм залишається лише сподіватися, що їхні шпигунські та кіберопераці достатньо хороші, щоб замінити цю прозорість, або ж довіряти одне одному, що вони не шахраюватимуть.", "And of course, without even some basic level of transparency that is already much stronger than what we have in 2026 (US and Chinese governments get to see what’s going on in each other’s datacenters) then they have hope that their spy and cyber operations are good enough to substitute, or else trust each other not to cheat.": "І, звісно, без бодай якогось базового рівня прозорості, вже значно сильнішого за той, що ми маємо в 2026 році (уряди США та Китаю отримують змогу бачити, що відбувається в дата-центрах одне одного), їм залишається лише сподіватися, що їхні шпигунські та кіберопераці достатньо хороші, щоб замінити цю прозорість, або ж довіряти одне одному, що вони не шахраюватимуть.", "“No company pulls ahead, others catch up, including companies in other countries.”": "«Жодна компанія не виривається вперед, інші наздоганяють, включно з компаніями в інших країнах».", " Having multiple companies spread across multiple countries is great for preventing extreme concentrations of power.": " Наявність кількох компаній, розосереджених по кількох країнах, чудово запобігає надмірній концентрації влади.", "Having multiple companies spread across multiple countries is great for preventing extreme concentrations of power.": "Наявність кількох компаній, розосереджених по кількох країнах, чудово запобігає надмірній концентрації влади.", "This one is pretty straightforward. In 2026, power comes from a variety of sources—knowledge is power, money is power, military strength is power, etc. In the future, as AIs become superhuman at everything and proliferate around the world, power will increasingly come from controlling the best AIs. (It also comes from controlling the greatest number of AIs, so to speak, but because AIs can be copied, we think that generally speaking whoever controls the best AIs will soon end up controlling a very large number of them as well.)": "Це доволі просто. У 2026 році влада походить з різних джерел — знання це влада, гроші це влада, військова сила це влада тощо. У майбутньому, коли ШІ стануть надлюдськими в усьому й поширяться по всьому світу, влада дедалі більше походитиме від контролю над найкращими ШІ. (Вона також походить, так би мовити, від контролю над найбільшою кількістю ШІ, але оскільки ШІ можна копіювати, ми вважаємо, що загалом хто контролює найкращі ШІ, той незабаром контролюватиме й дуже велику їх кількість.)", "The kind of broad access and control offered by AI companies in 2026 is pretty weak from a power-concentration perspective. Yes, individual users can purchase subscriptions to ChatGPT or Claude and so forth. And under normal circumstances, ChatGPT or Claude will follow your orders. However:": "Той вид широкого доступу й контролю, який пропонують ШІ-компанії в 2026 році, доволі слабкий з погляду концентрації влади. Так, окремі користувачі можуть купувати підписки на ChatGPT, Claude тощо. І за звичайних обставин ChatGPT чи Claude виконуватимуть ваші накази. Однак:", "You can’t use them for everything—they’ll refuse to help you with some things for example, or possibly even ": "Ви не можете використовувати їх для всього — наприклад, вони відмовляться допомогти вам у деяких речах, а можливо навіть ", "You can’t use them for everything—they’ll refuse to help you with some things for example, or possibly even": "Ви не можете використовувати їх для всього — наприклад, вони відмовляться допомогти вам у деяких речах, а можливо навіть", "quietly underperform": "тихо працюватимуть гірше, ніж могли б", "There’s nothing stopping the AI companies from inserting ": "Ніщо не заважає ШІ-компаніям вбудовувати ", "There’s nothing stopping the AI companies from inserting": "Ніщо не заважає ШІ-компаніям вбудовувати", "secret loyalties or hidden agendas": "таємну лояльність чи приховані порядки денні", " into their AIs, like ": " у свої ШІ, як, здається, ", "into their AIs, like": "у свої ШІ, як, здається,", "xAI": "xAI", "Google": "Google", " appear to have done on occasion (those were the cases that were so blatant as to get caught).": " робили час від часу (це були випадки, настільки очевидні, що їх викрили).", "appear to have done on occasion (those were the cases that were so blatant as to get caught).": "робили час від часу (це були випадки, настільки очевидні, що їх викрили).", "There’s nothing stopping the government from quietly ordering the companies to do things like that, e.g. in the name of national security. Governments could abuse this to surveil, censor, and propagandize their populations.": "Ніщо не заважає уряду тихо наказати компаніям робити щось подібне, наприклад, в ім'я національної безпеки. Уряди могли б зловживати цим для стеження, цензури та пропаганди щодо власного населення.", "In a crisis—which is when power matters most—the hard power is with the company and/or government, not with the people. Even if the AIs are currently trained and instructed to do as the user wants, for example, and even if their Spec/Constitution is fully public, well, in an actual constitutional crisis scenario all of that can go out of the window very quickly.": "У кризі — а саме тоді влада має найбільше значення — жорстка влада належить компанії та/або уряду, а не людям. Навіть якщо ШІ наразі натреновані й проінструктовані виконувати те, що хоче користувач, і навіть якщо їхній Спек/Конституція повністю публічні, що ж, у реальному сценарії конституційної кризи все це може миттю вилетіти у вікно.", "Besides, as AIs penetrate more of the economy, more and more money will flow to the AI companies. If there are only a handful of such companies, that’s inherently a concentration of power. If most or all of them are in one country, that’s inherently a concentration of power. It could easily lead to a global oligarchy or dictatorship, because a small group of already-powerful people controls all the AIs that matter.": "Крім того, у міру того як ШІ проникають у все більшу частину економіки, дедалі більше грошей текатиме до ШІ-компаній. Якщо таких компаній лише жменька, це за своєю суттю концентрація влади. Якщо більшість або всі вони знаходяться в одній країні, це за своєю суттю концентрація влади. Це могло б легко призвести до глобальної олігархії чи диктатури, бо невелика група вже впливових людей контролює всі значущі ШІ.", "The situation is much less likely to lead to global oligarchy or dictatorship if there are many companies spread across many countries with similarly powerful AIs. Not only that, but this means that market forces can operate: companies will be incentivised to give users what they want, including firmer control, because it’ll help them get market share from their competitors. This helps to reduce the risk of local oligarchies or dictatorships as well; if one country uses AI to propagandize their citizens, well, perhaps their citizens will be able to access AIs from other countries that tell them the truth.": "Ситуація значно менш імовірно призведе до глобальної олігархії чи диктатури, якщо існує багато компаній, розосереджених по багатьох країнах, з приблизно однаково потужними ШІ. Крім того, це означає, що можуть діяти ринкові сили: компанії будуть зацікавлені давати користувачам те, що вони хочуть, включно з міцнішим контролем, бо це допоможе їм відібрати частку ринку в конкурентів. Це також допомагає знизити ризик локальних олігархій чи диктатур; якщо одна країна використовує ШІ для пропаганди серед своїх громадян, що ж, можливо, її громадяни зможуть отримати доступ до ШІ з інших країн, які скажуть їм правду.", "Total research transparency helps other companies catch up to the frontier in two ways. First and foremost, it publishes the core algorithms. Secondly, it makes it easier for countries to agree to limit the pace of AI progress, which gives other companies and countries more time to catch up. Weaker forms of transparency would also help but not as much.": "Повна дослідницька прозорість допомагає іншим компаніям наздогнати передній край двома способами. По-перше й головне, вона оприлюднює основні алгоритми. По-друге, вона полегшує країнам домовитися про обмеження темпу прогресу ШІ, що дає іншим компаніям і країнам більше часу наздогнати. Слабші форми прозорості також допомагали б, але не так сильно.", "“No Secret Loyalties / Hidden Agendas”": "«Жодної таємної лояльності / прихованих порядків денних»", "This is another major way in which total research transparency helps to prevent extreme concentrations of power.": "Це ще один важливий спосіб, у який повна дослідницька прозорість допомагає запобігти надмірній концентрації влади.", "As previously mentioned, it is both feasible and precedented for those who actually own and train the AIs to train hidden agendas into them. After all, the values/goals/personalities of the AIs have to be trained in somehow, and that’s all very complicated, and so to make some of it hidden is as simple as declining to make all of it visible.": "Як уже згадувалося, для тих, хто справді володіє ШІ й тренує їх, цілком можливо й уже мало прецеденти вбудовувати в них приховані порядки денні. Зрештою, цінності/цілі/риси особистості ШІ так чи інакше потрібно натренувати, і все це дуже складно, тож зробити частину цього прихованою так само просто, як просто не робити все видимим.", "Total research transparency basically kills this threat. Not only does it kill it for companies, it kills it for governments, unless the US and Chinese governments were to collude to keep secrets from the world. With total research transparency, every step of the training process for every frontier model is tracked by US and Chinese monitors and published. If the model creator misleads the public about the goals/values/personality-traits/etc., there’s a paper trail people can follow to find out.": "Повна дослідницька прозорість по суті знищує цю загрозу. Вона знищує її не лише для компаній, а й для урядів, якщо тільки уряди США та Китаю не змовляться приховувати секрети від світу. За повної дослідницької прозорості кожен крок процесу тренування кожної передової моделі відстежується моніторами США та Китаю й публікується. Якщо творець моделі вводить громадськість в оману щодо цілей/цінностей/рис особистості тощо, залишається паперовий слід, яким люди можуть простежити, щоб з'ясувати правду.", "Weaker forms of transparency would help too, but not as much. For example, consider Proposal 2: Filtered Transparency. Here you might end up in a situation where the US AI companies shared some political bias that they were training into their AIs, and the US government either doesn’t notice because their auditors are too busy with other tasks, or notices but doesn’t care because it happens to share the same political affiliation as the companies. Perhaps the Chinese government auditors would notice, but perhaps they too would be busy, and anyhow they might not care.": "Слабші форми прозорості також допомагали б, але не так сильно. Наприклад, розгляньмо Пропозицію 2: Фільтровану прозорість. Тут ви можете опинитися в ситуації, коли ШІ-компанії США поділяли якусь політичну упередженість, яку вони закладали у свої ШІ, а уряд США або не помічає цього, бо його аудитори надто зайняті іншими завданнями, або помічає, але йому байдуже, бо він випадково поділяє ту саму політичну приналежність, що й компанії. Можливо, китайські урядові аудитори помітили б це, але, можливо, вони теж були б зайняті, і в будь-якому разі їм могло б бути байдуже.", "Oversight of AI companies by governments is more effective; oversight of the executive branch by judiciary, congress, and the public is more effective too.": "Нагляд урядів за ШІ-компаніями стає ефективнішим; нагляд судової влади, конгресу та громадськості за виконавчою владою також стає ефективнішим.", " Total Research Transparency makes it easier for groups who aren’t directly training the models to see how the models are being trained, and to judge for themselves whether the rules are being implemented fairly and reasonably.": " Повна дослідницька прозорість полегшує групам, які безпосередньо не тренують моделі, бачити, як моделі тренуються, і самостійно судити, чи правила впроваджуються справедливо й розумно.", "Total Research Transparency makes it easier for groups who aren’t directly training the models to see how the models are being trained, and to judge for themselves whether the rules are being implemented fairly and reasonably.": "Повна дослідницька прозорість полегшує групам, які безпосередньо не тренують моделі, бачити, як моделі тренуються, і самостійно судити, чи правила впроваджуються справедливо й розумно.", "Consider a biased or corrupt regulator that is using its authority to punish companies that it doesn’t like, or impose its ideology on domestic AI industry. Consider instead a situation where a company or companies is complaining that this is happening, but really the regulator was behaving reasonably in response to the evidence, and simply doing its job to keep people safe and enforce the law. How is the public to distinguish between these two cases? How is the judicial system?": "Розгляньмо упередженого чи корумпованого регулятора, який використовує свої повноваження, щоб карати компанії, які йому не подобаються, або нав'язувати свою ідеологію вітчизняній ШІ-індустрії. Натомість розгляньмо ситуацію, коли компанія чи компанії скаржаться, що це відбувається, але насправді регулятор поводився розумно у відповідь на докази й просто виконував свою роботу, щоб убезпечити людей і забезпечити дотримання закону. Як громадськості відрізнити ці два випадки? Як це зробити судовій системі?", "Total Research Transparency helps everyone see what’s going on, the better to evaluate who is being reasonable and who isn’t. As usual, weaker forms of transparency help too but not as much.": "Повна дослідницька прозорість допомагає всім бачити, що відбувається, щоб краще оцінити, хто поводиться розумно, а хто ні. Як завжди, слабші форми прозорості також допомагають, але не так сильно.", "Unknown Unknowns:": "Невідомі невідомі:", " Transparency seems good for putting humanity in a position to deal with problems as they come up, including problems that we haven’t thought of yet.": " Прозорість, схоже, добре ставить людство в позицію, з якої можна впоратися з проблемами в міру їх виникнення, включно з проблемами, про які ми ще навіть не подумали.", "Transparency seems good for putting humanity in a position to deal with problems as they come up, including problems that we haven’t thought of yet.": "Прозорість, схоже, добре ставить людство в позицію, з якої можна впоратися з проблемами в міру їх виникнення, включно з проблемами, про які ми ще навіть не подумали.", "The development of AI will pose many problems, both foreseen and unforeseen. Increasing transparency into AI development will on average improve the level of public epistemics and understanding of what is going on.": "Розвиток ШІ поставить багато проблем, як передбачуваних, так і непередбачуваних. Підвищення прозорості розробки ШІ в середньому покращить рівень публічної епістеміки та розуміння того, що відбувається.", "The main additional downsides of Total Research Transparency relative to Proposals 2&3 are:": "Головні додаткові недоліки Повної дослідницької прозорості порівняно з Пропозиціями 2 і 3:", "Total Research Transparency potentially incentivizes “safety theater”.": "Повна дослідницька прозорість потенційно стимулює «театр безпеки».", " There may be some lines of AI safety research which, if pursued, might make AI companies look bad. For example, evaluations of model misbehavior. Under conditions of Total Research Transparency, this sort of research might be disincentivized because there would be no way to hide the results, whereas in filtered transparency for example the results would only be shared with a smaller circle of auditors and other companies.": " Можуть існувати напрямки досліджень безпеки ШІ, які, якщо їх продовжувати, могли б виставити ШІ-компанії в поганому світлі. Наприклад, оцінювання неналежної поведінки моделі. За умов Повної дослідницької прозорості такі дослідження можуть бути демотивовані, бо не буде способу приховати результати, тоді як за фільтрованої прозорості, наприклад, результатами ділилися б лише з вужчим колом аудиторів та інших компаній.", "There may be some lines of AI safety research which, if pursued, might make AI companies look bad. For example, evaluations of model misbehavior. Under conditions of Total Research Transparency, this sort of research might be disincentivized because there would be no way to hide the results, whereas in filtered transparency for example the results would only be shared with a smaller circle of auditors and other companies.": "Можуть існувати напрямки досліджень безпеки ШІ, які, якщо їх продовжувати, могли б виставити ШІ-компанії в поганому світлі. Наприклад, оцінювання неналежної поведінки моделі. За умов Повної дослідницької прозорості такі дослідження можуть бути демотивовані, бо не буде способу приховати результати, тоді як за фільтрованої прозорості, наприклад, результатами ділилися б лише з вужчим колом аудиторів та інших компаній.", "Leading AI companies and large parts of the US executive branch will probably dislike it.": "Провідним ШІ-компаніям і значній частині виконавчої влади США це, ймовірно, не сподобається.", " Competitors will dislike that it allows their competitors to catch up, especially companies whose algorithms are their primary moat. Governments generally shy away from giving geopolitical rivals access to information which could then be used against them. Therefore, the leading AI companies and many parts of the US executive branch will probably be opposed to Total Research Transparency.": " Конкурентам не сподобається, що це дозволяє їхнім суперникам наздоганяти їх, особливо компаніям, чиї алгоритми є їхнім головним ровом. Уряди загалом уникають надання геополітичним суперникам доступу до інформації, яку потім можна було б використати проти них. Тому провідні ШІ-компанії й багато частин виконавчої влади США, ймовірно, виступатимуть проти Повної дослідницької прозорості.", "Competitors will dislike that it allows their competitors to catch up, especially companies whose algorithms are their primary moat. Governments generally shy away from giving geopolitical rivals access to information which could then be used against them. Therefore, the leading AI companies and many parts of the US executive branch will probably be opposed to Total Research Transparency.": "Конкурентам не сподобається, що це дозволяє їхнім суперникам наздоганяти їх, особливо компаніям, чиї алгоритми є їхнім головним ровом. Уряди загалом уникають надання геополітичним суперникам доступу до інформації, яку потім можна було б використати проти них. Тому провідні ШІ-компанії й багато частин виконавчої влади США, ймовірно, виступатимуть проти Повної дослідницької прозорості.", "Without the ability to do trustless verification, the main alternative is to rely on trust. Historical agreements have often relied on trust for enforcement (for example, the London Naval Treaty restricted the tonnage of military fleets, but did not include verification provisions). However, without verification, there is a much larger incentive to defect.": "Без можливості верифікації без довіри головна альтернатива — покладатися на довіру. Історичні угоди часто покладалися на довіру для забезпечення дотримання (наприклад, Лондонський морський договір обмежував тоннаж військових флотів, але не містив положень про верифікацію). Однак без верифікації існує значно більший стимул до ухилення.", "Concretely, we think that we will, at some point in the capability progression, get AIs that (1) can quickly design/build mirror life, (2) superpersuade/mindhack humans, and (3) quickly build self replicating nanobots/grey goo that grows fast enough to boil the oceans pretty quickly. The resilience response to these threats looks something like “no human ever goes outside, everyone lives in bioshelter bunkers, all info going in and out is moderated by a friendly AI, and a friendly drone swarm / nanobot army is outside protecting the bunker”, which would be (i) highly disruptive and undesirable to most people and (ii) take significant serial time to implement.": "Конкретно, ми вважаємо, що в якийсь момент прогресії можливостей ми отримаємо ШІ, які (1) можуть швидко спроєктувати/побудувати дзеркальне життя, (2) надпереконувати/зламувати свідомість людей і (3) швидко будувати самовідтворювані нанороботи/сіру слизь, яка росте достатньо швидко, щоб доволі швидко закип'ятити океани. Відповідь на ці загрози через стійкість виглядає приблизно так: «жодна людина ніколи не виходить надвір, усі живуть у біосховищах-бункерах, уся інформація, що надходить і виходить, модерується дружнім ШІ, а дружній рій дронів/армія наноботів охороняє бункер зовні», що було б (i) вкрай руйнівним і небажаним для більшості людей і (ii) вимагало б значного послідовного часу на реалізацію.", "We think that it is technically viable to verify that an AI cluster is doing inference on a fixed model without the auditors being able to read the information going in and out of the model (e.g. the chatbot logs).": "Ми вважаємо технічно здійсненним верифікувати, що ШІ-кластер виконує інференс на фіксованій моделі, без можливості для аудиторів читати інформацію, що надходить у модель і виходить з неї (наприклад, журнали чат-бота).", "In the absence of improved privacy-preserving verification technology, this would involve something similar to Total Research Transparency within the security boundary; with improved verification technology, it could involve less transparency while still being sufficient to verify deals.": "За відсутності вдосконаленої технології верифікації зі збереженням приватності це передбачало б щось подібне до Повної дослідницької прозорості в межах периметра безпеки; з вдосконаленою технологією верифікації це могло б передбачати менше прозорості, залишаючись достатнім для верифікації угод.", "In the Plan A scenario we also do depict the implementation of Proposal #4 for a short period of time (from March to October 2029).": "У сценарії Плану А ми також зображуємо впровадження Пропозиції №4 на короткий період часу (з березня по жовтень 2029 року).", "This is enforced via an inference-only retrofit, as explained ": "Це забезпечується через ретрофіт «тільки інференс», як пояснено ", "This is enforced via an inference-only retrofit, as explained": "Це забезпечується через ретрофіт «тільки інференс», як пояснено", "This verification also helps to prevent misuse and AI R&D assistance. This is covered more in our ": "Ця верифікація також допомагає запобігти зловживанню та допомозі в AI R&D. Це детальніше висвітлено в нашому ", "This verification also helps to prevent misuse and AI R&D assistance. This is covered more in our": "Ця верифікація також допомагає запобігти зловживанню та допомозі в AI R&D. Це детальніше висвітлено в нашому", "This threshold is chosen to be high enough to allow for convenient access to the R&D clusters, but low enough to make weight theft difficult. The security rationale is discussed further below, in ": "Цей поріг обрано достатньо високим, щоб дозволити зручний доступ до R&D-кластерів, але достатньо низьким, щоб ускладнити крадіжку ваг. Обґрунтування безпеки детальніше обговорюється нижче, в ", "This threshold is chosen to be high enough to allow for convenient access to the R&D clusters, but low enough to make weight theft difficult. The security rationale is discussed further below, in": "Цей поріг обрано достатньо високим, щоб дозволити зручний доступ до R&D-кластерів, але достатньо низьким, щоб ускладнити крадіжку ваг. Обґрунтування безпеки детальніше обговорюється нижче, в", "the Security supplement": "Додатку «Безпека»", "This happens automatically, because of the co-location of multiple companies’ datacenters": "Це відбувається автоматично, завдяки спільному розташуванню дата-центрів кількох компаній", "Under this proposal, then, what would the companies be incentivised towards? Well, they still own the model weights they train, and they still own their datacenters, their software products, etc. So they’ll compete to train the biggest models and teach them the most lucrative skills and serve them fastest in the most appealing UI and build up the most loyal userbase. Just like in other low-secrets industries, a company with good taste and rapid execution can overtake larger dumber competitors, stay ahead even as they scramble to copy them, and ultimately perhaps even build up a durable moat of infrastructure scale and network effects. That said, moats and profit margins will be smaller and AI will be much more of a commodity under our proposal than in the default world. We think this is a good thing.": "То до чого ж будуть стимульовані компанії за цієї пропозиції? Що ж, вони й далі володіють вагами моделей, які тренують, і далі володіють своїми дата-центрами, своїми програмними продуктами тощо. Тож вони змагатимуться за тренування найбільших моделей, навчання їх найприбутковіших навичок, найшвидше обслуговування в найпривабливішому інтерфейсі та побудову найлояльнішої користувацької бази. Так само як і в інших галузях з малою кількістю секретів, компанія з гарним смаком і швидким виконанням може обійти більших, але менш кмітливих конкурентів, залишатися попереду, навіть поки ті намагаються її скопіювати, і зрештою, можливо, навіть побудувати стійкий рів масштабу інфраструктури та мережевих ефектів. Тим не менш, рови й маржа прибутку будуть меншими, а ШІ стане значно більше товаром широкого вжитку за нашою пропозицією, ніж у базовому світі. Ми вважаємо, що це добре.", "Of course, this doesn’t solve the whole problem. For example, a defecting AI project may be able to conduct their research steganographically through the monitored input and output channel, or they may be able to undermine the cybersecurity that’s attempting to enforce the transparency requirements.": "Звісно, це не вирішує всю проблему повністю. Наприклад, ШІ-проєкт, що ухиляється від угоди, може проводити свої дослідження стеганографічно через моніторований канал входу й виходу, або він може підірвати кібербезпеку, яка намагається забезпечити виконання вимог прозорості.", "Summary of the Plan": "Стислий виклад Плану", "Phase 1. Prepare Deal Optionality": "Фаза 1. Підготовка опціональності угоди", "Phase 2. Implement the deal": "Фаза 2. Впровадження угоди", "Phase 3. Improve Robustness": "Фаза 3. Підвищення стійкості", "Verifying the deal in our Plan A scenario": "Верифікація угоди в нашому сценарії Плану А", "The Plan": "План", "Get Involved": "Долучитися", "Plan A is predicated on the ability to enforce an international deal to slow down AI progress without relying on trust. We are confident that verification measures can make this possible,": "План А ґрунтується на здатності забезпечити дотримання міжнародної угоди про сповільнення прогресу ШІ, не покладаючись на довіру. Ми впевнені, що заходи верифікації можуть це уможливити,", " by providing sufficient assurance to both the US and China that defection by the other would either be caught or small enough to be inconsequential.": " надаючи достатню впевненість і США, і Китаю в тому, що ухилення іншої сторони буде або викрито, або воно буде настільки малим, що не матиме значення.", "by providing sufficient assurance to both the US and China that defection by the other would either be caught or small enough to be inconsequential.": "надаючи достатню впевненість і США, і Китаю в тому, що ухилення іншої сторони буде або викрито, або воно буде настільки малим, що не матиме значення.", "There is a spectrum of how costly and how trustworthy our best verification solutions are, which we can think of as a verification frontier. Today, the verification frontier is not mature. Currently the only way of verifying an AI development pause with extremely high assurance between the US and China would probably require datacenters to be powered down,": "Існує спектр того, наскільки затратними й наскільки надійними є наші найкращі рішення для верифікації, який можна уявити як межу верифікації. Сьогодні межа верифікації ще не зріла. Наразі єдиний спосіб верифікувати паузу в розробці ШІ з надзвичайно високою впевненістю між США та Китаєм, ймовірно, вимагав би вимкнення дата-центрів,", " and anything less costly than this might have significant risk of being violated.": " а будь-що менш затратне за це могло б мати значний ризик порушення.", "and anything less costly than this might have significant risk of being violated.": "а будь-що менш затратне за це могло б мати значний ризик порушення.", " That being said, we believe the verification problem is inherently defense dominant,": " Тим не менш, ми вважаємо, що проблема верифікації за своєю природою сприятлива для захисної сторони,", "That being said, we believe the verification problem is inherently defense dominant,": "Тим не менш, ми вважаємо, що проблема верифікації за своєю природою сприятлива для захисної сторони,", " and AI verification is also an extremely young and so far ": " а верифікація ШІ також є надзвичайно молодою і наразі ", "and AI verification is also an extremely young and so far": "а верифікація ШІ також є надзвичайно молодою і наразі", "tiny field": "крихітною галуззю", ", so it should be highly tractable to make significant progress in the next few years.": ", тож досягти значного прогресу в найближчі кілька років має бути цілком реально.", "This supplement provides a summary of the verification plan that we think should be followed to make Plan A viable, and then is followed by a more detailed walkthrough of how the verification story unfolds in our specific Plan A scenario.": "У цьому додатку наведено стислий виклад плану верифікації, якого, на нашу думку, слід дотримуватися, щоб зробити План А життєздатним, а далі йде детальніший розбір того, як розгортається історія верифікації в нашому конкретному сценарії Плану А.", "Want to help build this?": "Хочете допомогти це побудувати?", " See the ": " Див. вкладку ", " tab: what needs to be done, who the field needs, an ": ": що потрібно зробити, хто потрібен цій галузі, а також ", "tab: what needs to be done, who the field needs, an": ": що потрібно зробити, хто потрібен цій галузі, а також", "expression of interest form": "форма вираження зацікавленості", ", and open opportunities across the verification field.": " та відкриті можливості в галузі верифікації.", "Prepare deal optionality": "Підготувати опціональність угоди", "Implement the deal": "Впровадити угоду", "Improve robustness": "Підвищити стійкість", "Chip": "Відстеження", "tracking": "чіпів", "R&D funding": "Фінансування R&D", "Mutual Chip": "Взаємна", "Declaration": "декларація чіпів", "Inference-only": "Тільки", "retrofit": "інференс (ретрофіт)", "verification": "верифікація", "Hardware": "Апаратні", "cap & trade": "квоти та торгівля", "improvements": "покращення", "Phase 1: Preparing": "Фаза 1: Підготовка", "Phase 2: Implementing": "Фаза 2: Впровадження", "Phase 3: Improving": "Фаза 3: Підвищення", "Verification Plan Timeline": "Часова шкала Плану верифікації", "Appendix:": "Додаток:", "Packet-Based Verification": "Верифікація на основі пакетів", "We recommend an international deal to avoid a catastrophic race to superintelligence, spearheaded by the US and China. This deal needs to be enforceable without relying on trust, because the US and China will be unlikely to make an agreement that cannot be verified; and they are much less likely to defect on the agreement if any defection is likely to be caught.": "Ми рекомендуємо міжнародну угоду, очолювану США та Китаєм, щоб уникнути катастрофічної гонки до суперінтелекту. Ця угода має бути забезпечувана без покладання на довіру, бо США та Китай навряд чи укладуть угоду, яку неможливо верифікувати; і вони значно менш імовірно порушуватимуть угоду, якщо будь-яке порушення, ймовірно, буде викрито.", "We can break up the verification problem into two key components:": "Проблему верифікації можна розбити на два ключові компоненти:", "Problem 1. Verifying that known compute is compliant.": "Проблема 1. Верифікація того, що відомі обчислювальні потужності відповідають вимогам.", "We are confident that it is possible to have verification measures that enable a trustless deal. That being said, if a deal needed to happen tomorrow, we would not be ready to enforce it trustlessly in a low-cost way.": "Ми впевнені, що можливо мати заходи верифікації, які уможливлюють угоду без довіри. Тим не менш, якби угоду потрібно було укласти завтра, ми не були б готові забезпечити її дотримання без довіри дешевим способом.", " Given the increasingly large economic incentive to keep AI services online, a ready-to-go verification solution (that doesn’t require much time to activate) may be incredibly important for making a deal happen.": " З огляду на дедалі більший економічний стимул тримати ШІ-сервіси онлайн, готове до застосування рішення для верифікації (яке не вимагає багато часу на активацію) може мати надзвичайне значення для укладення угоди.", "Given the increasingly large economic incentive to keep AI services online, a ready-to-go verification solution (that doesn’t require much time to activate) may be incredibly important for making a deal happen.": "З огляду на дедалі більший економічний стимул тримати ШІ-сервіси онлайн, готове до застосування рішення для верифікації (яке не вимагає багато часу на активацію) може мати надзвичайне значення для укладення угоди.", "Problem 2. Verifying that unknown compute is inconsequential.": "Проблема 2. Верифікація того, що невідомі обчислювальні потужності не мають значення.", " estimates that even a competently-executed covert diversion effort would net a median of about 0.5% of the world’s AI-relevant compute (80% CI: 0.1% to 1.4%) as ‘dark compute’ at the start of the deal,": " оцінює, що навіть компетентно виконана таємна операція з відведення потужностей дала б медіанно близько 0,5% світових обчислювальних потужностей, релевантних для ШІ (80% довірчий інтервал: 0,1–1,4%), у вигляді «тіньових обчислювальних потужностей» на початку дії угоди,", "estimates that even a competently-executed covert diversion effort would net a median of about 0.5% of the world’s AI-relevant compute (80% CI: 0.1% to 1.4%) as ‘dark compute’ at the start of the deal,": "оцінює, що навіть компетентно виконана таємна операція з відведення потужностей дала б медіанно близько 0,5% світових обчислювальних потужностей, релевантних для ШІ (80% довірчий інтервал: 0,1–1,4%), у вигляді «тіньових обчислювальних потужностей» на початку дії угоди,", " which given the likelihood of compute-dependence of frontier progress, should buy the deal a lot of time and stability.": " що, з огляду на ймовірну залежність передового прогресу від обчислювальних потужностей, має дати угоді багато часу й стабільності.", "which given the likelihood of compute-dependence of frontier progress, should buy the deal a lot of time and stability.": "що, з огляду на ймовірну залежність передового прогресу від обчислювальних потужностей, має дати угоді багато часу й стабільності.", " This bound should also tighten as the deal goes on, as detection efforts accumulate and more compute is brought under verification.": " Ця межа також має звужуватися в міру дії угоди, оскільки накопичуються зусилля з виявлення й дедалі більше обчислювальних потужностей потрапляє під верифікацію.", "This bound should also tighten as the deal goes on, as detection efforts accumulate and more compute is brought under verification.": "Ця межа також має звужуватися в міру дії угоди, оскільки накопичуються зусилля з виявлення й дедалі більше обчислювальних потужностей потрапляє під верифікацію.", "Our recommended solutions come in three phases.": "Наші рекомендовані рішення складаються з трьох фаз.", "Phase 1. Prepare Deal Optionality.": "Фаза 1. Підготовка опціональності угоди.", " The US and China take actions to make a deal more likely to be enforceable and durable, by preparing the ability to do inference-only verification, and keeping close tabs on how much AI compute exists and who owns it.": " США та Китай вживають заходів, щоб підвищити ймовірність того, що угода буде забезпечуваною й довговічною, готуючи здатність здійснювати верифікацію «тільки інференс» і уважно відстежуючи, скільки існує обчислювальних потужностей для ШІ та хто ними володіє.", "The US and China take actions to make a deal more likely to be enforceable and durable, by preparing the ability to do inference-only verification, and keeping close tabs on how much AI compute exists and who owns it.": "США та Китай вживають заходів, щоб підвищити ймовірність того, що угода буде забезпечуваною й довговічною, готуючи здатність здійснювати верифікацію «тільки інференс» і уважно відстежуючи, скільки існує обчислювальних потужностей для ШІ та хто ними володіє.", "Phase 2. Implement a Deal.": "Фаза 2. Впровадження угоди.", " The US and China perform a mutual compute declaration (spreading to third countries and ideally reaching >99% of world compute); inference-only verification retrofit to ~99% of world AI datacenter compute, and then sprint towards setting up secure R&D verification that will use new post-deal compute production.": " США та Китай здійснюють взаємну декларацію обчислювальних потужностей (яка поширюється на треті країни й в ідеалі охоплює >99% світових обчислювальних потужностей); ретрофіт верифікації «тільки інференс» до ~99% світових обчислювальних потужностей ШІ-дата-центрів, а потім кидають зусилля на налаштування захищеної R&D-верифікації, яка використовуватиме нове виробництво обчислювальних потужностей після укладення угоди.", "The US and China perform a mutual compute declaration (spreading to third countries and ideally reaching >99% of world compute); inference-only verification retrofit to ~99% of world AI datacenter compute, and then sprint towards setting up secure R&D verification that will use new post-deal compute production.": "США та Китай здійснюють взаємну декларацію обчислювальних потужностей (яка поширюється на треті країни й в ідеалі охоплює >99% світових обчислювальних потужностей); ретрофіт верифікації «тільки інференс» до ~99% світових обчислювальних потужностей ШІ-дата-центрів, а потім кидають зусилля на налаштування захищеної R&D-верифікації, яка використовуватиме нове виробництво обчислювальних потужностей після укладення угоди.", "non-AI consumer": "неШІ-споживчі", " eff·": " ефект·", "eff·": "ефект·", "Reporting requirements": "Вимоги до звітності", "Cap & Trade": "Квоти й торгівля", "(if unverified)": "(якщо не верифіковано)", "This is what we think implementing the deal would look like in 2029 in our scenario, with an inference-only retrofit of all the medium and large AI datacenters (>10K H100e, or approx. >$100M), and this being enough to cover ~99% of world AI-relevant compute. Then keeping tabs on the rest of the smaller clusters and taking measures to avoid them being possibly used in a covert project. We are not confident in the modelling of this ": "Ось як, на нашу думку, виглядало б впровадження угоди в 2029 році в нашому сценарії: ретрофіт верифікації «тільки інференс» усіх середніх і великих ШІ-дата-центрів (>10 тис. H100e, або приблизно >$100 млн), чого достатньо, щоб охопити ~99% світових обчислювальних потужностей, релевантних для ШІ. Далі — відстеження решти менших кластерів і вжиття заходів, щоб уникнути їх можливого використання в таємному проєкті. Ми не впевнені в моделюванні цього ", "This is what we think implementing the deal would look like in 2029 in our scenario, with an inference-only retrofit of all the medium and large AI datacenters (>10K H100e, or approx. >$100M), and this being enough to cover ~99% of world AI-relevant compute. Then keeping tabs on the rest of the smaller clusters and taking measures to avoid them being possibly used in a covert project. We are not confident in the modelling of this": "Ось як, на нашу думку, виглядало б впровадження угоди в 2029 році в нашому сценарії: ретрофіт верифікації «тільки інференс» усіх середніх і великих ШІ-дата-центрів (>10 тис. H100e, або приблизно >$100 млн), чого достатньо, щоб охопити ~99% світових обчислювальних потужностей, релевантних для ШІ. Далі — відстеження решти менших кластерів і вжиття заходів, щоб уникнути їх можливого використання в таємному проєкті. Ми не впевнені в моделюванні цього", "concentration in datacenter sizes": "розподілу розмірів дата-центрів", ", so the exact cutoffs and interventions may need to be different.": ", тому точні порогові значення та заходи можуть бути іншими.", "Phase 3. Improve robustness.": "Фаза 3. Підвищення стійкості.", " Over time the US and China improve the stability and durability of the verification regime, especially through hardware security, verification robustness, and more.": " З часом США і Китай підвищують стабільність і довговічність режиму верифікації, зокрема завдяки апаратній безпеці, стійкості верифікації та іншим заходам.", "Over time the US and China improve the stability and durability of the verification regime, especially through hardware security, verification robustness, and more.": "З часом США і Китай підвищують стабільність і довговічність режиму верифікації, зокрема завдяки апаратній безпеці, стійкості верифікації та іншим заходам.", "We recommend focusing pre-deal effort on sprinting towards a minimal verification package that can be used to securely retrofit 99% of the world's AI compute to be verified as inference-only, and for at least 99% of the world's AI compute to be known-to-exist (at least to intelligence agencies) with low uncertainty, so that it can’t be hidden from a future compute declaration (and therefore verification regime) with plausible deniability.": "Ми рекомендуємо зосередити зусилля на етапі до Угоди на форсованому створенні мінімального пакета верифікації, який можна безпечно застосувати для дообладнання 99% світових обчислювальних потужностей ШІ з метою верифікації їх як «лише для інференсу», а також на тому, щоб принаймні 99% світових обчислювальних потужностей ШІ були відомі (принаймні розвідувальним службам) з низькою невизначеністю — щоб їх не можна було приховати від майбутньої декларації обчислювальних потужностей (а отже, і від режиму верифікації) з правдоподібним запереченням.", "Why do we recommend this?": "Чому ми це рекомендуємо?", "If the year is 2029, and there is no verification progress relative to today, our best guess is that frontier AI services would need to mostly (e.g., 90%) stay offline for 6-12 months in the wake of a deal if both sides wanted to be highly confident there wasn’t fast frontier AI development continuing. If there were a minimum-viable inference-only retrofitting solution prepared, the equivalent period would be more like 2-5 months. The difference between these in terms of economic impact might be in the trillions of dollars by 2029. Of course, it would be even better if there was a more general verification solution ready, that could e.g., also allow approved training and experiments to continue, but we think this is likely to be harder, and only provide a marginal gain on top of an inference-only solution, because most of the economic upside can be retained by only keeping inference online (since training and experiments will be intentionally limited under a slowdown deal anyway, especially at first while negotiations on how to proceed with AI development are negotiated).": "Якщо припустити, що зараз 2029 рік і прогресу у верифікації порівняно з сьогоднішнім днем не було, наша найкраща оцінка полягає в тому, що передові ШІ-сервіси мали б переважно (наприклад, на 90%) залишатися офлайн протягом 6–12 місяців після укладення Угоди, якби обидві сторони хотіли бути високо впевненими, що швидкий розвиток передового ШІ не триває. Якби було підготовлено мінімально життєздатне рішення для дообладнання систем «лише для інференсу», еквівалентний період становив би радше 2–5 місяців. Різниця між цими сценаріями за економічним впливом може сягати трильйонів доларів до 2029 року. Звісно, було б ще краще, якби було готове більш загальне рішення верифікації, яке, наприклад, дозволяло б також продовжувати схвалене навчання та експерименти, але ми вважаємо, що це, ймовірно, складніше і дає лише граничний виграш порівняно з рішенням «лише для інференсу», оскільки більшу частину економічної вигоди можна зберегти, просто підтримуючи роботу інференсу (адже навчання та експерименти в будь-якому разі будуть навмисно обмежені в межах угоди про сповільнення, особливо на початку, поки тривають перемовини щодо подальшого розвитку ШІ).", "Even with such a verification solution ready, the maximum verification coverage of a deal is still bounded by the percentage of the world's compute that can be brought under the deal. If the US, China, or any other actor has plausible deniability on how much compute they have, they can use that plausible deniability to hide compute from the deal, and use it as unverified compute in a covert project. But if the total unknown compute is under 1% of world compute, we think any such covert effort is likely to be inconsequential: our ": "Навіть за наявності готового такого рішення для верифікації, максимальне покриття верифікацією в межах Угоди все одно обмежене відсотком світових обчислювальних потужностей, які можна залучити до Угоди. Якщо США, Китай чи будь-який інший актор має правдоподібне заперечення щодо того, скільки обчислювальних потужностей він має, він може використати це правдоподібне заперечення, щоб приховати обчислювальні потужності від Угоди та використовувати їх як неверифіковані потужності в таємному проєкті. Але якщо загальний обсяг невідомих обчислювальних потужностей становить менше 1% світових, ми вважаємо, що будь-які такі таємні зусилля, ймовірно, будуть незначними: наша ", "Even with such a verification solution ready, the maximum verification coverage of a deal is still bounded by the percentage of the world's compute that can be brought under the deal. If the US, China, or any other actor has plausible deniability on how much compute they have, they can use that plausible deniability to hide compute from the deal, and use it as unverified compute in a covert project. But if the total unknown compute is under 1% of world compute, we think any such covert effort is likely to be inconsequential: our": "Навіть за наявності готового такого рішення для верифікації, максимальне покриття верифікацією в межах Угоди все одно обмежене відсотком світових обчислювальних потужностей, які можна залучити до Угоди. Якщо США, Китай чи будь-який інший актор має правдоподібне заперечення щодо того, скільки обчислювальних потужностей він має, він може використати це правдоподібне заперечення, щоб приховати обчислювальні потужності від Угоди та використовувати їх як неверифіковані потужності в таємному проєкті. Але якщо загальний обсяг невідомих обчислювальних потужностей становить менше 1% світових, ми вважаємо, що будь-які такі таємні зусилля, ймовірно, будуть незначними: наша", " models this directly, and estimates roughly a 13% chance that a competently-pursued covert project reaches deal-undermining AI before detection or handoff, under our recommended scaling strategy. These estimates apply to the start of the deal: as the deal goes on, the uncertainty should narrow and the plausible covert stock should shrink, as tracing and audits converge, detection efforts accumulate (see the ": " безпосередньо моделює цю ситуацію та оцінює приблизно 13-відсоткову ймовірність того, що компетентно реалізований таємний проєкт досягне рівня ШІ, здатного підірвати Угоду, до моменту виявлення чи передачі, за нашою рекомендованою стратегією масштабування. Ці оцінки стосуються початку Угоди: у міру її дії невизначеність має звужуватися, а правдоподібний обсяг таємних потужностей — скорочуватися, оскільки трасування та аудити сходяться, зусилля з виявлення накопичуються (див. ", "models this directly, and estimates roughly a 13% chance that a competently-pursued covert project reaches deal-undermining AI before detection or handoff, under our recommended scaling strategy. These estimates apply to the start of the deal: as the deal goes on, the uncertainty should narrow and the plausible covert stock should shrink, as tracing and audits converge, detection efforts accumulate (see the": "безпосередньо моделює цю ситуацію та оцінює приблизно 13-відсоткову ймовірність того, що компетентно реалізований таємний проєкт досягне рівня ШІ, здатного підірвати Угоду, до моменту виявлення чи передачі, за нашою рекомендованою стратегією масштабування. Ці оцінки стосуються початку Угоди: у міру її дії невизначеність має звужуватися, а правдоподібний обсяг таємних потужностей — скорочуватися, оскільки трасування та аудити сходяться, зусилля з виявлення накопичуються (див.", "detection estimates": "оцінки виявлення", " in the covert project supplement), and more compute is brought under verification. Of course, the lower the unknown compute is, the better but we think around 1% of world compute is likely to be an achievable target and sufficient for a stable deal.": " у додатку про таємні проєкти), і дедалі більше обчислювальних потужностей охоплюється верифікацією. Звісно, чим менше невідомих обчислювальних потужностей, тим краще, але ми вважаємо, що близько 1% світових обчислювальних потужностей — це, ймовірно, досяжна мета, достатня для стабільної Угоди.", "in the covert project supplement), and more compute is brought under verification. Of course, the lower the unknown compute is, the better but we think around 1% of world compute is likely to be an achievable target and sufficient for a stable deal.": "у додатку про таємні проєкти), і дедалі більше обчислювальних потужностей охоплюється верифікацією. Звісно, чим менше невідомих обчислювальних потужностей, тим краще, але ми вважаємо, що близько 1% світових обчислювальних потужностей — це, ймовірно, досяжна мета, достатня для стабільної Угоди.", "Top priority recommendations:": "Рекомендації найвищого пріоритету:", "Invest in verification R&D with a specific focus on developing a secure inference-only retrofitting plan with around 80% of total verification R&D effort.": "Інвестувати в дослідження та розробки у сфері верифікації, спрямувавши близько 80% усіх зусиль R&D з верифікації конкретно на розробку безпечного плану дообладнання систем «лише для інференсу».", "Also, support supplementary R&D efforts with around 20% of verification R&D effort pursuing promising additional measures, such as software-only solutions, privacy-preserving verification measures, and more general verification solutions (e.g., that verify the compliance of training and experiments as well).": "Також підтримувати допоміжні R&D-зусилля, спрямувавши близько 20% зусиль R&D з верифікації на перспективні додаткові заходи, як-от суто програмні рішення, заходи верифікації, що зберігають приватність, та більш загальні рішення верифікації (наприклад, ті, що перевіряють відповідність також навчання та експериментів).", "Invest in compute accounting and tracking (e.g., carried out by intelligence agencies) to know how much AI relevant compute exists in the world, and which entities are in possession of it.": "Інвестувати в облік та відстеження обчислювальних потужностей (наприклад, силами розвідувальних служб), щоб знати, скільки у світі існує обчислювальних потужностей, релевантних для ШІ, і які суб'єкти ними володіють.", "Notably, our recommendation for this early chip tracking doesn’t prioritize knowing where this compute is, or what it is being used for. We believe that the majority of the upside in terms of making a deal viable is simply in knowing how much exists and keeping track of which actors own it at any given time, because the lack of plausible deniability should be sufficient to force this compute to be declared at the time of deal negotiation (given that there will be large incentives in favour of joining a deal). That being said, also knowing its location is helpful in avoiding cases of plausible deniability (e.g., faked records of on-selling or chip deaths) and cases where (for some reason) the US and Chinese governments have little leverage over the owning entity (and therefore can’t pressure them to declare the location of the compute they are known to have, e.g., Russian compute).": "Варто зазначити, що наша рекомендація щодо цього раннього відстеження чипів не ставить пріоритетом знання того, де знаходяться ці обчислювальні потужності або для чого вони використовуються. Ми вважаємо, що більшість вигоди з погляду забезпечення життєздатності Угоди полягає просто в тому, щоб знати, скільки їх існує, і відстежувати, які актори володіють ними в будь-який момент часу, оскільки відсутність правдоподібного заперечення має бути достатньою, щоб змусити задекларувати ці потужності на момент перемовин щодо Угоди (з огляду на те, що будуть великі стимули до приєднання до Угоди). Тим не менш, знання їхнього розташування також корисне для запобігання випадкам правдоподібного заперечення (наприклад, сфальсифікованим записам про перепродаж чи «смерть» чипів) і випадкам, коли (з якихось причин) уряди США та Китаю мають малий важіль впливу на суб'єкта-власника (і, відповідно, не можуть змусити його задекларувати місцезнаходження відомих йому обчислювальних потужностей, наприклад, російських).", "To set up a stable deal, we recommend immediately carrying out a mutual compute declaration and supply chain records audit to maximize the amount of compute that is brought under the deal. Then implementing the best available inference-only verification solution to this compute to enforce a brief pause on training and experiments. In parallel, we recommend a sprint to set up a verification regime for resumed training and experiments.": "Для встановлення стабільної Угоди ми рекомендуємо негайно провести взаємну декларацію обчислювальних потужностей та аудит записів ланцюга постачання, щоб максимізувати обсяг потужностей, залучених до Угоди. Потім — впровадити найкраще доступне рішення верифікації «лише для інференсу» для цих потужностей, щоб забезпечити коротку паузу в навчанні та експериментах. Паралельно ми рекомендуємо форсовано розробити режим верифікації для відновленого навчання та експериментів.", "Given that unknown compute can’t be brought under the verification of a deal, the first priority should be to minimize the amount of compute that is unknown. The urgent action needed for this is to immediately carry out a declaration of existing compute and compute currently in transit or production. Both the US and China should then be able to carry out an audit and inspection of each other’s declaration, and compare it against their private intelligence efforts (to the extent they properly prepared this) to resolve their uncertainties over how much compute each other have.": "Оскільки невідомі обчислювальні потужності не можна залучити до верифікації в межах Угоди, першим пріоритетом має бути мінімізація обсягу невідомих потужностей. Для цього необхідний терміновий крок — негайно провести декларацію наявних обчислювальних потужностей, а також тих, що перебувають у транзиті чи виробництві. Після цього США і Китай мають бути здатні провести аудит і перевірку декларацій одне одного та порівняти їх із власними розвідувальними даними (тією мірою, якою вони належно їх підготували), щоб усунути невизначеність щодо обсягу обчислювальних потужностей одне одного.", "Around 85% of global compute should be owned by US or Chinese entities, so aiming for 99% of compute being under the deal will require rolling out such a declaration agreement to the other 5-10 nations that will likely make up the rest of this gap. The level of urgency of extending this to other nations will depend on the uncertainty intelligence agencies have over how much compute these other nations have, how likely it seems that these other nations would successfully be able to hide significant quantities of it without detection.": "Близько 85% світових обчислювальних потужностей мають належати суб'єктам США чи Китаю, тому для досягнення мети в 99% потужностей під Угодою знадобиться поширити подібну угоду про декларацію ще на 5–10 країн, які, ймовірно, покриють решту цього розриву. Рівень терміновості поширення цього на інші країни залежатиме від того, наскільки невизначені дані розвідувальних служб щодо обсягу обчислювальних потужностей цих країн, і наскільки ймовірно, що ці країни зможуть успішно приховати значні їх обсяги без виявлення.", "Following this declaration, we recommend a brief AI R&D pause (i.e., new training runs and experiments), with existing compute being converted to inference-only. As explained above, we think this achieves the goal of a deal (slowdown in AI progress) while keeping most of the economic upside (AI services and products keep running), while also being relatively easier to verify. Whatever the best inference-only verification solution that is ready should be used. We currently recommend aiming for a network-tap and recomputation based approach, but more R&D is needed to figure out if another approach will be better. It’s also possible that only an inferior solution will be ready, but still sufficient to be used in the initial setup of a deal until something better is ready.": "Після цієї декларації ми рекомендуємо коротку паузу в AI R&D (тобто в нових прогонах навчання та експериментах), з переведенням наявних обчислювальних потужностей у режим «лише інференс». Як пояснено вище, ми вважаємо, що це досягає мети Угоди (сповільнення прогресу ШІ), зберігаючи при цьому більшість економічної вигоди (ШІ-сервіси та продукти продовжують працювати), а також є відносно простішим для верифікації. Слід використовувати найкраще з готових рішень верифікації «лише для інференсу». Наразі ми рекомендуємо орієнтуватися на підхід на основі мережевих відводів (network tap) і повторного обчислення, але потрібні додаткові R&D, щоб з'ясувати, чи не буде кращим інший підхід. Також можливо, що готовим буде лише гірше рішення, але його все одно буде достатньо для використання на початковому етапі встановлення Угоди, доки не з'явиться щось краще.", "Finally, we recommend setting up the verification regime for resuming training and experiments as a separate effort that happens after the deal begins because we think there are important properties of R&D verification to decide on once the deal is setup, and also extremely high security requirements needed for the R&D verification to enable a stable deal going forward. In particular, there is a decision to make about what level of transparency to aim for (we recommend a ‘Total Research Transparency’ regime, but more on the possibilities to decide between in our ": "Нарешті, ми рекомендуємо створювати режим верифікації для відновлення навчання та експериментів як окремі зусилля, що відбуваються вже після початку дії Угоди, оскільки вважаємо, що є важливі властивості верифікації R&D, які треба вирішити вже після встановлення Угоди, а також надзвичайно високі вимоги до безпеки, необхідні для того, щоб верифікація R&D забезпечувала стабільність Угоди надалі. Зокрема, потрібно ухвалити рішення щодо того, якого рівня прозорості прагнути (ми рекомендуємо режим «Повна дослідницька прозорість», але більше про варіанти вибору — в нашому ", "Finally, we recommend setting up the verification regime for resuming training and experiments as a separate effort that happens after the deal begins because we think there are important properties of R&D verification to decide on once the deal is setup, and also extremely high security requirements needed for the R&D verification to enable a stable deal going forward. In particular, there is a decision to make about what level of transparency to aim for (we recommend a ‘Total Research Transparency’ regime, but more on the possibilities to decide between in our": "Нарешті, ми рекомендуємо створювати режим верифікації для відновлення навчання та експериментів як окремі зусилля, що відбуваються вже після початку дії Угоди, оскільки вважаємо, що є важливі властивості верифікації R&D, які треба вирішити вже після встановлення Угоди, а також надзвичайно високі вимоги до безпеки, необхідні для того, щоб верифікація R&D забезпечувала стабільність Угоди надалі. Зокрема, потрібно ухвалити рішення щодо того, якого рівня прозорості прагнути (ми рекомендуємо режим «Повна дослідницька прозорість», але більше про варіанти вибору — в нашому", "), and in any case there are high security requirements, so we believe that the verified datacenters will need to be built from scratch. If new construction is deemed to take unacceptably long, or there is a sufficiently secure retrofitting solution for R&D verification, then there could be an interim period where pre-existing datacenters are used for R&D. That being said, we think after around 2 years, when verification and security requirements are elevated, and something like 90% of the world’s compute will be new post-deal compute anyway, we recommend more strongly having new, post-deal, highly secure datacenters.": ") і в будь-якому разі вимоги до безпеки високі, тому ми вважаємо, що верифіковані дата-центри доведеться будувати з нуля. Якщо нове будівництво вважатиметься неприйнятно довгим, або якщо з'явиться достатньо безпечне рішення для дообладнання під верифікацію R&D, тоді може бути перехідний період, коли для R&D використовуються вже наявні дата-центри. Тим не менш, ми вважаємо, що приблизно через 2 роки, коли вимоги до верифікації та безпеки зростуть і близько 90% світових обчислювальних потужностей у будь-якому разі становитимуть нові, післяугодні потужності, ми наполегливіше рекомендуємо мати нові, побудовані після Угоди, високозахищені дата-центри.", "Carry out a bilateral compute declaration and supply chain audit, for both existing compute and new compute production, and extend to third nations with significant compute ownership or production.": "Провести двосторонню декларацію обчислювальних потужностей та аудит ланцюга постачання — як щодо наявних потужностей, так і щодо нового виробництва, — та поширити це на треті країни зі значним володінням чи виробництвом обчислювальних потужностей.", "Every major datacenter owner and companies with a major role in the supply chain publicly declare their records about purchases and sales, and allow auditors and inspectors into each other’s countries and companies to verify the records and count of final chips. This needs to also including compute in transit and active compute production. From this point forward, existing compute and new compute production is closely tracked and guarded so that it can’t be redirected to a covert project without detection. Extend this declaration to other countries with significant compute ownership or production capacity. Do so urgently unless there is confident intelligence in place that would detect this compute being moved.": "Кожен великий власник дата-центру та компанії з важливою роллю в ланцюгу постачання публічно декларують свої записи про закупівлі й продажі та допускають аудиторів і інспекторів у свої країни й компанії для перевірки записів і підрахунку кінцевої кількості чипів. Це також має охоплювати обчислювальні потужності в транзиті та активне виробництво. Відтепер наявні потужності та нове виробництво ретельно відстежуються й охороняються, щоб їх не можна було непомітно перенаправити в таємний проєкт. Поширити цю декларацію на інші країни зі значним володінням чи виробничими потужностями. Робити це терміново, якщо тільки немає впевненості в тому, що наявні розвідувальні дані дозволять виявити переміщення цих потужностей.", "Implement inference-only verification on existing compute and any new compute coming online.": "Впровадити верифікацію «лише для інференсу» для наявних обчислювальних потужностей і будь-яких нових потужностей, що вводяться в експлуатацію.", "Roll out inference-only verification to existing compute to enforce the brief AI R&D pause while allowing AI services to remain online. Ideally there would be a highly secure solution ready to go. If not, implement the best solution available. If there is no solution at all ready then either shut down the compute, or rely only on non-technical measures (e.g., embedded auditors in each other’s companies checking that no one is implementing experiments or training runs) in the meantime while sprinting to transition to a better solution.": "Розгорнути верифікацію «лише для інференсу» для наявних обчислювальних потужностей, щоб забезпечити коротку паузу в AI R&D, дозволяючи при цьому ШІ-сервісам залишатися онлайн. В ідеалі має бути готове високозахищене рішення. Якщо ні — впровадити найкраще з доступних. Якщо взагалі немає готового рішення, тоді слід або вимкнути ці потужності, або тим часом покладатися лише на нетехнічні заходи (наприклад, вбудованих аудиторів у компаніях одне одного, які перевіряють, що ніхто не проводить експерименти чи прогони навчання), поки триває форсований перехід до кращого рішення.", "Sprint to set up R&D verification in accordance with the chosen transparency regime.": "Форсовано створити верифікацію R&D відповідно до обраного режиму прозорості.", "We recommend a specific regime we call Total Research Transparency in the Plan A scenario, but as explained in our ": "У сценарії Плану А ми рекомендуємо конкретний режим, який називаємо Повною дослідницькою прозорістю, але, як пояснено в нашому ", "We recommend a specific regime we call Total Research Transparency in the Plan A scenario, but as explained in our": "У сценарії Плану А ми рекомендуємо конкретний режим, який називаємо Повною дослідницькою прозорістю, але, як пояснено в нашому", ", there are conditions under which a different approach may be better. Regardless of the regime, there should be some combination of highly secure R&D clusters and highly secure post-deal inference clusters built, because across most transparency regimes we imagine at least AI model weights and verification correctness requiring ": ", існують умови, за яких кращим може бути інший підхід. Незалежно від режиму, слід побудувати певну комбінацію високозахищених R&D-кластерів і високозахищених післяугодних кластерів інференсу, оскільки в більшості уявних режимів прозорості принаймні ваги моделей ШІ та коректність верифікації вимагатимуть рівня безпеки ", ", there are conditions under which a different approach may be better. Regardless of the regime, there should be some combination of highly secure R&D clusters and highly secure post-deal inference clusters built, because across most transparency regimes we imagine at least AI model weights and verification correctness requiring": ", існують умови, за яких кращим може бути інший підхід. Незалежно від режиму, слід побудувати певну комбінацію високозахищених R&D-кластерів і високозахищених післяугодних кластерів інференсу, оскільки в більшості уявних режимів прозорості принаймні ваги моделей ШІ та коректність верифікації вимагатимуть рівня безпеки", " (robust to nation state actors) level security. Because of this we think these clusters should be built from scratch.": " (стійкого до акторів рівня держави). Через це ми вважаємо, що ці кластери слід будувати з нуля.", "(robust to nation state actors) level security. Because of this we think these clusters should be built from scratch.": "(стійкого до акторів рівня держави). Через це ми вважаємо, що ці кластери слід будувати з нуля.", "What AI R&D agreements should actually be verified?": "Які саме угоди щодо AI R&D слід верифікувати?", "The primary purpose of the deal is to create the conditions that can allow for slowing down AI development in order to increase safety, by paying safety taxes in safety resource allocation (e.g., doing alignment research instead of capabilities research) or development directions (e.g., agreeing to not pursue a certain research direction or use a certain efficient algorithm that might be less safe). Overall, we refer to this safety focused slow down on AI research as ‘AI research titration’. The method of AI research titration may be crude at first (e.g., harsh experiment compute caps) and become more sophisticated over time (e.g., case by case decisions informed by scientific understanding of capabilities externalities).": "Основна мета Угоди — створити умови, що дозволять сповільнити розвиток ШІ заради підвищення безпеки, сплачуючи «податки на безпеку» у вигляді розподілу ресурсів на безпеку (наприклад, проведення досліджень узгодження замість досліджень можливостей) або напрямів розробки (наприклад, погодившись не переслідувати певний напрям досліджень чи не використовувати певний ефективний алгоритм, який може бути менш безпечним). Загалом ми називаємо це орієнтоване на безпеку сповільнення досліджень ШІ «титруванням досліджень ШІ». Метод титрування досліджень ШІ спочатку може бути грубим (наприклад, жорсткі обмеження на обчислювальні потужності для експериментів) і з часом ставати більш витонченим (наприклад, рішення в кожному конкретному випадку, засновані на науковому розумінні зовнішніх ефектів можливостей).", "We additionally think that a deal may have to deal with potentially destabilizing levels of hardware research, and hardware production levels. In the Plan A scenario we recommend hardware research titration and a cap & trade policy on robots and compute production to deal with the risks from these sources. All of this is explored in more detail in the ": "Ми також вважаємо, що в межах Угоди, можливо, доведеться мати справу з потенційно дестабілізуючими рівнями апаратних досліджень і виробництва апаратного забезпечення. У сценарії Плану А ми рекомендуємо титрування апаратних досліджень і політику обмеження та торгівлі квотами (cap & trade) для виробництва роботів та обчислювальних потужностей, щоб впоратися з ризиками з цих джерел. Усе це докладніше розглянуто в ", "We additionally think that a deal may have to deal with potentially destabilizing levels of hardware research, and hardware production levels. In the Plan A scenario we recommend hardware research titration and a cap & trade policy on robots and compute production to deal with the risks from these sources. All of this is explored in more detail in the": "Ми також вважаємо, що в межах Угоди, можливо, доведеться мати справу з потенційно дестабілізуючими рівнями апаратних досліджень і виробництва апаратного забезпечення. У сценарії Плану А ми рекомендуємо титрування апаратних досліджень і політику обмеження та торгівлі квотами (cap & trade) для виробництва роботів та обчислювальних потужностей, щоб впоратися з ризиками з цих джерел. Усе це докладніше розглянуто в", "Plan A verification story": "Історія верифікації Плану А", "Once a deal has been set up, we expect many improvements to its robustness will be possible. We recommend investing heavily in hardware security; improving the verification regime; pursuing favorable trade-offs in hardware design that favor deal robustness (e.g., by making verification easier, improving various security properties, differentially favoring the actors in the deal over covert projects, etc.); and reducing incentives to pull out of the deal (e.g., through mutually assured compute destruction, and balancing deal dissolution outcomes between actors).": "Після встановлення Угоди ми очікуємо, що стане можливим багато вдосконалень її стійкості. Ми рекомендуємо активно інвестувати в апаратну безпеку; вдосконалювати режим верифікації; шукати вигідні компроміси в дизайні апаратного забезпечення, що сприяють стійкості Угоди (наприклад, спрощуючи верифікацію, покращуючи різні властивості безпеки, диференційовано надаючи перевагу учасникам Угоди перед таємними проєктами тощо); і зменшувати стимули до виходу з Угоди (наприклад, через взаємно гарантоване знищення обчислювальних потужностей і балансування наслідків розпаду Угоди між акторами).", "We expect there to be many achievable improvements to the robustness of the deal. Given that the deal breaking down is one of the biggest threats to Plan A succeeding, as explored in our ": "Ми очікуємо, що буде багато досяжних вдосконалень стійкості Угоди. Оскільки розпад Угоди є однією з найбільших загроз успіху Плану А, як розглянуто в нашому ", "We expect there to be many achievable improvements to the robustness of the deal. Given that the deal breaking down is one of the biggest threats to Plan A succeeding, as explored in our": "Ми очікуємо, що буде багато досяжних вдосконалень стійкості Угоди. Оскільки розпад Угоди є однією з найбільших загроз успіху Плану А, як розглянуто в нашому", ", reducing the incentive to pull out of the deal is a core part of improving the deal’s stability. Covertly defecting from the deal is another core threat to the deal (as explored in our ": ", зменшення стимулу до виходу з Угоди — це ключова частина підвищення її стабільності. Таємне порушення Угоди — ще одна ключова загроза для неї (як розглянуто в нашому ", ", reducing the incentive to pull out of the deal is a core part of improving the deal’s stability. Covertly defecting from the deal is another core threat to the deal (as explored in our": ", зменшення стимулу до виходу з Угоди — це ключова частина підвищення її стабільності. Таємне порушення Угоди — ще одна ключова загроза для неї (як розглянуто в нашому", "), so another core part of improving the deal’s robustness is making the verification regime better, both on the level of assurance of known compute and reducing the amount of unknown compute; improving various other security properties, like model weights security; and more generally making it harder for potential defecting actors to make or steal progress.": "), тому ще однією ключовою частиною підвищення стійкості Угоди є покращення режиму верифікації — як на рівні гарантій щодо відомих обчислювальних потужностей, так і через зменшення обсягу невідомих; покращення різних інших властивостей безпеки, як-от безпека ваг моделей; і загалом ускладнення для потенційних порушників можливості досягти прогресу самостійно чи вкрасти його.", "Concrete ideas for deal robustness": "Конкретні ідеї для підвищення стійкості Угоди", "Deal dissolution contingencies and incentive shaping.": "Заходи на випадок розпаду Угоди та формування стимулів.", "Mutually assured compute destruction.": "Взаємно гарантоване знищення обчислювальних потужностей.", "One of our main proposals for how to disincentivize actors from pulling out of the deal, and make AI development safer if actors do pull out of the deal, is to set up mutual ability to destroy the post-deal compute.": "Одна з наших головних пропозицій щодо того, як позбавити акторів стимулу виходити з Угоди, а також зробити розвиток ШІ безпечнішим, якщо вони все ж вийдуть, — це створити взаємну здатність знищувати післяугодні обчислювальні потужності.", "If this is strongly in place, then no actor will sanely attempt to pull out of the deal and gain a lasting advantage by defending some of the compute, and returning to racing. If the deal does break down despite this, then compute destruction can let any actor destroy the post-deal compute, which makes things potentially vastly safer because it destroys the large compute overhang, which back in a default world with actors racing might be extremely dangerous because it would make AI progress extremely fast.": "Якщо це надійно закріплено, жоден раціональний актор не намагатиметься вийти з Угоди й отримати тривалу перевагу, захистивши частину обчислювальних потужностей і повернувшись до гонки. Якщо ж Угода все одно розпадеться, знищення обчислювальних потужностей дозволить будь-якому актору знищити післяугодні потужності, що потенційно робить ситуацію значно безпечнішою, оскільки усуває великий надлишок обчислювальних потужностей (compute overhang), який у звичайному світі з гонкою акторів міг би бути надзвичайно небезпечним, адже надзвичайно прискорив би прогрес ШІ.", "Cold storage compute banks.": "Банки обчислювальних потужностей у холодному сховищі.", "Another possibility would be to decrease the incentive for actors to pull out of the deal is to have a small compute bank that is verified to not be in use during the deal, but which each side can reliably defend and bring back online if the deal does break down.": "Ще один спосіб зменшити стимул акторів до виходу з Угоди — мати невеликий банк обчислювальних потужностей, верифіковано не задіяний під час дії Угоди, який, однак, кожна зі сторін може надійно захистити й повернути в експлуатацію, якщо Угода розпадеться.", "If this is reliably bigger than any potential covert project, then it removes the incentive to pull out of the deal for any actor that may have the largest covert project, also reducing the incentive to attempt one in the first place.": "Якщо цей банк надійно більший за будь-який потенційний таємний проєкт, це усуває стимул виходити з Угоди для будь-якого актора, який міг би мати найбільший таємний проєкт, а також зменшує стимул взагалі братися за такий проєкт.", " In our scenario, the US maintains a 5M H100e bank and China a 500K H100e bank (see our ": " У нашому сценарії США підтримують банк на 5 млн H100e, а Китай — на 500 тис. H100e (див. наш ", "In our scenario, the US maintains a 5M H100e bank and China a 500K H100e bank (see our": "У нашому сценарії США підтримують банк на 5 млн H100e, а Китай — на 500 тис. H100e (див. наш", ", the source of truth for these stockpiles); the US bank sits comfortably above the ~4M H100e top of the 80% CI for plausible diversion in our ": ", першоджерело даних щодо цих запасів); банк США впевнено перевищує верхню межу ~4 млн H100e 80%-го довірчого інтервалу для правдоподібного відведення потужностей у нашому ", ", the source of truth for these stockpiles); the US bank sits comfortably above the ~4M H100e top of the 80% CI for plausible diversion in our": ", першоджерело даних щодо цих запасів); банк США впевнено перевищує верхню межу ~4 млн H100e 80%-го довірчого інтервалу для правдоподібного відведення потужностей у нашому", ". The ratio between the size of the US and China’s compute banks (and whichever third parties might negotiate their own) could be frozen at the pre-deal status quo compute ratio.": ". Співвідношення розмірів банків обчислювальних потужностей США і Китаю (та будь-яких третіх сторін, які можуть домовитися про власні) можна зафіксувати на рівні співвідношення потужностей, що існувало до Угоди.", "Cold storage model weights and data bank.": "Банк ваг моделей і даних у холодному сховищі.", "Another idea we have to improve the situation if the deal breaks down is to allow the US and China to agree to submit models to a hardened cold storage model weights bank.": "Ще одна наша ідея щодо поліпшення ситуації на випадок розпаду Угоди — дозволити США і Китаю домовитися про передачу моделей у захищений банк ваг моделей у холодному сховищі.", "Both sides would need to verify that the other side’s weights are not going anywhere else, but not have the ability to destroy them if the deal broke down. The reason they may want to do this is if they have made a lot of alignment progress in the form of a final trained model or large datasets, and they mutually agree it would be safer for the world in the event of deal break down if they were allowed to have these model weights and/or datasets.": "Обидві сторони мали б перевіряти, що ваги іншої сторони нікуди не діваються, але не мали б можливості знищити їх у разі розпаду Угоди. Причиною для цього може бути ситуація, коли одна зі сторін досягла значного прогресу в узгодженні у вигляді фінально навченої моделі чи великих наборів даних, і обидві сторони погоджуються, що для світу було б безпечніше, якби на випадок розпаду Угоди їм дозволили зберегти ці ваги моделей та/або набори даних.", "Improving the verification assurance on the compute in the deal.": "Підвищення рівня гарантій верифікації обчислювальних потужностей у межах Угоди.", "Hardware security.": "Апаратна безпека.", "There may be several hardware security properties that can be drastically improved under the deal, especially by applying AI research automation help differentially in these areas, and paying hardware ‘security taxes’ in the design choices. These could include software level security improvements, such as expanded formal verification, and hardware security improvements, making tampering extremely difficult. One step towards achieving this could be to increase the monitoring and security at fabs and other parts of the supply chain. Another nice property that could also help with mutually assured compute destruction (purely through cryptography) could be ": "У межах Угоди можна кардинально покращити кілька властивостей апаратної безпеки, зокрема шляхом диференційованого застосування допомоги від автоматизації досліджень ШІ в цих сферах і сплати «податків на безпеку» апаратного забезпечення у виборі дизайну. Це може включати покращення безпеки на програмному рівні, як-от розширену формальну верифікацію, і апаратні покращення безпеки, що надзвичайно ускладнюють втручання. Одним із кроків до цього могло б стати посилення моніторингу та безпеки на фабриках і в інших ланках ланцюга постачання. Ще однією корисною властивістю, яка також могла б допомогти зі взаємно гарантованим знищенням обчислювальних потужностей (виключно засобами криптографії), могло б стати ", "There may be several hardware security properties that can be drastically improved under the deal, especially by applying AI research automation help differentially in these areas, and paying hardware ‘security taxes’ in the design choices. These could include software level security improvements, such as expanded formal verification, and hardware security improvements, making tampering extremely difficult. One step towards achieving this could be to increase the monitoring and security at fabs and other parts of the supply chain. Another nice property that could also help with mutually assured compute destruction (purely through cryptography) could be": "У межах Угоди можна кардинально покращити кілька властивостей апаратної безпеки, зокрема шляхом диференційованого застосування допомоги від автоматизації досліджень ШІ в цих сферах і сплати «податків на безпеку» апаратного забезпечення у виборі дизайну. Це може включати покращення безпеки на програмному рівні, як-от розширену формальну верифікацію, і апаратні покращення безпеки, що надзвичайно ускладнюють втручання. Одним із кроків до цього могло б стати посилення моніторингу та безпеки на фабриках і в інших ланках ланцюга постачання. Ще однією корисною властивістю, яка також могла б допомогти зі взаємно гарантованим знищенням обчислювальних потужностей (виключно засобами криптографії), могло б стати", "offline licensing": "офлайн-ліцензування", ". Also, it might be possible to build computing clusters that keep model weights encrypted inside secure parts of the AI clusters using hardware-derived keys that are unobservable from the outside. If this could be made robust enough, then it might drastically help with the security of model weights and allow other SL5 model weights measures (bandwidth limiting) to be relaxed.": ". Крім того, можливо, вдасться побудувати обчислювальні кластери, що зберігають ваги моделей зашифрованими всередині захищених частин ШІ-кластерів, використовуючи апаратно похідні ключі, недоступні для спостереження ззовні. Якщо це вдасться зробити достатньо надійним, це могло б кардинально покращити безпеку ваг моделей і дозволити пом'якшити інші заходи SL5 щодо ваг моделей (обмеження пропускної здатності).", "Verification granularity.": "Гранулярність верифікації.", "Another more specific area for hardware improvements is to help with verification robustness, such as extremely high fidelity reproducibility, support for increasingly granular logging, and other more specific solutions like ": "Ще одна більш конкретна сфера апаратних вдосконалень — це допомога з підвищенням стійкості верифікації, наприклад надзвичайно точна відтворюваність, підтримка дедалі більш деталізованого логування та інші, точніші рішення, як-от ", "Another more specific area for hardware improvements is to help with verification robustness, such as extremely high fidelity reproducibility, support for increasingly granular logging, and other more specific solutions like": "Ще одна більш конкретна сфера апаратних вдосконалень — це допомога з підвищенням стійкості верифікації, наприклад надзвичайно точна відтворюваність, підтримка дедалі більш деталізованого логування та інші, точніші рішення, як-от", "fixed set": "фіксований набір", " hardware designs (e.g., ": " апаратних конструкцій (наприклад, ", "hardware designs (e.g.,": "апаратних конструкцій (наприклад,", "hardcoded weights": "жорстко закодовані ваги", " might be a nice way to upgrade the inference-only verification).": " можуть бути гарним способом покращити верифікацію «лише для інференсу»).", "might be a nice way to upgrade the inference-only verification).": "можуть бути гарним способом покращити верифікацію «лише для інференсу»).", "Reducing compute that could be used for a covert project.": "Зменшення обсягу обчислювальних потужностей, які можна було б використати для таємного проєкту.", "Track down potential covert projects.": "Виявлення потенційних таємних проєктів.", "Over time we think it may be plausible to rule out covert projects above smaller and smaller sizes, using intelligence efforts, agreements to bring more known compute (e.g., military-exempt compute or tiny private clusters) under privacy-preserving verification measures, or agreements to do power usage accounting (e.g., mutual declaration and random inspection). Our ": "З часом, на нашу думку, стане реалістичним виключати таємні проєкти дедалі меншого розміру, використовуючи розвідувальні зусилля, угоди про залучення більшої кількості відомих обчислювальних потужностей (наприклад, звільнених від військового обліку потужностей чи крихітних приватних кластерів) під заходи верифікації, що зберігають приватність, або угоди про облік споживання електроенергії (наприклад, взаємну декларацію та вибіркові перевірки). Наш ", "Over time we think it may be plausible to rule out covert projects above smaller and smaller sizes, using intelligence efforts, agreements to bring more known compute (e.g., military-exempt compute or tiny private clusters) under privacy-preserving verification measures, or agreements to do power usage accounting (e.g., mutual declaration and random inspection). Our": "З часом, на нашу думку, стане реалістичним виключати таємні проєкти дедалі меншого розміру, використовуючи розвідувальні зусилля, угоди про залучення більшої кількості відомих обчислювальних потужностей (наприклад, звільнених від військового обліку потужностей чи крихітних приватних кластерів) під заходи верифікації, що зберігають приватність, або угоди про облік споживання електроенергії (наприклад, взаємну декларацію та вибіркові перевірки). Наш", " covers the detection methods (waste heat tracking, other IMINT/MASINT, SIGINT, HUMINT) and estimates detection probabilities by covert datacenter size, along with the ": " охоплює методи виявлення (відстеження скидного тепла, інші IMINT/MASINT, SIGINT, HUMINT) і оцінює ймовірності виявлення залежно від розміру таємного дата-центру, а також ", "covers the detection methods (waste heat tracking, other IMINT/MASINT, SIGINT, HUMINT) and estimates detection probabilities by covert datacenter size, along with the": "охоплює методи виявлення (відстеження скидного тепла, інші IMINT/MASINT, SIGINT, HUMINT) і оцінює ймовірності виявлення залежно від розміру таємного дата-центру, а також", "stronger verification concessions": "посилені поступки щодо верифікації", " that could be negotiated over time.": ", які можна погодити з часом.", "that could be negotiated over time.": ", які можна погодити з часом.", "Make sure no new compute goes to covert projects.": "Гарантувати, що жодні нові обчислювальні потужності не потрапляють у таємні проєкти.", "One extremely important property of the deal is that none of the post-deal compute production can go to covert projects. Our ": "Одна надзвичайно важлива властивість Угоди полягає в тому, що жодне з нового виробництва обчислювальних потужностей після Угоди не може потрапити в таємні проєкти. Наш ", "One extremely important property of the deal is that none of the post-deal compute production can go to covert projects. Our": "Одна надзвичайно важлива властивість Угоди полягає в тому, що жодне з нового виробництва обчислювальних потужностей після Угоди не може потрапити в таємні проєкти. Наш", " estimates that because production runs through a small number of highly controlled fabs, diversion of new chips can be kept to approximately zero, with very high confidence that the total is under 100K H100e. To make this even more robust, it might be favourable to concentrate AI chip production in fewer locations and/or colocate production with the final destinations (datacenters), which is doable because with total production increasing 3x/yr, every 2 years 90% of the fabs are new fabs. This means they can pretty easily be somewhere else. Consumer compute could be produced elsewhere but the risk of covert project usage of consumer compute should be separately mitigated.": " оцінює, що, оскільки виробництво проходить через невелику кількість суворо контрольованих фабрик, відведення нових чипів можна утримати на рівні приблизно нуля з дуже високою впевненістю, що загальний обсяг становить менше 100 тис. H100e. Щоб зробити це ще надійнішим, може бути вигідно сконцентрувати виробництво ШІ-чипів у меншій кількості локацій та/або розташувати виробництво поруч із кінцевими пунктами призначення (дата-центрами), що є реалістичним, оскільки за зростання загального виробництва в 3 рази на рік кожні 2 роки 90% фабрик — це нові фабрики. Це означає, що їх цілком можна розмістити деінде. Споживчі обчислювальні потужності можна виробляти в інших місцях, але ризик використання споживчих потужностей у таємних проєктах слід окремо пом'якшувати.", "estimates that because production runs through a small number of highly controlled fabs, diversion of new chips can be kept to approximately zero, with very high confidence that the total is under 100K H100e. To make this even more robust, it might be favourable to concentrate AI chip production in fewer locations and/or colocate production with the final destinations (datacenters), which is doable because with total production increasing 3x/yr, every 2 years 90% of the fabs are new fabs. This means they can pretty easily be somewhere else. Consumer compute could be produced elsewhere but the risk of covert project usage of consumer compute should be separately mitigated.": "оцінює, що, оскільки виробництво проходить через невелику кількість суворо контрольованих фабрик, відведення нових чипів можна утримати на рівні приблизно нуля з дуже високою впевненістю, що загальний обсяг становить менше 100 тис. H100e. Щоб зробити це ще надійнішим, може бути вигідно сконцентрувати виробництво ШІ-чипів у меншій кількості локацій та/або розташувати виробництво поруч із кінцевими пунктами призначення (дата-центрами), що є реалістичним, оскільки за зростання загального виробництва в 3 рази на рік кожні 2 роки 90% фабрик — це нові фабрики. Це означає, що їх цілком можна розмістити деінде. Споживчі обчислювальні потужності можна виробляти в інших місцях, але ризик використання споживчих потужностей у таємних проєктах слід окремо пом'якшувати.", "Limit consumer compute that could be used in covert projects.": "Обмежити споживчі обчислювальні потужності, які можна було б використати в таємних проєктах.", "Consumer compute will likely include some AI-relevant compute by 2029 (e.g., hobbyists with powerful gaming GPUs, self-driving car chips), and mostly non-AI relevant chips with low effectiveness in AI workloads but which are nonetheless very numerous.": "До 2029 року споживчі обчислювальні потужності, ймовірно, включатимуть певну кількість релевантних для ШІ потужностей (наприклад, ентузіасти з потужними ігровими GPU, чипи автопілотів), а також переважно нерелевантні для ШІ чипи з низькою ефективністю для ШІ-навантажень, яких, тим не менш, дуже багато.", " This should be tested more precisely at the time for its usefulness in frontier AI workloads. If its usefulness is found to be high, then it needs to be avoided that large quantities of consumer compute could be rounded up and used in a covert project. Surveillance (i.e., reporting requirements and spot checks) should be an extreme last resort, instead there could be a voluntary buy back program, and a cap & trade on the total production of new unverified consumer compute. Ideally, this would lead to innovation about doing ‘edge verification’ (e.g., robust fixed set hardware mechanisms), to avoid the permit costs.": " Це слід точніше протестувати в потрібний момент на предмет корисності для передових ШІ-навантажень. Якщо виявиться, що корисність висока, треба уникати ситуації, коли великі обсяги споживчих обчислювальних потужностей можна було б зібрати й використати в таємному проєкті. Спостереження (тобто вимоги звітності та вибіркові перевірки) має бути крайнім останнім заходом; натомість можна запровадити добровільну програму викупу та обмеження й торгівлю квотами (cap & trade) на загальне виробництво нових неверифікованих споживчих потужностей. В ідеалі це підштовхнуло б до інновацій у сфері «периферійної верифікації» (наприклад, надійних апаратних механізмів фіксованого набору), щоб уникнути витрат на дозволи.", "This should be tested more precisely at the time for its usefulness in frontier AI workloads. If its usefulness is found to be high, then it needs to be avoided that large quantities of consumer compute could be rounded up and used in a covert project. Surveillance (i.e., reporting requirements and spot checks) should be an extreme last resort, instead there could be a voluntary buy back program, and a cap & trade on the total production of new unverified consumer compute. Ideally, this would lead to innovation about doing ‘edge verification’ (e.g., robust fixed set hardware mechanisms), to avoid the permit costs.": "Це слід точніше протестувати в потрібний момент на предмет корисності для передових ШІ-навантажень. Якщо виявиться, що корисність висока, треба уникати ситуації, коли великі обсяги споживчих обчислювальних потужностей можна було б зібрати й використати в таємному проєкті. Спостереження (тобто вимоги звітності та вибіркові перевірки) має бути крайнім останнім заходом; натомість можна запровадити добровільну програму викупу та обмеження й торгівлю квотами (cap & trade) на загальне виробництво нових неверифікованих споживчих потужностей. В ідеалі це підштовхнуло б до інновацій у сфері «периферійної верифікації» (наприклад, надійних апаратних механізмів фіксованого набору), щоб уникнути витрат на дозволи.", " The cap can be set such that trivially noticeable shares of the consumer compute would need to be diverted to noticeably accelerate a covert project.": " Обмеження можна встановити так, щоб для помітного прискорення таємного проєкту довелося б відвести легко помітну частку споживчих обчислювальних потужностей.", "The cap can be set such that trivially noticeable shares of the consumer compute would need to be diverted to noticeably accelerate a covert project.": "Обмеження можна встановити так, щоб для помітного прискорення таємного проєкту довелося б відвести легко помітну частку споживчих обчислювальних потужностей.", "Favorable directions that differentially help the deal over potential covert projects.": "Сприятливі напрями, що диференційовано допомагають Угоді порівняно з потенційними таємними проєктами.", "AI scaling tradeoffs.": "Компроміси масштабування ШІ.", "One of the core recommendations we make in Plan A is that to the extent capabilities progress is made intentionally, it should be done by scaling hardware (i.e., model size, training compute, data, etc.) rather than software (algorithmic efficiency) where possible, because the latter is harder (and less desirable) to govern (i.e., keep secure from potential covert projects). There are probably ways to push this idea very far as the deal goes on, by pushing to extremely large AI models that would be very difficult to steal, and even if they did would be extremely difficult for a covert project to even run at all on pre-deal compute. Our ": "Одна з ключових рекомендацій, яку ми даємо в Плані А, — якщо прогрес у можливостях досягається навмисно, його слід досягати шляхом масштабування апаратного забезпечення (тобто розміру моделі, обчислювальних потужностей для навчання, даних тощо), а не програмного забезпечення (алгоритмічної ефективності), де це можливо, оскільки останнє складніше (і менш бажано) регулювати (тобто убезпечувати від потенційних таємних проєктів). Імовірно, є способи розвинути цю ідею дуже далеко в міру дії Угоди, рухаючись до надзвичайно великих моделей ШІ, які було б дуже важко викрасти, а навіть якби це вдалося, таємному проєкту було б надзвичайно важко взагалі запустити їх на доугодних обчислювальних потужностях. Наш ", "One of the core recommendations we make in Plan A is that to the extent capabilities progress is made intentionally, it should be done by scaling hardware (i.e., model size, training compute, data, etc.) rather than software (algorithmic efficiency) where possible, because the latter is harder (and less desirable) to govern (i.e., keep secure from potential covert projects). There are probably ways to push this idea very far as the deal goes on, by pushing to extremely large AI models that would be very difficult to steal, and even if they did would be extremely difficult for a covert project to even run at all on pre-deal compute. Our": "Одна з ключових рекомендацій, яку ми даємо в Плані А, — якщо прогрес у можливостях досягається навмисно, його слід досягати шляхом масштабування апаратного забезпечення (тобто розміру моделі, обчислювальних потужностей для навчання, даних тощо), а не програмного забезпечення (алгоритмічної ефективності), де це можливо, оскільки останнє складніше (і менш бажано) регулювати (тобто убезпечувати від потенційних таємних проєктів). Імовірно, є способи розвинути цю ідею дуже далеко в міру дії Угоди, рухаючись до надзвичайно великих моделей ШІ, які було б дуже важко викрасти, а навіть якби це вдалося, таємному проєкту було б надзвичайно важко взагалі запустити їх на доугодних обчислювальних потужностях. Наш", " estimates that a median of around two thirds of Consortium software progress leaks to covert projects, and quantifies how hardware-leaning scaling strategies reduce ": " оцінює, що в середньому близько двох третин програмного прогресу Консорціуму просочується в таємні проєкти, і кількісно визначає, як стратегії масштабування, орієнтовані на апаратне забезпечення, зменшують ", "estimates that a median of around two thirds of Consortium software progress leaks to covert projects, and quantifies how hardware-leaning scaling strategies reduce": "оцінює, що в середньому близько двох третин програмного прогресу Консорціуму просочується в таємні проєкти, і кількісно визначає, як стратегії масштабування, орієнтовані на апаратне забезпечення, зменшують", "covert project risk": "ризик таємних проєктів", "Hardware-software co-design.": "Спільний дизайн апаратного та програмного забезпечення.", "If it proves technically possible, transition to new AI algorithms that run poorly on pre-deal compute but well on newly designed and manufactured post-deal compute. For instance, introduce new model architectures and number formats different from those for which pre-deal compute was optimized. This way, covert projects cannot easily steal algorithms from the Consortium and run them on mostly pre-deal dark compute.": "Якщо це виявиться технічно можливим, перейти на нові алгоритми ШІ, які погано працюють на доугодних обчислювальних потужностях, але добре — на новоспроєктованих і вироблених післяугодних. Наприклад, впровадити нові архітектури моделей і числові формати, відмінні від тих, під які були оптимізовані доугодні потужності. Таким чином таємні проєкти не зможуть легко вкрасти алгоритми в Консорціуму й запустити їх переважно на доугодних тіньових обчислювальних потужностях.", "In our Plan A scenario, we follow the high level verification plan sketched out in the previous section. This part of the verification supplement will walk through the implementation and verification story with more concrete detail. Because it is a scenario about the future, in a very young field with ongoing R&D, we are not confident in the specific details. That being said, we hope to establish a useful concrete baseline for how the verification plan we sketched out above could actually be implemented.": "У нашому сценарії Плану А ми дотримуємося плану верифікації високого рівня, окресленого в попередньому розділі. Ця частина додатка про верифікацію докладніше розгляне історію впровадження та верифікації. Оскільки це сценарій про майбутнє в дуже молодій галузі з триваючими R&D, ми не впевнені в конкретних деталях. Тим не менш, ми сподіваємося закласти корисну конкретну базову лінію того, як план верифікації, окреслений вище, міг би бути реалізований на практиці.", "2026-2028: Preparing deal optionality": "2026–2028: Підготовка можливості укладення Угоди", "2026: Chip tracking begins": "2026: Починається відстеження чипів", "The intelligence agencies in the US begin internally keeping tabs on AI compute smuggling into China, and their domestic production levels, reaching a 10% uncertainty over how much AI compute Chinese entities own in total by the end of the year. They don’t do anything with this information yet (i.e., they don’t share smuggling information with the BIS). China learns that the US intelligence community is doing this, and begins doing it as well by leveraging existing assets mostly out of TSMC in Taiwan to get accurate counts and records of total production. They reach 10% uncertainty on US total AI compute, mostly due to uncertainty over pre-existing compute and production outside of Taiwan (e.g., South Korea and the US). Uncertainty over new compute production is much lower (on the order of 1%).": "Розвідувальні служби США починають внутрішньо відстежувати контрабанду обчислювальних потужностей ШІ до Китаю та рівні їхнього внутрішнього виробництва, досягаючи до кінця року 10-відсоткової невизначеності щодо загального обсягу обчислювальних потужностей ШІ, якими володіють китайські суб'єкти. Наразі вони нічого не роблять із цією інформацією (тобто не діляться даними про контрабанду з BIS). Китай дізнається, що розвідувальна спільнота США цим займається, і теж починає це робити, використовуючи наявні активи переважно з TSMC на Тайвані, щоб отримати точні підрахунки й записи загального виробництва. Вони досягають 10-відсоткової невизначеності щодо загальних обчислювальних потужностей ШІ США, переважно через невизначеність щодо вже наявних потужностей і виробництва поза межами Тайваню (наприклад, у Південній Кореї та США). Невизначеність щодо нового виробництва потужностей значно нижча (порядку 1%).", "2027: Verification R&D gets funding": "2027: Дослідження та розробки з верифікації отримують фінансування", "The US executive branch starts expressing interest in deal optionality and verification measures that could enable this. After a series of ": "Виконавча влада США починає виявляти зацікавленість у можливості укладення Угоди та заходах верифікації, які могли б це уможливити. Після серії ", "The US executive branch starts expressing interest in deal optionality and verification measures that could enable this. After a series of": "Виконавча влада США починає виявляти зацікавленість у можливості укладення Угоди та заходах верифікації, які могли б це уможливити. Після серії", "RFIs": "запитів на інформацію (RFI)", " they choose to focus efforts on a network-tap and recomputation centered approach for an inference-only retrofitting solution. The prospect of installing devices in each other’s datacenters raises initial alarm bells but it's a tractable security problem to work on. Ultimately due to the sheer simplicity of some of the possible network tap designs (essentially a piece of glass splitting optical signals), and parallel investment into various physical security agendas, it becomes a palpable possibility that these taps might actually be worth producing en-masse in case they were to be needed. Unilaterally trusted recomputation servers (that the network taps redirect traffic to and are responsible for actually performing the verification) are more complicated and thus harder to trust by default, but there are large investments made here. The R&D programs are purposely transparent and open sourced to build trust. China also sees the incentive to develop and build their own symmetrical solution in a similarly transparent way. In the latter half of the year, they agree to mutual information sharing about important verification-relevant information which is otherwise not sensitive, especially about each other’s networking and computing paradigms, which is necessary in order to build compatible network taps and recomputation servers.": " вони вирішують зосередити зусилля на підході, орієнтованому на мережеві відводи (network tap) і повторне обчислення, для рішення з дообладнання систем «лише для інференсу». Перспектива встановлення пристроїв у дата-центрах одне одного спершу викликає тривогу, але це розв'язна проблема безпеки, над якою можна працювати. Зрештою, завдяки надзвичайній простоті деяких можливих конструкцій мережевих відводів (по суті — шматок скла, що розщеплює оптичні сигнали), а також паралельним інвестиціям у різні програми фізичної безпеки, стає відчутно можливим, що ці відводи справді варто виробляти масово на випадок потреби. Односторонньо довірені сервери повторного обчислення (на які мережеві відводи перенаправляють трафік і які фактично відповідають за виконання верифікації) складніші, тож їм за замовчуванням важче довіряти, але сюди вкладаються великі інвестиції. Програми R&D навмисно зроблені прозорими та відкритими, щоб побудувати довіру. Китай також бачить стимул розробити й побудувати власне симетричне рішення в подібно прозорий спосіб. У другій половині року вони погоджуються на взаємний обмін важливою для верифікації інформацією, яка інакше не є чутливою, особливо щодо мережевих і обчислювальних парадигм одне одного, що необхідно для побудови сумісних мережевих відводів і серверів повторного обчислення.", "they choose to focus efforts on a network-tap and recomputation centered approach for an inference-only retrofitting solution. The prospect of installing devices in each other’s datacenters raises initial alarm bells but it's a tractable security problem to work on. Ultimately due to the sheer simplicity of some of the possible network tap designs (essentially a piece of glass splitting optical signals), and parallel investment into various physical security agendas, it becomes a palpable possibility that these taps might actually be worth producing en-masse in case they were to be needed. Unilaterally trusted recomputation servers (that the network taps redirect traffic to and are responsible for actually performing the verification) are more complicated and thus harder to trust by default, but there are large investments made here. The R&D programs are purposely transparent and open sourced to build trust. China also sees the incentive to develop and build their own symmetrical solution in a similarly transparent way. In the latter half of the year, they agree to mutual information sharing about important verification-relevant information which is otherwise not sensitive, especially about each other’s networking and computing paradigms, which is necessary in order to build compatible network taps and recomputation servers.": "вони вирішують зосередити зусилля на підході, орієнтованому на мережеві відводи (network tap) і повторне обчислення, для рішення з дообладнання систем «лише для інференсу». Перспектива встановлення пристроїв у дата-центрах одне одного спершу викликає тривогу, але це розв'язна проблема безпеки, над якою можна працювати. Зрештою, завдяки надзвичайній простоті деяких можливих конструкцій мережевих відводів (по суті — шматок скла, що розщеплює оптичні сигнали), а також паралельним інвестиціям у різні програми фізичної безпеки, стає відчутно можливим, що ці відводи справді варто виробляти масово на випадок потреби. Односторонньо довірені сервери повторного обчислення (на які мережеві відводи перенаправляють трафік і які фактично відповідають за виконання верифікації) складніші, тож їм за замовчуванням важче довіряти, але сюди вкладаються великі інвестиції. Програми R&D навмисно зроблені прозорими та відкритими, щоб побудувати довіру. Китай також бачить стимул розробити й побудувати власне симетричне рішення в подібно прозорий спосіб. У другій половині року вони погоджуються на взаємний обмін важливою для верифікації інформацією, яка інакше не є чутливою, особливо щодо мережевих і обчислювальних парадигм одне одного, що необхідно для побудови сумісних мережевих відводів і серверів повторного обчислення.", " Several pilots from different sources of funding and different places around the world are carried out over the course of the year, improvements to the designs are iterated on, and preparations are made to increase production scales. Ultimately the US and China end up opting for network tap solutions with extremely simple optical splitting designs that have minimal room for any vulnerabilities, rather than some of the more ambitious designs that we propose in the box below, or different ": " Протягом року реалізується кілька пілотних проєктів із різних джерел фінансування та різних куточків світу, вдосконалення конструкцій ітеруються, і ведеться підготовка до збільшення масштабів виробництва. Зрештою США і Китай зупиняються на рішеннях мережевих відводів із надзвичайно простими конструкціями оптичного розщеплення, що залишають мінімум простору для вразливостей, а не на деяких амбітніших конструкціях, які ми пропонуємо у врізці нижче, або на різних ", "Several pilots from different sources of funding and different places around the world are carried out over the course of the year, improvements to the designs are iterated on, and preparations are made to increase production scales. Ultimately the US and China end up opting for network tap solutions with extremely simple optical splitting designs that have minimal room for any vulnerabilities, rather than some of the more ambitious designs that we propose in the box below, or different": "Протягом року реалізується кілька пілотних проєктів із різних джерел фінансування та різних куточків світу, вдосконалення конструкцій ітеруються, і ведеться підготовка до збільшення масштабів виробництва. Зрештою США і Китай зупиняються на рішеннях мережевих відводів із надзвичайно простими конструкціями оптичного розщеплення, що залишають мінімум простору для вразливостей, а не на деяких амбітніших конструкціях, які ми пропонуємо у врізці нижче, або на різних", "cryptographic based-approaches": "підходах на основі криптографії", ", which are more uncertain, but if they work (at sufficiently low cost) they might be even better and easier to trust.": ", які менш визначені, але якщо вони спрацюють (за достатньо низької вартості), можуть виявитися навіть кращими й простішими для довіри.", "Concrete inference-only retrofitting proposal.": "Конкретна пропозиція дообладнання «лише для інференсу».", "Our current best guess is that the US and China should aim for an inference-only solution that uses network taps and a recomputation server. It appears to us to capture the vast majority of the upside in enabling an initial slowdown deal to be highly verified and low economic cost, while being achievable and easy to build. We are less confident in the second part of this, which is why we more confidently recommend RFIs and iteration starting as soon as possible on piloting and iterating on approaches.": "Наразі наша найкраща оцінка полягає в тому, що США і Китаю слід прагнути до рішення «лише для інференсу», яке використовує мережеві відводи та сервер повторного обчислення. На нашу думку, воно охоплює переважну більшість вигоди, забезпечуючи початковій угоді про сповільнення високий рівень верифікації та низьку економічну вартість, будучи при цьому досяжним і простим у побудові. Ми менш впевнені в другій частині цього твердження, тому впевненіше рекомендуємо якнайшвидше почати запити на інформацію (RFI) та ітеративне пілотування й доопрацювання підходів.", "Summary of the proposal:": "Стислий виклад пропозиції:", "Convert datacenters into groups of isolated inference-units by removing (a significant amount of) backend networking (also known as east-west networking).": "Перетворити дата-центри на групи ізольованих інференс-юнітів шляхом усунення (значної частини) бекенд-мережевої взаємодії (також відомої як east-west networking).", "Currently AI servers in a datacenter have a lot of high bandwidth communication between them, but this is (mostly) only necessary for training, and with some relatively small overhead (e.g., reorganizing user memory storage), large scale inference should be able to use drastically less scale-out interconnect. Removing it is a significant defense in depth measure for making it harder to use the cluster for large training runs.": "Наразі ШІ-сервери в дата-центрі мають між собою багато високопропускної комунікації, але вона (здебільшого) потрібна лише для навчання, і з відносно невеликими накладними витратами (наприклад, реорганізацією зберігання пам'яті користувачів) масштабний інференс має бути здатний обходитися значно меншим обсягом мережевого з'єднання масштабування. Усунення цього — важливий захід ешелонованої оборони, що ускладнює використання кластера для великих прогонів навчання.", "Add in simple, ": "Додати прості ", "Add in simple,": "Додати прості", "passive network taps": "пасивні мережеві відводи", " on the frontend network (also known as north-south networking) that redirect copies of all input/output traffic to a recomputation server.": " у фронтенд-мережі (також відомій як north-south networking), які перенаправляють копії всього вхідного/вихідного трафіку на сервер повторного обчислення.", "on the frontend network (also known as north-south networking) that redirect copies of all input/output traffic to a recomputation server.": "у фронтенд-мережі (також відомій як north-south networking), які перенаправляють копії всього вхідного/вихідного трафіку на сервер повторного обчислення.", "These network taps on frontend networks have multiple possible implementations. We currently think they should probably be completely passive and split optical signals into two because this is probably easiest to trust. Separately there should be a path from the storage bank back to the inference units.": "Ці мережеві відводи у фронтенд-мережах можуть мати кілька варіантів реалізації. Наразі ми вважаємо, що вони, ймовірно, мають бути повністю пасивними й розщеплювати оптичні сигнали надвоє, оскільки це, ймовірно, найпростіше для довіри. Окремо має існувати шлях від банку сховища назад до інференс-юнітів.", "Force all AI workloads (inference, agentic tool use, etc.) to be organized in discrete and reproducible packets, which are transparent to the recomputation server (because they pass through the network taps).": "Змусити всі ШІ-навантаження (інференс, використання інструментів агентами тощо) бути організованими в дискретні й відтворювані пакети, прозорі для сервера повторного обчислення (оскільки вони проходять через мережеві відводи).", "Reproducibility is required to enable correctness proofs on the packets. By default, inference workloads are not necessarily ": "Відтворюваність необхідна, щоб уможливити докази коректності пакетів. За замовчуванням інференс-навантаження не обов'язково ", "Reproducibility is required to enable correctness proofs on the packets. By default, inference workloads are not necessarily": "Відтворюваність необхідна, щоб уможливити докази коректності пакетів. За замовчуванням інференс-навантаження не обов'язково", "reproducible": "відтворювані", ". Achieving reproducibility may involve some cost overhead in order to maintain reproducibility but we think it is a solvable problem (see ": ". Досягнення відтворюваності може передбачати певні додаткові витрати задля її підтримки, але ми вважаємо, що це розв'язна проблема (див. ", ". Achieving reproducibility may involve some cost overhead in order to maintain reproducibility but we think it is a solvable problem (see": ". Досягнення відтворюваності може передбачати певні додаткові витрати задля її підтримки, але ми вважаємо, що це розв'язна проблема (див.", " for example of work in this direction).": " як приклад роботи в цьому напрямі).", "for example of work in this direction).": "як приклад роботи в цьому напрямі).", "Perform partial recomputation (random samples of the packets) on the recomputation server to check the correctness of the packets.": "Виконувати часткове повторне обчислення (випадкових вибірок пакетів) на сервері повторного обчислення для перевірки коректності пакетів.", "The integrity of the recomputation server is an extremely important aspect of this step, but assuming its computations and outputs can be trusted, then partial recomputation through random sampling should scale extremely favourably to verify the correctness of all the outputs with extremely high probability while only using a small fraction of the original compute. See calculations in the ": "Цілісність сервера повторного обчислення — надзвичайно важливий аспект цього кроку, але за умови, що його обчисленням і результатам можна довіряти, часткове повторне обчислення через випадкову вибірку має масштабуватися надзвичайно вигідно, дозволяючи перевірити коректність усіх результатів з надзвичайно високою ймовірністю, використовуючи лише невелику частку початкових обчислювальних потужностей. Див. розрахунки в ", "The integrity of the recomputation server is an extremely important aspect of this step, but assuming its computations and outputs can be trusted, then partial recomputation through random sampling should scale extremely favourably to verify the correctness of all the outputs with extremely high probability while only using a small fraction of the original compute. See calculations in the": "Цілісність сервера повторного обчислення — надзвичайно важливий аспект цього кроку, але за умови, що його обчисленням і результатам можна довіряти, часткове повторне обчислення через випадкову вибірку має масштабуватися надзвичайно вигідно, дозволяючи перевірити коректність усіх результатів з надзвичайно високою ймовірністю, використовуючи лише невелику частку початкових обчислювальних потужностей. Див. розрахунки в", "Have strong physical security properties to help ensure integrity of the verification measures from e.g., tampering attacks": "Мати надійні властивості фізичної безпеки, що допомагають забезпечити цілісність заходів верифікації, наприклад, від атак із втручанням", "The integrity of the verification process requires there to be sufficient physical security measures to avoid tampering, and other attacks that could subvert the verification process.": "Цілісність процесу верифікації вимагає достатніх заходів фізичної безпеки, щоб уникнути втручання та інших атак, які могли б підірвати процес верифікації.", "Verify completeness by ": "Перевіряти повноту шляхом ", "Verify completeness by": "Перевіряти повноту шляхом", "bounding the maximum side channel communication": "обмеження максимальної комунікації через побічні канали", ", and using periodic memory wipes (probably through forced memorization).": ", та використання періодичного очищення пам'яті (ймовірно, через примусову мемоізацію).", "The completeness of this verification proposal, i.e., that the only outputs from the cluster are verified inference tokens, requires side channel mitigations and memory wiping as described. We do not verify that spare compute isn’t used for unapproved workloads (because this seems very challenging) but try to ensure that the only persisting results in the form of outputs are verified inference outputs. This requires strong side channel mitigations and periodic memory wiping on the inference units (which we think can be done through forced memorization).": "Повнота цієї пропозиції верифікації, тобто те, що єдиними результатами роботи кластера є верифіковані інференс-токени, вимагає описаних пом'якшень щодо побічних каналів і очищення пам'яті. Ми не перевіряємо, що вільні обчислювальні потужності не використовуються для несхвалених навантажень (оскільки це видається дуже складним), але намагаємося гарантувати, що єдиними результатами, які зберігаються, є верифіковані результати інференсу. Це вимагає надійних заходів пом'якшення побічних каналів і періодичного очищення пам'яті на інференс-юнітах (що, на нашу думку, можна здійснити через примусову мемоізацію).", "One potential upgrade to this proposal would be to build more complex ‘secure network gateways’ that have more functionality than the network taps, and do random sampling and organize and randomly sample the logs of reproduction packets to send to the recomputation server in a robust way.": "Одним із можливих вдосконалень цієї пропозиції могла б стати побудова складніших «захищених мережевих шлюзів» з більшою функціональністю, ніж у мережевих відводів, які виконують випадкову вибірку та надійно організовують і випадково відбирають журнали відтворюваних пакетів для надсилання на сервер повторного обчислення.", "A rough sketch for what these secure network gateways might look like. There are data path directions (input and output) with network splitters on each path that log data flow to be organized into packets that are randomly sampled and then sent to a secure recomputing server. In a boot phase, these gateways can additionally check that exclusively whitelisted model weights are being uploaded to the inference unit. Some of the hardware security properties you might want for these gateways are precedented, for example, see ": "Приблизний ескіз того, як могли б виглядати ці захищені мережеві шлюзи. Є напрями шляхів даних (вхідний і вихідний) із мережевими розгалужувачами на кожному шляху, що фіксують потік даних для організації в пакети, які випадково відбираються, а потім надсилаються на захищений сервер повторного обчислення. На етапі завантаження ці шлюзи можуть додатково перевіряти, що на інференс-юніт завантажуються виключно ваги моделей із білого списку. Деякі властивості апаратної безпеки, які можна було б бажати для цих шлюзів, вже мають прецеденти, наприклад, див. ", "A rough sketch for what these secure network gateways might look like. There are data path directions (input and output) with network splitters on each path that log data flow to be organized into packets that are randomly sampled and then sent to a secure recomputing server. In a boot phase, these gateways can additionally check that exclusively whitelisted model weights are being uploaded to the inference unit. Some of the hardware security properties you might want for these gateways are precedented, for example, see": "Приблизний ескіз того, як могли б виглядати ці захищені мережеві шлюзи. Є напрями шляхів даних (вхідний і вихідний) із мережевими розгалужувачами на кожному шляху, що фіксують потік даних для організації в пакети, які випадково відбираються, а потім надсилаються на захищений сервер повторного обчислення. На етапі завантаження ці шлюзи можуть додатково перевіряти, що на інференс-юніт завантажуються виключно ваги моделей із білого списку. Деякі властивості апаратної безпеки, які можна було б бажати для цих шлюзів, вже мають прецеденти, наприклад, див.", "iPhone secure enclaves": "захищені анклави iPhone", "PUFs": "фізично неклоновані функції (PUF)", "These could be used in place of the network taps in a similar setup as before.": "Їх можна було б використовувати замість мережевих відводів у подібній схемі, як і раніше.", "On top of this key effort to build the network-tap and recomputation centered approach, there is also significant funding (order of $100M) mobilized into R&D for other approaches, including software-only and cryptography-centric (e.g., ": "Крім цих ключових зусиль з побудови підходу, орієнтованого на мережеві відводи та повторне обчислення, також мобілізується значне фінансування (порядку 100 млн доларів) на R&D інших підходів, зокрема суто програмних і орієнтованих на криптографію (наприклад, ", "On top of this key effort to build the network-tap and recomputation centered approach, there is also significant funding (order of $100M) mobilized into R&D for other approaches, including software-only and cryptography-centric (e.g.,": "Крім цих ключових зусиль з побудови підходу, орієнтованого на мережеві відводи та повторне обчислення, також мобілізується значне фінансування (порядку 100 млн доларів) на R&D інших підходів, зокрема суто програмних і орієнтованих на криптографію (наприклад,", "ZKPs": "докази з нульовим розголошенням (ZKP)", ") approaches, and a similar pool for physical security R&D (order of $100M) that supplements the inference-only retrofitting solution.": ") підходів, а також подібний пул для R&D фізичної безпеки (порядку 100 млн доларів), що доповнює рішення з дообладнання «лише для інференсу».", "Other promising verification directions.": "Інші перспективні напрями верифікації.", "Instead of the partial recomputation approach we sketched out, it might be possible to verify inference-only in other ways, e.g.:": "Замість підходу часткового повторного обчислення, який ми окреслили, верифікацію «лише для інференсу» можна було б здійснювати й іншими способами, наприклад:", "Purely cryptographic protocols, e.g., Zero Knowledge Proofs (ZKPs) for AI workloads": "Суто криптографічні протоколи, наприклад докази з нульовим розголошенням (ZKP) для ШІ-навантажень", "This has the promise of being privacy-preserving and potentially requiring less of a hardware retrofit, but is currently somewhat speculative due to the lack of computationally efficient enough algorithms for doing so being discoverable.": "Це обіцяє зберігати приватність і потенційно вимагати меншого апаратного дообладнання, але наразі є дещо гіпотетичним через відсутність достатньо обчислювально ефективних алгоритмів для цього, які можна було б відкрити.", "Memory-challenge based verification": "Верифікація на основі викликів пам'яті", "This has the promise of potentially also not requiring a hardware retrofit, but seems likely to face some difficulties with verifying completeness. Nonetheless it might be viable for an initial deal implementation.": "Це також потенційно обіцяє не вимагати апаратного дообладнання, але, ймовірно, зіткнеться з певними труднощами при перевірці повноти. Тим не менш, це може бути життєздатним для початкової реалізації Угоди.", "Crude hardware modifications.": "Грубі апаратні модифікації.", "Removing major scale out interconnect and e.g., installing some simple sensors and other physical security mechanisms might also suffice for verifying inference-only for an initial phase of a deal (e.g., 1 year) until higher assurance measures are ready for larger amounts of compute and higher stakes workloads.": "Усунення основного мережевого з'єднання масштабування та, наприклад, встановлення простих сенсорів та інших механізмів фізичної безпеки також можуть виявитися достатніми для верифікації «лише для інференсу» на початковому етапі Угоди (наприклад, 1 рік), доки не будуть готові заходи вищого рівня гарантій для більших обсягів обчислювальних потужностей і навантажень із вищими ставками.", "2028: Chip tracking is mature": "2028: Відстеження чипів досягає зрілості", "The intelligence agencies have been keeping close track of new compute production, and have been partially successful in narrowing down their uncertainty over how much AI compute pre-dated their tracking efforts. By the end of the year, China has around 2% uncertainty over the US’ total compute, and the US has around 4% uncertainty over China’s. This means from China’s perspective, they are 80% confident that the US owns somewhere between 222M and 226M H100-equivalents. From the US’ perspective, they are 80% confident that China has somewhere between 25M and 27M H100-equivalents.": "Розвідувальні служби ретельно відстежували нове виробництво обчислювальних потужностей і частково досягли успіху у звуженні невизначеності щодо обсягу обчислювальних потужностей ШІ, що існували до початку їхнього відстеження. До кінця року невизначеність Китаю щодо загальних обчислювальних потужностей США становить близько 2%, а невизначеність США щодо потужностей Китаю — близько 4%. Це означає, що з погляду Китаю вони на 80% впевнені, що США володіють десь між 222 і 226 млн H100-еквівалентів. З погляду США вони на 80% впевнені, що Китай має десь між 25 і 27 млн H100-еквівалентів.", "2029-2030: Deal Implementation": "2029–2030: Реалізація Угоди", "Jan 2029": "Січ. 2029", "Jan 2030": "Січ. 2030", "Jan 2031": "Січ. 2031", "Apr": "Кві.", "Jul": "Лип.", "Oct": "Жов.", "Mutual chip": "Взаємна", "declaration": "декларація чипів", "R&D pause begins": "Починається пауза в R&D", "SL5 datacenter": "Починається будівництво", "construction begins": "SL5 дата-центру", "Inference-only retrofit": "Дообладнання «лише для інференсу»", "R&D resumes": "R&D відновлюється", "R&D verification rollout": "Розгортання верифікації R&D", "First major": "Перші великі", "training runs": "прогони навчання", "approved": "схвалено", "SL5 inference": "Розгортання SL5", "clusters rollout": "інференс-кластерів", "First generation of post-": "Перше покоління", "deal models released": "післяугодних моделей випущено", "Mature safety case": "Зрілі правила на основі", "based R&D rules": "safety case для R&D", "Deal Implementation Timeline (detailed)": "Хронологія реалізації Угоди (детально)", "Jan 2029: Mutual Chip Declaration and Inspection": "Січень 2029: Взаємна декларація й перевірка чипів", "Within a week of starting Plan A negotiations, the US and China have carried out a compute declaration and supply chain record audit, allowing each other to send a few hundred people into each other’s countries to inspect and audit records. This lets them reduce their already relatively small uncertainties over each other’s compute. Each side’s best guess is now that the other could have hidden at most around 1.5M H100e from the declaration (with the 80% CI reaching about 4M), which is about 4% of the leading AI company’s R&D compute and about 0.5% of total world compute. For our estimates and reasoning on how much compute a covert project could probably hide see the ": "Протягом тижня після початку перемовин щодо Плану А США і Китай проводять декларацію обчислювальних потужностей і аудит записів ланцюга постачання, дозволяючи одне одному направити кілька сотень людей у країни одне одного для перевірки й аудиту записів. Це дозволяє їм зменшити й без того відносно невелику невизначеність щодо потужностей одне одного. Найкраща оцінка кожної зі сторін тепер полягає в тому, що інша сторона могла приховати від декларації щонайбільше близько 1,5 млн H100e (з 80%-м довірчим інтервалом до близько 4 млн), що становить близько 4% R&D-потужностей провідної ШІ-компанії та близько 0,5% загальних світових обчислювальних потужностей. Наші оцінки та міркування щодо того, скільки обчислювальних потужностей міг би приховати таємний проєкт, див. у ", "Within a week of starting Plan A negotiations, the US and China have carried out a compute declaration and supply chain record audit, allowing each other to send a few hundred people into each other’s countries to inspect and audit records. This lets them reduce their already relatively small uncertainties over each other’s compute. Each side’s best guess is now that the other could have hidden at most around 1.5M H100e from the declaration (with the 80% CI reaching about 4M), which is about 4% of the leading AI company’s R&D compute and about 0.5% of total world compute. For our estimates and reasoning on how much compute a covert project could probably hide see the": "Протягом тижня після початку перемовин щодо Плану А США і Китай проводять декларацію обчислювальних потужностей і аудит записів ланцюга постачання, дозволяючи одне одному направити кілька сотень людей у країни одне одного для перевірки й аудиту записів. Це дозволяє їм зменшити й без того відносно невелику невизначеність щодо потужностей одне одного. Найкраща оцінка кожної зі сторін тепер полягає в тому, що інша сторона могла приховати від декларації щонайбільше близько 1,5 млн H100e (з 80%-м довірчим інтервалом до близько 4 млн), що становить близько 4% R&D-потужностей провідної ШІ-компанії та близько 0,5% загальних світових обчислювальних потужностей. Наші оцінки та міркування щодо того, скільки обчислювальних потужностей міг би приховати таємний проєкт, див. у", "declared": "задекларовано", "plausibly undeclared": "правдоподібно незадекларовано", "1 square = ": "1 квадрат = ", "1 square =": "1 квадрат =", "Chip declaration result": "Результат декларації чипів", "More detail on the suggested interventions by cluster size bucket below:": "Детальніше про запропоновані заходи за категоріями розміру кластера — нижче:", "Cluster size": "Розмір кластера", "Medium and Large datacenters (>10K H100e, ~$100M)": "Середні й великі дата-центри (>10 тис. H100e, ~100 млн дол.)", "Immediate intervention": "Негайний захід", "Estimated compute in this category in Jan 2029 as % of global AI datacenter compute": "Оцінені обчислювальні потужності цієї категорії станом на січень 2029 р. у % від світових потужностей ШІ-дата-центрів", "Small datacenters and diffused AI compute": "Малі дата-центри та розпорошені обчислювальні потужності ШІ", "Reporting requirements for anything above an A100 in AI performance. Random spot checks.": "Вимоги звітності для всього, що перевищує A100 за продуктивністю ШІ. Вибіркові перевірки.", "Non-AI compute (e.g., iPhones) with unclear AI usefulness": "Не-ШІ обчислювальні потужності (наприклад, iPhone) з неясною корисністю для ШІ", "Intelligence to look for efforts to gather up massive quantities of consumer compute.": "Розвідка для виявлення спроб зібрати масові обсяги споживчих обчислювальних потужностей.", "0.1-10%? Depends on uncertain AI-usefulness adjustments.": "0,1–10%? Залежить від невизначених коригувань корисності для ШІ.", "The chip declaration also involves keeping extremely close tabs on all new compute production, and any chips above certain performance metrics of AI-relevance need to either be directed to known locations to be included under the verification measures. While lower powered consumer compute production can likely remain unrestricted.": "Декларація чипів також передбачає надзвичайно ретельне відстеження всього нового виробництва обчислювальних потужностей, і будь-які чипи, що перевищують певні показники продуктивності, релевантні для ШІ, мають направлятися у відомі локації для включення в заходи верифікації. Тоді як виробництво менш потужних споживчих обчислювальних потужностей, ймовірно, може лишатися необмеженим.", "Chip flow restrictions.": "Обмеження на потоки чипів.", "The US and China need to minimize the plausible flow of future compute production to illegal projects. This means they need to monitor its manufacturing and guard its transportation. Luckily AI compute manufacturing is highly centralized in few facilities around the world, and this should continue to be the case through 2029. We think it is highly tractable for them to successfully account for 100% of the new AI compute production (along with critical components like high performance AI memory and networking); our ": "США і Китаю необхідно мінімізувати правдоподібний потік майбутнього виробництва обчислювальних потужностей у нелегальні проєкти. Це означає, що їм потрібно контролювати виробництво й охороняти транспортування. На щастя, виробництво обчислювальних потужностей ШІ дуже централізоване в невеликій кількості об'єктів по всьому світу, і це, ймовірно, залишатиметься так до 2029 року. Ми вважаємо цілком реалістичним для них успішно врахувати 100% нового виробництва обчислювальних потужностей ШІ (разом із критичними компонентами, як-от високопродуктивна пам'ять і мережеве обладнання для ШІ); наш ", "The US and China need to minimize the plausible flow of future compute production to illegal projects. This means they need to monitor its manufacturing and guard its transportation. Luckily AI compute manufacturing is highly centralized in few facilities around the world, and this should continue to be the case through 2029. We think it is highly tractable for them to successfully account for 100% of the new AI compute production (along with critical components like high performance AI memory and networking); our": "США і Китаю необхідно мінімізувати правдоподібний потік майбутнього виробництва обчислювальних потужностей у нелегальні проєкти. Це означає, що їм потрібно контролювати виробництво й охороняти транспортування. На щастя, виробництво обчислювальних потужностей ШІ дуже централізоване в невеликій кількості об'єктів по всьому світу, і це, ймовірно, залишатиметься так до 2029 року. Ми вважаємо цілком реалістичним для них успішно врахувати 100% нового виробництва обчислювальних потужностей ШІ (разом із критичними компонентами, як-от високопродуктивна пам'ять і мережеве обладнання для ШІ); наш", " estimates diversion from post-deal production can be kept to approximately zero, with very high confidence that the total is under 100K H100e. We recommend having companies be allowed to direct new compute they purchase to one of two places.": " оцінює, що відведення від післяугодного виробництва можна утримати на рівні приблизно нуля з дуже високою впевненістю, що загальний обсяг становить менше 100 тис. H100e. Ми рекомендуємо дозволити компаніям спрямовувати нові придбані обчислювальні потужності в одне з двох місць.", "estimates diversion from post-deal production can be kept to approximately zero, with very high confidence that the total is under 100K H100e. We recommend having companies be allowed to direct new compute they purchase to one of two places.": "оцінює, що відведення від післяугодного виробництва можна утримати на рівні приблизно нуля з дуже високою впевненістю, що загальний обсяг становить менше 100 тис. H100e. Ми рекомендуємо дозволити компаніям спрямовувати нові придбані обчислювальні потужності в одне з двох місць.", "Existing datacenters / ongoing datacenter builds: compute directed here will only be allowed to do inference once the inference-only retrofit is complete.": "Наявні дата-центри / поточні будівництва дата-центрів: обчислювальні потужності, спрямовані сюди, зможуть виконувати лише інференс після завершення дообладнання «лише для інференсу».", "Temporary, mutual cold storage holding facilities: compute directed here will be guarded until it is able to be set up for R&D (training and experiments) once new secure, mutually verified R&D clusters are set up.": "Тимчасові взаємні об'єкти холодного зберігання: обчислювальні потужності, спрямовані сюди, охоронятимуться, доки їх не можна буде налаштувати для R&D (навчання та експериментів) після створення нових захищених, взаємно верифікованих R&D-кластерів.", "Tier 0: Unrestricted": "Рівень 0: Необмежено", "consumer": "споживчі", "Tier 1: Subject to deal": "Рівень 1: Підпадає під Угоду", "inference-only or cold storage": "лише інференс або холодне сховище", "iPhone 16 Pro Max": "iPhone 16 Pro Max", "Tesla HW3": "Tesla HW3", "DGX Spark": "DGX Spark", "M4 Max MacBook": "M4 Max MacBook", "RTX 5090": "RTX 5090", "H100 (PCIe)": "H100 (PCIe)", "DGX 8×H100": "DGX 8×H100", "GB200 NVL72": "GB200 NVL72", "0.1 GB/s": "0,1 ГБ/с", "1 TB/s": "1 ТБ/с", "10 TB/s": "10 ТБ/с", "Cross-Chip Interconnect Speed (GB/s)": "Швидкість міжчипового з'єднання (ГБ/с)", "Compute (H100e)": "Обчислювальні потужності (H100e)", "tier 1 above 10 TB (scale-up)": "рівень 1 понад 10 ТБ (scale-up)", "8 GB": "8 ГБ", "128 GB": "128 ГБ", "13 TB": "13 ТБ", "tier 1 above HBM2 (~1.5 TB/s)": "рівень 1 понад HBM2 (~1,5 ТБ/с)", "≥ ~1.5 TB/s (HBM-class)": "≥ ~1,5 ТБ/с (клас HBM)", "below ~1.5 TB/s": "нижче ~1,5 ТБ/с", "Chip Flow Restrictions, 2029": "Обмеження на потоки чипів, 2029", "At first, we propose that any chip with low enough interconnect, compute, memory and bandwidth can be produced unrestricted. Then by 2032, we tentatively propose a cap, with a slight alleviation of the compute threshold (to give room for more consumer applications that might require higher edge compute) and a tightening of the interconnect threshold (to hopefully lower their potential usefulness in a covert project if diverted). More on this in the ": "Спочатку ми пропонуємо, щоб будь-який чип із достатньо низькими показниками міжчипового з'єднання, обчислювальних потужностей, пам'яті та пропускної здатності можна було виробляти без обмежень. Потім до 2032 року ми попередньо пропонуємо запровадити обмеження з невеликим послабленням порогу обчислювальних потужностей (щоб дати простір для більшої кількості споживчих застосувань, які можуть вимагати вищих периферійних обчислювальних потужностей) і посиленням порогу міжчипового з'єднання (щоб, сподіваємося, знизити їхню потенційну корисність у таємному проєкті в разі відведення). Детальніше про це в ", "At first, we propose that any chip with low enough interconnect, compute, memory and bandwidth can be produced unrestricted. Then by 2032, we tentatively propose a cap, with a slight alleviation of the compute threshold (to give room for more consumer applications that might require higher edge compute) and a tightening of the interconnect threshold (to hopefully lower their potential usefulness in a covert project if diverted). More on this in the": "Спочатку ми пропонуємо, щоб будь-який чип із достатньо низькими показниками міжчипового з'єднання, обчислювальних потужностей, пам'яті та пропускної здатності можна було виробляти без обмежень. Потім до 2032 року ми попередньо пропонуємо запровадити обмеження з невеликим послабленням порогу обчислювальних потужностей (щоб дати простір для більшої кількості споживчих застосувань, які можуть вимагати вищих периферійних обчислювальних потужностей) і посиленням порогу міжчипового з'єднання (щоб, сподіваємося, знизити їхню потенційну корисність у таємному проєкті в разі відведення). Детальніше про це в", "2032 section": "розділі про 2032 рік", "Feb 2029: Inference-only retrofit begins": "Лютий 2029: Починається дообладнання «лише для інференсу»", "After the US and China have carried out the compute declaration and inspection, and are relatively confident that they know about the vast majority of each other’s compute, they handshake on a brief AI R&D moratorium and announce it to the world. AI companies are supposed to stop doing R&D immediately for now, including pausing in-process training runs. While they roll out the inference-only verification solution to each other’s largest datacenters, they agree to a 100% power-off of small clusters (anything under 10K H100e, because it will take a while to get to retrofitting these) and a 80% power-off of all larger datacenters because only around 20% of the compute should be sufficient to keep all AI products and services running properly, simply at slightly reduced rates. This limits the extent to which anyone can defect and make differential gains while the deal is being set up and then just going back to racing from a better position than they were in before.": "Після того як США і Китай провели декларацію та перевірку обчислювальних потужностей і відносно впевнені, що знають про переважну більшість потужностей одне одного, вони домовляються про короткий мораторій на AI R&D і оголошують про це світові. ШІ-компанії мають негайно призупинити R&D, зокрема поставити на паузу прогони навчання, що вже виконуються. Поки триває розгортання рішення верифікації «лише для інференсу» у найбільших дата-центрах одне одного, вони погоджуються на 100-відсоткове вимкнення малих кластерів (усе, що менше 10 тис. H100e, оскільки їх дообладнання потребує часу) і 80-відсоткове вимкнення всіх більших дата-центрів, оскільки лише близько 20% потужностей має бути достатньо, щоб усі ШІ-продукти й сервіси продовжували коректно працювати, просто з дещо зниженою швидкістю. Це обмежує можливість будь-кого порушити Угоду й здобути диференційну перевагу, поки Угода встановлюється, а потім просто повернутися до гонки з кращої позиції, ніж була раніше.", "The US has about 95% of its compute in around 200,000 total AI server racks (with just over 1K H100e per server rack on average), and China has about 95% of its compute in 100,000 AI server racks (with about 250 H100e per server rack on average).": "У США близько 95% обчислювальних потужностей зосереджено приблизно в 200 000 серверних стійок ШІ (у середньому трохи більше 1 тис. H100e на стійку), а в Китаю близько 95% потужностей — у 100 000 серверних стійок ШІ (у середньому близько 250 H100e на стійку).", "Luckily the US has a stock of around 10,000 network taps and 100 (unilaterally) trusted recomputation servers. China has a stock of around 20,000 taps and 200 servers, and they can each purchase another 10,000 per month from various third parties. As a result of China having less compute, the US can retrofit China’s compute faster, but they agree to a proportional retrofitting schedule determined by China’s achievable pace, which is retrofitting 40% of the US compute into inference units of 4 server racks (or 4K H100e) with their existing stock of network taps in 1 month. So they will both follow this pace, and then ramp up to 80% by the 3 month mark and then to >95% and/or smaller inference-units beyond that.": "На щастя, у США є запас приблизно 10 000 мережевих відводів і 100 (односторонньо) довірених серверів повторного обчислення. У Китаю — запас приблизно 20 000 відводів і 200 серверів, і кожна сторона може щомісяця докуповувати ще по 10 000 у різних третіх постачальників. Оскільки в Китаю менше обчислювальних потужностей, США можуть дообладнати китайські потужності швидше, але вони погоджуються на пропорційний графік дообладнання, визначений досяжним темпом Китаю, — це дообладнання 40% потужностей США в інференс-юніти по 4 серверні стійки (або 4 тис. H100e) наявним запасом мережевих відводів за 1 місяць. Отже, обидві сторони дотримуватимуться цього темпу, а потім нарощуватимуть його до 80% до позначки в 3 місяці, а надалі — до >95% та/або менших інференс-юнітів.", "March 2029: R&D cluster construction begins": "Березень 2029: Починається будівництво R&D-кластерів", "While the inference-only retrofit is being carried out, the US and China then agree on the high level regulatory plan and transparency regime they will be aiming for (some of the options are highlighted in our ": "Поки триває дообладнання «лише для інференсу», США і Китай узгоджують регуляторний план високого рівня та режим прозорості, до якого прагнутимуть (деякі варіанти висвітлено в нашому ", "While the inference-only retrofit is being carried out, the US and China then agree on the high level regulatory plan and transparency regime they will be aiming for (some of the options are highlighted in our": "Поки триває дообладнання «лише для інференсу», США і Китай узгоджують регуляторний план високого рівня та режим прозорості, до якого прагнутимуть (деякі варіанти висвітлено в нашому", "). Given the relatively small perceived risk from illegal projects and various other considerations, they decide to aim for the Total Research Transparency approach. This involves setting up R&D datacenters with SL5 model weights security and SL5 verification integrity. They want these to not be defendable so that it's difficult to try to pull out of the deal and start racing again using these new R&D clusters, so they aim for mutual deterrence by locating the US R&D clusters in Mongolia and the Chinese ones in Canada. The US has guards at their Mongolia cluster that have robust ‘scorched earth’ mechanisms to destroy the compute if China or someone else tries to seize it, and symmetrical measures are in place for the Chinese compute in Canada. They get started on these infrastructure projects immediately in March with high urgency, aiming to have a small amount of capacity online within 6 months so that a verified R&D pilot can start. The verification approach they plan to follow is similar to the inference verification approach, with network taps being used as evidence collection, and partial recomputation being used to verify correctness of the packets that make up the workload.": "). З огляду на відносно невеликий сприйманий ризик з боку нелегальних проєктів і різні інші міркування, вони вирішують орієнтуватися на підхід Повної дослідницької прозорості. Це передбачає створення R&D-дата-центрів з рівнем безпеки ваг моделей SL5 і цілісністю верифікації SL5. Вони прагнуть, щоб ці кластери не можна було захистити, щоб було складно спробувати вийти з Угоди й знову почати гонку, використовуючи ці нові R&D-кластери, тому орієнтуються на взаємне стримування, розмістивши R&D-кластери США в Монголії, а китайські — в Канаді. У США на їхньому кластері в Монголії є охорона з надійними механізмами «випаленої землі» для знищення обчислювальних потужностей, якщо Китай чи хтось інший спробує їх захопити, і симетричні заходи діють для китайських потужностей у Канаді. Вони негайно й з високою терміновістю розпочинають ці інфраструктурні проєкти в березні, прагнучи вивести невелику кількість потужностей в експлуатацію протягом 6 місяців, щоб можна було почати верифікований R&D-пілот. Підхід до верифікації, якого вони планують дотримуватися, подібний до підходу верифікації інференсу: мережеві відводи використовуються для збору доказів, а часткове повторне обчислення — для перевірки коректності пакетів, що складають навантаження.", "April - May 2029: Third party countries begin joining the deal": "Квітень – травень 2029: Треті країни починають приєднуватися до Угоди", "Starting in April and through the rest of 2029, most of the richest 20 countries in the world, and important semiconductor supply chain countries join the deal by doing a compute declaration and allowing the inference-only retrofitting to their datacenters, including: Germany, Japan, UK, India, France, Brazil, Canada, Mexico, Italy, Australia, South Korea, Spain, UAE, Saudi Arabia, Taiwan, Netherlands, Switzerland.": "Починаючи з квітня і протягом решти 2029 року більшість із 20 найбагатших країн світу, а також важливі країни ланцюга постачання напівпровідників приєднуються до Угоди, проводячи декларацію обчислювальних потужностей і дозволяючи дообладнання «лише для інференсу» у своїх дата-центрах, зокрема: Німеччина, Японія, Велика Британія, Індія, Франція, Бразилія, Канада, Мексика, Італія, Австралія, Південна Корея, Іспанія, ОАЕ, Саудівська Аравія, Тайвань, Нідерланди, Швейцарія.", "As part of the transparency regime, the plan is to do broad public deployment of approved frontier models, but under SL5 model weights security achieved through SL5 output verification and distillation mitigations. The plan is to offer a mixture of ": "У межах режиму прозорості планується широке публічне розгортання схвалених передових моделей, але з рівнем безпеки ваг моделей SL5, досягнутим завдяки верифікації виходів SL5 та заходам проти дистиляції. Планується запропонувати поєднання ", "As part of the transparency regime, the plan is to do broad public deployment of approved frontier models, but under SL5 model weights security achieved through SL5 output verification and distillation mitigations. The plan is to offer a mixture of": "У межах режиму прозорості планується широке публічне розгортання схвалених передових моделей, але з рівнем безпеки ваг моделей SL5, досягнутим завдяки верифікації виходів SL5 та заходам проти дистиляції. Планується запропонувати поєднання", " (ZDR) inference for consumers, and transparent inference for higher-risk deployments. More on this in our ": " (ZDR) інференсу для споживачів і прозорого інференсу для розгортань із вищим ризиком. Детальніше про це в нашому ", "(ZDR) inference for consumers, and transparent inference for higher-risk deployments. More on this in our": "(ZDR) інференсу для споживачів і прозорого інференсу для розгортань із вищим ризиком. Детальніше про це в нашому", ". We think these clusters probably need to be built from scratch to reach SL5 model weights security and verification integrity.": ". Ми вважаємо, що ці кластери, ймовірно, потрібно будувати з нуля, щоб досягти рівня безпеки ваг моделей SL5 і цілісності верифікації SL5.", "Zero Data Retention (ZDR) inference": "Інференс із нульовим збереженням даних (ZDR)", "In order to balance the benefits of ZDR (AI users having strong privacy guarantees) with the risks (AI being used for existentially dangerous applications), we propose 3 tiers of privacy offerings for inference during the deal:": "Щоб збалансувати переваги ZDR (надійні гарантії приватності для користувачів ШІ) з ризиками (використання ШІ для екзистенційно небезпечних застосувань), ми пропонуємо 3 рівні приватності для інференсу протягом дії Угоди:", "Total ZDR": "Повний ZDR", "Probability of data deletion": "Ймовірність видалення даних", "Mitigations": "Заходи пом'якшення", "There are very aggressive classifiers, refusals, anti-jailbreaking and models that are not capable in high-risk domains (e.g., AI R&D).": "Діють дуже агресивні класифікатори, відмови, захист від джейлбрейків і моделі, нездатні працювати у сферах високого ризику (наприклад, AI R&D).", "Finetuning API?": "API файнтюнінгу?", "Inference-fleet cap (global)": "Обмеження парку інференсу (глобальне)", "Probabilistic ZDR": "Імовірнісний ZDR", "(Random sampling, goes to transparent public database if flagged as high-risk by classifiers)": "(Випадкова вибірка, потрапляє у прозору публічну базу даних, якщо позначено класифікаторами як високий ризик)", "Random sampling that goes to classifiers and to transparent public database if flagged as high-risk": "Випадкова вибірка, що надходить до класифікаторів і у прозору публічну базу даних, якщо позначена як високий ризик", "No ZDR": "Без ZDR", "Variable based on classifiers (Random sampling, goes to transparent public database if flagged as high-risk by classifiers)": "Змінна залежно від класифікаторів (Випадкова вибірка, потрапляє у прозору публічну базу даних, якщо позначено класифікаторами як високий ризик)", "Normal classifier, refusals, unlearning etc. mitigations, and compression / distillation mitigations.": "Звичайні заходи класифікаторів, відмов, розучування тощо, а також заходи стиснення / проти дистиляції.", "With several of the largest compute owners joining the deal over the summer, 95% of the compute in the world is now under inference-only verification, and it has now scaled to higher granularity (smaller inference units) and improved physical security (side channel reductions and high effort physical guarding and monitoring).": "Оскільки протягом літа до Угоди приєдналося кілька найбільших власників обчислювальних потужностей, тепер 95% світових потужностей охоплено верифікацією «лише для інференсу», яка вже масштабована до вищої гранулярності (менші інференс-юніти) і покращеної фізичної безпеки (зменшення побічних каналів і посилена фізична охорона й моніторинг).", "Late 2029: Pilot R&D verification begins coming online": "Кінець 2029: Пілотна верифікація R&D починає вводитися в експлуатацію", "In both Canada and Mongolia, mutually constructed datacenters come online at around 1GW in Canada and 2GW scale in Mongolia by September (around 2% of world compute) scaling to around 15% of global compute by the end of the year. Companies are allowed to start hosting compute in these clusters and bid over space as it comes online. Initially, only very small experiments get approved and there is red teaming and iteration on the verification and security measures to test and improve their efficacy.": "І в Канаді, і в Монголії до вересня вводяться в експлуатацію взаємно побудовані дата-центри масштабу близько 1 ГВт у Канаді та 2 ГВт у Монголії (близько 2% світових обчислювальних потужностей), що масштабується до близько 15% світових потужностей до кінця року. Компаніям дозволяється починати розміщувати обчислювальні потужності в цих кластерах і подавати заявки на простір у міру його введення в експлуатацію. Спочатку схвалюються лише дуже невеликі експерименти, а заходи верифікації й безпеки проходять ред-тімінг та ітеративне доопрацювання для перевірки й підвищення їхньої ефективності.", "An overview of possible verification approaches.": "Огляд можливих підходів до верифікації.", "Existing work on AI verification (": "Наявна робота з верифікації ШІ (", "Baker et. al.": "Baker та ін.", "Scher et. al.": "Scher та ін.", "Harack et. al.": "Harack та ін.", "Cankaya et. al.": "Cankaya та ін.", ") introduces many concepts and proposals that could be leveraged or developed to perform R&D verification.": ") вводить багато концепцій і пропозицій, які можна було б використати або розвинути для здійснення верифікації R&D.", "One way we propose to think about the verification problem is to divide it in two parts: (1) collecting evidence, and (2) proving something based on the evidence. This can range from being very simple (e.g., the power in all known compute facilities is off, therefore there is no AI R&D happening) to sophisticated (e.g., based on cryptographic evidence, with extremely high probability the training run correctly used the approved training data and methods).": "Один із запропонованих нами способів осмислення проблеми верифікації — розділити її на дві частини: (1) збір доказів і (2) доведення чогось на основі цих доказів. Це може варіюватися від дуже простого (наприклад, електроживлення в усіх відомих обчислювальних об'єктах вимкнено, отже, AI R&D не відбувається) до складного (наприклад, на основі криптографічних доказів, з надзвичайно високою ймовірністю прогін навчання коректно використовував схвалені дані й методи навчання).", "Here’s a non-exhaustive illustration of some of the evidence collection and verification methods that could be used as we currently see them:": "Ось невичерпна ілюстрація деяких методів збору доказів і верифікації, які можна було б використати, як ми їх наразі бачимо:", "Five key verification metrics we care about include:": "П'ять ключових метрик верифікації, важливих для нас:", "Assurance curve.": "Крива гарантій.", " The assurance curve captures information about the level of ": " Крива гарантій відображає інформацію про рівень ", "The assurance curve captures information about the level of": "Крива гарантій відображає інформацію про рівень", " (with what probability is the verification solution correct about the claims it makes on the covered resources). We define an assurance curve as a set of relevant (coverage, confidence) values. We care about the entire 2D curve, because it's important to know where handoff and covert project risks cross over.": " (з якою ймовірністю рішення верифікації правильне у своїх твердженнях щодо охоплених ресурсів). Ми визначаємо криву гарантій як набір відповідних значень (покриття, впевненість). Для нас важлива вся 2D-крива, оскільки важливо знати, де перетинаються ризики передачі та таємних проєктів.", "(with what probability is the verification solution correct about the claims it makes on the covered resources). We define an assurance curve as a set of relevant (coverage, confidence) values. We care about the entire 2D curve, because it's important to know where handoff and covert project risks cross over.": "(з якою ймовірністю рішення верифікації правильне у своїх твердженнях щодо охоплених ресурсів). Ми визначаємо криву гарантій як набір відповідних значень (покриття, впевненість). Для нас важлива вся 2D-крива, оскільки важливо знати, де перетинаються ризики передачі та таємних проєктів.", "8 nines": "8 дев'яток", "7 nines": "7 дев'яток", "6 nines": "6 дев'яток", "5 nines": "5 дев'яток", "Coverage (log scale)": "Покриття (логарифмічна шкала)", "Confidence": "Впевненість", "N_ver = 100": "N_ver = 100", "N_ver = 10K": "N_ver = 10 тис.", "N_ver = 10M": "N_ver = 10 млн", "Assurance curves": "Криві гарантій", "Execution difficulty.": "Складність реалізації.", " How difficult would it be to implement the verification solution correctly? For example, if there are load-bearing parts of the verification solution that require a large amount of expert human labor for e.g., setting up the verification software, manufacturing and installing devices, physical security enforcement and monitoring, etc.": " Наскільки складно було б коректно реалізувати рішення верифікації? Наприклад, чи є в рішенні верифікації несучі частини, що вимагають великого обсягу експертної людської праці — наприклад, для налаштування програмного забезпечення верифікації, виробництва й встановлення пристроїв, забезпечення фізичної безпеки та моніторингу тощо.", "How difficult would it be to implement the verification solution correctly? For example, if there are load-bearing parts of the verification solution that require a large amount of expert human labor for e.g., setting up the verification software, manufacturing and installing devices, physical security enforcement and monitoring, etc.": "Наскільки складно було б коректно реалізувати рішення верифікації? Наприклад, чи є в рішенні верифікації несучі частини, що вимагають великого обсягу експертної людської праці — наприклад, для налаштування програмного забезпечення верифікації, виробництва й встановлення пристроїв, забезпечення фізичної безпеки та моніторингу тощо.", "Preparation required.": "Необхідна підготовка.", " How much research time is required to implement the verification solution. For a solution that could be implemented with existing intelligence capacity, the preparation would be extremely low, conversely, for a solution that requires sophisticated on-chip mechanisms the preparation requirement would be extremely high.": " Скільки часу на дослідження потрібно для реалізації рішення верифікації. Для рішення, яке можна реалізувати наявними розвідувальними можливостями, підготовка була б надзвичайно низькою; навпаки, для рішення, що вимагає складних механізмів на рівні чипа, вимоги до підготовки були б надзвичайно високими.", "How much research time is required to implement the verification solution. For a solution that could be implemented with existing intelligence capacity, the preparation would be extremely low, conversely, for a solution that requires sophisticated on-chip mechanisms the preparation requirement would be extremely high.": "Скільки часу на дослідження потрібно для реалізації рішення верифікації. Для рішення, яке можна реалізувати наявними розвідувальними можливостями, підготовка була б надзвичайно низькою; навпаки, для рішення, що вимагає складних механізмів на рівні чипа, вимоги до підготовки були б надзвичайно високими.", "Privacy level.": "Рівень приватності.", " This describes to what extent the verification proposal requires private information to be disclosed between the prover and verifier. We aren’t overly worried about this because we are independently recommending increased transparency anyway, and we also think there can be security mitigations (especially in the case of information we don’t want to diffuse, like model weights).": " Це описує, якою мірою пропозиція верифікації вимагає розкриття приватної інформації між тим, хто доводить, і тим, хто перевіряє. Нас це не надто турбує, оскільки ми в будь-якому разі незалежно рекомендуємо підвищену прозорість, а також вважаємо, що можливі заходи безпеки (особливо для інформації, яку ми не хочемо поширювати, як-от ваги моделей).", "This describes to what extent the verification proposal requires private information to be disclosed between the prover and verifier. We aren’t overly worried about this because we are independently recommending increased transparency anyway, and we also think there can be security mitigations (especially in the case of information we don’t want to diffuse, like model weights).": "Це описує, якою мірою пропозиція верифікації вимагає розкриття приватної інформації між тим, хто доводить, і тим, хто перевіряє. Нас це не надто турбує, оскільки ми в будь-якому разі незалежно рекомендуємо підвищену прозорість, а також вважаємо, що можливі заходи безпеки (особливо для інформації, яку ми не хочемо поширювати, як-от ваги моделей).", " Nonetheless, it would still be ideal for verification to not require low level access (e.g. tokens, model weights, algos).": " Тим не менш, було б ідеально, якби верифікація не вимагала доступу низького рівня (наприклад, до токенів, ваг моделей, алгоритмів).", "Nonetheless, it would still be ideal for verification to not require low level access (e.g. tokens, model weights, algos).": "Тим не менш, було б ідеально, якби верифікація не вимагала доступу низького рівня (наприклад, до токенів, ваг моделей, алгоритмів).", "Economic cost.": "Економічна вартість.", " Finally, this is a metric for how much overall economic value is lost by implementing the verification solution, ignoring the fact that due to the intervention there may have been risks averted with enormous economic downside (e.g., AI catastrophes, human extinction, etc.) So we are conditioning on a ‘good world’ with continued AI development, and seeing how much economic value is lost compared to that counterfactual. The cost of actually developing, manufacturing, and/or implementing the verification solution is very likely to be dominated by the consideration of how much AI inference is allowed to continue and resulting downstream economic benefits which are harder to quantify.": " Нарешті, це метрика того, скільки загальної економічної вартості втрачається через реалізацію рішення верифікації, не враховуючи того, що завдяки цьому заходу могли бути відвернуті ризики з величезними економічними наслідками (наприклад, ШІ-катастрофи, вимирання людства тощо). Тобто ми умовно припускаємо «хороший світ» із продовженням розвитку ШІ і дивимося, скільки економічної вартості втрачається порівняно з цим контрфактичним сценарієм. Вартість власне розробки, виробництва та/або впровадження рішення верифікації, найімовірніше, визначатиметься переважно тим, наскільки дозволено продовжувати ШІ-інференс, і відповідними похідними економічними вигодами, які важче кількісно оцінити.", "Finally, this is a metric for how much overall economic value is lost by implementing the verification solution, ignoring the fact that due to the intervention there may have been risks averted with enormous economic downside (e.g., AI catastrophes, human extinction, etc.) So we are conditioning on a ‘good world’ with continued AI development, and seeing how much economic value is lost compared to that counterfactual. The cost of actually developing, manufacturing, and/or implementing the verification solution is very likely to be dominated by the consideration of how much AI inference is allowed to continue and resulting downstream economic benefits which are harder to quantify.": "Нарешті, це метрика того, скільки загальної економічної вартості втрачається через реалізацію рішення верифікації, не враховуючи того, що завдяки цьому заходу могли бути відвернуті ризики з величезними економічними наслідками (наприклад, ШІ-катастрофи, вимирання людства тощо). Тобто ми умовно припускаємо «хороший світ» із продовженням розвитку ШІ і дивимося, скільки економічної вартості втрачається порівняно з цим контрфактичним сценарієм. Вартість власне розробки, виробництва та/або впровадження рішення верифікації, найімовірніше, визначатиметься переважно тим, наскільки дозволено продовжувати ШІ-інференс, і відповідними похідними економічними вигодами, які важче кількісно оцінити.", "Scope.": "Обсяг.", " For example, does the verification solution just check for inference-only, or arbitrary AI workloads including large training runs and experiments.": " Наприклад, чи перевіряє рішення верифікації лише режим «лише інференс», чи довільні ШІ-навантаження, зокрема великі прогони навчання та експерименти.", "For example, does the verification solution just check for inference-only, or arbitrary AI workloads including large training runs and experiments.": "Наприклад, чи перевіряє рішення верифікації лише режим «лише інференс», чи довільні ШІ-навантаження, зокрема великі прогони навчання та експерименти.", "What verification solution to choose will likely have complex tradeoffs between these metrics. Our current best guess is to primarily rely on on-path information collection (i.e., network taps) and then partial recomputation as the verification algorithm, since it seems most likely to be robustly scalable to extremely high coverage and confidence.": "Вибір рішення верифікації, найімовірніше, супроводжуватиметься складними компромісами між цими метриками. Наразі наша найкраща оцінка — переважно покладатися на збір інформації на шляху трафіку (тобто мережеві відводи), а потім на часткове повторне обчислення як алгоритм верифікації, оскільки саме він видається найнадійніше масштабованим до надзвичайно високого рівня покриття та впевненості.", "Key ingredients to any verification approach that we will assume are pursued.": "Ключові складові, які, як ми припускаємо, будуть застосовані в будь-якому підході до верифікації.", "Drawing on previous AI verification work (": "Спираючись на попередню роботу з верифікації ШІ (", ") we think there should be many layers of defense in any verification approach. In other parts of this supplement we typically focus on the verification approach that we think can do the heaviest lifting, but we think many other measures will also be necessary or at the very least helpful, including:": ") ми вважаємо, що будь-який підхід до верифікації має мати багато рівнів захисту. В інших частинах цього додатка ми зазвичай зосереджуємося на підході до верифікації, який, на нашу думку, здатний виконати найбільшу частину роботи, але вважаємо, що необхідними або принаймні корисними будуть і багато інших заходів, зокрема:", "Physical security.": "Фізична безпека.", "June - July 2029: Construction of new highly secure (SL5) inference-only clusters begins": "Червень – липень 2029: Починається будівництво нових високозахищених (SL5) кластерів «лише для інференсу»", "August - September 2029: Inference-only ready on 95% of world compute": "Серпень – вересень 2029: «Лише інференс» готовий на 95% світових обчислювальних потужностей", "Zero Data Retention": "Нульове збереження даних", " Any verification approach is likely going to rely on some set of invariants about the physical state of the AI computing infrastructure. Several promising future directions and existing methods include tamper-evident enclosures, security cameras, perimeter controls, and airgapping. Inference-only enforcement will very likely need confidence that hardware hasn't been significantly tampered with, especially if the verification involves a physical retrofit (which we currently think is the most promising path, though a software-only approach isn't ruled out). The good news is that the physical security requirements for verification overlap heavily with the security posture we'd independently want datacenters to have.": " Будь-який підхід до верифікації, ймовірно, спиратиметься на певний набір інваріантів щодо фізичного стану обчислювальної інфраструктури ШІ. Кілька перспективних майбутніх напрямів і наявних методів включають захищені від втручання корпуси, камери безпеки, контроль периметра та повну ізоляцію мережі (airgapping). Забезпечення режиму «лише інференс» майже напевно потребуватиме впевненості в тому, що апаратне забезпечення не зазнало суттєвого втручання, особливо якщо верифікація передбачає фізичне дообладнання (що наразі, на нашу думку, є найперспективнішим шляхом, хоча суто програмний підхід не виключається). Хороша новина в тому, що вимоги до фізичної безпеки для верифікації значною мірою збігаються з тим станом безпеки, який ми б незалежно хотіли бачити в дата-центрах.", "Any verification approach is likely going to rely on some set of invariants about the physical state of the AI computing infrastructure. Several promising future directions and existing methods include tamper-evident enclosures, security cameras, perimeter controls, and airgapping. Inference-only enforcement will very likely need confidence that hardware hasn't been significantly tampered with, especially if the verification involves a physical retrofit (which we currently think is the most promising path, though a software-only approach isn't ruled out). The good news is that the physical security requirements for verification overlap heavily with the security posture we'd independently want datacenters to have.": "Будь-який підхід до верифікації, ймовірно, спиратиметься на певний набір інваріантів щодо фізичного стану обчислювальної інфраструктури ШІ. Кілька перспективних майбутніх напрямів і наявних методів включають захищені від втручання корпуси, камери безпеки, контроль периметра та повну ізоляцію мережі (airgapping). Забезпечення режиму «лише інференс» майже напевно потребуватиме впевненості в тому, що апаратне забезпечення не зазнало суттєвого втручання, особливо якщо верифікація передбачає фізичне дообладнання (що наразі, на нашу думку, є найперспективнішим шляхом, хоча суто програмний підхід не виключається). Хороша новина в тому, що вимоги до фізичної безпеки для верифікації значною мірою збігаються з тим станом безпеки, який ми б незалежно хотіли бачити в дата-центрах.", "Human-based methods.": "Методи на основі людей.", " Whistleblower programs, interviews of personnel, and embedded auditors could go a long way in uncovering large-scale violations, especially early on. We don't rely on these as load-bearing in any of our proposals, but we see them being very useful supplements, particularly during the early stages before more robust technical mechanisms are ready to come online.": " Програми захисту викривачів, співбесіди з персоналом і вбудовані аудитори можуть значно допомогти у виявленні масштабних порушень, особливо на ранніх етапах. Ми не покладаємося на них як на несучий елемент жодної з наших пропозицій, але вважаємо їх дуже корисним доповненням, зокрема на ранніх стадіях, поки не готові вводитися в дію надійніші технічні механізми.", "Whistleblower programs, interviews of personnel, and embedded auditors could go a long way in uncovering large-scale violations, especially early on. We don't rely on these as load-bearing in any of our proposals, but we see them being very useful supplements, particularly during the early stages before more robust technical mechanisms are ready to come online.": "Програми захисту викривачів, співбесіди з персоналом і вбудовані аудитори можуть значно допомогти у виявленні масштабних порушень, особливо на ранніх етапах. Ми не покладаємося на них як на несучий елемент жодної з наших пропозицій, але вважаємо їх дуже корисним доповненням, зокрема на ранніх стадіях, поки не готові вводитися в дію надійніші технічні механізми.", "Mutually trusted manufacturing and supply chain security measures.": "Взаємно довірені заходи безпеки виробництва та ланцюга постачання.", " Many verification mechanisms will depend on hardware, e.g., network taps, recomputation servers, tamper-evident enclosures, etc., actually being what they claim to be. This creates a desire for mutual verification of the manufacturing and supply chain for verification hardware itself. Harack et al. note that off-chip mechanisms in particular might be mutually verified through non-invasive downstream tests or cooperative production at trailing-node fabs. There's also the promising idea of sidestepping the mutual trust problem in some areas with synchronized unilateral checks: ": " Багато механізмів верифікації залежатимуть від того, чи є апаратне забезпечення (наприклад, мережеві відводи, сервери повторного обчислення, захищені від втручання корпуси тощо) справді тим, чим воно себе заявляє. Це породжує потребу у взаємній верифікації виробництва та ланцюга постачання самого верифікаційного обладнання. Harack та ін. зазначають, що позачипові механізми зокрема можна було б взаємно верифікувати через неінвазивні низхідні тести або спільне виробництво на застарілих (trailing-node) фабриках. Є також перспективна ідея обійти проблему взаємної довіри в деяких сферах за допомогою синхронізованих односторонніх перевірок: ", "Many verification mechanisms will depend on hardware, e.g., network taps, recomputation servers, tamper-evident enclosures, etc., actually being what they claim to be. This creates a desire for mutual verification of the manufacturing and supply chain for verification hardware itself. Harack et al. note that off-chip mechanisms in particular might be mutually verified through non-invasive downstream tests or cooperative production at trailing-node fabs. There's also the promising idea of sidestepping the mutual trust problem in some areas with synchronized unilateral checks:": "Багато механізмів верифікації залежатимуть від того, чи є апаратне забезпечення (наприклад, мережеві відводи, сервери повторного обчислення, захищені від втручання корпуси тощо) справді тим, чим воно себе заявляє. Це породжує потребу у взаємній верифікації виробництва та ланцюга постачання самого верифікаційного обладнання. Harack та ін. зазначають, що позачипові механізми зокрема можна було б взаємно верифікувати через неінвазивні низхідні тести або спільне виробництво на застарілих (trailing-node) фабриках. Є також перспективна ідея обійти проблему взаємної довіри в деяких сферах за допомогою синхронізованих односторонніх перевірок:", "Cankaya": "Cankaya", " proposes using passive optical fiber splitters (no digital logic, just fused glass) so both parties can independently observe network traffic without needing to trust the other's hardware, combined with unilaterally trusted devices to independently implement their own verification.": " пропонує використовувати пасивні розгалужувачі оптоволокна (без цифрової логіки, лише сплавлене скло), щоб обидві сторони могли незалежно спостерігати за мережевим трафіком, не потребуючи довіри до апаратного забезпечення одна одної, у поєднанні з односторонньо довіреними пристроями для незалежної реалізації власної верифікації.", "proposes using passive optical fiber splitters (no digital logic, just fused glass) so both parties can independently observe network traffic without needing to trust the other's hardware, combined with unilaterally trusted devices to independently implement their own verification.": "пропонує використовувати пасивні розгалужувачі оптоволокна (без цифрової логіки, лише сплавлене скло), щоб обидві сторони могли незалежно спостерігати за мережевим трафіком, не потребуючи довіри до апаратного забезпечення одна одної, у поєднанні з односторонньо довіреними пристроями для незалежної реалізації власної верифікації.", "Early 2030: Full R&D verification underway": "Початок 2030: Триває повна верифікація R&D", "There are now around 100M H100-equivalents in the verified R&D clusters in either Canada or Mongolia (which is about 20% of world compute at the time and equal to 35% of the compute that existed at the start of the deal). These clusters have the ": "Наразі у верифікованих R&D-кластерах у Канаді та Монголії налічується близько 100 млн H100-еквівалентів (це близько 20% світових обчислювальних потужностей на той момент і 35% потужностей, що існували на початку дії Угоди). У цих кластерах діють ", "There are now around 100M H100-equivalents in the verified R&D clusters in either Canada or Mongolia (which is about 20% of world compute at the time and equal to 35% of the compute that existed at the start of the deal). These clusters have the": "Наразі у верифікованих R&D-кластерах у Канаді та Монголії налічується близько 100 млн H100-еквівалентів (це близько 20% світових обчислювальних потужностей на той момент і 35% потужностей, що існували на початку дії Угоди). У цих кластерах діють", "transparency measures": "заходи прозорості", " in place and now companies are approved to do the first major post-deal training runs using combined algorithms. In a few months these training runs complete and several of the models are around the automated coder milestone (AC). The models get broadly tested and red-teamed, including by many third party groups and auditors that rent small amounts of compute in the R&D clusters for this purpose.": ", і тепер компаніям дозволено проводити перші великі післяугодні прогони навчання з використанням комбінованих алгоритмів. За кілька місяців ці прогони навчання завершуються, і кілька моделей досягають приблизно рівня автоматизованого кодера (AC). Моделі проходять широке тестування й ред-тімінг, зокрема силами багатьох сторонніх груп та аудиторів, які орендують невеликі обсяги обчислювальних потужностей у R&D-кластерах саме для цієї мети.", "in place and now companies are approved to do the first major post-deal training runs using combined algorithms. In a few months these training runs complete and several of the models are around the automated coder milestone (AC). The models get broadly tested and red-teamed, including by many third party groups and auditors that rent small amounts of compute in the R&D clusters for this purpose.": ", і тепер компаніям дозволено проводити перші великі післяугодні прогони навчання з використанням комбінованих алгоритмів. За кілька місяців ці прогони навчання завершуються, і кілька моделей досягають приблизно рівня автоматизованого кодера (AC). Моделі проходять широке тестування й ред-тімінг, зокрема силами багатьох сторонніх груп та аудиторів, які орендують невеликі обсяги обчислювальних потужностей у R&D-кластерах саме для цієї мети.", "There is now a big regulatory question of how to control the speed of R&D progress to balance the risks (of going too quickly) and benefits (of improving capabilities).": "Тепер постає велике регуляторне питання: як контролювати темп прогресу R&D, щоб збалансувати ризики (надто швидкого руху) і переваги (покращення можливостей).", " This will arguably be the hardest part of the deal to execute on competently. There is a complex set of dependencies, where going too fast incurs AI takeover risk and/or causes progress to ": " Це, можливо, найскладніша частина Угоди для компетентної реалізації. Тут існує складний набір взаємозалежностей: надто швидкий рух спричиняє ризик захоплення влади ШІ та/або призводить до того, що прогрес ", "This will arguably be the hardest part of the deal to execute on competently. There is a complex set of dependencies, where going too fast incurs AI takeover risk and/or causes progress to": "Це, можливо, найскладніша частина Угоди для компетентної реалізації. Тут існує складний набір взаємозалежностей: надто швидкий рух спричиняє ризик захоплення влади ШІ та/або призводить до того, що прогрес", "diffuse to potential covert projects": "просочується в потенційні таємні проєкти", " (reducing the slack the legal project has), while going too slow incurs risk of making less progress on alignment before the deal possibly breaks down, or indeed actually losing to an illegal project operating outside of the deal.": " (зменшуючи запас маневру легального проєкту), тоді як надто повільний рух несе ризик меншого прогресу в узгодженні до можливого розпаду Угоди або навіть фактичної поразки перед нелегальним проєктом, що діє поза межами Угоди.", "(reducing the slack the legal project has), while going too slow incurs risk of making less progress on alignment before the deal possibly breaks down, or indeed actually losing to an illegal project operating outside of the deal.": "(зменшуючи запас маневру легального проєкту), тоді як надто повільний рух несе ризик меншого прогресу в узгодженні до можливого розпаду Угоди або навіть фактичної поразки перед нелегальним проєктом, що діє поза межами Угоди.", "The high level capability schedule we recommend is to scale to the maximum capability you can reliably make control-based safety-cases for, ideally mostly with hardware scaling, and then pause until your marginal progress on alignment-based safety-cases (handoff risk) is lower than the risk being incurred by the deal.": "Графік нарощування можливостей високого рівня, який ми рекомендуємо, — масштабуватися до максимальних можливостей, для яких можна надійно скласти safety case на основі контролю, в ідеалі переважно за рахунок апаратного масштабування, а потім зробити паузу, доки ваш граничний прогрес у safety case на основі узгодження (ризик передачі) не стане нижчим за ризик, який несе сама Угода.", "But even with a desired high level capability schedule in mind it may be hard to actually enforce this level of capabilities progress, especially to the extent that capabilities progress is unpredictable from inputs (e.g., compute), hard to measure, or fast paced by default. Our best guess is that harsh compute caps, and then a mixture of quality ad-hoc rules will be sufficient, as explained in more detail in the below box.": "Але навіть маючи на увазі бажаний графік нарощування можливостей високого рівня, може бути складно фактично забезпечити дотримання такого рівня прогресу можливостей, особливо якщо прогрес можливостей непередбачуваний з огляду на вхідні дані (наприклад, обчислювальні потужності), важко вимірюваний або за замовчуванням швидкоплинний. Наша найкраща оцінка — жорстких обмежень на обчислювальні потужності разом із набором якісних ситуативних правил буде достатньо, як докладніше пояснено у врізці нижче.", "Research Titration: How to control the speed of R&D progress?": "Титрування досліджень: як контролювати темп прогресу R&D?", "This part of the plan ultimately relies on regulatory competence on what is likely to be a thorny, complex, unpredictable problem of deciding what speed is the correct speed to titrate research to. This is therefore a weaker part of the plan that we are worried about, and hope that future work could improve on the ideas of how to navigate it well. Ultimately, this is one of the core reasons that we recommend Total Research Transparency, because we think it can help there be more accurate and effective regulatory decisions. We do think there are some promising approaches that tradeoff between requiring less regulatory competence, and being a more accurate proxy for the research titration goal being attempted. These two concepts we’ll refer to as:": "Ця частина плану зрештою спирається на регуляторну компетентність у вирішенні того, що, ймовірно, буде складною, заплутаною, непередбачуваною проблемою — визначення правильного темпу, до якого слід титрувати дослідження. Тому це слабша частина плану, яка нас турбує, і ми сподіваємося, що майбутня робота зможе вдосконалити ідеї щодо того, як добре з нею впоратися. Зрештою, це одна з ключових причин, чому ми рекомендуємо Повну дослідницьку прозорість, оскільки вважаємо, що вона може сприяти точнішим і ефективнішим регуляторним рішенням. Ми справді вважаємо, що є кілька перспективних підходів, які балансують між меншими вимогами до регуляторної компетентності та точнішим наближенням до мети титрування досліджень. Ці два поняття ми називатимемо:", "Ease of implementation.": "Простота реалізації.", " How easy it is to implement correctly and easy it is to enforce.": " Наскільки легко коректно реалізувати підхід і забезпечити його дотримання.", "How easy it is to implement correctly and easy it is to enforce.": "Наскільки легко коректно реалізувати підхід і забезпечити його дотримання.", "Regulatory accuracy.": "Регуляторна точність.", " How likely it is that the regulation actually achieves the goal, i.e., under correct implementation and enforcement, software research goes at a safe speed with high probability.": " Наскільки ймовірно, що регулювання справді досягає мети, тобто за коректної реалізації та дотримання дослідження програмного забезпечення з високою ймовірністю просуваються з безпечним темпом.", "How likely it is that the regulation actually achieves the goal, i.e., under correct implementation and enforcement, software research goes at a safe speed with high probability.": "Наскільки ймовірно, що регулювання справді досягає мети, тобто за коректної реалізації та дотримання дослідження програмного забезпечення з високою ймовірністю просуваються з безпечним темпом.", "We highlight a few approaches below, and roughly where we think they fall on this tradeoff.": "Нижче ми виділяємо кілька підходів і приблизно вказуємо, де вони, на нашу думку, розташовані в цьому компромісі.", "Safety case burden of proof.": "Тягар доведення через safety case.", " all R&D requires strong safety case arguments before approval. This approach is almost definitionally what we want from a regulatory accuracy perspective, but the difficulty of distinguishing a good from bad safety case might be extremely hard. It also might be very difficult to make good safety cases in the first place, especially without any AI assistance, which is one reason why this approach may only become more viable as the deal goes on. The importance of the regulatory accuracy will also become more important though as the deal progresses, and AIs are reaching higher capabilities, so we suggest this be the regime used for mid-late stages of the deal where highly capable (e.g., TED-AIs) have been developed, or are close to being developed.": " будь-які R&D вимагають вагомих аргументів у формі safety case перед схваленням. Цей підхід майже за визначенням є тим, чого ми хочемо з погляду регуляторної точності, але розрізнення хорошого й поганого safety case може бути надзвичайно складним. Також може бути дуже складно взагалі скласти хороші safety case, особливо без будь-якої допомоги ШІ, що є однією з причин, чому цей підхід може ставати життєздатнішим лише в міру дії Угоди. Водночас важливість регуляторної точності зростатиме в міру прогресу Угоди й досягнення ШІ вищих можливостей, тож ми пропонуємо використовувати цей режим на середніх-пізніх етапах Угоди, коли високоможливі системи (наприклад, TED-ШІ) вже розроблені або близькі до розробки.", "all R&D requires strong safety case arguments before approval. This approach is almost definitionally what we want from a regulatory accuracy perspective, but the difficulty of distinguishing a good from bad safety case might be extremely hard. It also might be very difficult to make good safety cases in the first place, especially without any AI assistance, which is one reason why this approach may only become more viable as the deal goes on. The importance of the regulatory accuracy will also become more important though as the deal progresses, and AIs are reaching higher capabilities, so we suggest this be the regime used for mid-late stages of the deal where highly capable (e.g., TED-AIs) have been developed, or are close to being developed.": "будь-які R&D вимагають вагомих аргументів у формі safety case перед схваленням. Цей підхід майже за визначенням є тим, чого ми хочемо з погляду регуляторної точності, але розрізнення хорошого й поганого safety case може бути надзвичайно складним. Також може бути дуже складно взагалі скласти хороші safety case, особливо без будь-якої допомоги ШІ, що є однією з причин, чому цей підхід може ставати життєздатнішим лише в міру дії Угоди. Водночас важливість регуляторної точності зростатиме в міру прогресу Угоди й досягнення ШІ вищих можливостей, тож ми пропонуємо використовувати цей режим на середніх-пізніх етапах Угоди, коли високоможливі системи (наприклад, TED-ШІ) вже розроблені або близькі до розробки.", "Quality ad-hoc rules.": "Якісні ситуативні правила.", " case by case decisions on permitted research directions and speed. This approach seems like it could be slightly easier to execute on than having to correctly diagnose safety cases, which may be extremely complex (or just too hard to even generate), and instead being able to make high-level calls about paradigms to pursue or abandon and levers to pull in terms of resource allocation. On the other hand, this approach likely loses out on some accuracy, as it might be that high level ad-hoc rules have wiggle room or loopholes that allow unsafe development.": " рішення в кожному конкретному випадку щодо дозволених напрямів досліджень і темпу. Цей підхід видається дещо простішим у реалізації, ніж необхідність коректно діагностувати safety case, що може бути надзвичайно складним (або просто занадто важким навіть для складання), натомість дозволяючи ухвалювати рішення високого рівня про те, які парадигми розвивати чи відкидати, і якими важелями розподілу ресурсів користуватися. З іншого боку, цей підхід, імовірно, програє в точності, оскільки ситуативні правила високого рівня можуть мати простір для маневру чи лазівки, що дозволяють небезпечну розробку.", "case by case decisions on permitted research directions and speed. This approach seems like it could be slightly easier to execute on than having to correctly diagnose safety cases, which may be extremely complex (or just too hard to even generate), and instead being able to make high-level calls about paradigms to pursue or abandon and levers to pull in terms of resource allocation. On the other hand, this approach likely loses out on some accuracy, as it might be that high level ad-hoc rules have wiggle room or loopholes that allow unsafe development.": "рішення в кожному конкретному випадку щодо дозволених напрямів досліджень і темпу. Цей підхід видається дещо простішим у реалізації, ніж необхідність коректно діагностувати safety case, що може бути надзвичайно складним (або просто занадто важким навіть для складання), натомість дозволяючи ухвалювати рішення високого рівня про те, які парадигми розвивати чи відкидати, і якими важелями розподілу ресурсів користуватися. З іншого боку, цей підхід, імовірно, програє в точності, оскільки ситуативні правила високого рівня можуть мати простір для маневру чи лазівки, що дозволяють небезпечну розробку.", "Human-interpretable requirement.": "Вимога людської інтерпретовності.", " all approved techniques need to be understood end to end by some group of humans. Forcing human comprehension to be a bottleneck to research progress might be quite a good proxy for safety, and quite easy to implement (have humans look at random samples). That being said, it seems very likely possible for something to be both unsafe, and interpretable by a human, so it may be unstable to rely on this method for very long. It’s also plausible though that this actually slows things down too much, and there should either be a relaxed version or another method used. This method seems potentially very suitable for hardware research titration, more on this below.": " усі схвалені техніки мають бути повністю зрозумілі якійсь групі людей від початку до кінця. Перетворення людського розуміння на вузьке місце прогресу досліджень може бути досить хорошим наближенням до безпеки й доволі простим у реалізації (люди переглядають випадкові вибірки). Тим не менш, цілком імовірно, що щось може бути одночасно небезпечним і зрозумілим для людини, тож покладатися на цей метод довго може бути нестабільно. Також можливо, що це надто сильно сповільнює процес, і слід або використати пом'якшену версію, або інший метод. Цей метод видається потенційно дуже придатним для титрування апаратних досліджень, детальніше про це нижче.", "all approved techniques need to be understood end to end by some group of humans. Forcing human comprehension to be a bottleneck to research progress might be quite a good proxy for safety, and quite easy to implement (have humans look at random samples). That being said, it seems very likely possible for something to be both unsafe, and interpretable by a human, so it may be unstable to rely on this method for very long. It’s also plausible though that this actually slows things down too much, and there should either be a relaxed version or another method used. This method seems potentially very suitable for hardware research titration, more on this below.": "усі схвалені техніки мають бути повністю зрозумілі якійсь групі людей від початку до кінця. Перетворення людського розуміння на вузьке місце прогресу досліджень може бути досить хорошим наближенням до безпеки й доволі простим у реалізації (люди переглядають випадкові вибірки). Тим не менш, цілком імовірно, що щось може бути одночасно небезпечним і зрозумілим для людини, тож покладатися на цей метод довго може бути нестабільно. Також можливо, що це надто сильно сповільнює процес, і слід або використати пом'якшену версію, або інший метод. Цей метод видається потенційно дуже придатним для титрування апаратних досліджень, детальніше про це нижче.", "Compute and resource caps.": "Обмеження на обчислювальні потужності та ресурси.", " simple caps on R&D compute. This is extremely easy to implement and verify, but it might just be very inaccurate. Knowing how much progress will result from certain compute and other resource (e.g., human researcher) thresholds will be an uncertain modelling question, that likely will have wide error bars. In the early stages of a deal though, setting these very low seems like a good, easy to implement starter, which can then be escalated to more accurate approaches given time to ramp capacity.": " прості обмеження на обчислювальні потужності для R&D. Це надзвичайно легко реалізувати й перевіряти, але це може бути просто дуже неточно. Знання того, скільки прогресу дадуть певні порогові значення обчислювальних потужностей та інших ресурсів (наприклад, людей-дослідників), буде невизначеним питанням моделювання з, імовірно, широкими межами похибки. Втім, на ранніх етапах Угоди встановлення дуже низьких порогів видається хорошим, простим у реалізації стартовим варіантом, який пізніше можна замінити точнішими підходами, коли з'явиться час на нарощування потужностей.", "simple caps on R&D compute. This is extremely easy to implement and verify, but it might just be very inaccurate. Knowing how much progress will result from certain compute and other resource (e.g., human researcher) thresholds will be an uncertain modelling question, that likely will have wide error bars. In the early stages of a deal though, setting these very low seems like a good, easy to implement starter, which can then be escalated to more accurate approaches given time to ramp capacity.": "прості обмеження на обчислювальні потужності для R&D. Це надзвичайно легко реалізувати й перевіряти, але це може бути просто дуже неточно. Знання того, скільки прогресу дадуть певні порогові значення обчислювальних потужностей та інших ресурсів (наприклад, людей-дослідників), буде невизначеним питанням моделювання з, імовірно, широкими межами похибки. Втім, на ранніх етапах Угоди встановлення дуже низьких порогів видається хорошим, простим у реалізації стартовим варіантом, який пізніше можна замінити точнішими підходами, коли з'явиться час на нарощування потужностей.", "Hard": "Складно", "Easy": "Легко", "Ease of Implementation": "Простота реалізації", "How little regulatory competence is required": "Наскільки мала регуляторна компетентність потрібна", "High": "Висока", "Low": "Низька", "Regulatory Accuracy": "Регуляторна точність", "How well the approach tracks the correct research speed": "Наскільки добре підхід відстежує правильний темп досліджень", "Suggested progression": "Пропонована послідовність", "Safety case burden of proof": "Тягар доведення через safety case", "All R&D requires strong safety case": "Усі R&D вимагають вагомих аргументів", "arguments before approval.": "safety case перед схваленням.", "Quality ad-hoc rules": "Якісні ситуативні правила", "Case-by-case decisions on permitted": "Рішення в кожному конкретному випадку щодо", "research directions and speed.": "дозволених напрямів досліджень і темпу.", "Human-interpretable requirement": "Вимога людської інтерпретовності", "All approved techniques need to be": "Усі схвалені техніки мають бути", "understood end-to-end by some group of": "повністю зрозумілі якійсь групі", "humans.": "людей.", "Compute caps": "Обмеження обчислювальних потужностей", "Simple caps on R&D compute.": "Прості обмеження на обчислювальні потужності для R&D.", "Research Titration Approaches": "Підходи до титрування досліджень", "With a particular set of rules on research in place, there is a separate problem of enforcing these rules are actually followed. We can divide the problem of enforcing the R&D rules into two parts:": "Навіть із запровадженим конкретним набором правил щодо досліджень існує окрема проблема — забезпечення фактичного дотримання цих правил. Проблему забезпечення дотримання правил R&D можна розділити на дві частини:", "Workload Approval.": "Схвалення навантаження.", " Workloads that companies declare actually meet the regulatory rules, whatever their implementation may be.": " Навантаження, які компанії декларують, дійсно відповідають регуляторним правилам, якою б не була їхня реалізація.", "Workloads that companies declare actually meet the regulatory rules, whatever their implementation may be.": "Навантаження, які компанії декларують, дійсно відповідають регуляторним правилам, якою б не була їхня реалізація.", "Workload Verification.": "Верифікація навантаження.", " Workloads that the companies declare match what they actually run.": " Навантаження, які компанії декларують, відповідають тому, що вони фактично виконують.", "Workloads that the companies declare match what they actually run.": "Навантаження, які компанії декларують, відповідають тому, що вони фактично виконують.", "Our view is that workload verification is solvable in a similar way to what we discussed previously (evidence collection via network taps, and then partial recomputation of randomly selected reproducible packets), whereas workload approval will be closely tied to the form of AI R&D rules that are in place (e.g., are they just experiment compute caps? Are there specific banned techniques? Are there specific required techniques?) and our overall baseline proposal for approval is for this to just be manually carried out by teams of auditors in the R&D clusters.": "На нашу думку, верифікація навантаження розв'язується у спосіб, подібний до розглянутого раніше (збір доказів через мережеві відводи, а потім часткове повторне обчислення випадково відібраних відтворюваних пакетів), тоді як схвалення навантаження буде тісно пов'язане з формою чинних правил AI R&D (наприклад, чи це просто обмеження на обчислювальні потужності для експериментів? Чи є конкретні заборонені техніки? Чи є конкретні обов'язкові техніки?), і наша загальна базова пропозиція щодо схвалення полягає в тому, щоб це просто виконувалося вручну командами аудиторів у R&D-кластерах.", "The core difficulty here is that it might be unclear whether the workload follows the rules, especially as the rules are more ad-hoc. Also, it might be possible for AI companies to do adversarial attacks, like trying to encode a non-compliant workload inside a workload that looks compliant on the surface. As the regime progresses and they have more and more compute under mutual verification, attacks like this that exploit tiny percentages of the total compute for a non-compliant purpose might become significant.": "Основна складність тут полягає в тому, що може бути неясно, чи відповідає навантаження правилам, особливо якщо правила більш ситуативні. Також можливо, що ШІ-компанії здійснюватимуть змагальні атаки, наприклад намагаючись закодувати невідповідне навантаження всередині навантаження, що на поверхні виглядає відповідним. У міру розвитку режиму та зростання обсягу потужностей під взаємною верифікацією такі атаки, що використовують крихітні відсотки загальних потужностей для невідповідної мети, можуть стати значущими.", "Possible mitigations we can think of are:": "Можливі заходи пом'якшення, які ми можемо запропонувати:", "Anti-steganography measures on the declared workloads and data": "Заходи проти стеганографії щодо задекларованих навантажень і даних", "Auditor compilation into gpu instructions, ideally with increasingly robust and secure programming languages.": "Компіляція аудитором в інструкції GPU, в ідеалі з дедалі надійнішими й безпечнішими мовами програмування.", "AI assisted data filtering and checks": "Фільтрація й перевірка даних за допомогою ШІ", "A potential overall regime to use is to maintain ‘white’ lists of code and data that has been vetted and approved to be used, and/or ‘black’ lists of code/data that is banned, and/or ‘gold’ lists of techniques that are required on every workload of a certain type. Then the workload approval problem can be reduced to simply checking against these lists in order to approve or deny a workload. It might be drastically harder to implement a covertly rogue workload using only whitelisted code, but it also might just punt the problem to whatever the process is for populating these lists. At least this might help with making workload approval a more transparent process that companies and even the broader public can contribute to (at least on everything that is publicly available, which later into the deal might exclude some internally discovered algorithms that there is an attempt to keep secure through the embargo mechanism we describe in our transparency proposal).": "Можливий загальний режим використання — підтримувати «білі» списки коду й даних, які перевірені та схвалені для використання, та/або «чорні» списки забороненого коду/даних, та/або «золоті» списки технік, обов'язкових для кожного навантаження певного типу. Тоді проблему схвалення навантаження можна звести до простої перевірки за цими списками, щоб схвалити чи відхилити навантаження. Реалізувати таємно шкідливе навантаження, використовуючи лише код із білого списку, може бути значно складніше, але це також може просто перенести проблему на процес формування цих списків. Принаймні це могло б допомогти зробити схвалення навантажень прозорішим процесом, до якого можуть долучатися компанії й навіть широка громадськість (принаймні щодо всього, що є публічно доступним, а пізніше в ході дії Угоди це може виключати деякі внутрішньо відкриті алгоритми, які намагаються тримати в секреті через механізм ембарго, описаний у нашій пропозиції щодо прозорості).", "We also mentioned multiple different types of evidence collection or verification that might be used. Our guess is that in order to reach extremely high levels of assurance, which will be increasingly necessary in Plan A (more on this later), a reproducibility mandate, combined with complete (and increasingly granular) on-path evidence collection, paired with a partial recomputation based verification algorithm, will be a viable approach. That being said, we are not confident that another approach (e.g., using low latency challenges and validity checks) might not be able to reach the same levels of assurance at lower costs or higher levels of assurance at equal costs. For the purposes of making the case that the verification problem will be viable, we will talk about the complete (and increasingly granular) on-path evidence collection with partial recomputation based verification algorithm.": "Ми також згадували кілька різних типів збору доказів чи верифікації, які можна було б використати. Наша оцінка полягає в тому, що для досягнення надзвичайно високих рівнів гарантій, які дедалі більше знадобляться в Плані А (детальніше про це далі), життєздатним підходом буде вимога відтворюваності в поєднанні з повним (і дедалі більш деталізованим) збором доказів на шляху трафіку, поєднаним з алгоритмом верифікації на основі часткового повторного обчислення. Тим не менш, ми не впевнені, що інший підхід (наприклад, з використанням викликів низької затримки та перевірок валідності) не зможе досягти тих самих рівнів гарантій за нижчої вартості або вищих рівнів гарантій за однакової вартості. Щоб довести, що проблема верифікації є розв'язною, ми говоритимемо про повний (і дедалі більш деталізований) збір доказів на шляху трафіку з алгоритмом верифікації на основі часткового повторного обчислення.", "Another useful concept for thinking about the verification problem is to think of AI workloads as discrete series of steps.": "Ще одна корисна концепція для осмислення проблеми верифікації — розглядати ШІ-навантаження як дискретні послідовності кроків.", "Full training run": "Повний прогін навчання", "Training phases": "Фази навчання", "Gradient steps": "Кроки градієнта", "Layer": "Шар", "forward/backward": "прямий/зворотний прохід", "GPU kernel calls": "Виклики ядер GPU", "Individual": "Окремі", "instructions": "інструкції", "coarse": "грубо", "fine": "детально", "Each chunk:  f(input) → output": "Кожен фрагмент:  f(вхід) → вихід", "Example Packet Sizes": "Приклади розмірів пакетів", "By default, these computational steps execute with randomness, but if they can be forced to be reproducible (e.g., seeded randomness is fine), then we can have a predictable relationship between the granularity of the evidence collection and the assurance level of the verification algorithm. This is because partial recomputation with random sampling with some small percentage of the workload being recomputed has favourable scaling of detection probability as you decrease the size of the individual workload packets that you check the correctness of. More detail on this in the ": "За замовчуванням ці обчислювальні кроки виконуються з елементом випадковості, але якщо їх можна змусити бути відтворюваними (наприклад, псевдовипадковість із заданим зерном цілком підходить), тоді можна отримати передбачуваний зв'язок між гранулярністю збору доказів і рівнем гарантій алгоритму верифікації. Це пояснюється тим, що часткове повторне обчислення з випадковою вибіркою, коли повторно обчислюється невеликий відсоток навантаження, має вигідне масштабування ймовірності виявлення в міру зменшення розміру окремих пакетів навантаження, коректність яких перевіряється. Детальніше про це в ", "By default, these computational steps execute with randomness, but if they can be forced to be reproducible (e.g., seeded randomness is fine), then we can have a predictable relationship between the granularity of the evidence collection and the assurance level of the verification algorithm. This is because partial recomputation with random sampling with some small percentage of the workload being recomputed has favourable scaling of detection probability as you decrease the size of the individual workload packets that you check the correctness of. More detail on this in the": "За замовчуванням ці обчислювальні кроки виконуються з елементом випадковості, але якщо їх можна змусити бути відтворюваними (наприклад, псевдовипадковість із заданим зерном цілком підходить), тоді можна отримати передбачуваний зв'язок між гранулярністю збору доказів і рівнем гарантій алгоритму верифікації. Це пояснюється тим, що часткове повторне обчислення з випадковою вибіркою, коли повторно обчислюється невеликий відсоток навантаження, має вигідне масштабування ймовірності виявлення в міру зменшення розміру окремих пакетів навантаження, коректність яких перевіряється. Детальніше про це в", "Pool:": "Пул:", " buildout)": " розгортання)", "buildout)": "розгортання)", "Recomputation budget:": "Бюджет повторного обчислення:", "Year:": "Рік:", "Packet size:": "Розмір пакета:", "100 H100e-hours": "100 годин H100e", "Rogue deployment size (H100e, log scale)": "Розмір шахрайського розгортання (H100e, логарифмічна шкала)", "P(detected)": "P(виявлено)", "within ": "протягом ", "within": "протягом", "1 hour": "1 години", "1 week": "1 тижня", "1 month": "1 місяця", "Catching a rogue internal deployment": "Виявлення шахрайського внутрішнього розгортання", "The concrete regime we imagine for the first few years of the deal is to still use network taps for evidence collection, and partial recomputation of randomly selected reproducible packets to verify correctness. The same high level approach as inference-only, with smaller and smaller packet sizes over time by moving the network taps to lower levels of the backend network.": "Конкретний режим, який ми уявляємо для перших кількох років дії Угоди, — і надалі використовувати мережеві відводи для збору доказів і часткове повторне обчислення випадково відібраних відтворюваних пакетів для перевірки коректності. Той самий підхід високого рівня, що й для «лише інференсу», з дедалі меншими розмірами пакетів з часом завдяки переміщенню мережевих відводів на нижчі рівні бекенд-мережі.", "Declaration:": "Декларація:", " AI companies declare the workload they want to run with full transparency on the code, algorithms, etc.": " ШІ-компанії декларують навантаження, яке вони хочуть запустити, з повною прозорістю щодо коду, алгоритмів тощо.", "AI companies declare the workload they want to run with full transparency on the code, algorithms, etc.": "ШІ-компанії декларують навантаження, яке вони хочуть запустити, з повною прозорістю щодо коду, алгоритмів тощо.", "Approval:": "Схвалення:", " Auditors run checks per the ": " Аудитори проводять перевірки згідно з реалізацією ", "Auditors run checks per the": "Аудитори проводять перевірки згідно з реалізацією", " implementation and if it passes they send back approval and provide necessary random seeds (removes a potential attack vector from AI companies gaming fake randomness).": ", і якщо перевірка пройдена, вони надсилають у відповідь схвалення та надають необхідні випадкові зерна (це усуває потенційний вектор атаки, коли ШІ-компанії маніпулюють фіктивною випадковістю).", "implementation and if it passes they send back approval and provide necessary random seeds (removes a potential attack vector from AI companies gaming fake randomness).": ", і якщо перевірка пройдена, вони надсилають у відповідь схвалення та надають необхідні випадкові зерна (це усуває потенційний вектор атаки, коли ШІ-компанії маніпулюють фіктивною випадковістю).", "Evidence collection:": "Збір доказів:", " Auditors collect evidence from the workload (e.g., complete logging flow through network taps). In the diagram the evidence collection is depicted as low granularity, but in reality it could be happening at the level of individual servers, or GPUs or at even lower levels later on.": " Аудитори збирають докази з навантаження (наприклад, повний потік логування через мережеві відводи). На діаграмі збір доказів зображено з низькою гранулярністю, але насправді він може відбуватися на рівні окремих серверів чи GPU, а згодом і на ще нижчих рівнях.", "Auditors collect evidence from the workload (e.g., complete logging flow through network taps). In the diagram the evidence collection is depicted as low granularity, but in reality it could be happening at the level of individual servers, or GPUs or at even lower levels later on.": "Аудитори збирають докази з навантаження (наприклад, повний потік логування через мережеві відводи). На діаграмі збір доказів зображено з низькою гранулярністю, але насправді він може відбуватися на рівні окремих серверів чи GPU, а згодом і на ще нижчих рівнях.", "Verification:": "Верифікація:", " Auditors sample randomly and do partial recomputation and other checks to catch violations of workload correctness.": " Аудитори виконують випадкову вибірку та часткове повторне обчислення, а також інші перевірки, щоб виявити порушення коректності навантаження.", "Auditors sample randomly and do partial recomputation and other checks to catch violations of workload correctness.": "Аудитори виконують випадкову вибірку та часткове повторне обчислення, а також інші перевірки, щоб виявити порушення коректності навантаження.", "Evaluations and release:": "Оцінювання та випуск:", " For workloads that consist of final training runs there can be an extra step that involves running evaluations that also get verified for correctness, and then final model approval for release leads to the model weights being downloaded from the opaque internal database and transported to the inference-only clusters. This process is extremely high stakes from a model weights theft perspective, so would need to be carefully designed and executed.": " Для навантажень, що складаються з фінальних прогонів навчання, може бути додатковий крок, який передбачає проведення оцінювань, коректність яких також верифікується, а потім фінальне схвалення моделі для випуску призводить до завантаження ваг моделі з непрозорої внутрішньої бази даних і їх передачі в кластери «лише для інференсу». Цей процес пов'язаний з надзвичайно високими ставками з погляду крадіжки ваг моделі, тому його потрібно ретельно спроєктувати й виконати.", "For workloads that consist of final training runs there can be an extra step that involves running evaluations that also get verified for correctness, and then final model approval for release leads to the model weights being downloaded from the opaque internal database and transported to the inference-only clusters. This process is extremely high stakes from a model weights theft perspective, so would need to be carefully designed and executed.": "Для навантажень, що складаються з фінальних прогонів навчання, може бути додатковий крок, який передбачає проведення оцінювань, коректність яких також верифікується, а потім фінальне схвалення моделі для випуску призводить до завантаження ваг моделі з непрозорої внутрішньої бази даних і їх передачі в кластери «лише для інференсу». Цей процес пов'язаний з надзвичайно високими ставками з погляду крадіжки ваг моделі, тому його потрібно ретельно спроєктувати й виконати.", "Late 2030: Secure inference-only clusters for post-deal model deployment come online": "Кінець 2030: Захищені кластери «лише для інференсу» для розгортання післяугодних моделей вводяться в експлуатацію", "First SL5 inference-only clusters are online and start serving the first post-deal models that have been approved from the R&D clusters for broad public deployment. These clusters have the same basic verification approach as the retrofitted ones (network taps and partial recomputation) but with improved security properties. By the end of the year, around 40% of world compute (~370M of the global ~930M H100e) is in these new post-deal SL5 inference-only clusters.": "Перші кластери «лише для інференсу» рівня SL5 вводяться в експлуатацію й починають обслуговувати перші післяугодні моделі, схвалені з R&D-кластерів для широкого публічного розгортання. Ці кластери мають той самий базовий підхід до верифікації, що й дообладнані (мережеві відводи та часткове повторне обчислення), але з покращеними властивостями безпеки. До кінця року близько 40% світових обчислювальних потужностей (~370 млн зі світових ~930 млн H100e) перебуває в цих нових післяугодних кластерах «лише для інференсу» рівня SL5.", "Also by the end of 2030, the US and China have set up hardened cold storage facilities where they allow inspectors to verify each other’s stash of AI chips, sized to be bigger than any plausible covert projects (a 5M H100e US bank and a 500K H100e China bank, per our ": "Також до кінця 2030 року США і Китай створюють захищені об'єкти холодного сховища, де дозволяють інспекторам перевіряти запаси ШІ-чипів одне одного, розмір яких перевищує будь-які правдоподібні таємні проєкти (банк США на 5 млн H100e і банк Китаю на 500 тис. H100e, за нашим ", "Also by the end of 2030, the US and China have set up hardened cold storage facilities where they allow inspectors to verify each other’s stash of AI chips, sized to be bigger than any plausible covert projects (a 5M H100e US bank and a 500K H100e China bank, per our": "Також до кінця 2030 року США і Китай створюють захищені об'єкти холодного сховища, де дозволяють інспекторам перевіряти запаси ШІ-чипів одне одного, розмір яких перевищує будь-які правдоподібні таємні проєкти (банк США на 5 млн H100e і банк Китаю на 500 тис. H100e, за нашим", "), and of relative size to each other similar to pre-deal status quo. These are in places that either side can easily defend. These locations will also be home to verified model weights stashes, so that models that the US and China agree would be positive sum to approve for use in the case of deal dissolution (e.g., models that would be very helpful for safety research and have strong safety cases). Around 2033 there is a model around the automated coder capability milestone that gets approved for the weights stash, and then in 2037 there is a near-frontier (top expert AI) model approved for the cold weights storage.": "), а їхні розміри відносно одне одного подібні до співвідношення, що існувало до Угоди. Вони розташовані в місцях, які будь-яка зі сторін може легко захистити. Ці локації також слугуватимуть домом для верифікованих запасів ваг моделей, щоб моделі, схвалення яких для використання на випадок розпаду Угоди США і Китай вважають взаємовигідним (наприклад, моделі, дуже корисні для досліджень безпеки й з вагомими safety case), можна було там зберігати. Приблизно у 2033 році для запасу ваг схвалюють модель на рівні можливостей автоматизованого кодера, а у 2037 році для холодного сховища ваг схвалюють майже передову модель (топ-експертний ШІ).", "2031-2036+ Improving the deal": "2031–2036+: Вдосконалення Угоди", "2031: Restrictions for hardware R&D and other high-risk domains": "2031: Обмеження для апаратних R&D та інших сфер високого ризику", "The core problem the US-China deal sets out to address is the intelligence explosion.": "Основна проблема, яку покликана вирішити Угода США–Китай, — це вибух інтелекту.", " But the intelligence explosion isn’t the only threat to deal with. Another core concern is that AI could enable an industrial explosion, too much AI hardware progress, or other dangerous scientific progress.": " Але вибух інтелекту — не єдина загроза, з якою потрібно боротися. Ще одне ключове занепокоєння полягає в тому, що ШІ може уможливити промисловий вибух, надмірний прогрес апаратного забезпечення ШІ або інший небезпечний науковий прогрес.", "But the intelligence explosion isn’t the only threat to deal with. Another core concern is that AI could enable an industrial explosion, too much AI hardware progress, or other dangerous scientific progress.": "Але вибух інтелекту — не єдина загроза, з якою потрібно боротися. Ще одне ключове занепокоєння полягає в тому, що ШІ може уможливити промисловий вибух, надмірний прогрес апаратного забезпечення ШІ або інший небезпечний науковий прогрес.", "The case for being worried about AI software progress was illustrated in AI 2027: superhuman AI researchers could bootstrap to a superintelligence that we might not be able to control and whose goals we haven’t figured out how to align. The case for being worried about too much hardware progress is superseded by this under a fast takeoff, but under the Plan A deal if we only slow down software progress a hardware driven takeover might actually be the majority of the takeover risk absent separate mitigations.": "Обґрунтування занепокоєння прогресом ШІ у програмному забезпеченні було проілюстровано в AI 2027: надлюдські дослідники ШІ можуть самостійно вивести систему на рівень суперінтелекту, який ми, можливо, не зможемо контролювати і цілі якого ми ще не навчилися узгоджувати. За швидкого зльоту це занепокоєння превалює над занепокоєнням надмірним апаратним прогресом, але в межах Угоди Плану А, якщо ми сповільнимо лише програмний прогрес, захоплення влади через апаратне забезпечення може фактично становити більшу частину ризику захоплення влади за відсутності окремих заходів пом'якшення.", "Three major reasons to be worried about unconstrained hardware progress:": "Три головні причини для занепокоєння необмеженим апаратним прогресом:", "Production explosion effects": "Ефекти вибуху виробництва", "We should be worried about an explosion in the industrial capacity (e.g., number of robots) on earth, even absent design improvements.": "Нам слід турбуватися про вибух промислової потужності (наприклад, кількості роботів) на Землі, навіть за відсутності покращень конструкції.", "With existing robot designs, it might become easy to rapidly build an absurd number of robots, by having new robots work on making more robots, naively the doubling times might be as low as months, which is very fast. The likelihood of an industrial explosion is argued in more detail in our ": "З наявними конструкціями роботів може стати легко швидко побудувати абсурдну кількість роботів, змусивши нових роботів працювати над виробництвом ще більшої їх кількості; за наївною оцінкою, час подвоєння може становити лише місяці, що дуже швидко. Ймовірність промислового вибуху детальніше обґрунтовано в нашому ", "With existing robot designs, it might become easy to rapidly build an absurd number of robots, by having new robots work on making more robots, naively the doubling times might be as low as months, which is very fast. The likelihood of an industrial explosion is argued in more detail in our": "З наявними конструкціями роботів може стати легко швидко побудувати абсурдну кількість роботів, змусивши нових роботів працювати над виробництвом ще більшої їх кількості; за наївною оцінкою, час подвоєння може становити лише місяці, що дуже швидко. Ймовірність промислового вибуху детальніше обґрунтовано в нашому", "An absurd number of robots might be able to do destabilizing things like:": "Абсурдна кількість роботів могла б робити дестабілізуючі речі, як-от:", "(1) Create massive military advantages for first movers (either directly in the form of a robot army, or through pure industrial capacity, e.g., missile/weapons production capacity),": "(1) Створювати величезні військові переваги для перших гравців (або безпосередньо у вигляді армії роботів, або через суто промислову потужність, наприклад виробничу спроможність у ракетах/озброєнні),", "(2) Build AI hardware covertly (by building all the equipment & facility needed to do so from the ground up in a secret location)": "(2) Таємно виробляти апаратне забезпечення ШІ (побудувавши все необхідне для цього обладнання та об'єкти з нуля в таємній локації)", "Destabilizing robot designs": "Дестабілізуючі конструкції роботів", "We should also be worried about new advanced designs, e.g., self-replicating microbot/nanobot/biotech.": "Нам також слід турбуватися про нові вдосконалені конструкції, наприклад самовідтворювані мікро-/наноботи чи біотехнології.", "Biological anchors (and precedents of humans beating biology with intelligent designs) should have us worried that scary robot designs are possible. Specifically, we should be worried about self-replicating nanotech / biotech that have very fast doubling times.": "Біологічні орієнтири (та прецеденти того, як люди перевершували біологію завдяки розумним конструкціям) мають викликати в нас занепокоєння тим, що лякаючі конструкції роботів можливі. Зокрема, нам слід турбуватися про самовідтворювані нанотехнології/біотехнології з дуже швидким часом подвоєння.", "The core concern here is that these designs, unlike macroscale robots, might be too hard to govern, and break any regulations once they are invented.": "Основне занепокоєння тут полягає в тому, що ці конструкції, на відміну від макромасштабних роботів, можуть бути надто складними для регулювання й порушувати будь-які правила одразу після винайдення.", "Destabilizing AI compute designs": "Дестабілізуючі конструкції обчислювальних потужностей ШІ", "We should also be worried about AI hardware design improvements that make it easier to manufacture.": "Нам також слід турбуватися про покращення конструкції апаратного забезпечення ШІ, які спрощують його виробництво.", "AI hardware design improvements and/or paradigm shifts might make it easy to defect from the deal. If there is a paradigm shift in hardware design making it no longer require an extremely specialized, complex, and centralized manufacturing supply chain to make AI compute, it might be tractable for covert projects to manufacture more AI compute in an undetected way threatening the stability of the deal.": "Покращення конструкції апаратного забезпечення ШІ та/або зміни парадигми можуть полегшити вихід з Угоди. Якщо станеться зміна парадигми в конструкції апаратного забезпечення, через яку виробництво обчислювальних потужностей ШІ більше не потребуватиме надзвичайно спеціалізованого, складного й централізованого ланцюга постачання, таємним проєктам може стати цілком реально виробляти більше обчислювальних потужностей ШІ непомітно, загрожуючи стабільності Угоди.", "Similarly we want other high risk scientific domains such as biology research to have R&D restricted. Our default proposal for this is to rely on inference refusals and monitoring on the majority of public deployment, and then potentially set up dedicated locations that allow high-stakes hardware and other scientific research to be carried out in mutually verified research labs, where we make some (not necessarily identical) security-transparency tradeoff choices, and mutually verify that the companies follow the titration rules on hardware R&D, which can also be some combination of safety cases, ad-hoc rules, human interpretability requirements and resource caps (similar to software research).": "Так само ми хочемо, щоб R&D в інших сферах високого ризику, як-от біологічні дослідження, були обмежені. Наша типова пропозиція щодо цього — покладатися на відмови інференсу й моніторинг для більшості публічних розгортань, а потім, можливо, створити спеціальні локації, що дозволяють проводити апаратні дослідження високих ставок та інші наукові дослідження у взаємно верифікованих дослідницьких лабораторіях, де ми робимо певні (не обов'язково ідентичні) компроміси між безпекою та прозорістю та взаємно верифікуємо, що компанії дотримуються правил титрування апаратних R&D, які також можуть бути певною комбінацією safety case, ситуативних правил, вимог людської інтерпретовності та обмежень ресурсів (подібно до досліджень у сфері програмного забезпечення).", "Inference restrictions, monitoring and refusals for high-risk domains.": "Обмеження інференсу, моніторинг і відмови для сфер високого ризику.", "One downside of publicly deploying highly capable models is that they could enable dangerous research, or illegal projects could use those models to help them with AI research, or directly distill the outputs of these models to help train their models. In order for broad inference deployment to not lead to distillation, illegal project uplift, or other dangerous research, there needs to not only be correct output verification, but also some sufficient combination of refusals, monitoring, and compression.": "Один із недоліків публічного розгортання високоможливих моделей полягає в тому, що вони можуть уможливити небезпечні дослідження, або нелегальні проєкти можуть використовувати ці моделі для допомоги у власних дослідженнях ШІ, чи безпосередньо дистилювати результати цих моделей для навчання власних моделей. Щоб широке розгортання інференсу не призводило до дистиляції, підсилення нелегальних проєктів чи інших небезпечних досліджень, необхідна не лише коректна верифікація результатів, а й достатня комбінація відмов, моніторингу та стиснення.", "Refusals or capabilities shaping.": "Відмови або формування можливостей.", "AIs that are released publicly by the Consortium should be bad at AI research. They could be designed to be worse at ML engineering than other tasks, to make it harder for rogue projects to use them. This has the downside of being worse for speeding up diffused safety research. Robust refusals, instead of a lack of capability, may be another way to achieve this goal.": "ШІ-системи, що публічно випускаються Консорціумом, мають бути слабкими в дослідженнях ШІ. Їх можна спроєктувати так, щоб вони гірше справлялися з ML-інженерією порівняно з іншими задачами, ускладнюючи їх використання шахрайськими проєктами. Недолік цього — гірша здатність прискорювати розпорошені дослідження безпеки. Надійні відмови замість браку можливостей можуть бути ще одним способом досягти цієї мети.", "Monitoring.": "Моніторинг.", "On top of inference correctness verification, there should be monitors (probably passive rather than active is fine) running on the models, checking to see if they seem to be involved in doing AI research, large scale training, or other dangerous research. It may be tractable to detect these cases quite reliably, for example, if they are operating in a codebase that involves code for training over a large number of GPUs, it is pretty obvious that this is an illegal usage.": "Крім верифікації коректності інференсу, на моделях мають працювати монітори (ймовірно, достатньо пасивних, а не активних), які перевіряють, чи не задіяні вони, схоже, в дослідженнях ШІ, масштабному навчанні чи інших небезпечних дослідженнях. Виявляти такі випадки цілком реалістично досить надійно; наприклад, якщо модель працює в кодовій базі, що включає код для навчання на великій кількості GPU, це доволі очевидно вказує на нелегальне використання.", "Compression.": "Стиснення.", "Never show any reasoning intermediates to users by default, and maximally compress outputs to summaries up to some small quota.": "Ніколи не показувати користувачам за замовчуванням проміжні кроки міркування та максимально стискати результати до стислих підсумків у межах невеликої квоти.", "Vertically integrate whenever possible at multiple levels and just produce outputs:": "Де можливо, здійснювати вертикальну інтеграцію на кількох рівнях і просто видавати результати:", "We currently think these are tractable mitigations that will allow a lot of broad deployment, but are uncertain. There should be ongoing testing for distillation and detecting dangerous research.": "Наразі ми вважаємо ці заходи пом'якшення реалістичними та такими, що дозволять значне широке розгортання, але маємо певну невизначеність. Слід постійно тестувати на предмет дистиляції та виявляти небезпечні дослідження.", "Hardware research restrictions.": "Обмеження апаратних досліджень.", "Setting rules on hardware research": "Встановлення правил щодо апаратних досліджень", "One specific subset of the rules might be to only allow research into traditional-like robot designs, traditional-like chip designs, since much of the risks from hardware research are in destabilizing paradigm shifting scientific breakthroughs that might lead to things like nanotechnology or far easier-to-manufacture AI compute. And traditional-like designs might still be improvable enough to realize the benefits of hardware and robot buildups under the deal. That being said, if they are not improvable enough, then it might be more advisable to make more relaxed hardware research restrictions.": "Одна конкретна підмножина правил могла б дозволяти дослідження лише традиційних конструкцій роботів і традиційних конструкцій чипів, оскільки значна частина ризиків апаратних досліджень пов'язана з дестабілізуючими науковими проривами, що змінюють парадигму й можуть призвести до таких речей, як нанотехнології чи значно простіше у виробництві апаратне забезпечення ШІ. При цьому традиційні конструкції все ще можуть бути достатньо вдосконалюваними, щоб реалізувати переваги нарощування апаратного забезпечення й роботів у межах Угоди. Тим не менш, якщо їх неможливо достатньо вдосконалити, може бути доцільніше запровадити м'якші обмеження апаратних досліджень.", "In hardware we might have an unclear idea of the relationship between inputs and progress, just like we are also very uncertain about the relationship between compute and software progress. Nevertheless, we can use the same hope that by operating over harsh order of magnitude reductions in inputs (e.g., energy caps, materials caps, research labor caps, etc.) we might be able to iteratively slow the pace of hardware progress to levels perceived to be safe in a lossy but easy to implement way.": "У сфері апаратного забезпечення ми можемо мати нечітке уявлення про зв'язок між вхідними даними та прогресом, так само як ми дуже невпевнені щодо зв'язку між обчислювальними потужностями й прогресом у програмному забезпеченні. Тим не менш, ми можемо покладатися на ту саму надію, що, оперуючи жорсткими скороченнями вхідних даних на порядки величини (наприклад, обмеженнями на енергію, матеріали, дослідницьку робочу силу тощо), ми зможемо ітеративно сповільнювати темп апаратного прогресу до рівнів, які вважаються безпечними, у спосіб із втратами, але простий у реалізації.", "Enforcing rules on hardware research.": "Забезпечення дотримання правил щодо апаратних досліджень.", "Workload Approval": "Схвалення навантаження", "Once the hardware research titration rules are set, we need a way to verify they are being followed. One possibility would be to use the same high level approach as for software enforcement, i.e., approve hardware research jobs case by case (or via some automated whitelist/blacklist process), divide up jobs into substeps and collect evidence about them, and then check random samples for compliance. One problem with this approach in the hardware case is that it seems far harder to get high reproducibility in e.g., a chemistry experiment, because two labs in the real world are not as homogenous as AI chips. This opens the door for plausible deniability and violations. Therefore, we probably need to not go with a reproducing based approach on everything. That being said, there might be many slices of the hardware research that are reproducible.": "Щойно правила титрування апаратних досліджень (hardware research titration) встановлено, нам потрібен спосіб верифікувати їх дотримання. Один із варіантів — використати той самий підхід високого рівня, що й для забезпечення виконання правил у сфері програмного забезпечення, тобто затверджувати завдання апаратних досліджень індивідуально (або через якийсь автоматизований процес білого/чорного списку), розбивати завдання на підетапи, збирати щодо них докази, а потім перевіряти на дотримання правил вибіркові випадкові зразки. Одна з проблем такого підходу в апаратному випадку полягає в тому, що досягти високої відтворюваності, наприклад, у хімічному експерименті, здається набагато складніше, оскільки дві лабораторії в реальному світі не такі однорідні, як ШІ-чіпи. Це відкриває можливість для правдоподібного заперечення та порушень. Тому нам, ймовірно, не варто застосовувати підхід на основі відтворюваності до всього. Тим не менш, багато аспектів апаратних досліджень цілком можуть бути відтворюваними.", "Another possibility is that since many things might be macroscale, you can monitor everything directly with a monitoring scheme that you trust. Maybe the trusted monitor will be hard to build though, so instead, you might be able to instead have humans inspect random samples of all the recordings, and benefit from the favorable detection probability scaling from random sampling.": "Інший варіант полягає в тому, що, оскільки багато процесів можуть відбуватися на макрорівні, можна безпосередньо моніторити все за допомогою схеми моніторингу, якій ви довіряєте. Утім, побудувати довірений монітор може бути складно, тож замість цього люди могли б перевіряти випадкові вибірки з усіх записів і отримувати вигоду від сприятливого масштабування ймовірності виявлення завдяки випадковій вибірці.", "Overall, we are very uncertain about how to verify hardware research rules, and have the current sense that it might be harder than software (but also think it's plausibly easier). That being said the default speed and risk level, and therefore the overall slowdown required we think is likely to be lower.": "Загалом, ми дуже не впевнені щодо того, як верифікувати правила апаратних досліджень, і наразі маємо відчуття, що це може бути складніше, ніж для програмного забезпечення (хоча також вважаємо, що це цілком може бути й простіше). Тим не менш, ми вважаємо, що типова швидкість і рівень ризику, а отже й необхідне загальне сповільнення, ймовірно, будуть нижчими.", "2032: Cap & Trade for Robots and Compute": "2032: Cap & Trade для роботів і обчислювальних потужностей", "As mentioned earlier, we want to stop an explosion in the number of robots and AI chips on earth from threatening the stability of the deal. By default, our ": "Як згадувалося раніше, ми хочемо не допустити, щоб вибухове зростання кількості роботів і ШІ-чіпів на Землі загрожувало стабільності угоди. За замовчуванням наше ", "As mentioned earlier, we want to stop an explosion in the number of robots and AI chips on earth from threatening the stability of the deal. By default, our": "Як згадувалося раніше, ми хочемо не допустити, щоб вибухове зростання кількості роботів і ШІ-чіпів на Землі загрожувало стабільності угоди. За замовчуванням наше", "current naive modelling": "нинішнє наївне моделювання", " predicts that even with current hardware designs, the AI and robot capabilities that we forecast to be reached during the Plan A scenario would lead to a huge discrepancy between the raw cost of producing more AI chips and Robots and their economic value. By default, we think this leads to a reinvestment spiral and very fast doubling times.": " передбачає, що навіть за нинішніх апаратних конструкцій можливості ШІ й роботів, яких, за нашим прогнозом, буде досягнуто в межах сценарію Плану А, призвели б до величезного розриву між сирою вартістю виробництва додаткових ШІ-чіпів і роботів та їхньою економічною цінністю. За замовчуванням, на нашу думку, це призводить до спіралі реінвестування та дуже швидких періодів подвоєння.", "predicts that even with current hardware designs, the AI and robot capabilities that we forecast to be reached during the Plan A scenario would lead to a huge discrepancy between the raw cost of producing more AI chips and Robots and their economic value. By default, we think this leads to a reinvestment spiral and very fast doubling times.": "передбачає, що навіть за нинішніх апаратних конструкцій можливості ШІ й роботів, яких, за нашим прогнозом, буде досягнуто в межах сценарію Плану А, призвели б до величезного розриву між сирою вартістю виробництва додаткових ШІ-чіпів і роботів та їхньою економічною цінністю. За замовчуванням, на нашу думку, це призводить до спіралі реінвестування та дуже швидких періодів подвоєння.", "In Plan A we propose a cap starting in 2032 that limits the number of robots and AI chips on earth to doubling times around 6 months, through cap & trade regulation, where private companies need to bid on the finite robot and AI chip production permits in any given time period. This cap should be set in units of usefulness of the robots for industrial production and AI compute in AI workloads, measuring both of these, especially across tasks and form factors in the case of robots, might be difficult and muddied (e.g., fuzzy lines between robots and more traditional machines). We nonetheless think it should be feasible to measure these things reasonably well for different robot and hardware designs, and allocate the cap & trade limits accordingly.": "У Плані А ми пропонуємо запровадити з 2032 року обмеження (cap), яке утримує кількість роботів і ШІ-чіпів на Землі в межах періоду подвоєння приблизно 6 місяців через регулювання cap & trade, за якого приватні компанії мають робити ставки на обмежену кількість дозволів на виробництво роботів і ШІ-чіпів у кожен конкретний період часу. Це обмеження варто встановлювати в одиницях корисності роботів для промислового виробництва та обчислювальних потужностей ШІ для ШІ-навантажень; вимірювання обох цих величин, особливо за різними завданнями та форм-факторами в разі роботів, може бути складним і розмитим (наприклад, нечіткі межі між роботами і більш традиційними машинами). Тим не менш, ми вважаємо, що має бути реалістично достатньо добре вимірювати ці параметри для різних конструкцій роботів та апаратного забезпечення й відповідно розподіляти ліміти cap & trade.", "Actually enforcing the cap & trade permit rules might be very difficult if robot and/or AI compute production happens all over the world, so we propose centralizing new built up industrial capacity and robots in special economic zones (SEZs) to make for easier enforcement of the cap & trade rules.": "Фактично забезпечити виконання правил дозволів cap & trade може бути дуже складно, якщо виробництво роботів та/або ШІ-обчислювальних потужностей відбувається по всьому світу, тому ми пропонуємо централізувати нові промислові потужності й роботів у спеціальних економічних зонах (СЕЗ), щоб полегшити забезпечення виконання правил cap & trade.", "How to enforce the cap & trade rules.": "Як забезпечити виконання правил cap & trade.", "Our proposal for this is to centralize all the built up industrial capacity and robots in special economic zones (SEZs), to centralize the enforcement and associated surveillance in these restricted zones, and allow the rest of the economy to not be subjected to any hardware verification checks.": "Наша пропозиція полягає в тому, щоб централізувати всі новостворені промислові потужності й роботів у спеціальних економічних зонах (СЕЗ), централізувати забезпечення виконання правил і пов’язаний нагляд саме в цих обмежених зонах, а решту економіки залишити не підданою жодним перевіркам верифікації апаратного забезпечення.", "The SEZs can then have a similar high level verification approach to either hardware research and/or the inference-only and software R&D approach, where production gets broken up into discrete steps, and these get randomly, manually audited by humans (and/or with trusted AI monitoring assistance).": "Тоді до СЕЗ можна застосувати підхід до верифікації високого рівня, подібний до апаратних досліджень та/або підходу «лише інференс» і R&D програмного забезпечення, за якого виробництво розбивається на дискретні етапи, які потім випадково перевіряються вручну людьми (та/або за допомогою довіреного ШІ-моніторингу).", "The rest of the economy can then be left unverified, but should probably have upper bounds on the robots, power and other potential inputs to hardware production. If these bounds are low, then there can be minimal surveillance outside of the SEZs. That being said, we guess the bounds might be too costly to keep sufficiently low because people really want diffused robots. So it might be good to have reliable geolocation on the diffused robots and maybe random inspections. In order to avoid too much diffused compute as well, we also propose that robots have very little unverified edge compute, and instead largely be served via the cloud on the monitored (ideally automated by AIs to be privacy preserving) and verified inference-only clusters, until there is robust edge compute verification.": "Решту економіки тоді можна залишити без верифікації, але, ймовірно, слід встановити верхні межі на кількість роботів, енергію та інші потенційні ресурси для виробництва апаратного забезпечення. Якщо ці межі низькі, поза СЕЗ можна обмежитися мінімальним наглядом. Тим не менш, ми припускаємо, що утримувати ці межі достатньо низькими може бути надто дорого, оскільки люди справді хочуть мати розповсюджених (diffused) роботів. Тож, можливо, варто мати надійне геолокаційне відстеження розповсюджених роботів і, можливо, вибіркові перевірки. Щоб також уникнути надто великого обсягу розповсюджених обчислювальних потужностей, ми також пропонуємо, щоб роботи мали дуже мало неверифікованих периферійних (edge) обчислювальних потужностей, а натомість здебільшого обслуговувалися через хмару на моніторованих (в ідеалі автоматизованих ШІ для збереження приватності) і верифікованих кластерах «лише інференс», доки не з’явиться надійна верифікація периферійних обчислювальних потужностей.", "The same cap and trade principle is extended to other products and services that are destabilizing in unrestricted quantities, but can be safe in lower quantities. Two major examples are products with edge compute and unmonitored inference. Things that might particularly rely on edge compute include self-driving cars and consumer compute, while unmonitored inference might be particularly valuable to governments for military operations. Under cap and trade the regime can accommodate these activities being legal, under safe societal-scale caps that maintain the stability of the deal. Then there can be markets for the permits the people, firms and the government can bid between each other to have the rights for.": "Той самий принцип cap and trade поширюється й на інші продукти та послуги, які дестабілізують ситуацію в необмежених кількостях, але можуть бути безпечними в менших обсягах. Два головні приклади — продукти з периферійними обчислювальними потужностями та неконтрольований інференс. До речей, які особливо покладаються на периферійні обчислювальні потужності, належать безпілотні автомобілі й споживчі обчислювальні пристрої, тоді як неконтрольований інференс може бути особливо цінним для урядів у військових операціях. У межах cap and trade режим може дозволити легальність цих видів діяльності в межах безпечних лімітів суспільного масштабу, які підтримують стабільність угоди. Тоді можуть існувати ринки дозволів, за право на які люди, фірми та уряд можуть змагатися ставками між собою.", "Unverified edge compute cap.": "Ліміт неверифікованих периферійних обчислювальних потужностей.", "We propose a cap of 30M effective-H100e of unverified edge compute being allowed to exist in the world, with estimates of 25M ": "Ми пропонуємо встановити ліміт у 30 млн ефективних-H100e неверифікованих периферійних обчислювальних потужностей, дозволених у світі, за оцінки в 25 млн ", "We propose a cap of 30M effective-H100e of unverified edge compute being allowed to exist in the world, with estimates of 25M": "Ми пропонуємо встановити ліміт у 30 млн ефективних-H100e неверифікованих периферійних обчислювальних потужностей, дозволених у світі, за оцінки в 25 млн", " H100e predating the deal, there are only 5M credits available for new unverified production.": " H100e, наявних до укладення угоди, залишається лише 5 млн кредитів, доступних для нового неверифікованого виробництва.", "H100e predating the deal, there are only 5M credits available for new unverified production.": "H100e, наявних до укладення угоди, залишається лише 5 млн кредитів, доступних для нового неверифікованого виробництва.", "With sufficient edge verification measures, the compute can be exempt.": "За наявності достатніх заходів верифікації периферійних потужностей ці обчислювальні потужності можуть звільнятися від ліміту.", "Unrestricted, edge compute in consumer devices, self-driving cars and robots might introduce a significant stock of compute that could be used by illegal projects. Before the deal consumer and edge compute likely will include some AI-relevant compute,": "Без обмежень периферійні обчислювальні потужності в споживчих пристроях, безпілотних автомобілях і роботах можуть створити значний запас обчислювальних потужностей, які могли б використовуватися незаконними проєктами. До укладення угоди споживчі й периферійні обчислювальні потужності, ймовірно, включатимуть певний обсяг релевантних для ШІ потужностей,", " (e.g., hobbyists with single GPUs, self-driving car chips), and mostly non-AI relevant compute (chips with low effectiveness on AI workloads), but which is nonetheless very numerous (i.e., there are tens of billions of phones, each around 0.1 - 1% as useful as an H100 for AI workloads, which still means tens of millions of H100-equivalents, i.e., ~10% of the total AI-relevant compute in the world). In our ": " (наприклад, ентузіастів з окремими GPU, чіпів безпілотних автомобілів), а також переважно нерелевантні для ШІ обчислювальні потужності (чіпи з низькою ефективністю для ШІ-навантажень), яких, тим не менш, дуже багато (тобто десятки мільярдів телефонів, кожен з яких приблизно на 0,1–1% такий же корисний, як H100, для ШІ-навантажень, що все одно означає десятки мільйонів H100-еквівалентів, тобто ~10% усіх релевантних для ШІ обчислювальних потужностей світу). У нашому ", "(e.g., hobbyists with single GPUs, self-driving car chips), and mostly non-AI relevant compute (chips with low effectiveness on AI workloads), but which is nonetheless very numerous (i.e., there are tens of billions of phones, each around 0.1 - 1% as useful as an H100 for AI workloads, which still means tens of millions of H100-equivalents, i.e., ~10% of the total AI-relevant compute in the world). In our": "(наприклад, ентузіастів з окремими GPU, чіпів безпілотних автомобілів), а також переважно нерелевантні для ШІ обчислювальні потужності (чіпи з низькою ефективністю для ШІ-навантажень), яких, тим не менш, дуже багато (тобто десятки мільярдів телефонів, кожен з яких приблизно на 0,1–1% такий же корисний, як H100, для ШІ-навантажень, що все одно означає десятки мільйонів H100-еквівалентів, тобто ~10% усіх релевантних для ШІ обчислювальних потужностей світу). У нашому", ", we estimate that this will be around 25M ": ", ми оцінюємо, що це становитиме приблизно 25 млн ", ", we estimate that this will be around 25M": ", ми оцінюємо, що це становитиме приблизно 25 млн", "This should be estimated more precisely at the time with a better model of usefulness in frontier AI workloads. If consumer compute usefulness is found to be higher than we estimate, then it becomes more important to avoid that large quantities of consumer compute could be rounded up and used in a covert project, and therefore e.g., a high-priority compute buy-back effort might be warranted.": "Це варто оцінити точніше на той момент за допомогою кращої моделі корисності для передових ШІ-навантажень. Якщо виявиться, що корисність споживчих обчислювальних потужностей вища, ніж ми оцінюємо, то стає ще важливішим не допустити, щоб великі обсяги споживчих обчислювальних потужностей можна було зібрати й використати в таємному проєкті, тож, наприклад, може бути виправданим високопріоритетний захід зі викупу обчислювальних потужностей.", "We expect the cap we propose to lead to rapid innovation in ‘edge verification’ (i.e., essentially robust hardware mechanisms), to avoid the permit costs. We predict that there will be plenty of cheap phones that have low local-AI capabilities, whereas phones or other consumer devices that have a lot of local, or ‘edge’ AI compute will be very expensive at first, but don’t need to be banned. Then after a few years there will be robust edge verification that can allow powerful edge compute to also become cheap (not require a permit), for example, with hardcoded code and weights. The cap is set such that trivially noticeable shares of the consumer compute would need to be diverted to noticeably accelerate a covert project (or to give bad actors too much of a weapon). It’s a sad but potentially necessary reality for at least at the beginning of Plan A that if you want to have a fancy gaming GPU that could also be used for AI instead, you need to pay a premium (because we can’t let everyone have one or else it would become too easy to round up a significant number of these to contribute to a rogue compute cluster). Or in economist terms, unverified edge compute carries a large negative externality (risk of being used by a covert project).": "Ми очікуємо, що запропонований нами ліміт призведе до швидких інновацій у «периферійній верифікації» (тобто, по суті, у надійних апаратних механізмах), щоб уникнути витрат на дозволи. Ми прогнозуємо, що буде багато дешевих телефонів з низькими локальними ШІ-можливостями, тоді як телефони чи інші споживчі пристрої з великою кількістю локальних, тобто «периферійних», ШІ-обчислювальних потужностей спочатку будуть дуже дорогими, але їх не потрібно буде забороняти. Потім, за кілька років, з’явиться надійна периферійна верифікація, яка дозволить потужним периферійним обчислювальним потужностям також стати дешевими (не вимагати дозволу), наприклад, завдяки жорстко закодованому коду та вагам. Ліміт встановлюється так, щоб для помітного пришвидшення таємного проєкту (або надання поганим акторам надто потужної зброї) довелося б відвернути тривіально помітну частку споживчих обчислювальних потужностей. Це сумна, але потенційно необхідна реальність, принаймні на початку Плану А: якщо ви хочете мати навороченим ігровий GPU, який також можна було б використати для ШІ, вам доведеться заплатити надбавку (тому що ми не можемо дозволити мати такий кожному, інакше стало б надто легко зібрати значну кількість таких пристроїв для формування непідконтрольного обчислювального кластера). Або, кажучи мовою економістів, неверифіковані периферійні обчислювальні потужності несуть великий негативний зовнішній ефект (ризик використання таємним проєктом).", "On top of the unverified consumer compute cap, it might be desirable to have a certain effective-H100e cutoff (e.g., with specific compute, bandwidth, memory capacity and networking speed thresholds) for consumer compute that is allowed to be sold in single units (to the extent that the difficulty of gathering chips into a covert project or detection therefore scales more closely with the absolute number of chips than with the compute). There might also be a tier of compute that we require to have location tracking measures (to make use by a covert project easier to detect).": "Окрім ліміту на неверифіковані споживчі обчислювальні потужності, може бути бажаним встановити певну межу ефективних-H100e (наприклад, з конкретними пороговими значеннями обчислювальної потужності, пропускної здатності, обсягу пам’яті та швидкості мережі) для споживчих обчислювальних потужностей, дозволених до продажу поодинокими одиницями (тією мірою, якою складність зібрати чіпи для таємного проєкту чи виявлення такого збору відтак масштабується радше з абсолютною кількістю чіпів, ніж з обчислювальною потужністю). Також може існувати рівень обчислювальних потужностей, для якого ми вимагатимемо заходів геолокаційного відстеження (щоб полегшити виявлення використання в таємному проєкті).", "AI-relevant floor: 4,000 TPP ≈ 0.25 H100e (compute supplement §1.1)": "Поріг релевантності для ШІ: 4 000 TPP ≈ 0,25 H100e (додаток про обчислювальні потужності §1.1)", "Consumer compute": "Споживчі обчислювальні потужності", "below the AI-relevant floor — capped at 30M H100e": "нижче порогу релевантності для ШІ — ліміт 30 млн H100e", "iPhone 16": "iPhone 16", "Pro Max": "Pro Max", "M4 Pro MacBook": "M4 Pro MacBook", "Compute per device (H100e)": "Обчислювальна потужність на пристрій (H100e)", "Unverified edge-compute cap": "Ліміт неверифікованих периферійних обчислювальних потужностей", "M already in world (pre-deal)": "млн уже у світі (до угоди)", "M new credits": "млн нових кредитів", "Verified edge compute → exempt": "Верифіковані периферійні обчислювальні потужності → звільнено від ліміту", "Chip Flow Restrictions, 2032": "Обмеження потоку чіпів, 2032", "Putting together research titration and production capping, we have the following overview:": "Об’єднавши титрування досліджень і обмеження виробництва, отримуємо такий загальний огляд:", "2033: Security improvements": "2033: Покращення безпеки", "By 2033 we expect significant hardware security, and more general security properties of the datacenters, verification regime and capabilities to have improved significantly. By the end of 2033, around 99.9% of the worlds’ compute is post-deal compute, meaning that it's trivial to just power down all pre-deal clusters and compute, and have the vast majority of compute be in new more secure locations built from scratch. Furthermore, by the end of 2034, around 90% of the compute that exists will have been produced during 2033 or 2034. This means that security improvements made by then can already be widely in place within just 1-2 years. Similar dynamics apply to the fabrication facilities.": "До 2033 року ми очікуємо суттєвого покращення апаратної безпеки, а також загальніших властивостей безпеки дата-центрів, режиму верифікації та можливостей. До кінця 2033 року близько 99,9% світових обчислювальних потужностей становитимуть потужності, вироблені після угоди, а це означає, що можна буде просто вимкнути всі кластери й потужності, що існували до угоди, і мати переважну більшість обчислювальних потужностей у нових, більш безпечних локаціях, побудованих з нуля. Крім того, до кінця 2034 року близько 90% наявних обчислювальних потужностей будуть вироблені протягом 2033 чи 2034 року. Це означає, що покращення безпеки, зроблені на той момент, можуть уже широко впровадитися лише за 1–2 роки. Подібна динаміка стосується й виробничих потужностей (fabs).", "Our uncertainty on what will be possible is high here, but some of the main ideas we have include:": "Наша невизначеність щодо того, що буде можливим, тут висока, але ось деякі з наших головних ідей:", "Datacenters built from scratch with extremely good side channel and airgapping properties.": "Дата-центри, побудовані з нуля з надзвичайно хорошими властивостями захисту від побічних каналів витоку та фізичної ізоляції (air gap).", "Huge progress in standardizing (for reproducibility) and improving security of software stacks for inference and R&D workloads more generally.": "Величезний прогрес у стандартизації (для відтворюваності) та покращенні безпеки програмних стеків для інференсу та R&D-навантажень загалом.", "New compute production facilities (fabs) built from scratch with mutual monitoring measures and being colocated with supply chain and potentially even with final centralized datacenters they will fill to minimize attack surface.": "Нові виробничі потужності обчислювальної техніки (fabs), побудовані з нуля із заходами взаємного моніторингу та розташовані поруч із ланцюгом постачання, а потенційно навіть із фінальними централізованими дата-центрами, які вони заповнюватимуть, щоб мінімізувати поверхню атаки.", "The beginning of some hardware-software co-dependencies especially with architecture changes or number formats, so that optimization and progress in these paradigms is less applicable on pre-deal compute": "Початок появи певних взаємозалежностей апаратного й програмного забезпечення, особливо через зміни архітектури чи форматів чисел, через що оптимізація та прогрес у цих парадигмах менш застосовні до обчислювальних потужностей, вироблених до угоди", "Increases to the logging / evidence collection granularity of the verification regime, especially of the R&D datacenters, with logging technology being compatible with extremely high bandwidth data paths on backend networking to reduce overhead.": "Підвищення деталізації логування / збору доказів у режимі верифікації, особливо для R&D дата-центрів, за якого технологія логування сумісна з каналами передачі даних надзвичайно високої пропускної здатності на бекенд-мережі, щоб зменшити накладні витрати.", "Generally improved hardware security properties with more robust trusted execution, secure boot, encryption, reproducibility, etc., which are especially important for recomputation servers. Some degree of standardization in hardware may also be helpful for reproducibility.": "Загалом покращені властивості апаратної безпеки з надійнішим довіреним виконанням, безпечним завантаженням, шифруванням, відтворюваністю тощо, що особливо важливо для серверів переобчислення. Певний рівень стандартизації апаратного забезпечення також може бути корисним для відтворюваності.", "Special hardware designs for automatic on-device verification of certain workloads, in particular, hardcoded weights on some chips to verify they're inference-only. This might be particularly useful for ‘edge verification’ allowing for more AI compute in consumer products without risk of use in covert projects.": "Спеціальні апаратні конструкції для автоматичної верифікації певних навантажень безпосередньо на пристрої, зокрема жорстко закодовані ваги на деяких чіпах для підтвердження того, що вони призначені лише для інференсу. Це може бути особливо корисним для «периферійної верифікації», що дозволяє мати більше ШІ-обчислювальних потужностей у споживчих продуктах без ризику використання в таємних проєктах.", "2034: Verification improvements": "2034: Покращення верифікації", "Through the 2030s the total amount of AI compute in the world grows explosively. One important dynamic to note is that the verification burden (the need to have higher coverage) grows as the total compute under verification grows. In Plan A, we both forecast and recommend a significant hardware buildup (capped by the cap & trade regime to stay verifiable) for other reasons related to tradeoffs with deal stability (hardware is less likely to leak to illegal projects so differentially increases the legal projects affordances).": "Протягом 2030-х років загальний обсяг ШІ-обчислювальних потужностей у світі зростає вибухово. Одна важлива динаміка, яку варто відзначити, полягає в тому, що навантаження на верифікацію (потреба в ширшому охопленні) зростає в міру зростання загального обсягу обчислювальних потужностей під верифікацією. У Плані А ми водночас прогнозуємо й рекомендуємо значне нарощування апаратних потужностей (обмежене режимом cap & trade, щоб залишатися верифіковним) з інших причин, пов’язаних з компромісами щодо стабільності угоди (апаратне забезпечення менш імовірно просочиться в незаконні проєкти, тож диференційовано розширює можливості легальних проєктів).", "The verification assurance curve needs to improve such that any potential nonnegligible rogue internal deployment would have a high chance of detection. By 2034, with one packet collected per hour from each frontier GPU (~100 H100e each, so ~100 H100e-hour packets) and a 1% recomputation budget, the appendix math shows the verifier catches any rogue internal deployment at 99% confidence after it accumulates ~46,000 H100e-hours of unapproved work, so a sustained 10K H100e deployment is detected within ~4.6 hours, a 1K within ~46 hours, and so on.": "Крива впевненості верифікації повинна покращитися настільки, щоб будь-яке потенційно значуще непідконтрольне внутрішнє розгортання мало високий шанс бути виявленим. До 2034 року, за умови збору одного пакета щогодини з кожного передового GPU (~100 H100e кожен, тобто ~100 пакетів H100e-годин) і бюджету переобчислення 1%, математика в додатку показує, що верифікатор виявляє будь-яке непідконтрольне внутрішнє розгортання з 99% упевненістю після накопичення ~46 000 H100e-годин несанкціонованої роботи, тож стійке розгортання на 10 тис. H100e буде виявлено протягом ~4,6 годин, на 1 тис. — протягом ~46 годин, і так далі.", "Per-server tap": "Знімання даних на рівні сервера", "~4K H100e per server": "~4 тис. H100e на сервер", "Per-shelf tap": "Знімання даних на рівні полиці", "~400 H100e per shelf": "~400 H100e на полицю", "Per-GPU tap": "Знімання даних на рівні GPU", "~100 H100e per GPU": "~100 H100e на GPU", "Workload: ": "Навантаження: ", "Workload:": "Навантаження:", "~GPT-3 sized training run (100K H100e-hours)": "~прогін навчання розміру GPT-3 (100 тис. H100e-годин)", "Verification logging granularity": "Деталізація логування верифікації", "This is an ambitious verification scale, and it also relies on extremely good integrity security on the verification regime. We think it will be possible to scale it this far, especially with AI assistance, but are not confident, and find it plausible that the compute cap should be set lower in order to not increase the verification burden this much.": "Це амбітний масштаб верифікації, який до того ж покладається на надзвичайно високу цілісність безпеки в режимі верифікації. Ми вважаємо, що досягти такого масштабу можливо, особливо за допомогою ШІ, але не впевнені в цьому й вважаємо цілком імовірним, що ліміт обчислювальних потужностей варто встановити нижчим, щоб не збільшувати навантаження на верифікацію настільки сильно.", "2035: Moving the datacenters to the ocean": "2035: Перенесення дата-центрів в океан", "One of the biggest ongoing risks is that the deal breaks down and actors return to racing. Because of the vast increase in compute scale that has not been turned into capabilities progress (due to the safety regulations) the return to racing could be even more dangerous than the initial status quo, despite the alignment progress made up until this point, because things would now go faster. This motivates having measures in place to return to pre-deal compute levels, or even smaller compute scales if the deal breaks down.": "Один із найбільших постійних ризиків полягає в тому, що угода зірветься і актори повернуться до перегонів. Через величезне зростання масштабу обчислювальних потужностей, яке не перетворилося на прогрес можливостей (через регуляції безпеки), повернення до перегонів могло б бути навіть небезпечнішим за початковий статус-кво, попри досягнутий на цей момент прогрес в узгодженні, — тому що тепер усе відбуватиметься швидше. Це мотивує мати напоготові заходи для повернення до рівня обчислювальних потужностей до укладення угоди або й до ще менших масштабів, якщо угода зірветься.", "We think the relative engineering and logistical costs involved in building new datacenter capacity on the ocean in international waters will be low enough due to robot and AI labor to make this worth it around 2035, because it would become much harder for any particular actor to defend and much less escalatory to destroy in the event of the deal breaking down. This is an intentional measure for mutually assured compute destruction to increase the deal’s stability.": "Ми вважаємо, що відносні інженерні та логістичні витрати на будівництво нових дата-центрових потужностей в океані в міжнародних водах будуть достатньо низькими завдяки роботизованій та ШІ-праці, щоб це стало виправданим приблизно до 2035 року, оскільки будь-якому окремому актору стане значно складніше їх захищати, і знищення таких потужностей у разі зриву угоди буде значно менш ескалаційним. Це навмисний захід для взаємно гарантованого знищення обчислювальних потужностей, який підвищує стабільність угоди.", "2036+ Advanced robustness improvements": "2036+ Передові покращення стійкості", "Later into Plan A we are increasingly uncertain about what robustness improvements will be possible in terms of security, verification and deal stability. Potentially extremely ambitious things will be possible, a brainstorm here included:": "На пізніших етапах Плану А ми дедалі менше впевнені щодо того, які покращення стійкості будуть можливими з точки зору безпеки, верифікації та стабільності угоди. Потенційно стануть можливими надзвичайно амбітні речі, і нижче наведено мозковий штурм із цього приводу:", "Completely rewritten software stacks to be significantly or entirely formally verified.": "Повністю переписані програмні стеки, значною мірою або повністю формально верифіковані.", "Huge red teaming efforts on the verification scheme or security measures using resources that dominate any potential covert actors.": "Масштабні зусилля з ред-тімінгу схеми верифікації чи заходів безпеки з використанням ресурсів, що переважають ресурси будь-яких потенційних таємних акторів.", "Using AI and robot labor to track down potential covert projects in mutually agreed, symmetrical ways, e.g., the ‘AI silver bullets’ explored in our ": "Використання ШІ- та роботизованої праці для вистежування потенційних таємних проєктів у взаємно узгоджений, симетричний спосіб, наприклад, «срібні кулі ШІ» (AI silver bullets), розглянуті в нашому ", "Using AI and robot labor to track down potential covert projects in mutually agreed, symmetrical ways, e.g., the ‘AI silver bullets’ explored in our": "Використання ШІ- та роботизованої праці для вистежування потенційних таємних проєктів у взаємно узгоджений, симетричний спосіб, наприклад, «срібні кулі ШІ» (AI silver bullets), розглянуті в нашому", ": reliable lie detectors, privacy-preserving AI verification, and extreme industrial verification.": ": надійні детектори брехні, ШІ-верифікація зі збереженням приватності та надзвичайно глибока промислова верифікація.", "Appendix: Packet-Based Verification": "Додаток: Верифікація на основі пакетів", "This appendix works through the math on random sampling for use in partial recomputation to show why it scales so favourably for detecting incorrect workloads. A key simplifying assumption we make in this analysis is that the workload packets are perfectly reproducible.": "Цей додаток розбирає математику випадкової вибірки для часткового переобчислення, щоб показати, чому вона так вигідно масштабується для виявлення некоректних навантажень. Ключове спрощувальне припущення, яке ми робимо в цьому аналізі, — це те, що пакети навантаження є ідеально відтворюваними.", "A.1 Setup": "A.1 Постановка задачі", "In this analysis we treat verification as a sampling problem on a stream of packets. A packet is a reproducible unit of computation that the verifier can recompute: its inputs, instructions, and outputs are all collected at the evidence-collection point (e.g., a network tap). What the computation actually is (one forward pass, one training batch) doesn’t affect the math below. Further simplifying assumptions we make are:": "У цьому аналізі ми розглядаємо верифікацію як задачу вибірки на потоці пакетів. Пакет — це відтворювана одиниця обчислення, яку верифікатор може переобчислити: його вхідні дані, інструкції та вихідні дані повністю збираються в точці збору доказів (наприклад, у мережевій точці знімання даних). Те, чим саме є обчислення (один прямий прохід, один тренувальний батч), не впливає на подальшу математику. Додаткові спрощувальні припущення, які ми робимо:", "Uniform size.": "Однаковий розмір.", " Every packet represents the same amount of underlying compute. Non-uniform packets work too, with a weighted-sampling argument that doesn't change the qualitative results.": " Кожен пакет представляє однаковий обсяг базових обчислень. Пакети різного розміру теж працюють — за допомогою аргументу зваженої вибірки, що не змінює якісних результатів.", "Every packet represents the same amount of underlying compute. Non-uniform packets work too, with a weighted-sampling argument that doesn't change the qualitative results.": "Кожен пакет представляє однаковий обсяг базових обчислень. Пакети різного розміру теж працюють — за допомогою аргументу зваженої вибірки, що не змінює якісних результатів.", "Independent random sampling.": "Незалежна випадкова вибірка.", " The verifier audits each packet independently with the same probability. In reality you would sample without replacement.": " Верифікатор перевіряє кожен пакет незалежно з однаковою ймовірністю. У реальності вибірка здійснювалася б без повернення.", "The verifier audits each packet independently with the same probability. In reality you would sample without replacement.": "Верифікатор перевіряє кожен пакет незалежно з однаковою ймовірністю. У реальності вибірка здійснювалася б без повернення.", "Let the verifier's pool be some collection of packets; it could be a single training run, every packet from every workload running under the deal in a given month, or one cluster's traffic. Let ": "Нехай пул верифікатора — це якась сукупність пакетів; це може бути один прогін навчання, кожен пакет із кожного навантаження, що виконується в межах угоди за певний місяць, або трафік одного кластера. Нехай ", "Let the verifier's pool be some collection of packets; it could be a single training run, every packet from every workload running under the deal in a given month, or one cluster's traffic. Let": "Нехай пул верифікатора — це якась сукупність пакетів; це може бути один прогін навчання, кожен пакет із кожного навантаження, що виконується в межах угоди за певний місяць, або трафік одного кластера. Нехай", "packets": "packets", "N_{\\text{packets}}": "N_{\\text{packets}}", " be the total number of packets in that pool, ": " буде загальною кількістю пакетів у цьому пулі, ", "be the total number of packets in that pool,": "буде загальною кількістю пакетів у цьому пулі,", "s = 1 / N_{\\text{packets}}": "s = 1 / N_{\\text{packets}}", " the packet size (the fraction of the pool each packet represents), ": " розміром пакета (часткою пулу, яку становить кожен пакет), ", "the packet size (the fraction of the pool each packet represents),": "розміром пакета (часткою пулу, яку становить кожен пакет),", " the recomputation budget (the fraction of the pool the verifier can afford to recompute), and ": " бюджетом переобчислення (часткою пулу, яку верифікатор може собі дозволити переобчислити), а ", "the recomputation budget (the fraction of the pool the verifier can afford to recompute), and": "бюджетом переобчислення (часткою пулу, яку верифікатор може собі дозволити переобчислити), а", "verified": "verified", "N_{\\text{verified}} = C \\cdot N_{\\text{packets}} = C / s": "N_{\\text{verified}} = C \\cdot N_{\\text{packets}} = C / s", " the number of packets actually audited.": " кількістю пакетів, які фактично перевіряються.", "the number of packets actually audited.": "кількістю пакетів, які фактично перевіряються.", "A.2 Detection by Random Sampling": "A.2 Виявлення за допомогою випадкової вибірки", "The detection math in this section was independently derived but matches the analysis in ": "Математика виявлення в цьому розділі була виведена незалежно, але збігається з аналізом у ", "The detection math in this section was independently derived but matches the analysis in": "Математика виявлення в цьому розділі була виведена незалежно, але збігається з аналізом у", "Rinberg et al. (2025)": "Rinberg et al. (2025)", ". Suppose an attacker substitutes ": ". Припустімо, що зловмисник підміняє ", ". Suppose an attacker substitutes": ". Припустімо, що зловмисник підміняє", "fake": "fake", "N_{\\text{fake}}": "N_{\\text{fake}}", " packets, replacing the declared computation in each with their own unauthorized one. Let": " пакетів, замінюючи заявлене обчислення в кожному з них на своє несанкціоноване. Нехай", "packets, replacing the declared computation in each with their own unauthorized one. Let": "пакетів, замінюючи заявлене обчислення в кожному з них на своє несанкціоноване. Нехай", "\nF_{\\text{fake}} = \\frac{N_{\\text{fake}}}{N_{\\text{packets}}}\n": "\nF_{\\text{fake}} = \\frac{N_{\\text{fake}}}{N_{\\text{packets}}}\n", "F_{\\text{fake}} = \\frac{N_{\\text{fake}}}{N_{\\text{packets}}}": "F_{\\text{fake}} = \\frac{N_{\\text{fake}}}{N_{\\text{packets}}}", "be the fraction of packets that are fake. If the verifier audits each packet independently with probability ": "буде часткою пакетів, які є підробленими. Якщо верифікатор перевіряє кожен пакет незалежно з імовірністю ", "be the fraction of packets that are fake. If the verifier audits each packet independently with probability": "буде часткою пакетів, які є підробленими. Якщо верифікатор перевіряє кожен пакет незалежно з імовірністю", ", the exact probability that none of the ": ", то точна ймовірність того, що жоден із ", ", the exact probability that none of the": ", то точна ймовірність того, що жоден із", " fakes is audited is": " підроблених пакетів не буде перевірено, дорівнює", "fakes is audited is": "підроблених пакетів не буде перевірено, дорівнює", "undetected": "undetected", "\nP(\\text{undetected}) \\;=\\; (1 - C)^{N_{\\text{fake}}}.\n": "\nP(\\text{undetected}) \\;=\\; (1 - C)^{N_{\\text{fake}}}.\n", "P(\\text{undetected}) \\;=\\; (1 - C)^{N_{\\text{fake}}}.": "P(\\text{undetected}) \\;=\\; (1 - C)^{N_{\\text{fake}}}.", "For small ": "Для малого ", "For small": "Для малого", " and modestly large ": " і помірно великого ", "and modestly large": "і помірно великого", ", this is well approximated by a Poisson distribution on the number of caught fakes, with mean ": ", це добре наближується розподілом Пуассона для кількості виявлених підробок із середнім ", ", this is well approximated by a Poisson distribution on the number of caught fakes, with mean": ", це добре наближується розподілом Пуассона для кількості виявлених підробок із середнім", "\\lambda = N_{\\text{verified}} \\cdot F_{\\text{fake}} = C \\cdot N_{\\text{fake}}": "\\lambda = N_{\\text{verified}} \\cdot F_{\\text{fake}} = C \\cdot N_{\\text{fake}}", "\nP(\\text{undetected}) \\;\\approx\\; e^{-N_{\\text{verified}} \\cdot F_{\\text{fake}}},\n": "\nP(\\text{undetected}) \\;\\approx\\; e^{-N_{\\text{verified}} \\cdot F_{\\text{fake}}},\n", "P(\\text{undetected}) \\;\\approx\\; e^{-N_{\\text{verified}} \\cdot F_{\\text{fake}}},": "P(\\text{undetected}) \\;\\approx\\; e^{-N_{\\text{verified}} \\cdot F_{\\text{fake}}},", "so the probability of catching the attack (the ": "тож імовірність спіймати атаку (тобто ", "so the probability of catching the attack (the": "тож імовірність спіймати атаку (тобто", "detection confidence": "впевненість виявлення", " at attack size ": " за розміру атаки ", "at attack size": "за розміру атаки", "F_{\\text{fake}}": "F_{\\text{fake}}", ") is": ") дорівнює", "detected": "detected", "\nP(\\text{detected}) \\;=\\; 1 - P(\\text{undetected}) \\;\\approx\\; 1 - e^{-N_{\\text{verified}} \\cdot F_{\\text{fake}}}.\n": "\nP(\\text{detected}) \\;=\\; 1 - P(\\text{undetected}) \\;\\approx\\; 1 - e^{-N_{\\text{verified}} \\cdot F_{\\text{fake}}}.\n", "P(\\text{detected}) \\;=\\; 1 - P(\\text{undetected}) \\;\\approx\\; 1 - e^{-N_{\\text{verified}} \\cdot F_{\\text{fake}}}.": "P(\\text{detected}) \\;=\\; 1 - P(\\text{undetected}) \\;\\approx\\; 1 - e^{-N_{\\text{verified}} \\cdot F_{\\text{fake}}}.", "We'll use the Poisson form throughout, since it's the cleanest expression of the scaling. It breaks down only when ": "Ми використовуватимемо форму Пуассона повсюди, оскільки це найчистіший вираз масштабування. Вона перестає працювати лише коли ", "We'll use the Poisson form throughout, since it's the cleanest expression of the scaling. It breaks down only when": "Ми використовуватимемо форму Пуассона повсюди, оскільки це найчистіший вираз масштабування. Вона перестає працювати лише коли", " approaches 1 or ": " наближається до 1 або ", "approaches 1 or": "наближається до 1 або", " is single-digit, which is also when random sampling stops buying you anything (see the discussion at the end of ": " є однозначним числом, і саме тоді випадкова вибірка перестає давати будь-яку користь (див. обговорення наприкінці ", "is single-digit, which is also when random sampling stops buying you anything (see the discussion at the end of": "є однозначним числом, і саме тоді випадкова вибірка перестає давати будь-яку користь (див. обговорення наприкінці", "A.3 The Assurance Curve": "A.3 Крива впевненості", "The assurance curve is determined by ": "Крива впевненості визначається ", "The assurance curve is determined by": "Крива впевненості визначається", " which can be expressed in terms of ": ", яку можна виразити через ", "which can be expressed in terms of": ", яку можна виразити через", "F^{*}_{\\text{fake}}": "F^{*}_{\\text{fake}}", ", the largest fraction of fake packets we're willing to tolerate without detection:": ", найбільшу частку підроблених пакетів, яку ми готові допустити без виявлення:", "Coverage": "Покриття", "\\;=\\; 1 - F^{*}_{\\text{fake}}": "\\;=\\; 1 - F^{*}_{\\text{fake}}", ", the fraction of the workload we're claiming is legitimate.": ", частка навантаження, яку ми заявляємо як легітимну.", "\\;=\\; 1 - e^{-N_{\\text{verified}} \\cdot F^{*}_{\\text{fake}}}": "\\;=\\; 1 - e^{-N_{\\text{verified}} \\cdot F^{*}_{\\text{fake}}}", ", the probability we'd catch any actual violation at or above that threshold.": ", імовірність того, що ми виявимо будь-яке фактичне порушення на рівні цього порогу або вище.", "The confidence formula comes from ": "Формула впевненості походить від ", "The confidence formula comes from": "Формула впевненості походить від", "P(\\text{detected}) = 1 - e^{-N_{\\text{verified}} \\cdot F_{\\text{fake}}}": "P(\\text{detected}) = 1 - e^{-N_{\\text{verified}} \\cdot F_{\\text{fake}}}", ", evaluated at the threshold ": ", обчисленої за порогового значення ", ", evaluated at the threshold": ", обчисленої за порогового значення", ". The recomputation budget shows up through ": ". Бюджет переобчислення проявляється через ", ". The recomputation budget shows up through": ". Бюджет переобчислення проявляється через", "N_{\\text{verified}} = C \\cdot N_{\\text{packets}}": "N_{\\text{verified}} = C \\cdot N_{\\text{packets}}", ", so more audited packets push the curve outward.": ", тож що більше пакетів перевірено, то далі зсувається крива.", "Plotting confidence against coverage for several verification budgets (i.e., different values of ": "Побудова графіка впевненості відносно покриття для кількох бюджетів верифікації (тобто різних значень ", "Plotting confidence against coverage for several verification budgets (i.e., different values of": "Побудова графіка впевненості відносно покриття для кількох бюджетів верифікації (тобто різних значень", "N_{\\text{verified}}": "N_{\\text{verified}}", "These curves show the confidence-coverage relationship at different values of ": "Ці криві показують співвідношення впевненість-покриття за різних значень ", "These curves show the confidence-coverage relationship at different values of": "Ці криві показують співвідношення впевненість-покриття за різних значень", ". Higher ": ". Вище значення ", ". Higher": ". Вище значення", " gives you higher assurance (shifts the curve right). Since ": " дає вищу впевненість (зсуває криву праворуч). Оскільки ", "gives you higher assurance (shifts the curve right). Since": "дає вищу впевненість (зсуває криву праворуч). Оскільки", "N_{\\text{verified}} = C / s": "N_{\\text{verified}} = C / s", "the curve can be shifted higher either by (1) increasing the recomputation budget ": "криву можна зсунути вище або (1) збільшуючи бюджет переобчислення ", "the curve can be shifted higher either by (1) increasing the recomputation budget": "криву можна зсунути вище або (1) збільшуючи бюджет переобчислення", " or (2) shrinking the packet size ": " або (2) зменшуючи розмір пакета ", "or (2) shrinking the packet size": "або (2) зменшуючи розмір пакета", "When the Poisson approximation breaks down.": "Коли наближення Пуассона перестає працювати.", "The product ": "Добуток ", "The product": "Добуток", "C \\cdot N_{\\text{fake}}": "C \\cdot N_{\\text{fake}}", " (recomputation budget times number of fake packets) is the single quantity that determines 99% catch probability: it just needs to exceed about 4.6.": " (бюджет переобчислення, помножений на кількість підроблених пакетів) — це єдина величина, що визначає 99% імовірність виявлення: їй просто потрібно перевищити приблизно 4,6.", "(recomputation budget times number of fake packets) is the single quantity that determines 99% catch probability: it just needs to exceed about 4.6.": "(бюджет переобчислення, помножений на кількість підроблених пакетів) — це єдина величина, що визначає 99% імовірність виявлення: їй просто потрібно перевищити приблизно 4,6.", "This makes the limiting case revealing. Imagine you sample one packet per server-hour, so ": "Це робить граничний випадок показовим. Уявімо, що ви робите вибірку одного пакета на сервер-годину, тож ", "This makes the limiting case revealing. Imagine you sample one packet per server-hour, so": "Це робить граничний випадок показовим. Уявімо, що ви робите вибірку одного пакета на сервер-годину, тож", " server-hour, and the attack is also just a single fake packet (one rogue server-hour buried in a much longer, say year-long, workload). With ": " сервер-годину, а атака теж є лише одним підробленим пакетом (одна непідконтрольна сервер-година, захована в значно довшому, скажімо, річному навантаженні). За умови ", "server-hour, and the attack is also just a single fake packet (one rogue server-hour buried in a much longer, say year-long, workload). With": "сервер-годину, а атака теж є лише одним підробленим пакетом (одна непідконтрольна сервер-година, захована в значно довшому, скажімо, річному навантаженні). За умови", "N_{\\text{fake}} = 1": "N_{\\text{fake}} = 1", ", the Poisson approximation would say you need ": ", наближення Пуассона сказало б, що вам потрібно ", ", the Poisson approximation would say you need": ", наближення Пуассона сказало б, що вам потрібно", "C \\geq 4.6": "C \\geq 4.6", ", which doesn't make sense: ": ", що не має сенсу: ", ", which doesn't make sense:": ", що не має сенсу:", " is a fraction, capped at 1 (you can't recompute more than 100% of packets).": " є часткою, обмеженою значенням 1 (не можна переобчислити більше 100% пакетів).", "is a fraction, capped at 1 (you can't recompute more than 100% of packets).": "є часткою, обмеженою значенням 1 (не можна переобчислити більше 100% пакетів).", "This is the regime where the Poisson approximation breaks down, and the right formula is the exact one for sampling without replacement:": "Це режим, у якому наближення Пуассона перестає працювати, і правильною формулою є точна формула для вибірки без повернення:", "catch": "catch", "\nP(\\text{catch}) \\;=\\; 1 - (1 - C)^{N_{\\text{fake}}}.\n": "\nP(\\text{catch}) \\;=\\; 1 - (1 - C)^{N_{\\text{fake}}}.\n", "P(\\text{catch}) \\;=\\; 1 - (1 - C)^{N_{\\text{fake}}}.": "P(\\text{catch}) \\;=\\; 1 - (1 - C)^{N_{\\text{fake}}}.", "For ": "За умови ", "For": "За умови", " this gives ": " це дає ", "this gives": "це дає", "P(\\text{catch}) = C": "P(\\text{catch}) = C", ". To catch a single fake packet with 99% confidence, you'd need to recompute 99% of all packets, i.e. you've essentially given up on sampling and are doing full verification. The size of the surrounding workload doesn't matter: you're flipping a single coin biased by ": ". Щоб виявити один підроблений пакет із 99% упевненістю, довелося б переобчислити 99% усіх пакетів, тобто ви фактично відмовляєтеся від вибірки й проводите повну верифікацію. Розмір навколишнього навантаження не має значення: ви підкидаєте одну монету, зміщену на ", ". To catch a single fake packet with 99% confidence, you'd need to recompute 99% of all packets, i.e. you've essentially given up on sampling and are doing full verification. The size of the surrounding workload doesn't matter: you're flipping a single coin biased by": ". Щоб виявити один підроблений пакет із 99% упевненістю, довелося б переобчислити 99% усіх пакетів, тобто ви фактично відмовляєтеся від вибірки й проводите повну верифікацію. Розмір навколишнього навантаження не має значення: ви підкидаєте одну монету, зміщену на", "The Poisson formula is accurate whenever ": "Формула Пуассона є точною, коли ", "The Poisson formula is accurate whenever": "Формула Пуассона є точною, коли", " is at least a few dozen and ": " становить щонайменше кілька десятків, а ", "is at least a few dozen and": "становить щонайменше кілька десятків, а", " is small (say under 10%). For ": " є малим (скажімо, менше 10%). За умови ", "is small (say under 10%). For": "є малим (скажімо, менше 10%). За умови", "N_{\\text{fake}} = 100": "N_{\\text{fake}} = 100", ", the exact required budget for 99% catch is 4.5%, vs Poisson's 4.6%, which is very close. For ": ", точний необхідний бюджет для 99% виявлення становить 4,5% проти 4,6% за Пуассоном, що дуже близько. За умови ", ", the exact required budget for 99% catch is 4.5%, vs Poisson's 4.6%, which is very close. For": ", точний необхідний бюджет для 99% виявлення становить 4,5% проти 4,6% за Пуассоном, що дуже близько. За умови", "N_{\\text{fake}} = 1000": "N_{\\text{fake}} = 1000", " the exact answer is 0.459%, vs Poisson's 0.46%. The two agree better as ": " точна відповідь становить 0,459% проти 0,46% за Пуассоном. Ці два значення збігаються тим краще, чим більше ", "the exact answer is 0.459%, vs Poisson's 0.46%. The two agree better as": "точна відповідь становить 0,459% проти 0,46% за Пуассоном. Ці два значення збігаються тим краще, чим більше", " grows. Things only diverge in the small-": " зростає. Розбіжність виникає лише в куточку з малим ", "grows. Things only diverge in the small-": "зростає. Розбіжність виникає лише в куточку з малим", " corner, which is also exactly the corner where random sampling stops being useful and you have to recompute everything.": ", і це саме той випадок, коли випадкова вибірка перестає бути корисною і доводиться переобчислювати все.", "corner, which is also exactly the corner where random sampling stops being useful and you have to recompute everything.": ", і це саме той випадок, коли випадкова вибірка перестає бути корисною і доводиться переобчислювати все.", "So the practical takeaway: random sampling buys you a lot once you're catching attacks that span at least dozens of packets. To catch attacks below that, shrink packets (decrease ": "Тож практичний висновок: випадкова вибірка дає велику вигоду, коли ви виявляєте атаки, що охоплюють щонайменше десятки пакетів. Щоб виявляти атаки менші за цей поріг, зменшуйте розмір пакетів (зменшуйте ", "So the practical takeaway: random sampling buys you a lot once you're catching attacks that span at least dozens of packets. To catch attacks below that, shrink packets (decrease": "Тож практичний висновок: випадкова вибірка дає велику вигоду, коли ви виявляєте атаки, що охоплюють щонайменше десятки пакетів. Щоб виявляти атаки менші за цей поріг, зменшуйте розмір пакетів (зменшуйте", ") so the same fake compute-work spans more packets.": "), щоб той самий обсяг підробленої обчислювальної роботи охоплював більше пакетів.", "A.4 Worked Examples": "A.4 Розібрані приклади", "A.4.1 100K-token Backdoor in a 100T-token Training Run": "A.4.1 Бекдор на 100 тис. токенів у прогоні навчання на 100 трлн токенів", "Consider a training run of ": "Розгляньмо прогін навчання на ", "Consider a training run of": "Розгляньмо прогін навчання на", "N_{\\text{tokens}} = 10^{14}": "N_{\\text{tokens}} = 10^{14}", " tokens (100T) using distributed data parallelism. Network taps between server racks log every gradient step (its input batch, the gradient update, and the resulting checkpoint update), so each gradient step is one packet. An attacker wants to insert a backdoor by silently training on ": " токенів (100 трлн) з використанням розподіленого паралелізму даних. Мережеві точки знімання даних між серверними стійками логують кожен градієнтний крок (його вхідний батч, оновлення градієнта та результуюче оновлення чекпойнта), тож кожен градієнтний крок — це один пакет. Зловмисник хоче впровадити бекдор, потайки навчаючи на ", "tokens (100T) using distributed data parallelism. Network taps between server racks log every gradient step (its input batch, the gradient update, and the resulting checkpoint update), so each gradient step is one packet. An attacker wants to insert a backdoor by silently training on": "токенів (100 трлн) з використанням розподіленого паралелізму даних. Мережеві точки знімання даних між серверними стійками логують кожен градієнтний крок (його вхідний батч, оновлення градієнта та результуюче оновлення чекпойнта), тож кожен градієнтний крок — це один пакет. Зловмисник хоче впровадити бекдор, потайки навчаючи на", "fake tokens": "fake tokens", "N_{\\text{fake tokens}} = 10^{5}": "N_{\\text{fake tokens}} = 10^{5}", " off-spec tokens (100K).": " позаспецифікаційних токенах (100 тис.).", "off-spec tokens (100K).": "позаспецифікаційних токенах (100 тис.).", "Quantity": "Величина", "Symbol": "Символ", "Value": "Значення", "Training tokens": "Токени навчання", "N_{\\text{tokens}}": "N_{\\text{tokens}}", "Attack size (backdoor)": "Розмір атаки (бекдор)", "N_{\\text{fake tokens}}": "N_{\\text{fake tokens}}", "Batch size": "Розмір батчу", "design choice": "проєктне рішення", "Number of packets": "Кількість пакетів", "N_{\\text{tokens}} / B": "N_{\\text{tokens}} / B", "Packet size": "Розмір пакета", "B / N_{\\text{tokens}}": "B / N_{\\text{tokens}}", "Fake fraction": "Частка підробки", "N_{\\text{fake tokens}} / N_{\\text{tokens}} = 10^{-9}": "N_{\\text{fake tokens}} / N_{\\text{tokens}} = 10^{-9}", "For 99.9% detection confidence we need ": "Для 99,9% упевненості у виявленні нам потрібно ", "For 99.9% detection confidence we need": "Для 99,9% упевненості у виявленні нам потрібно", "ln": "ln", "N_{\\text{verified}} \\cdot F_{\\text{fake}} \\geq \\ln(1000) \\approx 7": "N_{\\text{verified}} \\cdot F_{\\text{fake}} \\geq \\ln(1000) \\approx 7", "N_{\\text{verified}} \\geq 7 \\times 10^{9}": "N_{\\text{verified}} \\geq 7 \\times 10^{9}", ". The recomputation cost as a fraction of the training run is then": ". Тоді вартість переобчислення як частка прогону навчання становить", "\nC \\;=\\; \\frac{N_{\\text{verified}}}{N_{\\text{packets}}} \\;=\\; N_{\\text{verified}} \\cdot s \\;=\\; \\frac{7 \\cdot B}{N_{\\text{fake tokens}}} \\;=\\; \\frac{7 B}{10^{5}}.\n": "\nC \\;=\\; \\frac{N_{\\text{verified}}}{N_{\\text{packets}}} \\;=\\; N_{\\text{verified}} \\cdot s \\;=\\; \\frac{7 \\cdot B}{N_{\\text{fake tokens}}} \\;=\\; \\frac{7 B}{10^{5}}.\n", "C \\;=\\; \\frac{N_{\\text{verified}}}{N_{\\text{packets}}} \\;=\\; N_{\\text{verified}} \\cdot s \\;=\\; \\frac{7 \\cdot B}{N_{\\text{fake tokens}}} \\;=\\; \\frac{7 B}{10^{5}}.": "C \\;=\\; \\frac{N_{\\text{verified}}}{N_{\\text{packets}}} \\;=\\; N_{\\text{verified}} \\cdot s \\;=\\; \\frac{7 \\cdot B}{N_{\\text{fake tokens}}} \\;=\\; \\frac{7 B}{10^{5}}.", "Batch size ": "Розмір батчу ", "Recomputation cost ": "Вартість переобчислення ", "Recomputation cost": "Вартість переобчислення", "Making batches ": "Зменшення батчів ", "Making batches": "Зменшення батчів", "10\\times": "10\\times", " smaller cuts the required recomputation cost ": " у стільки ж разів знижує необхідну вартість переобчислення ", "smaller cuts the required recomputation cost": "у стільки ж разів знижує необхідну вартість переобчислення", " for the same confidence (ignoring the fact that we do better than this at values of C close to 1 by sampling without replacement). The two practical levers on packet size are (1) smaller batches (more gradient steps per training run), and (2) sub-batch logging, tracking intermediate computations within a batch (e.g., individual forward/backward passes), which might require evidence-collection devices inside server racks or even inside GPUs themselves.": " за тієї самої впевненості (не враховуючи того, що за значень C, близьких до 1, вибірка без повернення дає ще кращий результат). Два практичні важелі впливу на розмір пакета — це (1) менші батчі (більше градієнтних кроків на прогін навчання) і (2) логування на рівні під-батчу, тобто відстеження проміжних обчислень усередині батчу (наприклад, окремих прямих/зворотних проходів), що може вимагати пристроїв збору доказів усередині серверних стійок або навіть усередині самих GPU.", "for the same confidence (ignoring the fact that we do better than this at values of C close to 1 by sampling without replacement). The two practical levers on packet size are (1) smaller batches (more gradient steps per training run), and (2) sub-batch logging, tracking intermediate computations within a batch (e.g., individual forward/backward passes), which might require evidence-collection devices inside server racks or even inside GPUs themselves.": "за тієї самої впевненості (не враховуючи того, що за значень C, близьких до 1, вибірка без повернення дає ще кращий результат). Два практичні важелі впливу на розмір пакета — це (1) менші батчі (більше градієнтних кроків на прогін навчання) і (2) логування на рівні під-батчу, тобто відстеження проміжних обчислень усередині батчу (наприклад, окремих прямих/зворотних проходів), що може вимагати пристроїв збору доказів усередині серверних стійок або навіть усередині самих GPU.", "A.4.2 Bounding Rogue Compute Use in 100B H100e of Verified R&D": "A.4.2 Обмеження непідконтрольного використання обчислювальних потужностей у 100 млрд H100e верифікованого R&D", " section explores what ": " досліджує, за яких умов ", "section explores what": "досліджує, за яких умов", "rogue internal deployments": "непідконтрольні внутрішні розгортання", " have low detection probability if the verifier has a 1% recomputation budget across 100B H100e of verified R&D compute. Rogue internal deployments are potentially scarier than external illegal projects due to internal access to frontier models and the rest of the R&D cluster. Detection relies on the verification system catching their fake packets. The math below translates the assurance curve from ": " мають низьку ймовірність виявлення, якщо в верифікатора є бюджет переобчислення 1% на 100 млрд H100e верифікованих R&D-потужностей. Непідконтрольні внутрішні розгортання потенційно небезпечніші за зовнішні незаконні проєкти через внутрішній доступ до передових моделей та решти R&D-кластера. Виявлення залежить від того, чи спіймає система верифікації їхні підроблені пакети. Наведена нижче математика перекладає криву впевненості з ", "have low detection probability if the verifier has a 1% recomputation budget across 100B H100e of verified R&D compute. Rogue internal deployments are potentially scarier than external illegal projects due to internal access to frontier models and the rest of the R&D cluster. Detection relies on the verification system catching their fake packets. The math below translates the assurance curve from": "мають низьку ймовірність виявлення, якщо в верифікатора є бюджет переобчислення 1% на 100 млрд H100e верифікованих R&D-потужностей. Непідконтрольні внутрішні розгортання потенційно небезпечніші за зовнішні незаконні проєкти через внутрішній доступ до передових моделей та решти R&D-кластера. Виявлення залежить від того, чи спіймає система верифікації їхні підроблені пакети. Наведена нижче математика перекладає криву впевненості з", " to concrete values.": " у конкретні значення.", "to concrete values.": "у конкретні значення.", "Starting from ": "Починаючи з ", "Starting from": "Починаючи з", " and substituting ": " і підставляючи ", "and substituting": "і підставляючи", "F_{\\text{fake}} = N_{\\text{fake}} / N_{\\text{packets}}": "F_{\\text{fake}} = N_{\\text{fake}} / N_{\\text{packets}}", ", the ": ", ", ", the": ",", " cancels and the detection probability becomes:": " скорочується, і ймовірність виявлення набуває вигляду:", "cancels and the detection probability becomes:": "скорочується, і ймовірність виявлення набуває вигляду:", "\nP(\\text{detected}) \\;=\\; 1 - e^{-C \\cdot N_{\\text{fake}}}.\n": "\nP(\\text{detected}) \\;=\\; 1 - e^{-C \\cdot N_{\\text{fake}}}.\n", "P(\\text{detected}) \\;=\\; 1 - e^{-C \\cdot N_{\\text{fake}}}.": "P(\\text{detected}) \\;=\\; 1 - e^{-C \\cdot N_{\\text{fake}}}.", "In this form the detection probability is a function of the recomputation budget ": "У цій формі ймовірність виявлення є функцією бюджету переобчислення ", "In this form the detection probability is a function of the recomputation budget": "У цій формі ймовірність виявлення є функцією бюджету переобчислення", " and the absolute number of fake packets ": " та абсолютної кількості підроблених пакетів ", "and the absolute number of fake packets": "та абсолютної кількості підроблених пакетів", " the attacker generates.": ", які генерує зловмисник.", "the attacker generates.": ", які генерує зловмисник.", "For 99% confidence we need ": "Для 99% упевненості нам потрібно ", "For 99% confidence we need": "Для 99% упевненості нам потрібно", "C \\cdot N_{\\text{fake}} \\geq \\ln(100) \\approx 4.6": "C \\cdot N_{\\text{fake}} \\geq \\ln(100) \\approx 4.6", ", so the attacker is caught with 99% confidence the moment they have accumulated": ", тож зловмисника буде спіймано з 99% упевненістю в момент, коли він накопичить", "\nN_{\\text{fake}}^{99\\%} \\;=\\; \\frac{4.6}{C}\n": "\nN_{\\text{fake}}^{99\\%} \\;=\\; \\frac{4.6}{C}\n", "N_{\\text{fake}}^{99\\%} \\;=\\; \\frac{4.6}{C}": "N_{\\text{fake}}^{99\\%} \\;=\\; \\frac{4.6}{C}", "fake packets. With ": "підроблених пакетів. За умови ", "fake packets. With": "підроблених пакетів. За умови", " that is 461 packets, independent of pool size and of how the work is spread across workloads. Multiplying by the packet size ": " це 461 пакет, незалежно від розміру пулу та того, як робота розподілена між навантаженнями. Помноживши на розмір пакета ", "that is 461 packets, independent of pool size and of how the work is spread across workloads. Multiplying by the packet size": "це 461 пакет, незалежно від розміру пулу та того, як робота розподілена між навантаженнями. Помноживши на розмір пакета", " converts this to a bound on cumulative rogue compute work:": " ми перетворюємо це на межу для сукупного обсягу непідконтрольної обчислювальної роботи:", "converts this to a bound on cumulative rogue compute work:": "ми перетворюємо це на межу для сукупного обсягу непідконтрольної обчислювальної роботи:", "rogue": "rogue", "\nW_{\\text{rogue}}^{99\\%} \\;=\\; \\frac{4.6 \\cdot p}{C}.\n": "\nW_{\\text{rogue}}^{99\\%} \\;=\\; \\frac{4.6 \\cdot p}{C}.\n", "W_{\\text{rogue}}^{99\\%} \\;=\\; \\frac{4.6 \\cdot p}{C}.": "W_{\\text{rogue}}^{99\\%} \\;=\\; \\frac{4.6 \\cdot p}{C}.", "Consider the operational setup of the 2034 section, in which the verifier collects one packet per hour from each frontier GPU (about 100 H100e each by 2034). Then ": "Розгляньмо операційну конфігурацію з розділу про 2034 рік, у якій верифікатор збирає один пакет щогодини з кожного передового GPU (приблизно 100 H100e кожен до 2034 року). Тоді ", "Consider the operational setup of the 2034 section, in which the verifier collects one packet per hour from each frontier GPU (about 100 H100e each by 2034). Then": "Розгляньмо операційну конфігурацію з розділу про 2034 рік, у якій верифікатор збирає один пакет щогодини з кожного передового GPU (приблизно 100 H100e кожен до 2034 року). Тоді", " H100e-hours, and with ": " H100e-годин, а за умови ", "H100e-hours, and with": "H100e-годин, а за умови", " H100e-hours": " H100e-годин", "H100e-hours": "H100e-годин", "\nW_{\\text{rogue}}^{99\\%} \\;=\\; \\frac{4.6 \\cdot 100}{0.01} \\;=\\; 46{,}000 \\text{ H100e-hours}.\n": "\nW_{\\text{rogue}}^{99\\%} \\;=\\; \\frac{4.6 \\cdot 100}{0.01} \\;=\\; 46{,}000 \\text{ H100e-hours}.\n", "W_{\\text{rogue}}^{99\\%} \\;=\\; \\frac{4.6 \\cdot 100}{0.01} \\;=\\; 46{,}000 \\text{ H100e-hours}.": "W_{\\text{rogue}}^{99\\%} \\;=\\; \\frac{4.6 \\cdot 100}{0.01} \\;=\\; 46{,}000 \\text{ H100e-hours}.", "The verifier catches with 99% confidence any rogue internal deployment that accumulates more than about 46K H100e-hours of unapproved compute work inside the verified pool, regardless of pace or distribution. The bound on cumulative rogue work scales linearly in ": "Верифікатор виявляє з 99% упевненістю будь-яке непідконтрольне внутрішнє розгортання, яке накопичує понад приблизно 46 тис. H100e-годин несанкціонованої обчислювальної роботи в межах верифікованого пулу, незалежно від темпу чи розподілу. Межа для сукупної непідконтрольної роботи масштабується лінійно за ", "The verifier catches with 99% confidence any rogue internal deployment that accumulates more than about 46K H100e-hours of unapproved compute work inside the verified pool, regardless of pace or distribution. The bound on cumulative rogue work scales linearly in": "Верифікатор виявляє з 99% упевненістю будь-яке непідконтрольне внутрішнє розгортання, яке накопичує понад приблизно 46 тис. H100e-годин несанкціонованої обчислювальної роботи в межах верифікованого пулу, незалежно від темпу чи розподілу. Межа для сукупної непідконтрольної роботи масштабується лінійно за", "; a few representative operating points:": "; кілька репрезентативних робочих точок:", "Packet size ": "Розмір пакета ", "Budget ": "Бюджет ", "Budget": "Бюджет", "Max undetected rogue work": "Макс. невиявлена непідконтрольна робота", "46,000 H100e-hours": "46 000 H100e-годин", "460,000 H100e-hours": "460 000 H100e-годин", "10 H100e-hours": "10 H100e-годин", "4,600 H100e-hours": "4 600 H100e-годин", "1 H100e-hour": "1 H100e-година", "460 H100e-hours": "460 H100e-годин", "With variable economic costliness and other tradeoffs which we discuss. As a baseline we are >90% confident that a highly costly verification solution is possible for both inference and training (e.g., multi-year verified compute shutdown with verification R&D sprint and secure rebuild).": "Зі змінною економічною затратністю та іншими компромісами, які ми обговорюємо. Як базовий рівень, ми на >90% упевнені, що дуже затратне рішення з верифікації можливе як для інференсу, так і для навчання (наприклад, багаторічне верифіковане вимкнення обчислювальних потужностей з прискореним R&D верифікації та захищеною відбудовою).", " discusses how likely it is for a covert project to be able to pose a threat to the deal or win the AI race.": " обговорює, наскільки ймовірно, що таємний проєкт зможе становити загрозу для угоди чи виграти гонку ШІ.", "discusses how likely it is for a covert project to be able to pose a threat to the deal or win the AI race.": "обговорює, наскільки ймовірно, що таємний проєкт зможе становити загрозу для угоди чи виграти гонку ШІ.", "Even this might be difficult to execute on to the extent that at least one side has high uncertainty over the other having a large secret datacenter that they don’t declare and allow the other side to verify is powered off.": "Навіть це може бути складно реалізувати тією мірою, якою хоча б одна сторона має високу невизначеність щодо того, чи не має інша сторона великого таємного дата-центру, який вона не декларує і не дозволяє іншій стороні верифікувати як вимкнений.", "Another live option that could currently be executed quickly would be to unplug (most) backend networking from datacenters. This might allow a lot of inference to continue (less costly), but also might not slow down AI development robustly (inference is used as rollouts for data to be used in federated learning training run elsewhere).": "Ще один реалістичний варіант, який наразі можна швидко реалізувати, — від’єднати (більшість) бекенд-мережі від дата-центрів. Це могло б дозволити продовжити значну частину інференсу (дешевше), але також могло б не сповільнити розвиток ШІ надійно (інференс використовується для генерації даних (rollouts), які потім застосовуються у федеративному навчанні десь-інде).", "A key reason we believe this is that the verifier only needs to catch one violation, while a prover needs to successfully hide all of their covert computations. This is the reason behind e.g., the favourable scaling of partial recomputation due to random sampling which we explore in our ": "Ключова причина, чому ми в це віримо, полягає в тому, що верифікатору потрібно спіймати лише одне порушення, тоді як доводчику потрібно успішно приховати всі свої таємні обчислення. Саме це лежить в основі, наприклад, сприятливого масштабування часткового переобчислення завдяки випадковій вибірці, яке ми досліджуємо в нашому ", "A key reason we believe this is that the verifier only needs to catch one violation, while a prover needs to successfully hide all of their covert computations. This is the reason behind e.g., the favourable scaling of partial recomputation due to random sampling which we explore in our": "Ключова причина, чому ми в це віримо, полягає в тому, що верифікатору потрібно спіймати лише одне порушення, тоді як доводчику потрібно успішно приховати всі свої таємні обчислення. Саме це лежить в основі, наприклад, сприятливого масштабування часткового переобчислення завдяки випадковій вибірці, яке ми досліджуємо в нашому", "I.e., doesn’t require compute to be shut down for long.": "Тобто не вимагає тривалого вимкнення обчислювальних потужностей.", "Conditional on the Plan A scenario (the mutual chip declaration and inspection in 2029 carried out, and our chip tracking recommendation executed competently), our ": "За умови сценарію Плану А (взаємна декларація та інспекція чіпів у 2029 році здійснені, а наша рекомендація щодо відстеження чіпів компетентно виконана), наше ", "Conditional on the Plan A scenario (the mutual chip declaration and inspection in 2029 carried out, and our chip tracking recommendation executed competently), our": "За умови сценарію Плану А (взаємна декларація та інспекція чіпів у 2029 році здійснені, а наша рекомендація щодо відстеження чіпів компетентно виконана), наше", " estimates that a competently-executed PRC diversion effort would net a median of 0.51% of world compute (80% CI: 0.11% to 1.4%), implying roughly an 80% chance that total ‘dark compute’ stays under 1% of the world’s AI-relevant compute.": " оцінює, що компетентно виконане зусилля з відвернення потужностей з боку КНР дасть медіанно 0,51% світових обчислювальних потужностей (80% ДІ: від 0,11% до 1,4%), що означає приблизно 80% імовірність того, що загальний обсяг «темних обчислювальних потужностей» залишиться нижче 1% релевантних для ШІ обчислювальних потужностей світу.", "estimates that a competently-executed PRC diversion effort would net a median of 0.51% of world compute (80% CI: 0.11% to 1.4%), implying roughly an 80% chance that total ‘dark compute’ stays under 1% of the world’s AI-relevant compute.": "оцінює, що компетентно виконане зусилля з відвернення потужностей з боку КНР дасть медіанно 0,51% світових обчислювальних потужностей (80% ДІ: від 0,11% до 1,4%), що означає приблизно 80% імовірність того, що загальний обсяг «темних обчислювальних потужностей» залишиться нижче 1% релевантних для ШІ обчислювальних потужностей світу.", "We are uncertain about the compute-sensitivity of progress in the takeoff period (automated coder to superintelligence milestones). If we operationalize this (for simplicity) in terms of how much slower you go if you have 10x less compute, we think it's most likely to be somewhere between 2x to 6x slower (see ": "Ми не впевнені щодо чутливості прогресу до обчислювальних потужностей у період зльоту (від автоматизованого програміста до віх суперінтелекту). Якщо операціоналізувати це (для простоти) через те, наскільки повільніше ви рухаєтесь за 10-кратно менших обчислювальних потужностей, ми вважаємо, що найімовірніше це десь між 2x і 6x повільніше (див. ", "We are uncertain about the compute-sensitivity of progress in the takeoff period (automated coder to superintelligence milestones). If we operationalize this (for simplicity) in terms of how much slower you go if you have 10x less compute, we think it's most likely to be somewhere between 2x to 6x slower (see": "Ми не впевнені щодо чутливості прогресу до обчислювальних потужностей у період зльоту (від автоматизованого програміста до віх суперінтелекту). Якщо операціоналізувати це (для простоти) через те, наскільки повільніше ви рухаєтесь за 10-кратно менших обчислювальних потужностей, ми вважаємо, що найімовірніше це десь між 2x і 6x повільніше (див.", "How much slower does takeoff go with 10x less compute?": "Наскільки повільніше проходить зліт за 10-кратно менших обчислювальних потужностей?", " and the matching ": " та відповідну ", "and the matching": "та відповідну", "model": "модель", " in the covert project supplement). The specific trajectories we expect hypothetical covert projects to follow in the Plan A scenario (including the effects of algorithmic progress leaking from legal projects) are modelled and explained much more carefully in our ": " у додатку про таємні проєкти). Конкретні траєкторії, за якими, на нашу думку, розвиватимуться гіпотетичні таємні проєкти в сценарії Плану А (включно з ефектами витоку алгоритмічного прогресу з легальних проєктів), значно ретельніше змодельовано й пояснено в нашому ", "in the covert project supplement). The specific trajectories we expect hypothetical covert projects to follow in the Plan A scenario (including the effects of algorithmic progress leaking from legal projects) are modelled and explained much more carefully in our": "у додатку про таємні проєкти). Конкретні траєкторії, за якими, на нашу думку, розвиватимуться гіпотетичні таємні проєкти в сценарії Плану А (включно з ефектами витоку алгоритмічного прогресу з легальних проєктів), значно ретельніше змодельовано й пояснено в нашому", "By known-to-exist, we are recommending that intelligence agencies know with high confidence at least that the compute exists, and who has it, not necessarily exactly where it is (though that is also helpful), because the first two conditions should be sufficient to make it impossible to exclude from a future mutual chip declaration with plausible deniability.": "Під «відомо про існування» ми маємо на увазі, що ми рекомендуємо розвідувальним службам знати з високою впевненістю щонайменше те, що обчислювальні потужності існують і хто ними володіє, не обов’язково точно де вони знаходяться (хоча це теж корисно), тому що перших двох умов має бути достатньо, щоб унеможливити їх виключення з майбутньої взаємної декларації чіпів із правдоподібним запереченням.", "In other words, without this measure in place, one strategy that an actor might pursue is to build the largest covert project they can get away with, and then wait until they make enough alignment progress such that they are confident they could win with their covert project. At this point they could pull out the deal, destroy the post-deal compute, and now their covert project would be the leading world project, with a high chance of success. This strategy is no longer likely to be viable if your adversary has a cold storage compute bank that dominates your covert project.": "Іншими словами, без цього заходу одна зі стратегій, яку міг би обрати актор, — це побудувати найбільший таємний проєкт, який йому вдасться приховати, а потім чекати, поки він досягне достатнього прогресу в узгодженні, щоб бути впевненим, що зможе перемогти зі своїм таємним проєктом. У цей момент він міг би вийти з угоди, знищити обчислювальні потужності, вироблені після угоди, і тоді його таємний проєкт став би провідним світовим проєктом із високими шансами на успіх. Ця стратегія, ймовірно, перестає бути життєздатною, якщо у вашого супротивника є банк обчислювальних потужностей на холодному зберіганні, що переважає ваш таємний проєкт.", "There are tens of billions of phones, each around 0.1 - 1% as useful as an H100 for AI workloads, which still means tens of millions of H100-equivalents, i.e., ~10% of the total AI-relevant compute in the world.": "Існують десятки мільярдів телефонів, кожен з яких приблизно на 0,1–1% такий же корисний, як H100, для ШІ-навантажень, що все одно означає десятки мільйонів H100-еквівалентів, тобто ~10% усіх релевантних для ШІ обчислювальних потужностей світу.", "This means there will be plenty of cheap phones that have low local-AI capabilities, whereas phones or other consumer devices that have a lot of local, or ‘edge’ AI compute will be very expensive at first until there is robust edge verification.": "Це означає, що буде багато дешевих телефонів з низькими локальними ШІ-можливостями, тоді як телефони чи інші споживчі пристрої з великою кількістю локальних, тобто «периферійних», ШІ-обчислювальних потужностей спочатку будуть дуже дорогими, доки не з’явиться надійна периферійна верифікація.", "For example, technical details about the networking, e.g., optical speeds, bandwidths, frequencies.": "Наприклад, технічні деталі про мережу, зокрема оптичні швидкості, пропускну здатність, частоти.", "For example, maybe we think handoff risk has gone under 10%, and so we want to exit the deal via handoff if there is a greater than 10% risk that a violation using 1% of the verified compute in a given period would be catastrophic (i.e., our curve is under the 90% confidence, 99% coverage point).": "Наприклад, можливо, ми вважаємо, що ризик передання повноважень опустився нижче 10%, тож ми хочемо вийти з угоди через передання повноважень, якщо існує понад 10% ризику того, що порушення з використанням 1% верифікованих обчислювальних потужностей у певний період буде катастрофічним (тобто наша крива нижча за точку 90% упевненості, 99% покриття).", "For example, the disclosure happening within an airgap, which should make it tolerable in most of the relevant cases.": "Наприклад, розкриття інформації, що відбувається в межах фізично ізольованого (air-gapped) середовища, що має робити це прийнятним у більшості відповідних випадків.", "The outlook for resumed AI R&D is also important for driving continued AI investment.": "Перспектива відновлення AI R&D також важлива для підтримки продовження інвестицій у ШІ.", "This is explored more in our ": "Це докладніше досліджується в нашому ", "This is explored more in our": "Це докладніше досліджується в нашому", "capabilities scaling strategy supplement": "додатку про стратегію масштабування можливостей", ". There are also a few deeper layers of nuance here that complicate the picture, including what transparency regime is in place as discussed in our transparency supplement.": ". Тут також є кілька глибших нюансів, що ускладнюють картину, зокрема те, який режим прозорості діє, — це обговорюється в нашому додатку про прозорість.", "An R&D efficiency spiral in AI research, where the feedback loop of smarter AIs → better research → smarter AI, holds through to AIs that we cannot control or align, and slowing down to invest in control/alignment is uncompetitive, locking companies and countries into a multipolar trap. Coordination, that is verified, is the path out.": "Спіраль ефективності R&D у дослідженнях ШІ, де петля зворотного зв’язку «розумніші ШІ → кращі дослідження → розумніші ШІ» триває аж до ШІ, які ми не можемо контролювати чи узгодити, а сповільнення заради інвестицій у контроль/узгодження стає неконкурентоспроможним, замикаючи компанії й країни в багатополярній пастці. Верифікована координація — це шлях назовні.", "We define AI-relevant compute as any computational unit capable of achieving Total Processing Performance (TPP) of at least 4,000 and Performance Density (PD = TPP / die size) of at least 4. This definition is set just below the ": "Ми визначаємо релевантні для ШІ обчислювальні потужності як будь-яку обчислювальну одиницю, здатну досягати сумарної продуктивності обробки (Total Processing Performance, TPP) щонайменше 4 000 і щільності продуктивності (Performance Density, PD = TPP / площа кристала) щонайменше 4. Це визначення встановлено трохи нижче за ", "We define AI-relevant compute as any computational unit capable of achieving Total Processing Performance (TPP) of at least 4,000 and Performance Density (PD = TPP / die size) of at least 4. This definition is set just below the": "Ми визначаємо релевантні для ШІ обчислювальні потужності як будь-яку обчислювальну одиницю, здатну досягати сумарної продуктивності обробки (Total Processing Performance, TPP) щонайменше 4 000 і щільності продуктивності (Performance Density, PD = TPP / площа кристала) щонайменше 4. Це визначення встановлено трохи нижче за", "A100 SXM GPU": "A100 SXM GPU", ", NVIDIA's state of the art chip in 2021.": ", найпередовіший чіп NVIDIA станом на 2021 рік.", "Note none of these quantities depend on how the work is divided into individual workloads. What matters is the pool the verifier samples from. If there are 100 different training runs going on simultaneously and the verifier samples uniformly at random across all their packets, then ‘the workload’ in the math below is the union of all 100. The per-workload framing in the worked example (": "Зауважте, що жодна з цих величин не залежить від того, як роботу поділено на окремі навантаження. Важливий саме пул, з якого верифікатор робить вибірку. Якщо одночасно виконується 100 різних прогонів навчання і верифікатор робить рівномірну випадкову вибірку з усіх їхніх пакетів, то «навантаження» в математиці нижче — це об’єднання всіх 100. Формулювання в термінах окремого навантаження в розібраному прикладі (", ") is a convenience for talking about one concrete attack.": ") є зручністю для обговорення однієї конкретної атаки."}