Генерати́вний шту́чний і́нтелект (генерати́вний ШІВживання терміну «генеративний штучний інтелект»:
, ), також поро́джувальний шту́чний інтеле́ктВживання терміну «породжувальний штучний інтелект»:
— це штучний інтелект, здатний генерувати текст, зображення або інші медіа, використовуючи породжувальні моделі. Породжувальні моделі ШІ навчаються взірців та структури своїх вхідних тренувальних даних і потім породжують нові дані, що мають подібні характеристики.
На початку 2020-х років прогрес у глибоких нейронних мережах на основі трансформерів уможливив створення низки видатних систем породжувального ШІ, які приймають на вході підказки природною мовою. До них належать чат-боти великих мовних моделей (ВММ), як-от ChatGPT, Copilot, Grok, Gemini і LLaMA, а також системи живопису на основі штучного інтелекту для зображення за текстом, як-от Stable Diffusion, Midjourney та DALL-E.
Генеративний ШІ застосовують у широкому спектрі галузей, включно з живописом, письменництвом, написанням сценаріїв, розробкою програмного забезпечення, дизайном продуктів, охороною здоров'я, фінансами, іграми, маркетингом та модою. Інвестиції у генеративний ШІ різко зросли на початку 2020-х років, коли великі компанії, як-от Microsoft, Google та Baidu, а також численні менші фірми розробляли моделі породжувального ШІ. Проте існують також занепокоєння щодо потенційного неправильного використання породжувального ШІ, включно із кіберзлочинністю, створенням фейкових новин чи дипфейків, які можуть використовувати для обману чи маніпулювання людьми.
Історія
Академічну дисципліну штучного інтелекту заснували на дослідницькому в Дартмутському коледжі 1956 року, і вона пережила кілька хвиль розвитку та оптимізму протягом наступних десятиліть. З моменту її зародження дослідники у цій галузі порушували філософські та етичні аргументи щодо природи людського розуму та наслідків створення штучних істот із людським інтелектом; ці питання раніше досліджували у міфах, та філософії з античних часів. Концепція автоматизованого мистецтва сходить щонайменше до автоматонів давньогрецької цивілізації, де винахідників, таких як Дедал та Герон Александрійський, описували як розробників машин, здатних писати текст, створювати звуки та грати музику. Традиція творчих автоматонів процвітала протягом історії, прикладом чого є створення на початку 1800-х років .
Штучний інтелект — це ідея, яка захоплювала суспільство з середини 20 століття. Це почалося з того, що наукова фантастика познайомила світ із цією концепцією, але цю ідею не було повністю розглянуто в науковому ключі, доки Алан Тюрінг, ерудит, не зацікавився її здійсненністю. Новаторська стаття Тюрінга 1950 року «» поставила основоположні питання про машинне міркування, подібне до людського інтелекту, зробивши значний внесок до концептуальної основи ШІ. Розвиток ШІ спершу не був дуже швидким через високу вартість і той факт, що комп'ютери не могли зберігати команди. Ситуація змінилася під час 1956 року, де пролунав надихаючий заклик до дослідження ШІ, що зробило його знаковою подією, оскільки створило прецедент для двох десятиліть швидкого просування в цій галузі.
З часу заснування ШІ у 1950-х роках художники та дослідники використовували штучний інтелект для створення художніх творів. На початку 1970-х років створював та виставляв роботи породжувального ШІ, які створювала , комп'ютерна програма, створена Коеном для породжування картин.
Ланцюги Маркова давно використовують для моделювання природних мов з часу їх розробки російським математиком Андрієм Марковим на початку XX століття. Марков опублікував свою першу статтю на цю тему 1906 року, проаналізувавши схему голосних і приголосних у романі «Євгеній Онєгін», використовуючи ланцюги Маркова. Щойно ланцюга Маркова навчено на текстовому корпусі, його можливо використовувати як імовірнісний породжувач тексту.
Галузь машинного навчання часто використовує статистичні моделі, включно з породжувальними моделями, для моделювання та передбачування даних. Починаючи з кінця 2000-х років, поява глибокого навчання сприяла прогресу та дослідженням у класифікуванні зображень, розпізнаванні мовлення, обробці природної мови та інших завданнях. Нейронні мережі цієї епохи зазвичай тренували як розрізнювальні моделі, через складність породжувального моделювання.
2014 року такі досягнення як варіаційний автокодувальник та породжувальна змагальна мережа створили перші практичні глибокі нейронні мережі, здатні навчатися породжувальних моделей, а не розрізнювальних, для складних даних, таких як зображення. Ці глибокі породжувальні моделі були першими, які виводили не лише мітки класів для зображень, але й цілі зображення.
2017 року мережа Трансформер уможливила поступ у породжувальних моделях, порівняно зі старішими моделями довгої короткочасної пам'яті, що призвело до створення 2018 року першого породжувального попередньо натренованого трансформера (), відомого як GPT-1. Це продовжив 2019 року GPT-2, який продемонстрував здатність узагальнювати некероване навчання для багатьох різних завдань як .
2021 року випуск DALL-E, піксельної породжувальної моделі на основі трансформера, за якою вийшли Midjourney та Stable Diffusion, позначив появу практичного високоякісного живопису на основі штучного інтелекту за підказками природною мовою.
У березні 2023 року було випущено GPT-4. Команда з Microsoft Research стверджувала, що «його можливо обґрунтовано розглядати як ранню (але все ще неповну) версію системи сильного штучного інтелекту (СШІ)». Інші вчені заперечували, що GPT-4 досягає цього порогу, називаючи генеративний ШІ «ще далеким від досягнення еталона „загального людського інтелекту“» станом на 2023 рік.
Модальності
Систему породжувального ШІ створюють, застосовуючи до набору даних некероване або самокероване машинне навчання. Можливості системи породжувального ШІ залежать від модальності чи типу використаного набору даних.
Генеративний ШІ може бути як унімодальним (одномодальним, ), так і (багатомодальним, ); унімодальні системи приймають лише один тип даних входу, тоді як багатомодальні системи можуть приймати понад один тип даних входу. Наприклад, одна з версій GPT-4 від OpenAI приймає на вході як текст, так і зображення.
Текст
До систем породжувального ШІ, тренованих на словах або словесних токенах, належать GPT-3, LaMDA, LLaMA, , GPT-4 та інші (див. ). Вони здатні до обробки природної мови, машинного перекладу та породжування природної мови, і їх можливо використовуватися як для інших завдань. До наборів даних належать , Вікіпедія та інші (див. ).
Код
Окрім тексту природними мовами, великі мовні моделі можливо тренувати на текстах мовами програмування, що дозволяє їм породжувати первинний код для нових комп'ютерних програм. До прикладів належить .
Зображення
Видатним застосуванням породжувального ШІ є створення високоякісного образотворчого мистецтва. Багато таких художніх робіт отримали громадські нагороди та визнання.
До систем породжувального ШІ, натренованих на наборах зображень із , належать Imagen, DALL-E, Midjourney, , Stable Diffusion та інші (див. живопис на основі штучного інтелекту, породжувальне мистецтво, та ). Їх зазвичай використовують для породжування зображень за текстом та . До наборів даних належать та інші (див. ).
Звук
Генеративний ШІ також можливо широко навчати на звукових кліпах, щоби створювати синтез мовлення з природним звучанням і можливості перетворення тексту в мовлення, прикладами яких є інструменти контекстного синтезу , та Voicebox від Meta Platforms.
Системи породжувального ШІ, такі як MusicLM та MusicGen, можливо також тренувати на формах хвиль звуку записаної музики разом з текстовими анотаціями, щоби породжувати нові музичні зразки на основі текстових описів, таких як заспокійлива скрипкова мелодія з гітарним рифом з дисторшном на тлі.
Відео
Генеративний ШІ, натренований на анотованому відео, може породжувати часово узгоджені відеокліпи. До прикладів належать Gen-1 та Gen-2 від та Make-A-Video від Meta Platforms.>
Молекули
Системи породжувального ШІ можливо тренувати на послідовностях амінокислот або молекулярних поданнях, таких як SMILES, що подають ДНК або білки. Такі системи як AlphaFold використовують для передбачування структури білків та . До наборів даних належать .
Робототехніка
Генеративний ШІ також можливо тренувати на рухах робототехнічної системи, щоби породжувати нові траєкторії для планування руху або . Наприклад, UniPi від Google Research для керування рухами роботизованої руки використовує підказки на кшталт «підніми синю миску» та «витри тарілку жовтою губкою». Мультимодальні моделі «бачення-мова-дія» (), такі як RT-2 від Google, можуть виконувати елементарне міркування у відповідь на підказки користувача та візуальні вхідні дані, наприклад, підіймаючи іграшкового динозавра, коли дано підказку підніми вимерлу тварину, зі столу, заповненого іграшковими тваринами та іншими об'єктами.
Планування
Терміни планува́ння поро́джувальним ШІ () та поро́джувальне планува́ння () використовували в 1980-х та 1990-х роках для позначування систем планування штучним інтелектом, особливо систем автоматизованого проєктування процесів, які використовували для породжування послідовностей дій задля досягнення визначеної мети.
Системи планування породжувальним ШІ використовували методи , такі як та , і були «відносно зрілою» технологією на початку 1990-х років. Їх використовували для породжування планів дій у кризових ситуаціях для військового використання, планів процесів для виробництва та планів рішень, як у прототипах автономних космічних апаратів.
Бізнесова аналітика
У нещодавніх розробках у галузі породжувального штучного інтелекту як помітне застосування з'явилося поняття «породжувальної бізнесової аналітики (БА)» (). Породжувальна БА означає використання методик породжувального штучного інтелекту для покращення бізнесової та іншої аналітики, що забезпечує поглибленіші інтерпретування даних та процеси вирішування. Цей підхід використовує породжувальні можливості ШІ для моделювання потенційних бізнесових сценаріїв і результатів, надаючи цінне розуміння для стратегічного планування.
Програмне та апаратне забезпечення
Моделі породжувального ШІ використовують для забезпечення роботи чат-ботових продуктів, як-от ChatGPT, інструментів програмування, як-от GitHub Copilot, продуктів зображення за текстом, як-от Midjourney, та продуктів відео за текстом, як-от Gen-2. Функції породжувального ШІ інтегрували в різноманітні наявні комерційно доступні продукти, як-от Microsoft Office, Google Фото, та Adobe Photoshop. Багато моделей породжувального ШІ також доступні як відкрите програмне забезпечення, включно зі Stable Diffusion та мовною моделлю LLaMA.
Менші моделі породжувального ШІ з кількістю параметрів до декількох мільярдів можуть працювати на смартфонах, вбудованих пристроях та персональних комп'ютерах. Наприклад, LLaMA-7B (версія з 7 мільярдами параметрів) може працювати на , а одна версія Stable Diffusion може працювати на iPhone 11.
Більші моделі з десятками мільярдів параметрів можуть працювати на ноутбуках та настільних комп'ютерах. Для досягнення прийнятної швидкості моделі такого розміру можуть вимагати прискорювачів, таких як мікросхеми ГП, вироблені Nvidia та AMD, або Neural Engine, включений до продуктів Apple silicon. Наприклад, версію LLaMA з 65 мільярдами параметрів можливо налаштувати для роботи на настільному ПК.
Мовні моделі з сотнями мільярдів параметрів, такі як GPT-4 та PaLM, зазвичай працюють на комп'ютерах центрів обробки даних, оснащених масивами ГП (такими як H100 від Nvidia) або мікросхемами ШІ-прискорювачів (такими як ТП від Google). Ці дуже великі моделі зазвичай доступні як хмарні послуги через Інтернет.
2022 року запровадив обмеження на експорт до Китаю мікросхем ГП та ШІ-прискорювачів, які використовують для породжувального ШІ. З урахуванням вимог цих санкцій було розроблено такі мікросхеми як Nvidia A800 та BR104.