Коннор Легі — німецько-американський дослідник штучного інтелекту та підприємець, знаний завдяки своїй роботі над великими мовними моделями та діяльності з висвітлення ризиків, пов'язаних із просунутим штучним інтелектом. Він є співзасновником EleutherAI і засновником дослідницької компанії у царині безпеки штучного інтелекту Conjecture, яку до 2026 року очолював як генеральний директор. Обіймає посаду директора ControlAI у США — некомерційної організації, що зосереджується на запобіганні ризику вимирання людства через штучний надінтелект. Легі попереджає про загрозу вимирання людства внаслідок появи штучного надінтелекту. Він давав свідчення перед Палатою громад Канади і взяв участь у першому .
Кар'єра 2019 року, ще бувши студентом, Легі здійснив зворотне розроблення GPT-2 у своїй кімнаті в гуртожитку, коли OpenAI спочатку не оприлюднила повну модель. У липні 2020 року Легі разом із Сідом Блеком і Лео Гао став співзасновником EleutherAI, первинною метою якої було відтворення GPT-3. Під час роботи Легі як одного зі співкерівників EleutherAI створила одні з перших відкритих великих мовних моделей і наборів даних, зокрема The Pile у грудні 2020 року, GPT-Neo у березні 2021 року, GPT-J-6B у червні 2021 року і GPT-NeoX-20B у лютому 2022 року. На момент випуску GPT-J-6B була найбільшою у світі GPT-3-подібною мовною моделлю з відкритим кодом.
У березні 2022 року Легі став співзасновником Conjecture — дослідницької компанії в царині безпеки штучного інтелекту, яку очолив як генеральний директор. Заявленою місією компанії було масштабування прикладних досліджень з узгодження ШІ.
Легі скептично ставиться до думки, що навчання з підкріпленням людським зворотним зв'язком може розв'язати проблему узгодження. «Ці системи, стаючи потужнішими, не стають менш чужими. Якщо вже на те пішло, ми просто надягаємо на них милу усміхнену маску. Якщо не випробовувати їх надто сильно, ця маска тримається. Але варто дати їм [неочікуваний] промпт — і раптом відкривається величезне приховане дно божевілля, дивних способів мислення та явно нелюдського розуміння».
У березні 2023 року Легі став одним із підписантів , що його опублікував , із закликом, щоб «усі лабораторії ШІ негайно призупинили щонайменше на шість місяців навчання систем штучного інтелекту, потужніших за GPT-4».
У травні 2023 року Легі став одним із підписантів , що складалася з одного речення, в якій зазначалося: «Зменшення ризику вимирання людства через ШІ має стати глобальним пріоритетом нарівні з іншими ризиками суспільного масштабу, як-от пандеміями та ядерною війною». Заяву підписали сотні відомих діячів, зокрема лауреати Нобелівської премії, дослідники штучного інтелекту та генеральні директори провідних компаній у царині ШІ, серед яких OpenAI, Anthropic і Google DeepMind.
У листопаді 2023 року Легі запросили виступити на першому . Він висловив стурбованість, що саміт не зможе адекватно зреагувати на ризики, пов'язані зі створенням систем ШІ, які перевершують людину. Його думка полягало в тому, що «Якщо створити системи, що перевершують людей у здатности маніпулювати, бізнесі, політиці, науці та всьому іншому, і ми не будемо їх контролювати, то майбутнє належатиме їм, а не нам». Він співпрацював із некомерційною організацією ControlAI, закликаючи уряди призупинити розробку загального штучного інтелекту, а також критикував великі компанії у царині ШІ за спроби уникнути державного нагляду та регулювання потужних систем штучного інтелекту.
У березні 2026 року Легі повідомив у ретроспективному дописі, що історія Conjecture добігає кінця, і що він долучається до некомерційної організації ControlAI, де раніше був радником, а тепер обійматиме посаду директора її відділення у США.
Див. також Нат Фрідман Джефрі Гінтон Макс Тегмарк Еліезер Юдковський
Примітки
Посилання Expedition to the Far Lands - Leahy's Substack