Анализ на Allison Morrow

Ню Йорк — Elon Musk най-накрая изрази мнение, с което много хора могат да се съгласят: Microsoft не бива да контролира бъдещето на изкуствения интелект.

Проблемът е, че Мъск сякаш не разбира кой трябва.

Контекст: Мъск съди OpenAI и нейните ръководители за нещо, което може да изглежда като дребна разлика — преминаването на OpenAI от основно нестопанска „лаборатория“ към частна компания с цел печалба, наблюдавана от нестопанска фондация. Мъск се опитва да докаже, че лидерите на OpenAI са го подвели и са предали благотворителната мисия за безопасно и прозрачно развитие на AI, за да печелят пари.

От своя страна ръководителите на OpenAI на практика твърдят, че Мъск е воден от разочарование — според тях той, като съосновател, напуснал през 2018 г., започва да критикува комерсиалния завой едва след огромния успех на компанията на същия пазар, на който сега се конкурира неговата по-нова AI компания.

Но всичко това пропуска по-голямата картина.

В показанията си тази седмица Мъск многократно подчерта убеждението си, че в ранните дни на OpenAI той е трябвало да бъде начело, за да гарантира безопасното използване на технологията. Когато Microsoft се появява с инвестиция от 20 милиарда долара, Мъск се противопоставя, защото „Microsoft има свои собствени мотивации“, които според него се разминават с по-филантропските цели на OpenAI.

Мъск задава привидно реторичен въпрос, обръщайки се към съдебните заседатели:
„Не знам, наистина ли искате Microsoft да контролира дигиталната свръхинтелигентност?“

С други думи, според него Microsoft — създател на едни от най-разпространените и често ненавиждани офис продукти (Outlook, Teams) — не е „готиният“, добронамерен технокрал/технопророк, който трябва да държи ключовете към мощен AI, който, по думите на самия Мъск, може „да ни убие всички“.

Но алтернативата на Мъск в ранните дни на OpenAI е бил… самият той.
Или по-точно — Мъск плюс четирима членове на борда, назначени от него. Той свидетелства, че му е бил необходим „контрол“ върху OpenAI в началото, като е очаквал делът му постепенно да се разреди с нови инвеститори.

Отново — това може да е второстепенно.

Нека приемем думите на Мъск и останалите AI ръководители буквално, когато казват, че целят да достигнат „общ изкуствен интелект“ (AGI) — т.е. хипотетично ниво, при което интелектът на машината надминава човешкия. (Ще пропуснем факта, че AGI често прилича повече на научна фантастика, използвана за привличане на инвестиции и за плашене на обществото с препратки към филми като „Терминатор“. Няма да се спираме и на това, че няма единна дефиниция или метод за измерването му.)

И нека също приемем, че той може един ден да има силата да унищожи човечеството. Защо не.

Ако е така, логично е да има някакъв контрол.

Но докато адвокатите на Мъск и OpenAI спорят, те изглежда разглеждат само ограничен набор от възможности. Изборът кой да контролира бъдещето на човечеството чрез AI — поне в рамките на този процес — се свежда до: Мъск, OpenAI (водена от Sam Altman), Microsoft, а евентуално и Google, Meta или Anthropic.

Това е. Това са опциите.

Някои хора може да са съгласни с този модел, но съдейки по мненията на потенциалните съдебни заседатели, списъкът с „владетели“ не е особено популярен.

„Елон Мъск е алчен, расистки и хомофобски боклук“, пише един кандидат за заседател. Друг го нарича „първокласен задник“. Дори федералният съдия Yvonne Gonzalez Rogers признава:
„Реалността е, че хората не го харесват… Много хора не го харесват, но това не означава, че американците не могат да проявят почтеност в съдебния процес.“

Съдията няма особено търпение към апокалиптичните прогнози на милиардерите.

В четвъртък, когато адвокатът на Мъск повтаря индустриалния наратив в съда — „може всички да умрем!“ — тя го прекъсва, изтъквайки очевидното противоречие в позицията на Мъск:

„Иронично е, че вашият клиент, въпреки тези рискове, създава компания в същата област. Подозирам, че има много хора, които не искат бъдещето на човечеството да бъде в ръцете на г-н Мъск.“

Но това излиза извън рамките на делото, добавя тя:

„Това не е процес за това дали AI носи рискове. Това не е процес за това дали AI е навредил на човечеството. Това може да бъде процес в бъдеще.“

CNN Кой заслужава ключа към “Божествената машина”