Сингулярност

Мислене едва ли
или почти не мисли?

Философия
Икона философия.svg
Основни влакови мисли
Добрите, лошите
и мозъчният пръд
Като се замисля

ДА СЕ сингулярност , най-често използваният, е момент, в който очакваните правила се разпадат. Терминът идва от математика , където точка на иначе непрекъснат наклон е с неопределена или безкрайна стойност; такава точка е известна като сингулярност.


Терминът се е разширил и в други области; най-забележителната употреба е в астрофизика , където сингулярността е точка (обикновено, но може би не изключително, в центъра на Черна дупка ) където кривината на пространството-време се доближава до безкрайността.

Тази статия обаче не е за математическата или физическата употреба на термина, а по-скоро за заемането му от различни футуристи . Те определят технологична особеност като точка, след която не можем да знаем нищо за света. Така че, разбира се, след това те пишат надълго и нашироко по света. Удобно е, че тази предпоставка не само позволява, но и оправдава всичко, включително големи несъответствия с известните принципи на науката.


Съдържание

Технологична особеност

Това е интелигентен дизайн за IQ 140 души. Това твърдение, че се насочваме към този момент, в който всичко ще бъде просто невъобразимо различно - според мен се основава на религиозен импулс. И цялото неистово махане с ръка не може да прикрие този факт за мен, без значение на какви номера той е в полза. Той е много добър в много криви, които сочат вдясно.
—Мич Капор на Рей Курцвейл
Графика, използвана от защитниците на Singularity

В трансхуманист и сингулитарна вяра, „технологичната сингулярност“ се отнася до хипотетична точка, отвъд която човешката технология и цивилизация вече не са разбираеми за съвременния човешки ум. Теорията за технологичната сингулярност гласи, че в един момент от времето хората ще изобретят машина, която чрез използването на изкуствен интелект (AI) ще бъде по-умен, отколкото всеки човек би могъл да бъде. Тази машина от своя страна ще може да изобретява нови технологии, които са още по-умни. Това събитие ще задейства експоненциална експлозия на технологичния напредък, чийто резултат и ефект върху човечеството се обсъждат сериозно от трансхуманистите и сингулистите.

Някои привърженици на теорията вярват, че машините в крайна сметка няма да види полза за хората на Земята и просто ни избършете ( безполезни ядящи ) навън - тяхната интелигентност е далеч по-добра от хората, вероятно нямаше да направим нищо по въпроса. Те също така се страхуват, че използването на изключително интелигентни машини за решаване на сложни математически задачи може да доведе до нашето изчезване. Теоретично машината може да отговори на нашия въпрос, като превърне цялата материя в нашата Слънчева система или нашата галактика в гигантски калкулатор, като по този начин унищожава цялото човечество.

Критиците обаче вярват, че хората никога няма да могат да измислят машина, която да отговаря на човешкия интелект, камо ли да го надвишава. Те също така атакуват методологията, която се използва за „доказване“ на теорията, като предполагат това Законът на Мур може да бъде предмет на закона за намаляваща възвръщаемост или на други показатели, използвани от поддръжниците за измерване напредък са напълно субективни и безсмислени. Теоретици като Теодор Модис твърдят, че напредъкът, измерен в метрики като тактовите честоти на процесора, намалява, опровергавайки закона на Мур. (Към 2015 г. не само законът на Мур започва да спира, Мащабиране на Денард също е отдавна мъртъв, възвръщаемостта на суровата изчислителна мощност от транзистори е подложена на намаляваща възвръщаемост, тъй като ние използваме все повече и повече от тях, има също така законът на Амдал и законът на Вирт, а също така, че суровата изчислителна мощност просто не се мащабира нагоре линейно при осигуряване на реална пределна полезност)



Привържениците виждат шанс за настъпване на технологичната особеност Земята в рамките на 21 век. Някои от пожелателно мислене може просто да е израз на желание за избягване смърт , тъй като сингулярността трябва да доведе технологията до обратното стареене на човека или до качете човешките умове в компютрите . Въпреки това, скорошно изследване, подкрепено от единични организации, включително MIRI и Института за бъдещето на човечеството, не подкрепя хипотеза че краткосрочните прогнози за сингулярността са мотивирани от желанието да се избегне смъртта, но вместо това предоставя някои доказателства, че много оптимистични прогнози за времето на сингулярност са мотивирани от желанието да „спечелим кредит за работа по нещо, което ще бъде от значение , но без никаква възможност тяхната прогноза да бъде показана като невярна в рамките на настоящата им кариера “.


Не се притеснявайте да цитирате Рей Курцвайл на всеки, който знае проклето нещо за човешкото познание или, наистина, биология . Той е гений на компютърните науки, който има трудности да възприеме кога е далеч извън неговата област на експертиза .

Три основни училища за сингулярност

Елиезер Юдковски идентифицира три основни школи на мислене, когато става въпрос за особеност. Въпреки че всички споделят общи точки в напредъка на интелигентността и бързо развиващите се технологии, те се различават по начина, по който ще възникне сингулярността и доказателствата в подкрепа на позицията.


Ускоряване на промяната

Според тази мисловна школа се предполага, че промяната и развитието на технологиите и човешкия (или подпомогнат от изкуствен интелект) интелект ще се ускорят с експоненциална скорост. Така че промяната преди десетилетие беше много по-бърза от промяната преди век, която беше по-бърза от преди хилядолетие. Въпреки че мисленето в експоненциален план може да доведе до прогнози за бъдещето и развитието, което ще се случи, това означава, че миналите събития са ненадежден източник на доказателства за тези прогнози.

Хоризонт на събитията

Училището „хоризонт на събитията“ твърди, че светът след сингулярността би бил непредсказуем. Тук създаването на свръхчовешки изкуствен интелект ще промени света толкова драматично, че няма да има никакво сходство със сегашния или дори най-дивия свят научна фантастика . Наистина нашата съвременна цивилизация е просто невъобразима за живеещите, да речем, в древна Гърция. Тази мисловна школа вижда сингулярността най-много като събитие от една точка, а не като процес - всъщност именно тази теза породи термина „сингулярност“. Този възглед за сингулярността обаче третира трансхуманната интелигентност като някакъв вид магия .

Интелигентна експлозия

Това твърди, че сингулярността се движи от цикъла на обратна връзка между технологията за повишаване на интелигентността и самата интелигентност. Както каза Юдковски (който подкрепя тази гледна точка), „Какво биха направили хората с интерфейси мозък-компютър със своя разширен интелект? Един добър залог е, че те ще проектират следващото поколение мозъчно-компютърни интерфейси. ' Когато този цикъл на обратна връзка на технологиите и интелигентността започне да се увеличава бързо, сингулярността е върху нас.

Техно-вярата все още е вяра

Сингулярността е знак, че вашият модел не се прилага след определена точка, а не безкрайността, пристигаща в реалния живот.
—Форум как

Съществува и четвърто училище за особености: че всичко е куп глупости! Тази позиция не е популярна сред високотехнологичните милиардери.


Може би си струва да разгледаме подобна концепция на предшественика, разработена от a Йезуит свещеник на име Пиер Тейар дьо Шарден , да се палеонтолог който, като Руски Православен аскетичен Nikolai Fedorov преди него, беше вдъхновен от Дарвинизъм и вярваха, че хората могат насочват собствената си еволюция за постигане на възкресението и царството на Бог . През 1949 г. Teilhard предлага в бъдеще всички машини да бъдат свързани в огромно глобална мрежа това би обединяват съзнанията на всички хора . В крайна сметка това би довело до експоненциално неразбираем разузнавателен взрив, който той нарече „Омега Пойнт“ което би позволило на човечеството да пробийте материалната рамка на Времето и Пространството и станете едно с Бог, без да се налага да умрете, въпреки че Бог вече е вездесъщ и вътре във всеки .

Ще се случи ли Сингулярността?

Това до голяма степен зависи от вашата дефиниция за „сингулярност“.

Сигурността на експлозията на разузнаването е най-малко вероятната. Според сегашните изчисления хипотетичният бъдещ суперкомпютър може да не е в състояние да репликира човешки мозък в реално време, тъй като в момента дори не разбираме как работи интелигентността ─ въпреки че привържениците на теорията за сингулярността обикновено не поддържат, че напредналият ИИ ще имат човешки мозъчни реплики, вместо да държат, че те ще развият своя собствена форма на интелигентност най-вече независимо. По-страшен проблем е, че няма доказателства, че интелигентността може да бъде направена самоитеративна по този начин - всъщност не е малко вероятно подобренията в интелигентността да са по-трудни, колкото по-умен ставаш, което означава, че всяко подобрение в интелигентността е все по-трудно за изпълнение. Всъщност, колко по-умно от човек може да бъде нещо, е отворен въпрос. Енергийните изисквания са друг въпрос; хората могат да избягат от Doritos и Mountain Dew Dr. Pepper, докато суперкомпютрите изискват огромно количество енергия, за да функционират. Привържениците на сингулярността обикновено се занимават с енергийния проблем, като твърдят, че колкото по-умен е ИИ, толкова повече енергия ще може да се извлече (с хипотетични структури като Дайсънова сфера често се предлага), но това отново се сблъсква с въпроса, че няма доказателства за самоитеративност на интелигентността.

Друг основен въпрос възниква от естеството на интелектуалното развитие; ако изкуственият интелект трябва да бъде повишен и обучен, може да отнеме много време между поколенията изкуствен интелект, за да се получат допълнителни подобрения. Изглежда, че по-интелигентните животни обикновено се нуждаят от по-дълго време, за да узреят, което може да постави друго ограничение за всяка такава „експлозия“. Сингуларистите обикновено отговарят на този проблем, като посочват тенденцията за ускоряване на промяната, но е съмнително дали тази тенденция изобщо съществува: например скоростта на патенти на глава от населението всъщност достигна своя връх през 20 век, с лек спад оттогава, въпреки факта, че хората са станали по-интелигентни и са получили по-добри инструменти. Както беше отбелязано по-горе, законът на Мур е към своя край и извън сферата на компютрите скоростта на нарастване на други неща не е била експоненциална - самолетите и автомобилите продължават да се подобряват, но не се подобряват с нелепите темпове на компютрите. Вероятно, след като компютрите достигнат физическите граници на плътността на транзисторите, скоростта им на подобрение ще спадне драстично и вече дори днес компютрите, които са „достатъчно добри“, продължават да работят в продължение на много години, нещо, което не беше чувано през 90-те години, където старите компютри бяха бързо и очевидно остарели от нови. Някой като Kurzweil може да каже, че всичко това е показателно за продължаваща промяна на парадигмата, при която темпът на развитие на старите технологии (като автомобили и самолети) спира, докато скоростта на по-новите, по-влиятелни технологии (като AI или квантови изчисления) започва да се увеличи, но твърдения като това могат да се разглеждат като класически пример за Няма истински шотландец заблуда. Допълнителни твърдения, които се опитват да опровергаят тълкуването на не-истинския шотландец, като например, че тенденцията на експоненциален растеж съществува от милиони години и че следователно е логично да се заключи, че забавянето на темповете на растеж на някои съществуващи технологии е по-вероятно да показват парадигма промени от глобалната промяна в тенденцията, не са проверени по систематичен, безпристрастен начин.

Франсоа Шоле посочва, че въпреки непрекъснато нарастващите суми пари и време, отделяни за научни изследвания, научният прогрес все още е приблизително линеен. Въпреки експоненциално нарастващия брой софтуерни програмисти, пишещи код за експоненциално по-мощни компютри, софтуерът все още е гадно. (Вижте също Законът на Вирт .) Лесните проблеми вече са решени и продължаващият напредък изисква решаване на все по-трудни проблеми, които изискват все по-големи екипи от хора. „Експоненциалният напредък отговаря на експоненциалното триене.“

Както и да е, в реалния свят експоненциалният растеж никога не продължава вечно, тъй като винаги ще се сблъска с някакъв вид изчерпване на ресурсите, което го забавя, превръщайки го в сигмоидален (или „логистичен“) растеж ; твърди, че това изчерпване на ресурсите ще настъпи едва след като ИИ достигне свръхчовешки интелект вече са били адресирани. Освен това, дори когато експоненциалният растеж продължава вечно, той по дефиниция никога не може да достигне безкрайност.

Проблем с интелигентния взрив

Експлозията на разузнаването обикновено се смята за интелигентна програма, която модифицира собствения си код, за да стане по-интелигентен и допълнително ускорява процеса на модификация. Няколко неща, които трябва да се споменат са,
(а) За програма с определен размер n бита може да има само 2 ^ n възможни битови низове. Така че, рекурсивното самоусъвършенстване не може да продължи безкрайно.
(б) Не е известно, че съществува какъвто и да е тип рекурсивно самоусъвършенстващ се софтуер (RSI) и предположението, че RSI софтуерът е дори възможен, е недоказано.
(в) Нуждае се от огромна изчислителна мощ: Дори и RSI да е възможна, тя ще се нуждае от екстремни количества изчислителна мощ. На всеки етап програмата ще записва множество програми, изпълнява ги, за да провери дали са по-интелигентни от себе си. И така, или стартовият AI е много високо компетентен програмист, или ще бъде проверен изключително голям брой програми. Изпълнението на всяка програма би отнело известно време и / или мощност, като по този начин процесът е изключително дълъг и / или енергоемък. Нещо повече, ИИ ще трябва да се учи много, за да стане компетентен като агент в по-широкия свят. Това ще изисква изчислителна мощ за обработка на информацията.
(г) Предположението, че интелигентността е измерена. Вероятно ще има компромис между способностите в различни области. Така че програма 1 ще трябва да избира между различни кандидати за програма 1.1, някои от които са по-интелигентни от нея. Как ще го направи?
(д) Изследователят Ямплоски изрази загрижеността, че грешките могат да се натрупват по време на самоусъвършенстване, спирайки програмата да функционира на някакъв етап.

Извънземна сингулярност

Извънземните технологични особености могат да станат очевидни от актовете на звездно / космическо инженерство. Една такава възможност например би била изграждането на Dyson Spheres, което би довело до промяна на електромагнитния спектър на звездата по начин, откриваем от Земята. И двете КОМПЛЕКТ и Фермилаб са включили тази възможност в своите търсения за извънземен живот.

Различен поглед върху концепцията за сингулярност е изследван в научна фантастика КнигаДраконово яйцеот Робърт Лул Форвард, в който извънземна цивилизация на повърхността на a неутронна звезда , наблюдаван от изследователите на човешкия космос, преминава от каменната ера към технологична особеност за около час в човешкото време, оставяйки след себе си голямо количество криптирани данни за човешките изследователи, за които се очаква да отнеме над един милион години (за човечеството), дори да разработят технологията за дешифриране.

Към 2019 г. не са намерени категорични доказателства за извънземни цивилизации.