Какво е технологична сингулярност

2024 Автор: Malcolm Clapton | [email protected]. Последно модифициран: 2023-12-17 03:47

Бъдещето е по-близо, отколкото изглежда.

Какво е технологична сингулярност

Технологичната сингулярност е теоретичен момент, когато човек губи контрол над технологичния прогрес и това от своя страна става необратимо. Казано по-просто, в близко бъдеще технологиите може да се развият толкова много, че човечеството просто ще престане да бъде в крак с тях и да ги разбира.

Най-често се разглежда създаването на изкуствен свръхинтелект като начин за постигане на сингулярността, но това не е единственият възможен начин. Например, в близко бъдеще вероятно ще се появят машини (компютри, роботи), които ще могат да правят всичко по-добре от хората и поради това ще се случи рязък, лавинообразен технологичен скок.

Най-често обаче такива предположения са изградени от Tegmark M. Life 3.0. Да бъдеш човек в ерата на изкуствения интелект. - М., 2019 не за научни прогнози, а за митове в областта на ИИ.

Освен това, както вярват поддръжниците на концепцията за технологична сингулярност, подобни „интелектуални експлозии“ще се случват все по-често. Това може да доведе до радикални промени в обществото, които не можем нито да предвидим, нито да контролираме.

Именно последствията от сингулярността предизвикват много страхове и служат като основа за дискусии за бъдещето на човечеството. Тези последици се оценяват по различни начини. Реймънд Курцвайл, футурист за разпознаване на реч и ключова фигура в Google, вярва, че напредъкът в технологиите е чудесна възможност за хората да станат по-добри хора. По-малко оптимистични в оценките си са Илон Мъск, Бил Гейтс и покойният Стивън Хокинг. Според тях прогресът може да доведе до унищожаване на човечеството.

Какви са предпоставките за технологична сингулярност

Опасенията за последствията от технологичния прогрес не се появиха от нищото. Много процеси в съвременното общество и наука предизвикват подобни разсъждения.

Ускоряване на техническия и технологичен прогрес

Дигиталната ера започва с изобретяването на транзистора през 1947 г. и продължава и до днес. Още през 1965 г. един от основателите на Intel, подготвяйки се да говори, открива интересен модел: на всеки две години броят на транзисторите в микросхемите се удвоява.

Оттогава малко се е променило: компютърните изчисления показват постоянен експоненциален растеж. Колкото по-нататък технологията напредва, толкова по-стръмна става кривата, която илюстрира технологичния прогрес. В рамките на няколко десетилетия темпото му може да отиде до безкрайност.

Според Harvey C. Big Data Challenges. Datamation от Datamation, през 2017 г. цифровите данни надхвърлиха способността ни да ги управляваме. Освен това се удвоява на всеки две години.

Една от следващите стъпки в развитието на технологиите вероятно може да бъде изобретяването на AGI (изкуствен общ интелект). Този термин се отнася до AI, който се научава да общува, мисли и действа като човек или дори по-добре. Тоест AGI на теория може да замени хората във всичко.

Развитие на изкуствен интелект

Засега компютрите не могат да правят абсолютно всичко по-добре от нас, въпреки че при решаването на много проблеми вече са много по-умни от човек (или поне по-бързи от него).

Дори преди 4-5 години прогнозата на Рей Курцвайл за сингулярност ще се случи до 2045 г. Футуризмът на Реймънд Курцвайл, че до 2045 г. изкуственият интелект ще надмине човешкия интелект във всичко, се смяташе за много смело (въпреки факта, че от 90-те години на миналия век, 86% от неговите се сбъдват).

Днес периодът между 2025 и 2035 г. или дори по-рано вече се нарича като хипотетична дата за появата на AGI.

Пандая Дж. Тревожната траектория на технологичната сингулярност може да играе специална роля в това. Forbes ще играе изграждането на невроморфни чипове - процесори за невронни мрежи, които възпроизвеждат начина, по който мозъкът ни обработва информация. Засега изследванията в тази област все още са далеч от получаването на наистина работещ модел, но вече има несъмнени успехи. Ето какво може да направи AI днес:

• уча;
• победи хората в стратегически игри (програмата AlphaGo през 2015 г., само за 9 часа обучение, спечели DeepMind и Google: битката за контрол на изкуствения интелект. The Economist способността да играеш шах по-добре от човек);
• Помогнете на контролирания от мозъка екзоскелет, който позволява на парализиран пациент да ходи. Хората от учените с наранявания на гръбначния мозък се изправят отново на крака;
• разпознават лица;
• карам кола;
• да рисувам Изкуственият интелект готов ли е да стане следващата среда на изкуството? CHRISTIE'S и сродни текстове;
• създаване на система за изкуствен интелект, създадена в UNC - Chapel Hill проектира лекарства от нулата. UNC - CHAPEL HILL лекарства;
• водещата китайска държавна информационна агенция Синхуа дебютира „водещ на AI“, за да чете новините. Mashable новини и много други.

През 2014 г. Google придоби DeepMind и Google: битката за контрол върху изкуствения интелект за 600 милиона долара. The Economist от AlphaGo е британска компания DeepMind, чиято цел е да изобрети AGI. Идеите на британците помогнаха на Google да създаде ефективни алгоритми за диагностициране на очни заболявания и ранно откриване на болестите на Паркинсон и Алцхаймер.

Най-вероятно си струва да изчакате появата на AGI в обозримо бъдеще. Настъпването на технологичната сингулярност обаче не е пряко свързано с това.

Появата на невронни интерфейси

Вече можем да говорим за Интернет като форма на „глобален мозък“– явление, благодарение на което хора от цял свят могат да общуват помежду си почти непрекъснато чрез технически посредник.

Има устройства, които са по-близо до джаджите от научнофантастичните филми. Вече над 300 хиляди души използват Колко близо сме до интерфейса мозък-компютър на Илон Мъск? Кохлеарните импланти на CNN Health (слухови протези, които действат директно върху слуховия нерв) и проби от бионични очи се тестват при хора. Въпреки че тези устройства все още не са в състояние да възстановят напълно зрението или слуха, качеството на тяхната работа се подобрява.

Също така Илон Мъск и Брайън Джонсън обявиха Колко близо сме до интерфейса мозък-компютър на Илон Мъск? CNN Health относно създаването на стартиращи фирми за разработване на интерфейси човек-компютър (Neuralink и Kernel). Разбира се, твърде рано е да се каже, че скоро ще можем да управляваме смартфон със силата на мисълта: всички подобни устройства все още са твърде бавни и несъвършени. Въпреки това има всички основания да вярваме, че успехът в тази индустрия е точно зад ъгъла.

Какви са причините за техническия прогрес?

AI и роботите ще поемат сложна интелектуална и физическа работа

Развитието на изкуствения интелект и роботиката може в крайна сметка да доведе до факта, че машините ще се научат да правят всичко без или с минимална човешка намеса. В този случай напредъкът ще продължи да се ускорява, все повече и повече подобрявайки живота и живота на хората.

Компютрите вече се използват от хората за научни изследвания и подобряване на технологиите. Благодарение на това (например генетични изследвания или разработване на устройства, които подобряват възможностите на човешкия мозък), самите хора стават по-умни, а машините - по-бързи. Така се ускорява развитието не само на компютрите, но и на човек.

Хората ще открият нови способности в себе си

Сливането на човек с технологията се случва не само на физическо (използване на протези, модификации), но и на информационно ниво (използване на джаджи). Смартфон с мобилен интернет в джоба ви е първата стъпка към това да станете киборг.

Има дори движение за трансхуманизъм. Британика, застъпник за активното подобряване на човешкото тяло чрез технологичен напредък. Трансхуманистите вярват, че модифицирането на тялото е единственият начин да бъдем в крак с времето и да не поставяме съдбата на човечеството на разположение на машините.

Въпреки това, досега появата на човешки биороботи все още е в сферата на фантазията.

Новите технологии отварят пътя към потенциалното безсмъртие

Премахването на ограниченията на ДНК изглежда е много по-елегантно решение в тази област. Генетично и биоинженерство Пандая Дж. Тревожната траектория на технологичната сингулярност. Forbes, както и ноотропите, могат да направят хората по-умни. С помощта на изкуствено отгледани органи или наномашини хората могат да се отърват от стареенето и да постигнат безсмъртие.

Единствените въпроси са колко бързо човек ще се научи (и ще се научи) да използва тези възможности, дали обществото и правителството ще ги одобрят. Ще отнеме години, за да се родят и образоват генетично модифицирани хора, дори ако социалните фактори, които забавят приемането на такава технология, бъдат игнорирани. Други форми на свръхинтелигентност (AI) могат да се появят много по-бързо.

Какво казват противниците на неконтролираното развитие на технологиите

Изкуственият интелект може да унищожи човечеството

Развитието на AGI вероятно ще изпревари развитието на човешкия мозък и технологиите, които да ни овластяват. Изкуственият интелект е способен да надмине човешкия и при песимистичен сценарий може лесно да излезе извън контрол.

Докторът от Оксфордския университет Ник Бостром разглежда Bostrom N. Superintelligence: Paths, Dangers, Strategies. - Oxford University Press, 2014, че има причина за безпокойство. Според него, колкото и развит интелект да е, това не влияе дали действията на собственика му ще бъдат зли или добри. Следователно, без значение колко умен е AI, ние не сме имунизирани от факта, че той ще направи нещо лошо.

Важно Tegmark M. Life 3.0. Да бъдеш човек в ерата на изкуствения интелект. - М., 2019, за да може AGI да разбере, да приеме целите на човечеството и да се придържа към тях. Ако той зададе други приоритети за себе си, като самосъхранение, грабване на ресурси или задоволяване на любопитството, тогава в отношенията между хората и машините ще възникнат конфликти.

Модернизацията на човешкото тяло може да доведе до по-нататъшно разслояване на обществото

Модификацията на човешкото тяло може не само да създаде "Човешки 2.0", но и да изостри социалните конфликти. Тези, които имат достъп до такива технологии, очевидно ще имат превъзходство над тези, които нямат тези възможности.

Възникват значителни етични и правни въпроси: възможно ли е да се даде на едно лице интелектуално и/или физическо предимство пред друго и как да се защитят „биомеханичните хора“от хакери.

Веднъж попаднала в грешни ръце, технологията може да бъде смъртоносно оръжие

Не забравяйте, че човек сам по себе си е голяма опасност. Военните вече използват дронове и програмируеми машини като оръжия, а социалните медии са препълнени с мошеници. Много е вероятно хората да започнат да злоупотребяват и с новите технологии.

Но дори преди това ние просто рискуваме да не оцелеем, тъй като дори съществуващите оръжия са опасни. Макс Тегмарк, астрофизик и професор в Масачузетския технологичен институт, изчисли Tegmark M. Life 3.0, използвайки статистически формули за вероятност. Да бъдеш човек в ерата на изкуствения интелект. - М., 2019 г. рискът от световна ядрена война, водеща до взаимно унищожение. Той заключи, че ако вероятността е 0,001 за една година, тогава в интервала от 10 000 години ядрен колапс ще настъпи с вероятност от 99,95%. Дори една добре установена система за задържане на добре проучени оръжия може да се провали. И възниква въпросът: можем ли да контролираме по-сложни технологии, така че да не попаднат в грешни ръце?

Какво бъдеще може да ни очаква

В същото време Макс Тегмарк оценява критично Tegmark M. Life 3.0. Да бъдеш човек в ерата на изкуствения интелект. - М., 2019 г. вероятността за песимистичен сценарий. Той смята, че възможностите за самоусъвършенстване са ограничени от физическите закони. Истинската сингулярност, като безкрайно ускоряващ се прогрес, според Тегмарк, е невъзможна, въпреки че този процес е способен да се доближи до безкрайността.

Следователно професорът твърди, че скокът на технологиите ще бъде последван от бързото постигане на цялата или почти цялата пълнота на знанията за света, а не тяхното безкрайно натрупване.

Според друга гледна точка нищо, включително напредъкът, не може да се ускорява безкрайно – рано или късно ще се забави.

Въпреки това можем с надеждност да кажем, че човечеството все още не е преминало точката на забавяне.

Не всички учени по принцип споделят теорията за технологичната сингулярност. Някои хора отбелязват, че досега в природата не са открити явления, които да се развиват неограничено и безкрайно бързо. В същото време изследователите обръщат внимание на факта, че значителен брой прогнози в тази област се основават не на обективни данни, а на желанията на самите предсказатели.

Така, например, AI може да остане чисто утилитарен и да не е надарен с личност. Алгоритмите на същия DeepMind все още не могат да DeepMind и Google: битката за контрол на изкуствения интелект. The Economist намира решение, ако нещо се обърка и предварително зададените условия се променят.

Засега AI ни изпреварва само за сметка на изчислителната мощност. Но това, което хората могат да овладеят за няколко минути, програмата прекарва хиляди часове, в сравнение с човешкия опит.

Например, за да може AlphaGo да се научи как да играе Space Invaders, трябва да направи хиляди опити. В крайна сметка програмата, разбира се, ще играе по-добре от човек, но той ще овладее процеса много по-бързо.

Следователно нито една от прогнозите не може да се счита за 100% вероятна. Но това не е причина напълно да се откаже от идеята за технологична сингулярност.

До голяма степен изпълнението на определени сценарии на съдбата на човечеството ще зависи от посоката на технологично развитие, в чии ръце ще бъде и как ще се регулира. Също така, колко сложна става технологията, ще играе голяма роля. Не забравяйте за социални, геополитически и икономически фактори, които могат да повлияят на напредъка. Трудно е да се говори и за точните дати на настъпване на технологичната сингулярност.

Ще продължи ли да съществува човек, ако не е необходим за много видове дейности (например наука)? Ще остане ли човек, променен чрез ДНК-интервенции или невроинтерфейси? Нямаме отговори на тези въпроси. Може би човек вече се е променил необратимо с навлизането на компютрите и цифровите технологии.

Но едно е абсолютно сигурно: еволюционният процес е естествен и неудържим. Не можем да го забавим. В крайна сметка може би машините ще ни научат да не се убиваме или унижаваме взаимно и да им вярваме?

Следователно, както съветва Тегмарк М. Life 3.0. Да бъдеш човек в ерата на изкуствения интелект. - М., 2019 Макс Тегмарк, мисли не за бъдещето, което те плаши, а за това, което би искал.