А.И.: басталатын соғыс біз ойлағандай болмайды...

Ғылыми фантастикалық әңгімелердің көпшілігі қандай да бір жолмен таңылған бейнелер бізге адамзат ерте ме, кеш пе, бұл мәселемен күресуге тура келетін әлемді ұсынады.Жасанды интеллект. Қақтығыс AI өзін сезініп, бізді жоюға немесе бізді басқарудың жолын табуға шешім қабылдаған кезде жарылып кетеді.

Егер бұл перспектива шындыққа жақын болса (және бұл тақырыпты талқылауға көп нәрсе болар еді), қазіргі генеративті жүйелерде ешқандай хабардарлықтың абсолютті жоқтығын ескере отырып, бізді күтіп тұрған соғыс уақыт өте алыс болып көрінеді. Сондықтан әзірше тыныш ұйықтай аламыз. Әлде жоқ па?

«Әскери мақсаттағы AI туралы ереже шұғыл қажет»
Ресей-Украина соғысы: жасанды интеллект өзгеріс енгізе ме?
Қастандық, жалған жаңалықтар және ксенофобия: қауіпті цифрлық араласу

Қазіргі жасанды интеллекттің нақты қауіптері

Тақырып бойынша әлі де шатасулар көп Жасанды интеллект. Бұл туралы жазуға ынталы, бірақ оның шынайы табиғатын, әлеуетін және тәуекелдерін түсінуге дайын емес журналистердің жақсы өнерде екенін айту қиын.

Мұндай шатасуды кез келген сыртқы нысанға, мейлі ол басқа адамға, жануарға немесе, осы жағдайдағыдай, бағдарламалық жасақтама нысанына көрсетуге деген табиғи бейімділігіміз де ынталандырады.

Демек, интеллектуалды мінез-құлық шынайы сананы мүлде болжай алмайтынын түсіну қиын.

Осылайша, жалпы газеттердегі тым көп «клик-жем» айдарлары бізді жігерлендірді, біз уақыт өте алыс проблемалар туралы алаңдаймыз, бірақ біз бүгінде тікелей бізді толғандыратын мәселелерді көрмейміз немесе бағаламаймыз.

Әдеттегідей сонда технология оны адамға көмектесетін жолмен де қолдануға болады, сонымен қатар оларға зиян тигізеді.

Әлеуметтік деңгейде, мысалы, Жасанды интеллект қалалардағы көлік қозғалысы немесе бюрократиялық және денсаулық сақтау қызметтері сияқты процестер мен қызметтерді оңтайландыру үшін пайдаланылуы мүмкін.

Немесе ол мұғалімдерге әр оқушының ерекшеліктері мен ерекшеліктеріне негізделген жекеленген сабақтар немесе тесттер дайындауға көмектеседі.

Жеке деңгейде бұл әрқайсымызға жұмысымызды және уақытымызды жақсы ұйымдастыруға, біз үшін ең қызықсыз немесе қайталанатын бөліктерді басқаруға көмектеседі.

Немесе ол біздің нұсқауларымыз бойынша кескіндерді, музыканы немесе бейнелерді жасай отырып, шығармашылық қабілетімізді жақсырақ көрсетуге көмектеседі.

Жақсы қолданылған жасанды интеллект біздің қызметімізді алмастырмай, толықтыруы керек.

Бірақ мәтінді, кескіндерді және бейнелерді шығаруға қабілетті қазіргі генеративті жүйелер негізінен Интернеттен алынған үлкен деректер базасына негізделгендіктен, олар көбінесе біздің «біржақтылық» және, ең алдымен, олар орташа статистикалық көрсеткіштермен жұмыс істейді.

Барған сайын көбірек мазмұнды жасаған сайын Жасанды интеллект Тәуекел - орташа мәндердің орташа мәндері барған сайын айтарлықтай төмендеу деңгейімен құрылады.

Дегенмен, бұл кездесіп, шешуге болатын мәселелер: мен әлі айтпаған ең үлкен қауіп – адам факторы.

Фотогалерея, ғаламтордағы қорқынышты сейілтетін мультфильмдер
Инновация және журналистика: жиі қиын қатар өмір сүру
Жасанды интеллект (сонымен қатар) фотосуреттерді өңдеудегі революция

Жасанды интеллект күші және алдағы соғыс қақтығысы

Осы уақытқа дейін мен бұрыннан белгілі және тым көп алаңдамай шешуге болатын мәселелермен айналыстым. Жақсы (немесе жаман) қазір келеді.

елестетіп көрейік, аЖасанды интеллект жақсы дайындалған, кез келген адамның дауысын нақты қайталай алатын. Мұндай жүйелер бұрыннан бар.

Оны нақты адамдар ойнайтын сенімді бейнелер жасауға қабілетті басқа Жасанды интеллектпен біріктірейік. Бұл жүйелер де бар және кейбір жағдайларда қолданылған.

Бұл біз жасай алатын нәрсе ».терең жалған» (мүлдем жалған, бірақ толығымен сенімді бейнелер) саяси қарсыластарға, жау елдеріне немесе бізге ұнамайтын адамдарға зиян келтіретін өте қарапайым.

Осылайша, біз мыңдаған (жоқ, ондаған мың) чат боттарын жасаймыз, олар өздерін шынайы адамдар ретінде көрсетеді. ең танымал әлеуметтік желілер және олар жау елінде, бәлкім, сайлау кезеңінде, жала жабу, қарсыластарының мансабын бұзу немесе мүмкіндігінше хаос жасау үшін жасалған бейнелермен бөлісе бастайды.

Осылайша ақиқат соғысы туды және бәріміз оны қазір жоғалтып алу қаупі бар.

Кейбір сарапшылардың пікірінше, сырттан «егілген» үгіт-насихатпен бұрмаланған соңғы американдық сайлауды ұмытыңыз (оқыңыз: Ресей Федерациясы).

Қазіргі және орта болашақта қол жеткізуге болатын жүйелердің әлеуетімен салыстырғанда, 2020 жылдың қараша айындағы жаңалықтарды бұрмалау әрекеттері балалардың ойыны болды.

Осылайша Бірінші дүниежүзілік соғыстың барабандарын айналдырыңыз AI
Пицзиниден әлеуметтік желілерге дейін: желіде мафия осылай көбейеді
Морат шайқасы әлемдегі ең үлкен цифрлық нысан болады

Дәстүрлі емес қару ретінде қолданылатын галлюцинациялар

Le Жасанды интеллект Генеративті адамдардың жұмыс істеу принциптерінде ішкі кемшілік бар: олар галлюцинациядан зардап шегеді. ChatGPT-4 сияқты соңғы нұсқалар азды-көпті табыспен осы үрдісті шектеуге және түзетуге тырысуда.

Бұл «галлюцинаторлық әлеуетті» жақсы ниеті жоқ пайдаланушылар да өз пайдасына пайдаланып, белгілі бір саяси топтардың азды-көпті анық сенімдеріне негізделген, шыншыл болып көрінетін жаңалықтарды тарату үшін, олардың «бейтараптық».

Барлығы бірнеше жыл бұрын қол жетімді болғаннан әлдеқайда жоғары «от күші» бар.

Жақсы ұйымдастырылған топ (мүмкін оған сәйкес келетін үкімет үстел астында көмектескен болуы мүмкін) көптеген пайдаланушылардың белгілі осал тұстарын пайдаланады. Интернеттегі компьютерлер оңтайландырылған шабуылдар үшін және миллиондаған құрылғыларды басқару.

Ол мұны жалғандарды жасау үшін серверлер ретінде пайдалану арқылы жасайды әлеуметтік шоттар түпнұсқадан оңай ажыратылмайды.

Содан кейін фейк аккаунттар жоғарыда аталған топтардың сенімін күшейту үшін жоспарланған тезистер мен жаңалықтарды таратады.

Ал мұндай шабуылдармен күресудің жалғыз жолы –... қолдануЖасанды интеллект.

Жарияланбаған эсселер жинағындағы жасанды интеллект және қақтығыстар
Ереуілдегі актерлер: AI-ға қарсы шынайылық пен шығармашылықты қорғау
Бейне, швейцариялық-бургундиялық қақтығыс цифрланған және сақталған

Дағдарыс және мұндай эволюцияның мүмкіндіктері

Болашақ соғыста кім жеңеді?

Le Жасанды интеллект әлеуметтік диверсанттардың қызметінде ме, әлде бізді қорғауға сеніп тапсырылғандар ма?
Қазіргі уақытта ешкім айта алмайды.

Біз бір нәрсеге сенімді бола аламыз: сыни ойлау дағдыларымен және цифрлық құралдарды білетін халқы бар жақсы дайындалған ел (немесе одан да жақсырақ, елдер федерациясы) бұл қиындықтарға төтеп бере алады.

Ол жасанды интеллектті ғажайып немесе қауіп ретінде сезінбей, оның қадір-қасиетін, әлеуеті мен проблемаларын түсінуді үйренуі керек, басқару класын көрегендікпен және этикалық инновацияларға нақты назар аударады және технология.

Бізге тезірек осы жерден бастау керек...

Жасанды интеллект біздің балаларымыздың ең жақын досы болса
Facebook жаңалықтары (немесе «Жасанды деменция»)
Фотогалерея, Луи Браунның 1000 шаршы метр жұмысының кестелері