Viena no sabiedrības iezīmēm ir aizrautība ar kādu jaunu parādību vai iespēju. 21. gadsimta otrajā desmitgadē esam no sirds aizrāvušies ar mākslīgā intelekta (MI) iespējām – no uzņēmējdarbības un politikas līdz izglītībai un kultūrai – MI it visur sola ātrumu un efektivitāti. Izrādās, MI ir arī ēnas puses. Ātruma un vienkāršības upuri ir drošība un unikalitāte, jo MI risinājumi palielina kiberdrošības riskus, kā arī tie noplicina komunikācijas daudzveidīgumu, piemēram, mārketingā līdzīgiem zīmoliem piedāvājot praktiski identiskus risinājumus.
Biznesa vidē intensīvi tiek komunicēts par MI priekšrocībām un iespējām – tās attiecas uz dažādu procesu automatizāciju, klientu apkalpošanu, datu analīzi un citām jomām. Īpaši aktuāli tas ir mazajiem un vidējiem uzņēmumiem (MVU), kuri ar MI palīdzību cenšas samazināt izmaksas, audzēt efektivitāti un ieņēmumus.
MVU izmanto dažādus MI veidus: tādus, kas ģenerē materiālus sociālajiem tīkliem un iekšējiem dokumentiem, analītiskos rīkus par pārdošanas un tirgus rezultātiem, kā arī programmatūras attīstībā ir izmantojami rīki, kas palīdz rakstīt programmēšanas kodus. Visi šie veidi un rīki var palīdzēt attīstīt uzņēmuma izaugsmi, tomēr digitālās pārmaiņas uzņēmumiem rada arī jaunus draudus.
MI un krāpšana
Par vienu no draudīgākajām MI izpausmēm ir kļuvusi uzņēmumu un to klientu apkrāpšana, radot attēlus, tekstus un video, kā arī kodus, kas ļauj piekļūt datiem un izkrāpt ievērojamu kapitālu. MI izmantošana krāpnieciskos nolūkos gada laikā ir pieaugusi par 456 % (no 2024. gada maija līdz 2025. gadam aprīlim, salīdzinot ar līdzīgu laika periodu gadu iepriekš), liecina TRM Labs dati.
“Kibernoziedznieki var radīt MI aģentus, kuri spēj darboties pilnībā neatkarīgi. Šie aģenti var identificēt un izmantot dažādu sistēmu ievainojamību bez cilvēka uzraudzības, īstenojot komplicētus uzdevumus, piemēram, kritiskās infrastruktūras uzlaušanu,” norāda TRM Labs. Visbiežākās krāpniecības metodes, izmantojot MI, ir:
- Dziļviltojumi (deepfakes) un identitātes dublēšana. Krāpnieki saražo video, attēlus vai audio, kas attēlo uzņēmumu vadības līmeņu cilvēkus, lai liktu darbiniekiem veikt naudas pārskaitījumus. Tā, 2024. gadā Lielbritānijā kāds uzņēmums zaudēja 23 miljonus eiro, jo tā darbinieks it kā piedalījās video zvanā ar uzņēmuma finanšu direktoru, kas bija krāpnieku radīts dziļviltojums.
- MI uzlabota pikšķerēšanas metode (phishing) un sociālā inženierija, kur MI pārskata sociālos tīklus un interneta informācija, lai radītu īpaši pārdomātas un konkretizētas, līdz ar to – ticamas, pikšķerēšanas ziņas. Šādi uzbrukumi apvieno emocionālo manipulāciju ar personalizētām detaļām, lai upuris rīkotos.
- Autentifikācijas rīku apiešana – caur MI veidoto pikšķerēšanas metodi un izmantojot sistēmas uzbrukumus, krāpnieki var iegūt autentifikācijas pieejas informāciju (token), kas sniedz krāpniekiem iespēju piekļūt informācijai, datiem, finanšu līdzekļiem bez otrreizējas datu ievades.
- Mākslīgi ģenerētas identitātes – MI rada dokumentus, mājaslapas un sociālo tīklu profilus vēlāk tos izmantojot, lai uzdotos par pircējiem vai piegādātājiem. Rezultātā var tikt zaudēti līdzekļi vai uzņēmums var tikt iesaistīts naudas atmazgāšanas plūsmā.
MI radītā krāpniecība rada milzu zaudējumus gan uzņēmumiem un valstu budžetiem, gan privātpersonām. Pasaules ekonomikas forums, pievēršoties šai problēmai, norāda, ka kiberkrāpnieku radītais kaitējums pasaulē sasniedz aptuveni 10,5 triljonus ASV dolāru, un desmit gadu laikā šis krāpnieku kaitējums ir trīskāršojies. Kontekstam, – valsts ar šāda apjoma IKP būtu trešā lielākā ekonomika pasaulē.
Efektivitātes solījums pārvēršas lielākos izdevumos
Cilvēki MI risinājumus bieži vien izvēlas dēļ vienkārša un ātra risinājuma sarežģītam uzdevumam. Tomēr rezultāts ne vienmēr atbilst gaidītajam. Mārketinga tekstu veidotājai un redaktorei Sārai Skidai no Arizonas, ASV, MI ir sagādājis papildu darbu un ienākumus, – viņa pārraksta robota rakstītus tekstus, vēsta BBC. “Tas bija tāds teksts, kādu parasti redz mākslīgā intelekta tekstā – ļoti vienkāršs. Tas nebija interesants,” saka Sāra un piebilst, ka daudzi viņas kolēģi nodarbojas ar mākslīgā intelekta radītu tekstu rediģēšanu un pārrakstīšanu. Arī Kašiša Barota no Indijas norāda, ka saviem klientiem no ASV rediģē un pārraksta robotu veidotus tekstus, lai tie izskatītos “cilvēcīgāki”.
Ja vājš vai muļķīgs teksts rada uzņēmumam reputācijas riskus, robota iesaiste mājaslapu funkcionalitātes izveidē vai problēmu novēršanā var radīt kiberapdraudējuma riskus. Kā norāda digitālās mārketinga aģentūras Create Designs līdzīpašniece Sofija Vornere, – pēdējā laikā pieaug palīdzības pieprasījumu skaits no klientiem, kuri ir vērsušies pie MI, lai saņemtu ātru risinājumu, bet vēlāk saskārušies ar problēmām. Tas, ka cilvēki lūdz, piemēram, ChatGPT atbalstu mājaslapas uzlabošanai, noved pie robota ietiktā koda pievienošanas, kas rada kļūdas un kiberdrošības riskus.
Vai MI var uzraudzīt pats sevi?
Uzņēmumi var cīnīties ar krāpniecības mēģinājumiem, kuros ir izmantots MI, izmantojot MI, tā teikt – cīnīties pret uguni, izmantojot uguni. Var ieviest MI rīkus, kuru algoritmi atpazīst nestandarta uzvedību un datu kustību. Ir rīki, kuri arī izanalizē un atpazīst rakstiskajās komunikācijās toņa un stila izmaiņas, lai izvairītos no nepatiesiem “vadības” e-pastiem vai ziņām. MI var pārbaudīt ID karšu, licenču un sertifikātu patiesumu, salīdzinot datus ar publiskajām datu bāzēm. Lai cīnītos pret krāpšanu, MI rīki var veikt balss atpazīstamības testus un attēlu atpazīšanu, tādējādi verificējot zvanītājus vai video dalībniekus, ja saruna ievirzās par steidzama maksājuma veikšanu.
Tomēr svarīga ir arī dabiskā intelekta klātbūtne un iesaiste. Draudus un krāpniecības mēģinājumus var atpazīt vizuāli, piemēram, ja attēlā nav dabisku ēnu, video redzamā cilvēka sejai ir nedabiska mīmika, audio materiālā ir robotizēts runas stils, sakāmā un intonāciju nesakritības. Jau zināmās un tipiskās pazīmes ir manāmās uzvedībā – steidzamības un stresa radīšana, bet tehnoloģiju jomā tie ir neskaidri teksti, kas aicina spiest uz saitēm, lai piekļūtu jūsu datiem.
Lai mazinātu krāpniecības riskus un dažos gadījumos tos pilnībā novērstu, uzņēmumiem ir:
- regulāri jāatjauno lietojumprogrammas, lai tajās būtu jaunākie aizsardzības rīki,
- jāuzlabo paroļu drošība un jānodrošina stingra pieejas kontrole dažādām sistēmām (t.sk. spēcīgāki tīkla drošības protokoli),
- jāveic darbinieku apmācības, lai tie spētu atpazīt potenciālos draudus,
- jāveic pārbaudes testi ar uzbrukumiem,
- jāizveido instrukcijas, lai būtu skaidrs, kā rīkoties aizdomu gadījumā.
Kiberdrošības eksperti un MI lietotāji ir vienisprātis, ka mākslīgais intelekts ir un būs noderīgs rīks, taču ir jāparūpējas par tā radītajiem riskiem. Uzņēmumiem ir jāievieš divējāda stratēģija: izmantojot MI savā biznesa izaugsmē un jāinvestē arī MI vadītās drošības infrastruktūrās. Kā arī, jāatceras, ka būtiska aizvien ir cilvēka iesaiste, nodrošinot MI radīto risinājumu uzraudzību.
