Хиймэл оюун ухааныг улс төрийн зорилгоор ашиглах эрсдэл
Асар их хэмжээний мэдээллийг боловсруулж, дүн шинжилгээ хийхийн тулд хиймэл оюун ухааныг ашиглах шаардлага өсөн нэмэгдэж, ялангуяа бизнесийн байгууллагууд өдөр бүр давтагддаг ажлуудыг хурдан хийх, цаг хугацаа, мөнгөө хэмнэх зорилгоор машин сургалт (machine-learning), автоматжуулалтыг ашиглаж эхлээд байгаа талаар Аюулгүй байдал судлалын хүрээлэн өмнөх дугаартаа өгүүлсэн.
Гэвч энэхүү технологийн дэвшил мөн сөргөөр ашиглагдах талтай. Улс орон, террорист бүлэглэлүүд хиймэл оюун ухаан болон робот техникийг зэвсэг болгон ашиглах, дэлхийн хиймэл дагуулын системийг хакердах зэрэг нь улс орнуудын үндэсний аюулгүй байдалд аюул занал учруулах болсон.
Хиймэл оюун ухааны тусламжтайгаар хуурамч, ташаа мэдээлэл тараах замаар нөлөөллийн тагнуулын ажиллагаа явуулж, улс орнуудын дотоод хэрэгт хөндлөнгөөс оролцсон тохиолдлууд олонтаа гарах боллоо. Зарим улс орон хиймэл оюун ухааныг хязгаарлах, сөргөөр ашиглагдахаас сэргийлэх зохицуулалтын арга хэмжээг авч эхэлсэн талаар энэ удаагийн дугаарт танилцуулах болно.
Хиймэл оюун ухааныг улс төр, тагнуулын зорилгоор ашиглаж буй нь
Технологийн хөгжилтэй холбоотойгоор тагнуулын үйл ажиллагааны хэлбэр, далайц ихээхэн өөрчлөгдөж байна. Ялангуяа тагнуулын мэдээ, мэдээлэл боловсруулах хурд эрс нэмэгдэж, нүд ирмэх төдий асар их хэмжээний өгөгдлийг боловсруулах боломжтой болсон.
Энэ тухайд Стэнфордын их сургуулийн “Хүн-төвтэй хиймэл оюун ухаан” судалгааны төвийн удирдах зөвлөлийн дарга Эми Стегард “1962 оны Кубын пуужингийн хямралын үеэр ерөнхийлөгч Жон Кеннеди Америкийн U-2 тагнуулын онгоц Кубад Зөвлөлтийн пуужин байрласныг илрүүлсний дараа юу хийхээ нууцаар хэлэлцэхэд 13 хоногийн хугацаа зарцуулсан байдаг.
Харин 9 дүгээр сарын 11-ний өдөр ерөнхийлөгч Жорж Буш тэрхүү аймшигт террорист халдлагыг хэн зохион байгуулсан болохыг тодорхойлох, АНУ хэрхэн хариу үйлдэл үзүүлэх тухай тагнуулын мэдээллийг эргэцүүлэн бодоход ердөө 13 цаг зарцуулсан. Өнөөдөр ийм төрлийн шийдвэрийг гаргахад 13 минут буюу түүнээс бага хугацаа шаардлагатай” хэмээн хэлсэн байдаг.[1]
Их Британий тагнуулын нууц алба болох MI6-ийн дарга Ричард Мүүр POLITICO-д өгсөн ярилцлагадаа Орос, Хятад зэрэг Их Британий өрсөлдөгчид хиймэл оюун ухааныг тагнуулын зорилгоор ашиглаж байгаа учраас тэднээс даван гарч, технологийг зүй бусаар ашиглахыг нь зогсоохын тулд MI6 ч гэсэн хиймэл оюун ухааныг ашиглахын төлөөх өрсөлдөөнд орсон болохыг онцолсон байна.
Мөн “…БНХАУ дотооддоо дата өгөгдлийг асар ихээр цуглуулж, хувь хүний нууцыг хялбархан ашигладаг. Хятадууд мэдээллийн урсгалыг хяналтадаа авч байгаа учир хиймэл оуюн ухааны аюулыг бусдад мэдэгдэхийг хүсэхгүй байна…” хэмээн нэмж хэлжээ.[2]
“Deep fake” ба улс төр
Хиймэл оюун ухааны хэрэглээтэй холбоотой хамгийн их сэтгэл зовоосон асуудал бол “deep fake” буюу бодитой юм шиг харагддаг мөртлөө хуурамч агуулга юм хэмээн Майкрософт компанийн ерөнхийлөгч Бред Смит тодорхойлжээ. Энэ технологи нь бусдыг мэхлэх, хуурах зорилгоор бодит агуулгыг өөрчлөх эрсдлийг дагуулдаг. Үүнтэй холбоотой “2024 онд болох АНУ-ын ерөнхийлөгчийн сонгуулийг “deep fake”-ийн сонгууль болно” хэмээн Брукингс институтын Технологийн инновацын төвийн ахлах судлаач Даррелл Уэст анхааруулжээ.
Хуурамч мэдээллийг илрүүлэх хэрэгслийг бий болгохоор ажиллаж буй DeepMedia компанийн мэдээлснээр энэ жил 2022 оны мөн үетэй харьцуулахад бүх төрлийн “deep fake” дүрс бичлэгийн тоо 3 дахин их, хуурамч дуут бичлэгийн тоо 8 дахин ихэссэн байна.
Улмаар 2023 оны эцэс гэхэд, дэлхийн хэмжээнд нийтдээ 500000 орчим хуурамч дүрс болон дуут бичлэг нийгмийн сүлжээний хэрэгсэлд тавигдана хэмээн DeepMedia тооцоолжээ. Өнгөрсөн оны сүүл хүртэл дуу хоолойг серверт хувилах, хиймэл оюун ухаанаар сургахад 10000 ам.долларын зардал гардаг байсан бол өнөөдөр старт-ап компаниуд үүнийг хэдхэн ам.доллараар санал болгож байна.[3] Тийм учраас АНУ-ын Холбооны сонгуулийн хороо сонгогчдыг сонгуулийн хуурамч мэдээллээс хамгаалах зорилгоор 2024 оны сонгуулиас өмнө хиймэл оюун ухаанаар үүсгэгдсэн улс төрийн зар сурталчилгааг зохицуулах ажлыг эхлүүлээд байна.[4] БНСУ-ын ерөнхийлөгч Юн Сог Ёл сонгуулийн кампанит ажилдаа “deep fake”-ийг ашигласан нь сонгуульд ялахад нөлөөлсөн хэмээн өрнөдийн судлаачид дүгнэж байгаа юм. Тэдний үзэж байгаагаар, сөрөг хүчний “Ардын хүч” намыг төлөөлөн сонгуульд оролцохдоо Юн Сог Ёл хүмүүсийн асуултад хариулж, өрсөлдөгчидтэйгөө мэтгэлцэх зорилгоор хиймэл оюун ухаанд сууриласан өөрийн хувилбарыг гаргасан. Тэрээр хиймэл оюун ухаанд сууриласан өөрийн хувилбараар дамжуулан яриа хөөрөөтэй, зөөлөн дүр төрхийг бүрдүүлж чадсан байна. Юн Сог Ёлын “deep fake” дүрс бичлэгүүд (80 гаруй бичлэг) солонгосын цахим ертөнцөд тарж, 14.5 сая гаруй хүн үзжээ. Үүний үр дүнд солонгосын 20-оос дээш насны залуучуудын дунд нэр хүнд нь 10 гаруй хувиар өсч, улмаар залуучуудын саналыг авснаар сонгуульд ялалт байгуулсан болохыг судлаачид онцолжээ.[5]
“Deep fake” ба геополитик
Дээр дурдсан “deep fake”-ийн технологийг геополитикийн зорилгоор ч улс орнууд ашиглаж байна. Жишээлбэл 2022 оны 3 дугаар сард Украины ерөнхийлөгч В.Зеленский зэвсгээ хураалгахыг уриалж буй “deep fake” дүрс бичлэгт украины цэргүүд итгэсэн бол “Украины дайн” тэс өөрөөр эргэх байсан.[6] Тус дүрс бичлэг хуурамч болох нь удалгүй илэрч, Facebook, YouTube, Twitter зэрэг нийгмийн сүлжээний хэрэгслүүдийн удирдлагууд бичлэгийг сүлжээнээсээ авсан байна. Дүрс бичлэгт В.Зеленскийн амыг яг таг барьж яриулсан боловч аялга нь арай өөр, анхааралтай ажиглавал толгой, дуу хоолой нь хуурамч болох нь харагдсан.
Мөн энэхүү технологийг геополитикийн зорилгоор ашигласан тохиолдол нь Хятад-Тайванийн асуудалтай холбогдоно. БНХАУ-ын засгийн газар Тайваньд Хятадыг дэмжих үзэл санааг түгээн дэлгэрүүлэх зорилгоор хуурамч нэвтрүүлэгчдийн дүрийг бүтээж “deep fake” дүрс бичлэгийг ашиглажээ.
Ингэхдээ тэдний дуу хоолой, дүрсийг 100% компьютерээр бүтээсэн аж. Хэрэв “deep fake”-ийн технологиор хийгдсэн дүрс бичлэгт иргэд итгэж үнэмшсэн бол Хятад-Тайванийн асуудал улам хурцдах нөхцөл үүссэн байв. Энэ нь төрийн удирдлагатай хуурамч мэдээлэл түгээх кампанит ажлын эхний тохиолдол байсныг Нью-Йорк Таймс сонин мэдээлсэн.[7] Тайвань дэлхийн бусад улс орнуудаас илүүтэйгээр хуурамч мэдээлэл цахимаар хүлээн авдаг болохыг Digital Society Project-оос мөн илрүүлсэн байна.[8]
Хиймэл оюун ухааны асуудлаар улс орнуудын авч буй арга хэмжээ
Улс орнууд хиймэл оюун ухааныг өдөр тутамдаа хэрэглэж, үр ашгийг нь хүртэхийн зэрэгцээ мөн сөргөөр ашиглахыг нь хязгаарлах зорилгоор зохицуулахыг эрмэлзэж байна. Эдгээрээс зарим чухал санал санаачилгыг доор дурдан өгүүлье.
Хятад улс: Хятадын коммунист нам хиймэл оюун ухааны дэвшлээс үүдэн эрсдэл үүсэж болзошгүйг анхааруулж, энэ чиглэлд үндэсний аюулгүй байдлыг хангахад шаардлагатай арга хэмжээг чангатгахыг 2023 оны 5 дугаар сард уриалсан. Ши Жиньпиний оролцсон намын хурлын дараа гарсан мэдэгдэлд хамгийн сүүлийн үеийн технологийг эзэмшиж дэлхийд тэргүүлэхийн төлөөх тус улсын эрмэлзэл болон эдгээр технологийн нийгэм, улс төрд үзүүлэх хор хөнөөлийн хоорондын зөрчлийг хэрхэн шийдвэрлэх вэ гэдгийг онцолжээ. Түүнчлэн “улс төрийн аюулгүй байдлыг хамгаалах болон интернетийн өгөгдөл, хиймэл оюун ухаантай холбоотой аюулгүй байдлын засаглалыг сайжруулахад онцгой хүчин чармайлт гаргах шаардлагатай”-г хэлэлцсэн болохыг Шиньхуа агентлаг мэдээлэв.[9]
Австрали улс: Австралийн стратегийн бодлогын хүрээлэнгээс гаргасан тайланд дурдснаар гадаадын гүрнүүд хиймэл оюун ухааныг “зэвсэг” болгон ашиглаж, үндэсний аюулгүй байдалд нь аюул учруулахаас өмнө Австрали улс энэ асуудлыг хууль эрх зүйн хүрээнд зохицуулах шаардлагатайг анхааруулжээ. Тус хүрээлэнгийн ахлах судлаач Симеон Гольдиний хэлснээр хятад компаниудын ашигладаг болон тэдний бүтээсэн хиймэл оюун ухаанд сууриласан бүтээгдэхүүнүүд Австралийн үндэсний аюулгүй байдалд эрсдэл дагуулж, австраличуудыг тагнуулын програмуудад өртөх, хакердуулах нөхцөлийг бүрдүүлж байна. Мөн тэрээр “Үндэсний аюулгүй байдлын асуудал үүсгэж байгаа эрсдэл нь БНХАУ-ын хиймэл оюун ухааны чадавх бус, харин тус улсын төр, засаг аюулгүй байдлын хууль тогтоомжуудаар дамжуулан компаниудаа тагнуулын зорилгод ашиглаж байгаа явдал” гэдгийг онцолжээ. Өөрөөр хэлбэл, хятад компаниуд аюулгүй байдал, тагнуулын байгууллагуудаасаа шууд тушаал авч, гадаад орнуудыг тагнах ажилд оролцдог байна.
Хиймэл оюун ухаанаас үүдэлтэй эрсдлийг бууруулах 3 арга замыг Австралийн стратегийн бодлогын хүрээлэнгийн тайланд дурджээ. Эдгээрээс дурдвал, нэгдүгээрт, одоо хэрэглэж буй компьютерийн системүүдэд хөндлөнгийн шалгалт оруулах, хоёрдугаарт, “хулгайчийг хулгайчаар бариулах” технологи ашиглах хакеруудтай хамтран үндэсний аюулгүй системүүдийн цоорхойг илрүүлэх, гуравдугаарт, шинээр бий болгож буй технологийг зохицуулах зэрэг болно.
Хиймэл оюун ухааныг зохицуулах арга хэмжээнд үндэсний аюулгүй байдлын сүлжээ буюу төрийн техник хэрэгсэл зэрэг системд хятадын хиймэл оюун ухааныг ашиглахгүй байх юмуу эсвэл хятадын оюун ухааныг бүхэлд нь хориглох зэрэг хамаарна.[10]
Их Британи: Ерөнхий сайд Риши Сунак Их Британийг хиймэл оюун ухааны салбарт дэлхийд тэргүүлэгч болгох хүсэлтэй байгаагаа сүүлийн саруудад олон нийтэд идэвхтэй зарлах болсон. Риши Сунак энэ оны 6 дугаар сард АНУ-д айлчлах үеэрээ Их Британи энэ оны сүүлээр хиймэл оюун ухааныг зохицуулах асуудлаарх дэлхийн хэмжээний анхны дээд хэмжээний уулзалтыг зохион байгуулна гэдгээ мэдэгдсэн.[11]
Европын холбоо: Европын комисс хиймэл оюун ухааны хэрэглээний асуудлыг зохицуулах зорилготой зохицуулалтын анхны тогтолцоог 2021 оны 4 дүгээр сард санал болгосон. Энэхүү зохицуулалтын тогтолцооны дагуу янз бүрийн аппликейшнд ашиглагддаг хиймэл оюун ухааны системийг хэрэглэгчдэд учруулж буй эрсдэлийн түвшингээр нь шинжилж, ангилах юм. Хэрэглэгчдэд учруулж буй эрсдэл их байвал зохицуулалт нь олон байх ёстой.[12] Энэ нь батлагдсан тохиолдолд хиймэл оюун ухааны хэрэглээний талаарх дэлхийн хамгийн анхны зохицуулалт болох байв. Гэхдээ уг зохицуулалт хэлэлцүүлгийн шатанл явж буй.
АНУ: Нью-Йорк мужийг төлөөлөн Ардчилсан намаас АНУ-ын сенатын танхимд сонгогдсон сенатор Чак Шумер 2023 оны 9 дүгээр сард Тесла компанийн Илон Маск, Гүүгл компанийн Сундар Пичай, OpenAI компанийн Сэм Алтман, Майкрософт компанийн Сатя Наделла нартай хиймэл оюун ухааныг хэрхэн зохицуулах талаар цуврал сонсгол хийхээр төлөвлөж байна. Сенатор Ч.Шумерын ажлын албанаас мэдэгдснээр, технологийн салбарын манлайлагчид 9 дүгээр сарын 13-ны өдөр Вашингтон хотноо хуран цуглах бөгөөд энэ нь америкийн хууль тогтоогчдын зүгээс хиймэл оюун ухааны мэргэжилтнүүдийн саналыг сонсох хэд хэдэн уулзалтын эхнийх нь энэ болох юм. Мөн хагас дамжуулагч үйлдвэрлэгч Nvidia компанийн гүйцэтгэх захирал Женсен Хуан, Гүүгл компанийн гүйцэтгэх захирал асан Эрик Шмидт нар уулзалтад оролцоно.
“A.I. Insights Forums” хэмээх энэхүүү цуврал уулзалтууд нь хаалттай явагдах бөгөөд хиймэл оюуны талаар америкийн хууль тогтоогчдод мэдлэг, мэдээлэл өгөх зорилготой юм. Сенатын танхимын Олонхийн бүлгийн дарга, Чак Шумерын мэдэгдснээр эдгээр цуврал уулзалтаар Конгрессын гишүүдэд хиймэл оюун ухааны улмаас ажил эрхлэлтэд учирч болох эрсдэл, хуурамч ташаа мэдээлэл түгээх асуудал, оюуны өмчийн хулгай зэрэг олон асуудлаар мэдээлэл өгнө. Мөн өвчин, эмгэгийг судлах чиглэлд энэ технологийг ашиглах асуудлаар хууль тогтоогчдод мэдээлэл өгөх ажээ. Мөн 9 дүгээр сарын 13-нд болох хуралд иргэний эрх, хөдөлмөрийн эрхийг хамгаалагчид болон бүтээлч үйлдвэрлэлийн төлөөлөгчид оролцох юм.[13]
Монгол Улсад хиймэл оюун ухаанаас үүдэлтэй эрсдэл үүсэх тухайд
Ирэх онд Монгол Улсад Их Хурлын ээлжит сонгууль явагдана. Сонгууль дөхөхөөр нэр дэвшигчдийн талаарх элдэв бичлэг задрах явдал сүүлийн сонгуулиудад нэлээд ажиглагдах болсон. УИХ-ын 2024 оны сонгуулийн үеэр бичлэг задрахаас гадна улс төрчдийн үйл ажиллагаатай холбоотой хуурамч бичлэгүүд нийгмийн сүлжээгээр олонтаа түгэх магадлалтай юм. АНУ зэрэг хүчирхэг гүрнүүд ч гэсэн сонгуультай холбоотой элдэв хуурамч бичлэг задарч, ардчиллын үндсэн суурь болох шударга сонгуулийн зарчим алдагдахаас эмээж, хиймэл оюун ухааныг ашиглан улс төрийн сонгуульд хөндлөнгөөс оролцох явдлыг хязгаарлах хууль тогтоомжийг батлахыг зорьж байна. БНСУ-д ажиглагдсан сонгуулийн үйл ажиллагаанд ажиглагдсан шиг аль нэг нэр дэвшигчийн зүгээс “deep fake”-ийг ашигласан хуурамч дүрс бичлэгийг ашиглан сонгуулийн үр дүнд нөлөөлөх асуудал ч үүсч болзошгүй. Энэ нь төрийн эрх мэдлийг хууль бусаар авах, авахыг завдах зорилготой ч байж болохыг үгүйсгэхийн аргагүй юм.
Нөгөөтэйгүүр, гадаад орнуудаас манай улс руу чиглэсэн хиймэл оюун ухаанд сууриласан нөлөөллийн үйл ажиллагаа ч мөн идэвхжиж болзошгүй юм. Ялангуяа, манай төрийн байгууллагууд болон иргэдийн дата өгөгдлийг нийгмийн сүлжээний хэрэгслүүдээр дамжуулан цуглуулах, тэдгээрт тулгуурлан үндэсний аюулгүй байдалтай холбоотой мэдээ, мэдээллийг олж авах эрсдэлтэй байна. Сүүлийн жилүүдэд, манай төрийн байгууллагууд хакерын халдлагад өртөх нь нэмэгдсэн. Жишээлбэл, 2020 онд хятадын хакерууд Монгол Улсын Гадаад харилцааны яамны нэрийг ашиглан Ковид-19 вирусын талаарх худал мэдээллийг RTF буюу Rich text format өргөтгөлтэй Монгол хэл дээрх файлыг хавсарган төрийн хэд хэдэн байгууллагын майл хаяг руу илгээжээ. Эдгээр RTF файлууд нь хятадын хакеруудын дунд өргөн ашиглагддаг Royalroad 7 дугаар үеийн халдлагын хэрэгслийг өөртөө агуулсан байна. Энэхүү хэрэгслийг ажиллуулснаар хакерууд дэлгэц дээр дүрслэгдсэн мэдээллийн зургийг хуулах, файлуудын байршил болон жагсаалтын мэдээллийг авах, файл хавтас үүсгэх болон устгах, файлуудыг зөөх болон устгах, файлыг татаж авах, шинээр програмын процессыг ажиллуулах, тухайн компьютерт ажиллаж буй сервисүүдийн жагсаалтыг авах зэрэг үйлдлүүдийг хийх эрхийг гартаа оруулж авах боломжтой болжээ.[14] Харин хиймэл оюун ашиглах тохиолдолд дата өгөгдлийг олзворлох ажиллагаа нь өргөн цар хүрээг хамарч, үндэсний аюулгүй байдалд учруулах аюул занал нь улам бүр нэмэгдэх магадлалтай байна. Иймд олон улсын хэмжээнд улс орнууд энэ асуудлыг хэрхэн шийдвэрлэж буй сайн туршлагад тулгуурлан, өөрийн орны хууль, эрх зүйн зохицуулалтыг бий болгохын зэрэгцээ гадаад орнуудын тагнуулын довтолгоог сөрөн зогсох чадвараа сайжруулахад анхаарах, үндэсний мэргэжилтнүүдээ бэлтгэх нь чухал байна.
Дүгнэлт
Улс төр, тагнуулийн үйл ажиллагаанд хиймэл оюун ухааныг ашиглаж эхэлсэн нь улс орнуудын аюулгүй байдалд асар их сөрөг нөлөө авчирч болзошгүй байна. Ялангуяа, улс орнуудын улс төрийн сонгуульд хөндлөнгөөс оролцох зорилгоор хиймэл оюун ухаанаар үүсгэгдсэн агуулга (контент)-ыг санаатайгаар тарааж байна. Үүнтэй холбогдуулан томоохон гүрнүүд хууль тогтоомж батлах зэргээр хиймэл оюун ухааны хэрэглээг зохицуулахыг зорьж байна.
Дэлхийн томоохон тоглогчид хиймэл оюун ухааныг зохицуулах хууль тогтоомжийн төслийг санаачлан, зохицуулалтын тогтолцоог бий болохыг хичээж байна. 2024 онд зарим улсад улс төрийн сонгуулиуд болохтой холбогдуулан 2023 оны сүүлээр хиймэл оюун ухааны зохицуулалттай холбоотой олон улсын хурал, форум олноор зохион байгуулагдахаар төлөвлөөд байна.
Манай улсын хувьд цахим аюулгүй байдлыг хангах чиглэлээр хууль тогтоомж, үндэсний стратегийг батлан гаргаж, зохицуулалтын орчинг бий болгоод байна. Гэвч гадаад орнуудын зүгээс манай цахим орон зайд нөлөөлөх, улс төр, тагнуулийн зорилгоор төрийн мэдээллийг хакердан олж авах, нийгмийн сүлжээ болон мэдээллийн хэрэгслүүдээр дамжуулан тодорхой зорилго бүхий агуулга тараан нөлөөлөх гэсэн оролдлого тасрахгүй байгааг зохих статистик мэдээлэл харуулж байгаа юм. Ийнхүү улс гүрнүүдээс бусад орнуудын талаар явуулж буй улс төр, тагнуулийн үйл ажиллагаанд хиймэл оюун ухаан ашиглагдах болсон нь манай улсын үндэсний аюулгүй байдалд гаднаас ирэх эрсдэлийг нэмэгдүүлж байгааг анхаарах шаардлагатай.
Эх сурвалж: Аюулгүй байдал судлалын хүрээлэн бэлтгэв