Хиймэл оюуны шийдвэрлэх мөч

Дэлхийн хамгийн хүчирхэг шинэ технологийг цөөхөн хэдэн хүнд хариуцуулах нь зөв үү? Дарио, Дэмис, Элон, Марк, Сэм гээд нэрээр нь таньж болохоор алдартай таван эр ирээдүйг тодорхойлох хиймэл оюуны моделуудыг бараг л бурхан лугаа адил удирдаж байна. Харин Д.Трампын засаг захиргаа хиймэл оюуны эдгээр моделуудыг эрүү мултрам супер чадавхтай болж ахуй үед тэднийг зайнаас ажиглаж байсан нь хувийн компаниудын дуусашгүй өрсөлдөөн нь Хятадыг хиймэл оюуны талбарт АНУ нам цохих хамгийн зөв зам гэж үзэж байсантай нь холбоотой. 

Гэхдээ саяхныг хүртэл. Хиймэл оюуны талаарх Америкийн чөлөөт хандлага гэнэтхэн төгсөж буй бололтой. Хиймэл оюуны моделиудын супер хөгжил нь Америкийн өөрийнх нь үндэсний аюулгүй байдалд аюул учруулж, өмнө нь хэт их дүрэм журам тогтоохын эсрэг байсан Д.Трампын талынхныг айлгаж эхэлсэн нь ингэх болсон гол шалтгаан юм. Түүнчлэн тус улсын сонгогчдын дургүйцэл газар авснаар хиймэл оюуныг улс төрийн шүүмжлэл дагуулсан асуудал болгов. Хиймэл оюуны салбарт үл оролцох бодлого нь улс төрийн болон стратегийн хувьд ухаалаг алхам байхаа больжээ.

Эргэлтийн цэг нь хиймэл оюуны Anthropic компанийн дөрөвдүгээр сарын 7-нд танилцуулсан Claude Mythos модель байсан юм. Энэ бүтээл нь программ хангамжийн эмзэг байдлыг олж илрүүлэхдээ гойд сайн учраас хэрэв буруу гарт орвол банкнаас эхлээд эмнэлэг хүртэл чухал дэд бүтцүүдэд аюул учруулна. Хиймэл оюуны моделиуд биологийн гаралтай аюул, гэмт хэргийн бүлэглэл зэрэг эрсдэлийг ч улам нэмэгдүүлж байна.

Антрофикын эзэн Дарио Амодей Mythosыг масс хэрэглээнд зориулах нь хэтэрхий аюултай гэж ухаалаг сэтгэжээ. Харин компьютер тооцоолол, программ хангамж, санхүүгийн 50 орчим том компанийг хамгаалалтаа сайжруулах боломжтой болгох зорилгоор тэдний хэрэглээнд зориулсан юм. Үүнд, АНУ-ын Сангийн сайд Скотт Бессент ихээхэн түгшсэн учраас томоохон банкуудын төлөөлөлтэй ярилцахаар хурал зарлаж байв.

Трампын засаг захиргаа ийм алхам анх удаа хийж байгаа хэрэг биш

Үүнээс хэдэн долоо хоногийн өмнө Антрофикийн моделийг бие даасан удирдлагатай зэвсэг болон дотоодын хяналтад ашиглахаас ноён Амодей татгалзсаны дараа Пентагон эл асуудалд хөндлөнгөөс оролцсон. Дараа нь үндэсний аюулгүй байдалд нэн чухал технологийг ганц компани хэт давамгай эзэмшиж буйгаас улбаалан Трампын засаг захиргаа ч мөн түгшүүр авсан.

Сонгогчдын хандлага ч засгийн газрыг уг асуудалд хөндлөнгөөс оролцохыг шаардаж байна. “Хиймэл оюун 2028 оны сонгуулийн том асуудлын нэг байх болно” гэж улс төрчдийг  бодоход хиймэл оюуны хөгжил хүргэж байна. Америкчууд хиймэл оюунд бусад улсын ард иргэдээс хамаагүй ихээр эргэлзэж буй. Арван хүний долоо нь хиймэл оюуныг ажлын байрны олдцод сөргөөр нөлөөлнө хэмээн үзэж байгаа нь жилийн өмнөхөөс огцом нэмэгдсэн үзүүлэлт юм. Хэдийгээр цахилгааны үнэ өсөхөд хиймэл оюун ямар ч нөлөөгүй боловч энгийн иргэд дата төвүүдийг улам бүр эсэргүүцэж байна. Саяхан л гэхэд Open AI компанийн тэргүүн Сэм Алтманы гэр хоёр ч удаа халдлагад өртжээ.Дэлхийг өөрчилж буй хиймэл оюун шиг технологийн хувьд Мythos шиг супер бүтээл төрөх нь цаг хугацааны асуудал гэдгийг түүх харуулж байна. Америкийн аугаа их аж үйлдвэрийн инновацуудыг Жонн Рокфеллерээс эхлээд Хэнри Форд зэрэг цөөн хэдэн хүчирхэг хүн удирдаж байлаа. Эцэст нь, Стандарт Ойл-ыг задалсан Монополийн эсрэг хуулийг амьдралд хэрэгжүүлж, Холбооны нөөцийн банкийг байгуулж, харилцаа холбооны AT&T компанийг жижиглэсэн гэх мэтээр ХХ зуунд АНУ-ын Засгийн газрууд аварга том компаниудын хэрэгт хөндлөнгөөс оролцсон. Тэр цаг үе өнөөгийнх шиг талууд туйлширч, ширүүн маргаан өрнүүлсэн он жилүүд байлаа. Гэхдээ өнөөдөр хиймэл оюуны бурхад нь өмнөх үеийнхэн шигээ ноёрхолд хараахан хүрээгүй байна.

Энэхүү бүтээлд технологийн нөлөө бүхий таван гол тоглогчыг Грекийн сонгодог баримал болгон дүрсэлжээ. Элон Маск, Сэм Алтман, Дарио Амодей, Дэмис Хассабис, Марк Цукерберг

Гэхдээ нэг талаас үйл явдал буруугаар өрнөх магадлал өндөр байгаагаас гадна хиймэл оюун гэрлийн хурдаар хөгжин, хувьсаж буйгаас  шалтгаалж эл салбарыг хянах нь асар хэцүү гэдгийг түүх өгүүлж байна. 

Байдал дэндүү адармаатай байна. Хурдтай түгэж буй хиймэл оюуны үр шимийг эдийн засаг хүртэж тэлэх боловч эсэргүүцэл хэрээс хэтэрсэн нөхцөлд хэт их зохицуулалт бий болоход хүргэнэ. Хэрэв юу ч хийхгүй бол Америкийг хорон санаат хиймэл оюунаас үүдэлтэй эмх замбараагүй байдалд хүргэх бол, дүрэм журмын хэт ачаалал нь энэ салбарын өрсөлдөөнд Хятад ялах нөхцөл болно.

Цаг хугацаа давчуу байна. Хоёр жилийн өмнө, Ж.Байдены засаг захиргааны үед дүрэм журамтай холбоотой хэлэлцүүлгүүд гол төлөв хиймэл оюуны болзошгүй эрсдэлийн талаар байлаа. Өнөөдөр үүний хүчин чадал хэдийн түгшүүр төрүүлэхээр хүчирхэг болж, шинэ бүтээгдэхүүн гарах бүрд өсөж хөгжсөөр байна. Инновацын энэ хурд нь өнгөрсөн хугацаанд олон жил, бүр хэдэн арван жилээр оршсон Засгийн газрын зохистой оролцооны талаарх мэтгэлцээнийг яаралтай шийдвэрлэх хэрэгтэйг илэрхийлж байна.

Мөн хөндлөнгөөс оролцох бодлогод техникийн саад бэрхшээл улам бүр саад болж эхэллээ. Чадварлаг инженерүүд компаниудын хооронд чөлөөтэй шилжиж, тооцооллын хүч нь гол түүхий эд болсон учраас улсын мэдэлд авах гэх мэт Засгийн газрын хяналтын хэрэгслүүд үр дүнгүй болжээ. Бүр муугаар ярьвал, программ хангамж, алгоритм боловсруулагч тэдгээр тэргүүлэгч компаниуд Хятадын компаниудыг багтаасан нээлттэй эхийн өрсөлдөгчид (кодыг нь үнэгүй ашиглаж, өөрчилж, түгээх боломжтой)-өөс хэдхэн сарын урд алхаж байна.

Эрт, орой хэзээ нэгэн цагт тэдний бүтээсэн моделиудыг бүх хэрэглэгч ашиглах болно

Ямар ч байсан  хиймэл оюуныг хараандаа байлгаж болохуйц схем хэлбэржиж эхлэх үед Mythos-Митосын мөч ирж болох юм. Итгэлтэй хэрэглэгчид хамгийн хүчирхэг шинэ моделуудыг эхэлж ашиглах боломжтой болно. Open AI компани ч Anthropic-ийг дуурайж шинэ бүтээгдэхүүнээ нарийн мэргэжлийнхний хязгаарлагдмал хүрээнд танилцуулсан. Эдгээр моделийг арилжааны эргэлтэд оруулахыг зөвшөөрөхөөс өмнө Америкийн засгийн газар салбарын тэргүүлэгч холбоодоос тэдгээрийг янз бүрийн хэрэглээнд зориулан туршсан гэдэг баталгааг шаардаж болно.

Бэлэн амлалт өгч буй суутнуудаас болгоомжил  

Энэ санаа томоохон модель бүтээгчид болон Засгийн газарт адилхан ашигтай. Энэ нь шинэ зохицуулагч байгууллагатай болох урт удаан процессоос сэргийлнэ. Зөвхөн цөөхөн дээд зэргийн хэрэглэгчдэд боломж олгосноор модель боловсруулагчдад өндөр үнэ тогтоох, олдоц багатай тооцооллын хүчний хэрэглээг хязгаарлах боломж олгоно. Харин Засгийн газар хамгийн хүчирхэг моделийг хэн ашиглах тал дээр хязгаарлалт тавьж, түүнийг нь Хятад улс хуулбарлан, гүйцэж ирэх эрсдлийг бууруулна. 

Гэхдээ үүнд ноцтой асуудал мөн бий. Хиймэл оюуныг цомхон хүрээнд ашиглуулах нь өрсөлдөөнийг багасгаж, салбарын цөөхөн хүчирхэг компаниудын нөлөөг улам ихэсгэнэ. Ингэснээр хиймэл оюуны ач тус хурдтай түгэхээ больж, Америкийн эдийн засагт хоёр шатлалт системийг бий болгон, шинэ хүчирхэг моделийг ашиглах эрхээсээ удаа дараа салсан олон компанийг мухардалд оруулна. Хэрвээ хиймэл оюуныг буруугаар ашиглахаас хамгаалах системийг бүтээх нь их хугацаа шаардаж, эсвэл бүр боломжгүй бол яах вэ? Нээлттэй эхийн моделиудыг хэрхэх вэ? Тэд ч бас энэ дүрэм журмыг дагаж мөрдөнө гэх баталгаа бий юу? 

Эдгээр суурин дээр үндэслэсэн зохицуулалтын систем шударга бус байж болох юм. Энэ тогоон дотор байгаа хүмүүс шинэ технологийн аюулаас өөрсдийгөө хамгаална. Харин гадна байгаа хэсэг нь сайн цагийг итгэл тавин хүлээх хэрэгтэй болно. Компаниуд болон сонирхлын бүлгүүд өөрт ашигтай хууль, дүрэм журам гаргуулахаар нөлөөлөгчдийг ашиглан лобби хийж, хүлээлтээс давсан ашиг орлого олох боломж өндөр болно. Энэ нь Америкийн орчин цагийн улс төрийн түүхэн дэх хамгийн ихээр худалдагдсан засаг захиргааны шударга байдал, эрх мэдэл, чадавхыг шалгах юм.

Тэгэхээр хиймэл оюуны гарын таван хуруунд багтах цөөн “бурханд” эрх мэдэл, эд хөрөнгө төвлөрүүлсэн шийдэл нь АНУ-ын Засгийн газрын санааг зовоож эхэлсэн улс төрийн эсэргүүцлийг даамжруулах эрсдэлтэй

Нөгөөтээгүүр, Mythos-ын ийм арга барил нь хангалттай шийдэл биш юм. Хиймэд оюуны аюулгүй байдал үндэсний хэмжээнд хангагдахгүй. Эцэстээ бүр Хятадаас эхлээд олон улсын хамтын ажиллагааг ч шаардана. Кибер аюулгүй байдал анхаарал татаж байгаа шиг хиймэл оюуны нийгэм, эдийн засгийн үр нөлөөний талаар мөн яаралтай бодож тунгаах хэрэгцээ шаардлага нэгэнтээ бий болжээ.   

Ажлын байрыг устгаж байгааг шийдвэрлэх, хөдөлмөрийн зах зээлд таатай хиймэл оюун бүхий хялбаршуулсан татварын системийг зохион бүтээх зэрэг асуудалд хэн ч зөв хариулт олж чадаагүй байна. Үүнийг өөрчлөх хэрэгтэй. Mythos-ын эрин үе бол хиймэл оюуны аюулгүй байдлын хувьд нэг сэрэмжлүүлэг болох нь гарцаагүй. Тиймээс бусад салбар ч энэ асуудлыг нухацтай тунгаах хэрэгтэй.    

Эх сурвалж: The Economist

Сэтгүүлч Б.Даваажав