Біз көптеген компаниялар жасанды интеллектті көмекші құрал ретінде белсенді түрде енгізетін дәуірде өмір сүріп жатырмыз: чат-боттар, автоматты жауаптар, ақпаратты іздеу, құжаттарды аудару. Жағдай үнемі өзгеріп отырады: көптеген AI шешімдері енді қызметкерге немесе клиентке жай ғана көмектеспейді, деректерді дербес талдайды, ұсыныстарды тұжырымдайды, шешім қабылдайды немесе бизнес-процестерді іске қосады. For example, they recommend issuing a loan, rank candidates, or influence user access to a service without direct human participation. Бұл ретте реттеу тәуекелі туындайды. Бизнес не істеу керек? REVERA заңгері Александра Маглыш оқиғаны айтып береді. Alexandra Maglysh When does an assistant become an Agent? Компания өз жүйесін қарапайым AI көмекшісі деп санауы мүмкін, бірақ іс жүзінде ол дербестіктің жоғары дәрежесіне ие немесе жеке тұлғалардың құқықтарын, бостандықтарын және заңды мүдделерін қозғайды. For example: the HR system independently ranks candidates; the banking AI model automatically makes a decision on a loan application; the insurance AI system determines the likelihood of fraud and triggers a refusal to pay; AI restricts user access to a service or service. Барлық осы жағдайларда біз енді бизнес-процестерді автоматтандыру туралы емес, адамның жағдайына, оның қызметтерге қол жеткізуіне, қаржыландыруға немесе еңбек мүмкіндіктеріне әсер ететін жүйелер туралы айтып отырмыз. Сондықтан AI көмекшісі мен AI агенті арасындағы айырмашылық терминология емес, заңды тәуекелдерді басқару мәселесіне айналады. Бұл ретте Қазақстан үшін мынаны ескеру маңызды: «AI көмекшісі» және «AI агенті» ұғымдары өнімді практикалық бағалау үшін ыңғайлы, бірақ тәуелсіз құқықтық категориялар емес. «Жасанды интеллект туралы» Қазақстан Республикасының Заңында тәуекел дәрежесі мен дербестік дәрежесі бойынша жүйелердің жіктелуі қолданылады. Демек, дербес AI агенті әрқашан жоғары тәуекелді жүйе бола бермейді және оның шешімдері адамның құқықтарына немесе заңды мүдделеріне елеулі әсер ететін болса, онша күрделі емес жүйе бақылауды күшейтуді талап етуі мүмкін. Неліктен AI көмекшісі мен AI агентін ажырату маңызды? Бүгінгі таңда әрбір ірі компания AI құралдарын пайдаланады. Дегенмен, барлық AI жүйелері заң тұрғысынан бірдей емес. Қазіргі заманғы реттеудің негізі тәуекелге негізделген тәсіл болып табылады. Жасанды интеллект жүйесінің дербестігі неғұрлым көп болса және оның адамдарға әсері соғұрлым жоғары болса, әзірлеушіге, иеленушіге, жеткізушіге және осындай жүйені жүзеге асыратын ұйымға соғұрлым көп талаптар қойылуы мүмкін. Қате жіктеу мыналарға әкелуі мүмкін: өнімді қайта өңдеуге қосымша шығындар; пайдаланушылардың шағымдары; беделін жоғалту; жеке деректерге қойылатын талаптарды бұзу тәуекелдері; қолданыстағы заңнамада көзделген әкімшілік және өзге де жауапкершілік. Еуропалық нарық контекстінде GDPR және ЕО AI актісіне сәйкес келмеу тәуекелдері де осы тізімге қосылады. ЕО AI заңына сәйкес, 35 миллион еуроға дейін немесе жаһандық жылдық айналымның 7% мөлшерінде айыппұл ең ауыр бұзушылықтарға, атап айтқанда, кейбір AI тәжірибесіне тыйым салуды бұзуға қолданылады. Санкцияның бұл ең жоғары деңгейі қауіптілігі жоғары жүйелер талаптарының әрбір бұзылуына автоматты түрде қолданылмайды. Сондықтан бизнес үшін негізгі сұрақ «Біз AI-ды қолданамыз ба?» емес, «Біздің жүйе шешімдерді қалай дербес қабылдайды, адам оларды қайта қарай алады және бұл шешімдер пайдаланушыларға қалай әсер етеді?» Жүйе түрін қалай анықтауға болады? Негізгі критерийлер: жүйе автономиясының дәрежесі; нақты адамдық бақылаудың болуы; нәтижені жою немесе өзгерту мүмкіндігі; шешімнің адам құқықтарына, бостандықтары мен заңды мүдделеріне әсері; өңделетін деректердің, оның ішінде жеке деректердің сипаты. AI көмекшісі Көмекші әдетте пайдаланушы құралы болып табылады. Оның негізгі мүмкіндіктері: пайдаланушының қалауы бойынша жұмыс істейді; жеке тапсырмаларды орындайды; алдын ала белгіленген шектерде жұмыс істейді; ақпаратты, жобаны, аударманы немесе ұсынысты жасайды; пайдаланушы нәтижені тексере алады, өзгерте алады немесе пайдаланбайды; жүйе әдетте адам құқықтарына тікелей әсер ететін тәуелсіз шешімдер қабылдамайды. Көмекшілердің мысалдары: дәрігердің қабылдауына жазылуға арналған чатбот; ішкі жүйелерде ақпаратты іздеуге арналған корпоративтік AI көмекшісі; AI аудармашысы; рекрутерге бос орын мәтінін дайындауға көмектесетін жүйе. Агенттердің мысалдары: AI агентінің дербестік дәрежесі жоғары. Ол: жағдайды және бірнеше көздерден алынған мәліметтерді талдай алады; болжамдық модельдерді қолдану; берілген ережелер шеңберінде одан әрі әрекетті дербес таңдау; процестерді іске қосу; шешімдер қабылдау немесе оларды іс жүзінде алдын ала анықтау; жаңа деректерге бейімделу. Ең маңызды критерий – жүйе жұмысының салдары адамның құқықтарына, бостандықтарына немесе заңды мүдделеріне әсер етуі мүмкін. Негізгі айырмашылығы, AI көмекшісі адам мен ақпарат арасындағы делдал болып табылады. AI агенті шешім қабылдау процесінің қатысушысы болып табылады. Қазақстанда жүйенің автономия дәрежесі бойынша қай категорияға жататынын бағалау қосымша маңызды. Төмен автономиялы жүйе ұсыныстар жасайды, бірақ шешімді адам қабылдайды. Орташа автономды жүйе шешімдерді өз бетінше қабылдайды, бірақ адам оны өзгерте алады немесе жоя алады. Жоғары автономды жүйе үшін адамның шешімді түзету немесе жою мүмкіндігі жоқ. Жағдайларды талдау Банк саласы: банктік чат-бот және кредиттік скоринг Клиент банк чат-ботынан несие шарттары туралы сұраса және бот тарифтерді көрсетіп, қатысты сұрақтарға жауап берсе, бұл әдетте AI көмекшісі. Егер AI жүйесі клиент туралы ақпаратты талдаса және несие менеджеріне ұсыныс жасаса, қызметкердің шешімі тәуелсіз екенін және ол модельдің ұсынысынан шынымен бас тарта алатынын тексеру керек. Жүйе несие беруден автоматты түрде бас тартса, лимит белгілесе немесе өтінімді одан әрі қарауға тосқауыл қойса, бұл клиенттің заңды мүдделеріне әсер етуі мүмкін. Мұндай жағдайда жеке деректерді автоматтандырылған өңдеу ережелерін ескеру қажет. HR және рекрутинг Егер AI жалдаушыға жұмыс сипаттамасын жазуға көмектессе, бұл AI көмекшісі. Жүйе кандидаттардың рейтингін автоматты түрде белгілесе және адамның араласуынан бұрын олардың кейбірін жойса, тәуекел деңгейі айтарлықтай артады. Компания жеке деректерді өңдеудің заңдылығын, кемсітушілік әсер ету қаупін, нәтижені адам қарау мүмкіндігін және кандидаттар үшін жеткілікті ашықтық бар-жоғын тексеруі керек. Қандай реттеуші тәуекелдер туындайды? Жеке деректер Көмекшілер де, агенттер де жеке деректерді өңдей алады. Демек, компания «Дербес деректер және оларды қорғау туралы» Қазақстан Республикасы Заңының талаптарын, оның ішінде өңдеудің заңдылығын, қажетті келісімнің немесе заңда көзделген өзге де негіздердің болуын, деректерді қорғауды және деректер субъектілерінің құқықтарын сақтауды сақтауға міндетті. Автоматтандырылған өңдеу ерекше маңызға ие. Егер автоматтандырылған өңдеу нәтижесінде тұлғаның құқықтары немесе заңды мүдделері туындаса, өзгерсе немесе тоқтатылса, мұндай өңдеуге субъектінің келісімімен немесе заңда тікелей көзделген өзге де негіздер бойынша рұқсат етіледі. Субъектке өңдеуді және оның мүмкін болатын салдарын түсіндіріп, қарсылық білдіру мүмкіндігін беру керек. Іс жүзінде бұл несие беруден автоматты түрде бас тарту, үміткерді алып тастау, төлеуден бас тарту немесе қызметке қол жеткізуді бұғаттау жағдайында компания нәтижені қарау процедурасын және пайдаланушыға шағымдану арнасын ұсынуы керек дегенді білдіреді. Деректерді сақтау және тасымалдау Сыртқы AI платформаларын, LLMs, бұлттық қызметтерді және API интерфейстерін қосу кезінде жеткізушіге қандай деректер жіберілетінін және олардың қайда сақталатынын анықтау керек. Жеке деректер Қазақстан аумағында орналасқан деректер базасында сақталуы тиіс. Трансшекаралық аударымдарға заңда көзделген шарттар орындалған жағдайда ғана рұқсат етіледі. Сыртқы AI қызметін пайдаланбас бұрын мыналарды тексеру ұсынылады: сұраулар мен жүктеп алынған құжаттарда жеке деректер бар ма; олар коммерциялық, банктік, медициналық немесе заңмен қорғалатын өзге де құпияларды қамтиды ма; провайдер сұрауларды, жауаптарды және журналдарды сақтайтын жерде; жеткізуші берілген деректерді үлгіні оқыту үшін пайдалана ма; құпиялылық пен ақпарат қауіпсіздігінің шарттық кепілдіктері бар ма. «Жасанды интеллект туралы» Қазақстан Республикасы Заңының талаптары «Жасанды интеллект туралы» Қазақстан Республикасының Заңы адамның, оның құқықтары мен заңды мүдделерінің басымдылығы қағидатына негізделген. Ол AI жүйелерінің иелері мен иелері үшін тәуекелдерді басқаруды, қауіпсіздікті, құжаттаманы және пайдаланушыны қолдауды қамтамасыз етеді. Сондай-ақ заң кейбір AI тәжірибесіне, оның ішінде манипуляциялық әсерге, адамның осал тұстарын пайдалануға, жеке деректерді заңсыз өңдеуге, биометриялық деректерге негізделген кемсітушілік жіктеуге және келісімсіз эмоцияларды анықтауға бағытталған жүйелерді қоса, заңда тікелей көзделген жағдайларды қоспағанда, тыйым салады. Сондықтан автоматтандырудың өзіне тыйым салынбайды. Дегенмен, жүйеде адамның ықпалы неғұрлым көп болса және адам бақылауының көлемі неғұрлым аз болса, оның заңдылығын, қауіпсіздігін және салдарын соғұрлым мұқият бағалау қажет. GDPR және ЕО AI актісі Еуропалық клиенттермен жұмыс істейтін, ЕО-да бар немесе Еуропа нарығында өнім ұсынатын компаниялар үшін GDPR және ЕО AI актісі тіркелген елге қарамастан қолданылуы мүмкін. Атап айтқанда, жұмысқа орналасу немесе белгілі бір қызметтерге қол жеткізу кезінде пайдаланылатын жүйелер, соның ішінде несиелік скоринг, ЕО AI заңына сәйкес жоғары тәуекел ретінде жіктелуі мүмкін. Тәуекелдерді басқару, деректер сапасы, құжаттама, журнал жүргізу, ашықтық және адам бақылауы мұндай жүйелер үшін маңызды болуы мүмкін. Сондықтан, AI жүйесінің дербестік деңгейін және заңды салдарын өнімді жобалау сатысында бағалаған жөн. Кім жауапты? Егер жүйе көмекші құрал ретінде пайдаланылса, нәтижені пайдалану кезінде қате жіберген пайдаланушыдан жауапкершілік туындауы мүмкін. Дегенмен, бұл компанияны жүйені қауіпсіз енгізуді ұйымдастыру, қолайсыз сценарийлерді шектеу, деректерді бақылау мен қорғауды қамтамасыз ету міндетінен босатпайды. Зақым үлгі қатесі, деректердің ауытқуы, интеграциялық кемшіліктер, бақылаудың болмауы немесе деректерді заңсыз өңдеу салдарынан болса, жауапкершілік жүйені пайдаланатын меншік иесіне, иесіне, әзірлеушіге, жеткізушіге, интеграторға және ұйымға әсер етуі мүмкін. Сондықтан AI жеткізушілерімен келісім-шарттар, пайдаланудың ішкі ережелері және компаниядағы рөлдерді бөлу тәуекелдерді басқарудың бір бөлігіне айналады. Практикалық ұсыныстар Жүйе жоғары тәуекел деп саналмаса да, оны іске қоспас бұрын компанияға ішкі бағалау жүргізген жөн. Не істеу керек: 1. Компанияда қолданылатын барлық AI жүйелері мен сыртқы AI провайдерлерінің тізілімін құрастырыңыз. 2. Қандай жүйелер ұсынымдар жасайтынын және қайсысы өз бетінше шешім қабылдайтынын немесе әрекеттерді бастайтынын анықтаңыз. 3. Әрбір жүйенің тәуекел дәрежесін және дербестігін бағалаңыз. 4. Нәтижелердің адамдардың құқықтарына, қызметтерге қолжетімділігіне, қаржылық жағдайына немесе мансап мүмкіндіктеріне әсер ететінін тексеріңіз. 5. Қызметкер шешімді салдарлар пайда болғанға дейін шынайы түрде қарап шығу, өзгерту немесе кері қайтару мүмкіндігін анықтаңыз. 6. Жүйенің жеке деректерді өңдейтінін немесе өңдейтінін және мұндай өңдеуге заңды негіздің бар-жоғын тексеріңіз. 7. Жүйенің маңызды шешімдері мен әрекеттерін тіркеуді ұйымдастыру. 8. Қолданылатын құжат үлгілері, деректер көздері, шектеулер және жүйе өзгерістері. 9. Жеке деректердің, сұраулардың және журналдардың, соның ішінде сыртқы бұлттық қызметтерді пайдаланған кезде сақталатын жерін тексеріңіз. 10. Автоматтандырылған шешімдерге қатысты пайдаланушылардың өтініштері мен қарсылықтарын қарау тәртібін белгілеу. 11. Қазақстан заңнамасына, қажет болған жағдайда GDPR және ЕО AI актісіне сәйкестігіне құқықтық және техникалық бағалау жүргізу. Қорытынды AI көмекшілері мен АИ агенттеріне бөлу өнімді бастапқы бағалау үшін пайдалы, бірақ Қазақстан заңнамасында көзделген құқықтық жіктеуді алмастырмайды. Компания үшін негізгі мәселе оның құралы қалай аталатыны емес, оның қаншалықты автономды жұмыс істейтіні, адам өз шешімдерін бақылай алатыны және жоққа шығара алатындығы, ол қандай деректерді пайдаланады және жүйенің нәтижелері адамдардың құқықтары мен заңды мүдделеріне қалай әсер ететіні. AI көмекшісі жеке деректерді өңдеу немесе ақпаратты сыртқы провайдерге беру кезінде елеулі тәуекелдер тудыруы мүмкін. AI агенті әрқашан жоғары тәуекелді емес, бірақ ол адамдар үшін маңызды салдары бар шешімдерді өз бетінше қабылдаса немесе нақты алдын ала анықтаса, мұқият бағалауды қажет етеді.