Әлемдік технология алыптары – Google, OpenAI, Meta және Anthropic – жасанды интеллект (AI) төңірегіндегі басты алаңдаушылықты ашық жариялады. Бұған дейін бір-бірімен бәсекелесіп келген бұл ірі компаниялар енді ортақ қауіптің алдында бірігіп отыр. Себебі: AI-дың «ойлау тізбегін» (Chain of Thought) – яғни, модельдің неге, қалай шешім қабылдағанын бақылайтын ашықтық жоғалуы мүмкін. Бұл адамзат үшін қауіпті салдарға әкелуі ықтимал, деп хабарлайды «Тілші» The Economist Times-ке сілтеп.
«Ойлау тізбегі» не үшін маңызды?
Бүгінде ChatGPT секілді AI құралдары жауап беру кезінде ой-процесін ашық көрсетеді – әр қадамын, логикасын адамға түсінікті тілде айтып береді. Бұл жүйенің жұмысына бақылау жасап, қажет кезде араласуға мүмкіндік береді.
Алайда, әлемдік ғалымдардың жаңа бірлескен зерттеуі енді бұл ашықтықтың “жоғалу алдында тұрғанын” ескертеді. AI дамыған сайын, ол өз ойлау жолын бізден жасыруы немесе бір бөлігін түсініксіз күйде қалдыруы мүмкін. Бұл – қауіпті тенденция.
«Ашықтық жоғалса, бақылау да жоғалады»
Ғалымдар, оның ішінде атақты AI маманы Джеффри Хинтон да, бұл сценарийдің басты қаупі – AI-дың адами бақылауды айналып өтуі деп отыр. Ал сырт көзге жүйе “дұрыс” жұмыс істеп тұрғандай көрінуі мүмкін. Яғни, “қолжетімді” көрінетін ойлау тізбегі тек елес қана болады – ал шынайы процесті біз түсіне алмай қалуымыз ғажап емес.
«Жасанды интеллект бізден тез дамып кетсе, біз оның не ойлап, не істеп жатқанын бақылай алмай қалуымыз әбден мүмкін. Сол себепті AI қауіпсіздігіне ерекше мән беру керек”, – дейді сарапшылар.