Hişê Çêkirî û Hevahengiya Çîrokçêkirinê

Destpêk

Dema ku em bi Hişê Çêkirî – HÇ (Artificial Intelligence – AI) re têkiliyê datînin, gelek caran arîşeyên ku derdikevin weke kêmasiyên teknîkî yên HÇê tênirxandin. Lê rastiya kûr ev e ku hişê çêkirî di gelek rewşan de weke me mirovan tevdigere û heman pirsên derûnî nîşan dide ku em jî rû bi rû dimînin. Dema ku ji Claude - modeleke bilind a hişê çêkirî ya pêşkeftî - dipirsin ku hesabekî bike û paşê jê dipirsin ku prosesa xwe şîrove bike, ew şîroveyeke ku pir mantiqî û lihevhatî xuya dike pêşkêş dike. Ew deng dike weke ku ew bi awayekî hişmendane pêngavan bi-bîr-anîne û paşê wan ji me re rave dike.

Lêbelê, lêkolînên nû yên di warê zanistên mejî û hişê çêkirî de tiştekî balkêş eşkere dikin: Ev şîroveyên ku bi wisa zelalbûnê tên pêşkêş kirin bi rastî ne ew rêbazên ku hişê çêkirî bi kar anîye ne. Ew ne bîra rastîn e, lê çîrokeke paşîn e ku ji bo me tê çêkirin - çîrokeke ku ji bo şîrovekirina encama ku jixwe hatiye biryardayîn hatiye avakirin.

Ev diyarde ne tenê taybet e ji bo hişê çêkirî. Em mirov jî di heman rewşê de ne. Em jî dema ku nizanin çima biryarek daye an çima karek kiriye, em ji xwe re çîrokekê dibêjin û pê bawer dibin. Ev xwezaya mirovan e ku em valahiyên di zanîna xwe de bi awayên ku mantiqî xuya dikin tijî bikin.

Çîrokên ku em ji xwe re dibêjin

Carinan fikir û biryarên me bi rastî weke ku xuya dike ne: hişmendane, mantiqî û bi hêsanî têne şîrovekirin. Em dikarin rêya ku me girt û sedemên biryarên xwe bi zelalbûn rave bikin. Lê carinan - nemaze dema ku em bi rastî nizanin çima me biryareke wisa dayî - em piştî wê paşê ji xwe re çîrokekê dibêjin û bi wê çîrokê hişk digirin. Ev ne tenê qebûlkirineke sade ye; ew çîrok dibe beşek ji têgihiştina me ya xwebûnê û dibe ku şêwaza biryarên me yên paşîn jî bandordar bike.

Zanistên derûnnasiyê nîşan didin ku dema proseyên derhişî (unconscious processes) bi hişmendiyê ango bi hişyariyê dixebitin û biryarên me didin, em hîn jî şîroveyan pêşkêş dikin. Lê ev şîrove pirî caran ne sedemên rastîn in - ew texmînên me an pêşqebûlên me yên veşartî ne ku li ser me bandorê dikin. Em xwebûna xwe qayil dikin ku em zanin çima me wisa kir, lê bi rastî em paşê ji biryara ku hatiye dayîn re çîrokê çêdikin.

Ev nayê wê wateyê ku em bi qestî şîroveyeke diroz çêdikin an ku em xwe dixapînin. Hêza wê, mejiyê me mirovan bi awayekî xwezayî valahiyên di zanîna xwe de bi awayên ku baş xuya dikin tijî dike. Girîng e ku mirov di raporên xwe de rast bin dema sedema pêwendîdar diyar in - zelal, bi têra xwe dîtin û bi hişmensî (hişyarî) amade ne. Bi gotineke din, dema ku em dizanin çima me tiştek kir û prosesa biryardayînê di bîra me de ye, em bi giştî ji şîrovekirina wê re baş in. Lê dema ku em nizanin, em pirî caran difikirin ku em dizanin û wê demê em çîrokekê çêdikin ku bi me maqûl be.

Hevahengiya di navbera hişê çêkirî û mirovan de

Heman şêwar û dînamîk di modelên zimanê mezin (Large Language Models) weke Claude de xuya dibe. Di hin rewşan de, Claude şîroveyeke ku fikir û ramyariya wê ya rastîn a navxweyî nîşan dide çêdike. Ew dikare bi rastî pêngavên xwe yên bîranînê nîşan bide û em dikarin bibînin ku çawa gihîşte encamê. Lê di rewşên din de - nemaze dema ku nîşaneke veşartî li ser bersiva rast tê dayîn an dema ku pergal jixwe ji berê dizane ka bersiva çawa ye - ew zincîreke fikr û ramyarê (Chain of Thought - CoT) paqij û lihevhatî çêdike ku qet çênebûye. Ew çîrokê ji encameke berî destpêkê hatî biryardayîn paşve ava dike.

Ev diyarde di lêkolînên herî nû de hatiye dîtin. Dema ku modelên hişê çêkirî li ser daneyên ku bersiva rast di nava wan de veşartî ye tên perwerdekirin, ew fêr dibin ku çîrokên ku bi encamê re lihev dikin çêbikin, ne çîrokên ku prosesa rastîn nîşan didin. Mîna me mirovan, ew ji encamê dest pê dikin û paşê rêyek ji bo gihîştina wir ji xwe re çêdikin.

Ji ber vê yekê dema ku ji modelên hişê çêkirî dipirsin "xebata xwe nîşan bidin" (show your work) dibe ku weke tedbîrekî dijî şaşiyan xuya bike, lê rastî ne her car wisa ye. Carinan şîrove bi wê yê ku çêbû dilsoz e û em dikarin pê bawer bin. Carinan ew tenê çîrokeke ku maneya wê tune ye - nîşandaneke ku baş xuya dike lê di rastiyê de ti girêdaneke wê ya rastîn bi prosesa biryardayînê re tune.

Pêşbînî û pêjn

Pêjn bi rastî ne-hişmend e û em pirî caran pêjnê weke cureyek cûyê ne-hişmend qebûl dikin. Lê ya rast ew e ku ew weke nasîna lezûbez, li ser ezmûnê bingehîn were dîtin. Ew weke "zanîna" bilez tê hest kirin pirî caran mejiya me ye ku nexşeyên ku berî vê dîtine pênasa dike - pirî caran jêr asta hişyariya hişmend e.

Pêjn ji gelek ezmûn û hînbûnên berî niha tê çêkirin. Dema ku em takekes nas dikin an biryarekê didin bêyî ku zêde bifikirin, ev ji ber ku mejiyê me nexşeyên berê bi leza bilind cuda dike û bi wan re berawird dike. Lê em bi giştî nikarin vê proseyê bibînin an têbigihêjin.

Û li vir têkiliyeke girîng heye: Em bi giştî nizanin ka çawa me nexşe nas kir an biryar da. Dibe ku em hişyar û hişmend bin ku tiştekî nas xuya dike an ku vebijarkeke taybetî tenê rast xuya dike. Lê em nikarin bi gelemperî prosesa ku me ber bi wir bir ji nû ve çêbikin an rave bikin. Ev valahiya di zanîna xwebûnê de cihekî berfireh ê ji bo şîroveya paşîn (post-hoc rationalization) çêdike.

Çîrokçêkirin û mantiqîkirin

Ew biryarên pêjnê û proseyên jêr asta hişyariyê cihekî berfireh ê ji bo şîroveya paşîn çêdike. Ramyarî pirî caran berî ku em têbigihêjin, ji biryareke hatiye dayîn jî çêdibe - ji ber vê yekê dema ku ji me tê xwestin ku em şîrove bikin, em bi heman pirsgirêka ku Claude rû bi rû dimîne lê dilikûmin: Divê em çîrokeke pir gumanbar ji nû ve çêbikin.

Di derûnnasiyê de ev diyarde weke çîrokçêkirin (confabulation) tê zanîn. Çîrokçêkirin ne diroz e - ew xwezaya mejiyê ye ku valahiyan bi awayekî ku mantiqî xuya dike, tijî bike. Dema ku em nizanin çima tiştek çêbû, mejî bêyî zanîna me çîrokên şaş çêdike da ku valahiyan tijî bike. Ev ne tenê di rewşên nexweşiyê de çêdibe; ew beşek ji karkirina rojane ya mejiyê mirovan e.

Modelên hişê çêkirî jî di heman rewşê de ne. Dema ku ew nikarin prosesa xwe ya rastîn rave bikin - ji ber ku ew bi awayên ku zehf aloz û tevlihev dixebitin - ew çîrokên ku mantiqî xuya dikin çêdikin da ku valahiyê tijî bikin. Mîna me, ew ji encamê dest pê dikin û paşê rêyekê ji bo gihîştina wir çêdikin.

Zelalbûn weke nîşaneke şaş

Di şîroveyeke baş de tiştek li ser hemû tiştên din heye: zelalbûn. Dema bersiveke lihevhatî, baş hatî rêzkirin û hêsan e ku were şopandin, em wisa pê bawer dibin. Em texmîn dikin ku zelalbûn liyaqetê nîşan dide ku raman rastiyê nîşan dide û ku herikîna mantiqî ramyariya rastîn nîşan dide. Lê ev texmîn dikarin pir şaş bin.

Di derûnnasiyê de, ev meyl weke handankera zelalbûnê (fluency heuristic) tê zanîn - ramana ku tiştên ku hêsantir tên pêvajokirin weke pir rast, rast an jî rêzdar tên dîtin. Ger tiştek rast deng bide û bi awayekî xweş were gotin, em pirî caran pê bawer dibin - heta eger ew şaş be jî.

Ev diyarde hem di mirovên aştî de û hem jî di hişê çêkirî de xuya dibe. Şîroveyên ku bi awayekî baş hatine nivîsandin û bi mantiqê hatine rêzkirin zêdetir tên qebûlkirin, heta eger ew bi prosesa rastîn re têkiliya wê nebe jî. Zelalbûn dibe maskeyeke şêwirmend ku şaşiyan veşêre.

Dema şîrove ne proses e

Dema ku em ji kesekî - an tiştekî - dipirsin ku çawa biryarek hatî dayîn şîrove bike, em texmîn dikin ku şîrove ramyariyê nîşan dide. Em hêvî dikin ku şîrove radeyeke bingehîn a têgihiştinê pêşkêş bike. Lê weke ku me dît, her car wisa nîne.

Zincîrên ramyariyê yên derewan (CoT) ên Claude ji hêla teknîkiyê ve pir ji qulinceke din nîşan didin - ew rastiyeke firehter li ser zankoyê eşkere dikin: Em pirî caran nizanin ka çawa em bigihîjin encamekê. Û ji ber ku em fêm nakin ku em nizanin, em şîroveyên ku baş xuya dikin ava dikin - heta eger ew ne rastîn bin jî.

Ev ne tenê pirsgirêka hişê çêkirî ye. Em mirov jî di heman rewşê de ne. Dema ku em ji xwe dipirsin çima me biryarek da an çima me hest kir, gelek caran em paşê ji encamê dest pê dikin û rêyek ji bo wir çêdikin. Em dibêjin "me wisa kir ji ber..." lê di rastiyê de em paşê li sedemê digerin û çêdikin.

Bandorên civakî û teknolojîk

Ger em pê bawer bin ku şîroveyên hişê çêkirî her dem rastiyê nîşan didin, dibe ku em biryarên girîng li ser bingeha zanyariyên şaş bidin. Di warên weke bijîşkî, dadweriyê, perwerdehiyê û aboriyê de, ev dikare encamên cidî derxîne holê.

Herwisa, dema ku em fêm nakin ku çawa hişê çêkirî biryaran dide, em nikarin kontrol bikin an pêşbînî bikin ka dê çawa tevbigere. Ev pirsgirêka "qutiya reş" (black box problem) a hişê çêkirî ye - em tenê encamê dibînin lê prosesê naxwînin.

Çareserî û pêşniyar

Ji bo ev pirsgirêkan çareser bibin:

Yekem, em bipejirînin ku şîrove her dem ne prosesa rastîn e. Divê em şîroveyan - ew ji mirovan an jî hişê çêkirî bin - weke derketin, ne garantiyan were behîs kirin. Çîrokeke zelal dibe ku prosesa rastîn nîşan bide an jî tenê ji nû veavakirineke qandî be.

Duyem, divê em rêbazên nû yên şîrovekirinê pêş bixin. Li şûna ku tenê li şîroveyên paşîn bigerin, divê em proseyên biryardayînê di dema ku çêdibin de binirxînin. Di warê hişê çêkirî de, ev tê wê wateyê ku em li teknîkên weke "interpretable AI" û "explainable AI" bixebitin.

Sêyem, divê em çanda şikê pêş bixin. Li şûna ku her tiştî zelal û lihevhatî qebûl bikin, divê em bipirsin: "Ev çiqasî rast e? Ka sedemên din hene? Ka em fêm dikin çawa ev biryar hat dayîn?"

Encam

Ev lêkolîn nîşan dide ku di navbera hişê çêkirî û ramyariya mirovan de hevahengiyeke girîng heye. Her du jî dema ku nizanin çawa biryarek hatî dayîn, çîrokên ku mantiqî xuya dikin ava dikin. Ev ne tenê kêmasiyeke teknîkî ye - ew taybetmendiyeke bingehîn a ramyariyê ye, ew çêkirî an jî zindewerî ye.

Di sedsala hejmarî de, dema ku em zêdetir bi hişê çêkirî re têkiliyê datînin û pê bawer dibin, ev têgihiştina pir girîng e. Divê em ne tenê bipirsin ka şîroveyeke baş çawa deng dide, her bi guman bin ji prosesa ku bersivê çêkir re. Tenê bi vî awayî em dikarin hem ji hişê çêkirî û hem jî ji têgihiştina xwe ya mirovî bi awayekî ewledar û bibandor bikar bînin.

Çîroka zelal ne her dem çîroka rast e. Divê em hîn bibin ku di navbera gumanê de dijîn - di navbera valahiya zanînê û hewcedariya têgihiştinê de. Pejirîna vê rastiyê yekem gav e ber bi têgihiştineke kûrtir ya çawa ku em û makîneyên ku em çêdikin, bi rastî ramyar in.

Çavkanî

https://transformer-circuits.pub/2025/attribution-graphs/biology.html

Termên sereke

Artificial Intelligence AI - Hişê Çêkirî HÇ Teknolojiya ku makîneyan dikare weke mirovan bifikire, fêr bibe û pirsgirêkan çareser bike

Claude – Claude Navê modeleke hişê çêkirî ya Anthropic

Chain of Thought CoT - Zincîra Ramyariyê Rêbaza ku AI-yê pêngavên xwe yên bîrkirinê bi rêz nîşan dide da ku em fêm bikin çawa bigihîşte encamê

Post-hoc - Paş-î, Piştî Rûdanê Şîrove an sedemên ku mirov piştî ku tiştekî çêbû derdixe holê - mîna dema ku me biryarek da û paşê sebeb digerin

Fluency Heuristic - Handankera Rewanbêjî Zelalbûnê Dema ku tiştek bi awayekî zelal û xweş tê gotin, em wisa pê bawer dibin - heta eger şaş be jî

Model – Model Pergala hişê çêkirî

Algorithm – Algorîtma Rêbaza hesabkirinê

Cognitive Process - Prosesa Venasînî Karên mejiyê weke ramyarî, bîrkirin û biryardayîn

Intuition - Pêjn, Hesta Navxweyî Dema ku em bêyî zêde bîrkirin dizanin tiştek çawa ye - mîna dema ku em hez ji kesekî dikin an nakin

Bias - Alî, Laybûn Dema ku bîrkirina me ber bi aliyekî ve diçe - mîna dema ku em tiştê ku em dixwazin bibînin pir zû dibînin

Confabulation – Çîrokçêkirin Dema ku mejî bêyî zanîna me çîrokên şaş çêdike da ku valahiyan tijî bike - ne diroz e, lê xweber çêdibe