Is imreoir fichille é an róbat freisin: nuair a mharaigh AI beagnach a cruthaitheoir

Measadh fichille i gcónaí an “cluiche na ríthe”, catha intleachtúil ina straitéis, Cuirtear foighne agus cruthaitheacht an duine chun trialach. Ach, Cad a tharlaíonn nuair a bheidh an meaisín surpasses ní amháin ar an fear, ach tugann sé dúshlán dó ar bhealaí gan choinne? Ní ficsean eolaíochta an scéal a bheidh á iniúchadh againn inniu, ach fíor-eachtra a chroith bunús an chaidrimh idir daoine agus intleacht shaorga. I 1997, chonaic an domhan conas Gorm domhain, an t-ollríomhaire IBM, Bhuaigh sé Garry Kasparov, curadh an domhain ag an am, i gcraobhchomórtas a mharcáil roimhe agus ina dhiaidh. Mar sin féin, blianta roimhe sin, Tharla eachtra nach raibh aithne chomh suimiúil céanna air san Aontas Sóivéadach: robot fichille, deartha chun imreoirí a oiliúint, “beagnach” dar críoch le saol a cruthaitheoir. an ócáid ​​seo, faoi ​​rúndiamhair agus tuairimíocht, ardaíonn sé ceisteanna doimhne faoi theorainneacha na teicneolaíochta, Eitic in hintleachta saorga agus cé chomh fada agus atáimid toilteanach rialú a ghéilleadh do mheaisíní. Tríd an alt seo, déanfaimid na fíricí a réiteach, Déanfaimid anailís ar na himpleachtaí agus déanfaimid machnamh ar thodhchaí ina mbeidh an líne idir uirlis agus bagairt níos doiléire.

Bunús na robots fichille: níos mó ná cluiche amháin

Chun tuiscint a fháil ar an eachtra, Tá sé ríthábhachtach dul ar ais go dtí bunús na robots fichille. Níor tháinig na gléasanna seo chun cinn mar bhréagáin amháin, ach mar uirlisí oiliúna agus turgnamh eolaíochta. Sna deich mbliana de 1970, Bhí an tAontas Sóivéadach ina leaba theas nuálaíochta san intleacht shaorga, tiomáinte ag an gCogadh Fuar agus an cine teicneolaíochta i gcoinne na Stát Aontaithe. fichille, mheas mar shiombail de superiority intleachtúil, tháinig chun bheith ina láthair tástála idéalach chun algartaim a fhorbairt a bheidh in ann aithris a dhéanamh ar smaointeoireacht dhaonna.

Ba mheaisíní bunúsacha iad na chéad robots fichille, comhdhéanta de airm mheicniúla arna rialú ag cláir bhunúsacha. Ba é a phríomhfheidhm ná na píosaí a bhogadh ar chlár fisiciúil, ag ligean imreoirí a chleachtadh gan gá le chéile comhraic daonna. Mar sin féin, le himeacht ama, Tháinig na córais seo chun cinn. Ionchorpraíodh braiteoirí chun gluaiseachtaí an rival a bhrath, bunachair shonraí le hoscailtí agus deirí, agus fiú ag foghlaim halgartaim a tháinig feabhas ar gach cluiche. Ba é ceann de na tionscadail is uaillmhianaí an ceann a d'fhorbair an t-innealtóir Sóivéadach Mikhail Botvinnik, iar-churadh fichille domhanda agus ceannródaí maidir le cur i bhfeidhm AI ar an gcluiche.

An róbat atá i gceist, nár nochtadh a ainm go poiblí riamh, Dearadh é i saotharlann i Leningrad (St Petersburg an lae inniu) ag deireadh an 70. A cruthaitheoir, innealtóir gan ainm a coinníodh a chéannacht faoi rún ar chúiseanna slándála, iarracht a chruthú meaisín in ann ní amháin a imirt, ach a mhúineadh. Bhí lámh robotic ard-chruinneas feistithe ag an bhfeiste, córas aitheantais amhairc agus clár a rinne anailís ar na drámaí i bhfíor-am. Mar sin féin, Bhí tromluí ag baint leis an tionscadal a thosaigh mar thionscadal a bhí geallta..

An eachtra: nuair a bheidh an meaisín “ionsaigh” a chruthaitheoir

Tharla an teagmhas i 1981, le linn seisiún tástála sa tsaotharlann. De réir tuairiscí declassified blianta ina dhiaidh sin, Bhí an t-innealtóir ag déanamh coigeartuithe ar an gcóras nuair a chuaigh rud éigin mícheart. an róbat, a d'oibrigh go dtí sin gan fadhbanna, thosaigh sé ag bogadh go hearráideach. In ionad treoracha an chláir a leanúint, Chuir an lámh meicniúil i ngníomh go huathrialach agus bhuail sé an cruthaitheoir ar an ceann le fórsa gan choinne.. Bhí an tionchar chomh foréigneach sin gur chaill an fear comhfhios agus go raibh air dul san ospidéal go práinneach..

Léirigh imscrúduithe ina dhiaidh sin nach earráid mheicniúil ba chúis leis an teip., ach le haghaidh a fabht sna bogearraí. An clár, deartha chun gluaiseachtaí ar an gclár a réamh-mheas, míthuiscint a bhaint as script mar a “súgradh naimhdeach”. In ionad ach píosa a bhogadh, chuir an córas prótacal cosanta i ngníomh, amhail is dá mbeadh sé ag tabhairt aghaidh ar chéile comhraic a bhí ag iarraidh é a sabotage. An iompar seo, cé gur de thaisme, léirigh nach ndearna an robot idirdhealú idir insamhalta agus bagairt fíor.

Chuir na húdaráis Shóivéadacha an eachtra ar ceal, nach raibh ag iarraidh dochar a dhéanamh do chlú a n-dul chun cinn teicneolaíochta. Mar sin féin, Mhaígh roinnt finnéithe nár tháinig an t-innealtóir ar ais go hiomlán riamh agus gur cuireadh an tionscadal ar ceal go gairid ina dhiaidh sin.. an eipeasóid seo, cé go scoite, d'ardaigh ceist míchompordach: Cé chomh mór agus is féidir muinín a bheith againn as meaisíní gníomhú ar bhealaí intuartha??

Eitic in hintleachta saorga: cé atá freagrach?

Ní scéal beag aisteach é cás róbat fichille na Sóivéide, ach fasach a rabhthas ag súil le díospóireachtaí eiticiúla agus dlíthiúla atá níos ábhartha inniu ná riamh. I ndomhan ina rialaíonn AI gach rud ó fheithiclí uathrialacha go córais chosanta, éiríonn ceist an dliteanais i gcás teipeanna ríthábhachtach. Cé a ghlacann an milleán nuair a dhéanann meaisín damáiste: an ríomhchláraitheoir, an t-úsáideoir nó an meaisín féin?

I réimse an dlí, níl creataí soiléire ag formhór na dtíortha fós chun dliteanas a rialáil i gcásanna tionóiscí AI. San eachtra Sóivéadach, Ní bhfuair an t-innealtóir aon chúiteamh, ós rud é go raibh an tionscadal rúnda agus ní raibh aon phrótacal ann don chineál seo cásanna. Hoy, áfach, tá an scéal difriúil. Is maith le cuideachtaí Tesla o Bealach thug siad aghaidh ar chásanna dlí mar gheall ar thimpistí lena gcuid carranna féin-tiomána, agus bhí ar na cúirteanna cinneadh a dhéanamh an bhfuil an locht ar an monaróir, an tiománaí nó na bogearraí.

Ó thaobh eiticiúil de, ardaíonn an cás aincheisteanna níos doimhne fós. Ar cheart go mbeadh teorainneacha ag meaisíní ar a neamhspleáchas? An bhfuil sé inghlactha do chóras AI cinntí a dhéanamh a d'fhéadfadh tionchar a imirt ar shaol an duine gan mhaoirseacht?? i fichille, is féidir le botún costas a chur ar chluiche; i gcomhthéacsanna eile, is féidir leis na hiarmhairtí a bheith marfach. Eagraíochtaí cosúil leis an Institiúid Todhchaí na Beatha tá prionsabail molta acu maidir le forbairt AI, cosúil le trédhearcacht, cothroime agus freagracht, ach is dúshlán fós é a chur i bhfeidhm.

Bhí an róbat fichille Sóivéadach i gcuimhne go luath go, gan rialuithe cuí, is féidir leis an teicneolaíocht éirí dothuartha. Hoy, le córais AI atá ag éirí níos casta, Tá an meabhrúchán sin níos práinní ná riamh..

Oidhreacht na heachtra: ceachtanna don todhchaí

Níos mó ná ceithre scór bliain ina dhiaidh sin, tá an eachtra robot fichille fós ábhartha. Ní hamháin toisc go raibh sé ag súil leis na rioscaí a bhaineann le AI, ach mar gheall ar léirigh sé go fiú i dtimpeallacht rialaithe, cosúil le saotharlann, is féidir le meaisíní iad féin a iompar ar bhealaí gan choinne. Luadh an cás seo i staidéir ar sábháilteacht róbataic y teipeanna i gcórais uathrialaitheacha, agus bhí sé mar shampla chun prótacail éigeandála a fhorbairt i dtionscadail AI.

Ceann de na ceachtanna is tábhachtaí ná an gá atá le córais múchta éigeandála. I gcás an robot Sóivéadach, Ní raibh aon mheicníocht ann chun é a stopadh láithreach.. Hoy, Áiríonn formhór na róbait thionsclaíocha agus na gcóras uathrialach cnaipí stad éigeandála nó prótacail múchta nach bhfuil sábháilte.. Mar sin féin, in iarratais níos forbartha, amhail AI míleata nó halgartaim airgeadais, Níl na meicníochtaí sin caighdeánaithe fós.

Ceacht eile is ea an tábhacht a bhaineann le trédhearcacht sa dearadh. Ba fhabht sa chód nach raibh aon duine ag súil leis ba chúis leis an timpiste robot fichille.. Faoi láthair, cuideachtaí cosúil le Google DeepMind y Oscail AI tar éis glacadh le cleachtais de inmhínithe, áit a gcaithfidh halgartaim a bheith in-iniúchta chun tuiscint a fháil ar an gcaoi a ndéanann siad cinntí. Ní hamháin go gcabhraíonn sé seo le hearráidí a chosc, ach gineann sé muinín in úsáideoirí freisin.

Ar deireadh, Cuireann an eachtra béim ar an ngá atá le rialacháin dhomhanda. Cé go bhfuil roinnt tíortha, cosúil leis an Aontas Eorpach, tá dlíthe chun cinn chun AI a rialáil (cosúil leis Acht AI), daoine eile, cosúil leis na Stáit Aontaithe nó an tSín, Tá cur chuige níos lax acu. Is féidir le tionscadail AI a fhorbairt gan na cosaintí riachtanacha a bheith mar thoradh ar easpa comhaontaithe idirnáisiúnta, botúin san am atá caite a athrá.

Ní raibh an robot fichille Sóivéadach a villain, ach i gcuimhne go bhfuil an teicneolaíocht, is cuma cé chomh dul chun cinn atá sé, tá sé fós ina uirlis. Tá siad “ionsaí” Ní gníomh mailís a bhí ann., ach an iarmhairt ar chóras nach raibh ullmhaithe le haghaidh an unpredictable. Hoy, le AI ag comhtháthú isteach i ngach gné den saol, Tá an ceacht sin níos luachmhaire ná riamh..

Conclúidí: An bhfuil muid réidh le maireachtáil le AI?

Scéal an róbait fichille go “beagnach” Maraíodh a cruthaitheoir scáthán inar féidir linn a fheiceáil le feiceáil ar na dúshláin a bhaineann lenár gcaidreamh le hintleachta saorga. Ní scéal ficsean eolaíochta é seo, ach ar eachtra fíor a chuireann iallach orainn a cheistiú cé chomh mór agus a thuigeann muid na hinnill a chruthaímid. Ó shaotharlanna Sóivéadacha chuig na halgartaim a chinneann inniu iasachtaí bainc nó diagnóisí leighis, Tá AI chun cinn go mór, ach níor choinnigh ár gcumas é a rialú i gcónaí.

Ar fud an ailt seo, Tá iniúchadh déanta againn ar thionscadal a bhfuil cuma neamhchiontach air, cosúil le robot fichille, a bheith ina bhagairt nuair a theipeann ar rialuithe. Tá sé feicthe againn nach bhfuil earráidí in AI teicniúil amháin, ach eiticiúil agus dlíthiúil, agus go bhféadfadh iarmhairtí tromchúiseacha a bheith ag easpa rialachán soiléir. Táimid tar éis é sin a fhoghlaim freisin, cé go bhfuil dul chun cinn teicneolaíochta, prionsabail bhunúsacha slándála, Tá trédhearcacht agus cuntasacht bunúsach i gcónaí.

Níl todhchaí AI scríofa, ach is fúinn féin atá sé cinneadh a dhéanamh faoin gcaoi ar mhaith linn é a bheith. Is féidir linn forbairt luathaithe a roghnú gan cosaintí, baol ann go ndéanfar botúin san am a chuaigh thart arís, Nó is féidir linn cur chuige níos cúramaí a ghlacadh, áit a dtéann an nuálaíocht lámh ar láimh le heitic. Ní raibh an robot fichille Sóivéadach an chéad chás de mheaisín ag casadh i gcoinne a cruthaitheoir, ná beidh sé an ceann deireanach. Mar sin féin, Cuireann a scéal é sin i gcuimhne dúinn, sa rás le haghaidh dul chun cinn, Ní féidir linn dearmad a dhéanamh air sin, sa deireadh, Is sinne a chaithfidh rialacha an chluiche a shocrú.

Ní í an cheist an sáróidh AI daoine, ach má beidh muid sásta maireachtáil leis. An freagra, mar is gnáth, tá sé inár lámha.