Beth sy’n digwydd i’r data? Deall risgiau gwybodaeth mewn AI

Gall offer AI gynhyrchu testun, ysgrifennu cod a hyd yn oed weithredu. Ond maent hefyd yn dibynnu ar ddata. Mae pob prompt, ffeil neu gysylltiad â system yn cynnwys gwybodaeth sy’n cael ei phrosesu, ac weithiau ei storio. Mae deall sut mae data yn llifo drwy systemau AI yn hanfodol i athrawon a dysgwyr sy’n defnyddio’r offer hyn yn ddiogel.

Nid offeryn yn unig yw AI, mae’n brosesydd data

Mae offer deallusrwydd artiffisial yn aml yn cael eu cyflwyno fel cynorthwywyr syml. Mae defnyddiwr yn gofyn cwestiwn ac yn cael ateb. Fodd bynnag, mae realiti pwysig tu ôl i’r rhyngweithio hwn. Mae systemau AI yn prosesu ac weithiau’n storio’r wybodaeth a roddir iddynt.

Pan fydd defnyddiwr yn mewnbynnu prompt, yn uwchlwytho dogfen neu’n cysylltu AI â llwyfan arall, maent yn rhannu data. Gall hyn gynnwys gwybodaeth bersonol, gwaith ysgol neu fanylion sensitif am sefydliad.

Mae pob rhyngweithio ag AI hefyd yn gyfnewid data.

Mae canllawiau gan Information Commissioner’s Office yn pwysleisio bod angen i sefydliadau ddeall sut mae data personol yn cael ei ddefnyddio wrth fabwysiadu offer AI. Mae hyn yn cynnwys gwybod ble mae data yn cael ei brosesu, pa mor hir y caiff ei gadw a phwy sydd â mynediad ato.

O ble mae’r risgiau yn dod

Nid yw’r risgiau sy’n gysylltiedig ag AI a data bob amser yn deillio o ymosodiadau bwriadol. Yn aml, maent yn codi o ddefnydd bob dydd.

Er enghraifft, gall dysgwr gludo gwaith cwrs i mewn i offeryn AI i’w wella. Gall athro uwchlwytho dogfen i gael crynodeb. Yn y ddau achos, mae gwybodaeth yn cael ei rhannu â system allanol.

Mae ymchwil wedi dangos y gall data sensitif weithiau gael ei ail-greu neu ei gasglu o systemau AI o dan rai amodau, yn enwedig pan fo diogelwch yn gyfyngedig (https://arxiv.org/abs/2012.07805). Er bod systemau modern wedi gwella, nid yw’r risg wedi diflannu’n llwyr.

Mae risg hefyd o ddatgelu data yn ddamweiniol. Os yw offer AI wedi’u cysylltu â dogfennau, e-byst neu yriannau a rennir, gallant gyrchu mwy o wybodaeth nag y mae’r defnyddiwr yn ei ddisgwyl.

Mae canllawiau gan National Cyber Security Centre yn nodi bod cysylltu systemau AI â gwasanaethau ehangach yn cynyddu’r risg o ddatgelu data, yn enwedig pan nad yw caniatâd yn cael ei reoli’n ofalus.

Y gwahaniaeth rhwng offer cyhoeddus ac offer rheoledig

Nid yw pob offeryn AI yn trin data yn yr un ffordd. Mae hyn yn wahaniaeth pwysig i ysgolion ac addysgwyr.

Gall offer AI cyhoeddus:

• brosesu data y tu allan i’r DU

  Gall athro sy’n defnyddio offeryn AI am ddim i grynhoi gwaith disgyblion fod yn anfon y data hwnnw i weinyddion mewn gwlad arall heb sylweddoli, lle mae rheolau diogelu data yn wahanol.

• gadw mewnbynnau er mwyn gwella’r system

  Os yw dysgwr yn gludo gwaith cwrs i mewn i sgwrsfeiriwr AI, gall y cynnwys hwnnw gael ei storio a’i ddefnyddio i wella’r system, sy’n golygu nad yw’n gwbl breifat i’r dysgwr neu’r ysgol mwyach.

• cynnig llai o dryloywder ynghylch sut mae data’n cael ei ddefnyddio

  Efallai na fydd arweinwyr ysgol yn gallu gweld yn glir beth sy’n digwydd i ddata ar ôl ei fewnbynnu i offeryn AI cyhoeddus, gan ei gwneud yn anodd asesu risg neu gyflawni cyfrifoldebau diogelu.

Mewn cyferbyniad, mae offer rheoledig neu fentrau yn fwy tebygol o:

• gynnig polisïau cliriach ar drin data

  Bydd llwyfan AI a gymeradwyir gan ysgol fel arfer yn egluro sut mae data’n cael ei brosesu a’i storio, gan helpu athrawon i wneud penderfyniadau gwybodus.

• cyfyngu ar sut mae data’n cael ei storio neu ei ailddefnyddio

  Mae offer menter yn aml yn sicrhau nad yw data dysgwyr yn cael ei ddefnyddio i hyfforddi modelau, gan leihau’r risg y bydd y wybodaeth honno’n ymddangos mewn mannau eraill.

• darparu rheolaethau gweinyddol

  Gall timau TG ysgol reoli pwy sy’n defnyddio’r offeryn, pa ddata y gellir ei gyrchu a sut mae’n cael ei ddefnyddio, gan alluogi arweinwyr i reoli risg yn fwy effeithiol.

Mae’r Information Commissioner’s Office yn cynghori sefydliadau i gynnal asesiadau effaith diogelu data wrth gyflwyno systemau AI, yn enwedig pan fo data personol yn gysylltiedig.

Mae deall y gwahaniaeth hwn yn helpu ysgolion i wneud penderfyniadau gwybodus.

Sut mae hyn yn cysylltu â’r risgiau blaenorol

Nid yw’r risgiau sy’n gysylltiedig â data yn bodoli ar eu pen eu hunain. Maent yn cysylltu’n uniongyrchol â’r materion a drafodwyd yn yr erthyglau blaenorol.AI in Education – CyberFirst Wales

Os nad yw cod a gynhyrchir gan AI yn cael ei ddeall yn llawn, gall ddatgelu data yn anfwriadol. Os yw system AI yn agored i chwistrellu promptiau, gall cyfarwyddiadau cudd arwain at ddatgelu gwybodaeth sensitif. Os oes gan asiant AI fynediad at systemau a data, gall weithredu ar y wybodaeth honno mewn ffyrdd nas bwriadwyd.

Po fwyaf o fynediad sydd gan AI at ddata, y mwyaf yw’r effaith bosibl os bydd rhywbeth yn mynd o’i le.

Mae hyn yn golygu nad yw risg data yn fater ar wahân. Mae’n rhan o ddarlun ehangach lle mae gallu a mynediad AI yn cyfuno i greu risgiau newydd.

Pam mae hyn yn bwysig i ddysgwyr

Mae’n hawdd gweld offer AI fel rhywbeth preifat neu bersonol. Fodd bynnag, gall y wybodaeth a roddir i’r systemau hyn gael ei phrosesu mewn ffyrdd nad ydynt yn amlwg.

Mae angen i ddysgwyr ddatblygu arferion syml ond pwysig. Dylent feddwl yn ofalus am yr hyn maent yn ei rannu, yn enwedig pan fo’n cynnwys gwybodaeth bersonol neu waith nas cyflwynwyd eto.

Mae’r Information Commissioner’s Office yn pwysleisio’r egwyddor o leihau data, sef rhannu dim ond y wybodaeth sydd ei hangen.

Pam mae hyn yn bwysig i athrawon ac ysgolion

I athrawon ac arweinwyr ysgolion, mae defnyddio AI yn codi materion ehangach ynghylch diogelu a diogelwch data.

Mae gan ysgolion gyfrifoldeb i ddiogelu data dysgwyr a sicrhau bod systemau’n cael eu defnyddio’n briodol. Mae hyn yn cynnwys deall sut mae offer AI yn rhyngweithio â data dysgwyr, systemau mewnol a gwasanaethau allanol.

Mae canllawiau gan National Cyber Security Centre yn argymell dull gofalus wrth integreiddio AI â systemau presennol, yn enwedig pan fo data sensitif yn gysylltiedig.

Gall hyn olygu dewis offer cymeradwy, cyfyngu ar integreiddiadau a darparu canllawiau clir i staff a dysgwyr.

Lleihau’r risg yn ymarferol

Nid yw lleihau risg data yn golygu osgoi AI, ond ei ddefnyddio’n gyfrifol.

Un egwyddor allweddol yw cyfyngu ar yr hyn sy’n cael ei rannu. Dylai defnyddwyr osgoi mewnbynnu gwybodaeth sensitif oni bai eu bod yn deall sut y caiff ei thrin.

Mae hefyd yn bwysig deall caniatâd. Dylai systemau AI gael mynediad dim ond i’r data a’r systemau sydd eu hangen arnynt.

Mae goruchwyliaeth ddynol yn parhau’n hanfodol. Dylid adolygu allbynnau a gweithredoedd AI, yn enwedig mewn cyd-destun addysgol.

Edrych ymlaen

Wrth i AI ddod yn rhan fwy o addysg, bydd cwestiynau am ddata yn dod yn fwy pwysig. Mae manteision y dechnoleg yn glir, ond maent yn dibynnu ar fynediad at wybodaeth.

Mae cynnydd wedi’i wneud. Mae darparwyr AI yn gwella tryloywder, yn cynnig mwy o reolaeth ac yn lleihau cadw data. Ar yr un pryd, mae rheoleiddwyr fel yr Information Commissioner’s Office yn darparu canllawiau cliriach.

Fodd bynnag, mae’r her sylfaenol yn parhau. Mae AI yn dibynnu ar ddata, ac nid yw bob amser yn amlwg sut mae’r data hwnnw’n cael ei ddefnyddio.

I addysg, mae hyn yn gyfle. Drwy helpu dysgwyr i ddeall sut mae data yn llifo drwy systemau AI, a thrwy annog defnydd cyfrifol, gallwn sicrhau bod y dechnoleg hon yn cael ei defnyddio’n ddiogel.

Pan gaiff ei defnyddio’n dda, gall AI gefnogi dysgu a chreadigrwydd. Y nod yw sicrhau bod hyn yn cael ei gydbwyso gan ymwybyddiaeth a dealltwriaeth.