Mae AI yn newid sut rydym yn dysgu, yn creu ac yn rhyngweithio â thechnoleg. O gynhyrchu cod i weithredu ar ein rhan, mae’r systemau hyn yn cyflwyno cyfleoedd newydd yn ogystal â risgiau newydd. Wrth i AI ddod yn rhan fwy o addysg, y cwestiwn allweddol nid yw beth all y systemau hyn ei wneud yn unig, ond pa sgiliau sydd eu hangen i’w defnyddio’n ddiogel, yn feirniadol ac yn gyfrifol.
Newid yn ystyr sgiliau digidol
Yn draddodiadol, mae sgiliau digidol wedi canolbwyntio ar ddefnyddio offer yn effeithiol. Roedd dysgwyr yn dysgu sut i chwilio, creu a chyfathrebu, tra roedd athrawon yn canolbwyntio ar integreiddio technoleg i ddysgu.
Mae AI yn newid hyn.
Mae’r systemau hyn yn gwneud mwy na chefnogi tasgau. Maent yn cynhyrchu allbynnau, yn dylanwadu ar benderfyniadau ac yn gynyddol yn gweithredu ar ran defnyddwyr. Nid yw defnyddio technoleg yn ddiogel bellach yn ymwneud â’i defnyddio’n unig, ond â deall sut mae’n ymddwyn, ble gall fethu a sut y gall gael ei ddylanwadu.
Mae hyn yn cyflwyno dimensiwn newydd o seiberddiogelwch, lle mae ymddygiad dynol yr un mor bwysig â’r dechnoleg ei hun.
Canllaw CyberFirst Cymru i Risgiau Seiberddiogelwch Deallusrwydd Artiffisial (DA) mewn Addysg
Beth sy’n digwydd i’r data? Deall risgiau gwybodaeth mewn AI
Pan all AI gael ei dwyllo: Deall risgiau chwistrellu promptiau
Pan fo AI yn Ysgrifennu’r Cod a Hacwyr yn Ei Ddarllen: Risgiau Diogelwch Vibe Coding
Pan fydd AI yn gweithredu: Deall risgiau diogelwch asiantau AI
O ymwybyddiaeth i weithredu
Ar draws y pynciau a drafodwyd yn y gyfres hon, mae patrwm clir yn dod i’r amlwg. Er bod y risgiau’n amrywio, mae’r ymddygiadau sydd eu hangen i’w rheoli yn debyg iawn.
Nid oes angen i ddysgwyr ac athrawon ddeall pob manylyn technegol am AI. Yr hyn sydd ei angen yw set glir o arferion y gellir eu defnyddio’n gyson ar draws gwahanol offer a sefyllfaoedd.
Un ffordd o feddwl am hyn yw drwy fframwaith syml:
AI SAFE: ffordd ymarferol o ddefnyddio AI yn ddiogel
Sense Check / Gwirio’n feirniadol
Gall systemau AI gynhyrchu allbynnau sy’n ymddangos yn hyderus ac yn gyflawn, hyd yn oed pan fyddant yn anghywir.
Gall cod gynnwys gwendidau cudd. Gall ymatebion gael eu dylanwadu gan fewnbynnau camarweiniol. Gall systemau sy’n gweithredu’n awtomatig wneud penderfyniadau ar sail gwybodaeth anghyflawn.
Mae datblygu’r arfer o wirio, cwestiynu a dilysu yn hanfodol. I ddysgwyr, mae hyn yn golygu peidio â derbyn atebion ar yr olwg gyntaf. I athrawon, mae’n golygu creu cyfleoedd ar gyfer esbonio a rhesymu.
O safbwynt seiberddiogelwch, mae hyn yn lleihau’r risg o weithredu ar wybodaeth anghywir neu wedi’i thrin.
Assess data / Asesu data
Mae AI yn dibynnu ar ddata. Gall yr hyn a gaiff ei fewnbynnu gael ei brosesu, ei storio neu ei rannu rhwng systemau.
Mae angen i ddysgwyr ddeall nad yw gwybodaeth a rennir ag offer AI bob amser yn breifat, yn enwedig wrth ddefnyddio systemau cyhoeddus. Mae angen i athrawon ac arweinwyr ysgol ystyried sut mae offer yn trin data a pha ddiogelwch sydd ar waith.
Mae’r ymwybyddiaeth hon yn helpu i atal datgelu data yn ddamweiniol ac yn cefnogi defnydd cyfrifol.
Follow the flow / Dilyn y llif
Mae systemau AI yn gynyddol gysylltiedig, gan ryngweithio â systemau ac asiantau eraill i gyflawni tasgau.
Mae hyn yn golygu y gall un canlyniad ddibynnu ar sawl system yn gweithio gyda’i gilydd. Yn aml, gall un system AI ddibynnu ar un arall, gan drosglwyddo gwybodaeth ar hyd cadwyn o ryngweithiadau nad ydynt yn weladwy i’r defnyddiwr.
Mae deall y llif hwn yn helpu dysgwyr ac athrawon i sylweddoli y gall canlyniadau gael eu dylanwadu gan systemau nad ydynt yn weladwy. Mae hefyd yn cyflwyno’r syniad bod ymddiriedaeth yn cael ei rhannu ar draws systemau, nid yn aros o fewn un offeryn yn unig.
O safbwynt seiberddiogelwch, mae hyn yn dangos y gall risg fodoli y tu hwnt i’r system sy’n cael ei defnyddio’n uniongyrchol.
Evaluate actions / Gwerthuso gweithredoedd
Mae AI yn symud o fod yn offer i fod yn asiantau.
Pan fydd systemau yn gweithredu ar ran defnyddwyr, megis anfon negeseuon neu ryngweithio â gwasanaethau, nid yw’r defnyddiwr yn rhan o bob cam bellach. Gall hyn greu risgiau os caiff gweithredoedd eu cymryd heb ddealltwriaeth neu oruchwyliaeth lawn.
Mae angen i ddysgwyr ddeall nad yw awtomeiddio yn dileu cyfrifoldeb. Mae angen i athrawon sicrhau bod defnydd o’r systemau hyn yn cynnwys goruchwyliaeth a myfyrio priodol.
Mae cadw ymwybyddiaeth, hyd yn oed pan fo systemau’n gweithredu’n annibynnol, yn sgil allweddol.
Adeiladu arferion ar gyfer defnydd diogel
The strength of the AI SAFE framework is that it turns complex risks into simple, repeatable habits.
Students can apply it whenever they use AI:
Gall athrawon atgyfnerthu hyn drwy arferion bob dydd yn y dosbarth, gan wreiddio’r ymddygiadau hyn yn y broses ddysgu.
Mae hyn yn cyd-fynd â chanllawiau gan sefydliadau fel y National Cyber Security Centre, sy’n pwysleisio bod seiberddiogelwch yn dibynnu ar bobl yn ogystal â systemau.
Edrych ymlaen
Bydd AI yn parhau i ddatblygu, ac felly hefyd y sgiliau sydd eu hangen i’w ddefnyddio’n ddiogel.
Dylai’r ffocws mewn addysg fod nid ar gadw i fyny â phob offeryn newydd, ond ar ddatblygu’r sgiliau sylfaenol sy’n parhau’n berthnasol. Mae’r rhain yn cynnwys meddwl yn feirniadol, ymwybyddiaeth o risg a dealltwriaeth o sut mae systemau’n ymddwyn ac yn cysylltu.
Mae fframweithiau fel AI SAFE yn helpu i wneud y sgiliau hyn yn weladwy ac yn ymarferol. Maent yn darparu iaith gyffredin i ddysgwyr ac athrawon, gan gysylltu ymddygiad bob dydd â seiberddiogelwch.
Pan gaiff ei ddefnyddio’n dda, gall AI gefnogi dysgu a chreadigrwydd. Y nod yw sicrhau bod hyn yn cael ei gydbwyso gan ymwybyddiaeth a defnydd cyfrifol.
Rydyn ni wedi creu Poster Dwyieithog A3 AM DDIM ar gyfer eich ysgol.
Gellir ei argraffu a’i osod unrhyw le yn eich ysgol neu goleg. Nid oes rhaid iddo fod yn yr ystafell TG yn unig. Yn wir, rydym yn awgrymu ei osod mewn mannau â llif teithio uchel i helpu i godi ymwybyddiaeth.
Dod yn Ysgol CyberFirst
Os ydych chi’n ysgol neu’n goleg yng Nghymru ac eisiau mwynhau manteision CyberFirst, does dim amser gwell na nawr i ddechrau ar eich cais am wobr.
