Pan fo AI yn Ysgrifennu’r Cod a Hacwyr yn Ei Ddarllen: Risgiau Diogelwch Vibe Coding

Gall deallusrwydd artiffisial gynhyrchu meddalwedd weithredol mewn eiliadau erbyn hyn. Ond mae ymchwil gynyddol yn dangos bod cyfran sylweddol o god a gynhyrchir gan AI yn cynnwys gwendidau diogelwch. Wrth i “vibe coding” ddod yn fwy cyffredin mewn ystafelloedd dosbarth ac yn y diwydiant, mae angen i addysgwyr a myfyrwyr ddeall y risgiau yn ogystal â’r cyfleoedd.

Mae deallusrwydd artiffisial yn trawsnewid y ffordd y caiff meddalwedd ei chreu yn gyflym. Mae cynorthwywyr codio AI modern yn galluogi defnyddwyr i ddisgrifio tasg mewn iaith naturiol a derbyn cod gweithredol bron ar unwaith. Yn hytrach na ysgrifennu rhaglenni linell wrth linell, gall datblygwyr egluro’r hyn maent ei eisiau a chaniatáu i’r AI gynhyrchu’r ateb.

Cyfeirir yn gynyddol at y dull gwaith hwn fel “vibe coding”, term a ddefnyddir i ddisgrifio rhaglennu lle mae datblygwyr yn dibynnu ar systemau AI i gynhyrchu meddalwedd drwy anogiadau ac ailadrodd.

Gall y cynnydd mewn cynhyrchiant fod yn sylweddol. Gall offer AI helpu dechreuwyr i adeiladu cymwysiadau’n gyflym a galluogi datblygwyr profiadol i brototeipio syniadau mewn munudau yn hytrach na dyddiau. Fodd bynnag, gall y cyflymder hwn ddod â chost. O safbwynt seiberddiogelwch, mae vibe coding yn cyflwyno nifer o risgiau y dylai datblygwyr ac addysgwyr eu deall.

Gall AI gynhyrchu meddalwedd weithredol mewn eiliadau. Gall gwendidau diogelwch ymddangos yr un mor gyflym.

Pan nad yw datblygwyr yn deall y cod yn llawn

Mae datblygu meddalwedd traddodiadol yn ei gwneud yn ofynnol i raglenwyr ddeall sut mae pob rhan o’u system yn gweithio. Gyda chod a gynhyrchir gan AI, gall y ddealltwriaeth honno leihau. Gall datblygwyr dderbyn blociau mawr o god gweithredol heb wybod yn llawn sut mae’n gweithredu.

Mae hyn yn creu problem ddiogelwch bosibl. Os na all datblygwyr egluro’n hawdd sut mae eu cod yn gweithio, gallant gael trafferth adnabod gwendidau neu gydnabod arferion rhaglennu anniogel.

Mae ymchwil wedi dangos bod datblygwyr sy’n defnyddio cynorthwywyr codio AI yn aml yn mynegi mwy o hyder yn niogelwch y cod a gynhyrchir, hyd yn oed pan fo gwendidau yn bresennol. Mae’r cyfuniad hwn o ymddiriedaeth uchel a llai o graffu yn cynyddu’r tebygolrwydd y gall meddalwedd anniogel gael ei defnyddio.

Mae tystiolaeth yn dangos bod cod a gynhyrchir gan AI yn aml yn cynnwys gwendidau

Mae tystiolaeth empeiraidd yn cefnogi’r pryderon hyn yn gynyddol.

Dadansoddodd astudiaeth ar raddfa fawr sy’n archwilio storfeydd GitHub cyhoeddus 7,703 o ffeiliau a gynhyrchwyd gan offer codio AI gan gynnwys ChatGPT a GitHub Copilot. Gan ddefnyddio dadansoddi diogelwch awtomataidd, darganfu ymchwilwyr 4,241 o enghreifftiau o wendidau meddalwedd hysbys ar draws 77 o wahanol gategorïau.

Roedd y gwendidau hyn yn cynnwys materion megis haprwydd anniogel, risgiau sgriptio traws-safle a gweithredu cod anniogel.

Mae ymchwil arall wedi cynhyrchu canfyddiadau tebyg. Canfu un astudiaeth empeiraidd a oedd yn dadansoddi darnau o god a gynhyrchwyd gan AI fod 29.5 y cant o god Python a 24.2 y cant o god JavaScript yn cynnwys gwendidau diogelwch, ac roedd llawer ohonynt yn cyfateb i 25 gwendid meddalwedd mwyaf peryglus y diwydiant.

Mae gwerthusiadau ar raddfa fawr o fodelau AI a ddefnyddir ar gyfer rhaglennu wedi canfod hefyd fod mwy na 60 y cant o raglenni a gynhyrchwyd yn cynnwys gwendidau y gellir eu canfod, gan amlygu pa mor gyffredin y gall patrymau anniogel fod mewn cod a gynhyrchir gan beiriant.

Mae ymchwil diwydiant yn adleisio’r canfyddiadau hyn. Nododd dadansoddiad yn 2025 o fodelau iaith mawr sy’n cyflawni tasgau rhaglennu fod tua 45 y cant o god a gynhyrchwyd gan AI yn cynnwys diffygion diogelwch, hyd yn oed pan oedd yr allbwn yn ymddangos yn barod i’w ddefnyddio.

Gall anogiadau ailadroddus gyflwyno risgiau newydd

Nodwedd arall o vibe coding yw’r defnydd o anogiadau dro ar ôl tro i fireinio cod. Mae datblygwyr yn aml yn gofyn i’r AI addasu neu ymestyn cod a gynhyrchwyd yn flaenorol nes bod y rhaglen yn ymddwyn fel y disgwylir.

Fodd bynnag, mae ymchwil yn awgrymu y gall y broses ailadroddus hon gyflwyno gwendidau newydd yn raddol.

Canfu astudiaeth dan reolaeth a oedd yn archwilio cynhyrchu cod AI ailadroddus fod nifer y gwendidau critigol wedi cynyddu 37.6 y cant ar ôl sawl cylch o adolygiadau o gymharu â fersiwn wreiddiol y cod. Gan fod pob anogiad newydd yn adeiladu ar allbynnau cynharach a gynhyrchwyd gan AI, gall patrymau anniogel gronni heb gael eu canfod.

Gall datblygu cyflymach olygu mwy o wendidau hefyd

Y tu hwnt i wendidau unigol, gall datblygu gyda chymorth AI gynyddu nifer gyffredinol y materion diogelwch sy’n mynd i mewn i brosiectau meddalwedd.

Canfu ymchwil a oedd yn archwilio llifoedd gwaith datblygu fod offer AI, er eu bod yn galluogi datblygwyr i gynhyrchu tair i bedair gwaith mwy o god, hefyd yn gallu cyflwyno hyd at ddeg gwaith mwy o wendidau diogelwch posibl, gan gynnwys manylion mewngofnodi wedi’u hamlygu, dibyniaethau anniogel a gwallau ffurfweddu.

Mae hyn yn golygu, er bod cynhyrchiant yn cynyddu, y gall nifer y gwendidau diogelwch posibl gynyddu hefyd.

Gall AI gyflymu datblygu meddalwedd yn sylweddol. Ond heb wiriadau diogelwch priodol, gall hefyd gyflymu’r risg.

Beth mae hyn yn ei olygu i addysg

I addysgwyr sy’n gweithio gyda myfyrwyr sydd â diddordeb mewn cyfrifiadura a seiberddiogelwch, mae vibe coding yn cyflwyno cyfleoedd a heriau fel ei gilydd.

Gall offer codio AI wneud rhaglennu yn fwy hygyrch. Gall myfyrwyr arbrofi gyda datblygu meddalwedd yn gynharach ac adeiladu prosiectau cymhleth yn gyflymach. Yn ogystal, gyda democrateiddio cynyddol datblygu meddalwedd ymhlith rhaglenwyr anhraddodiadol, heb os byddwn yn gweld llu o apiau ac offer newydd yn cael eu dosbarthu. Ar yr un pryd, mae’r offer hyn yn tynnu sylw at pam mae arferion codio diogel yn parhau’n hanfodol.

Dylid annog myfyrwyr i drin cod a gynhyrchir gan AI fel man cychwyn yn hytrach na chynnyrch gorffenedig. Mae adolygu cod, sganio am wendidau ac egwyddorion dylunio diogel yn parhau’n sgiliau sylfaenol y mae angen i bob datblygwr eu dysgu.

Y newyddion calonogol yw bod y dechnoleg yn gwella’n gyflym. Mae offer AI yn dod yn well am adnabod patrymau cod anniogel a chynorthwyo datblygwyr gydag arferion rhaglennu diogel. Wrth i’r systemau hyn esblygu, mae ganddynt y potensial nid yn unig i gyflymu datblygiad ond hefyd i helpu i adeiladu meddalwedd fwy diogel a mwy gwydn.

Os caiff ei ddefnyddio’n gyfrifol, gall codio gyda chymorth AI rymuso cenhedlaeth newydd o ddatblygwyr i greu cymwysiadau ac offer arloesol sy’n gwella bywyd bob dydd. I fyfyrwyr sy’n dysgu seiberddiogelwch heddiw, bydd deall y risgiau a’r posibiliadau fel ei gilydd yn allweddol i lunio dyfodol digidol mwy diogel.