EU Cadang Pemantauan Lebih Ketat bagi Sistem Kecerdasan Buatan Berisiko Tinggi

Kesatuan Eropah telah memberi isyarat bahawa pemantauan yang lebih ketat terhadap sistem kecerdasan buatan berisiko tinggi adalah perlu. Peralihan dalam fokus kawal selia ini menyusuli siri pelanggaran keselamatan dan insiden penggodaman yang dilaporkan melibatkan pembangun AI utama.

Menurut The Star, desakan untuk penyeliaan yang dipertingkatkan ini timbul selepas insiden khusus yang menyasarkan OpenAI dan Anthropic AI. Peristiwa-peristiwa ini telah menyerlahkan kerentanan dalam infrastruktur yang menyokong model AI generatif termaju, sekali gus mencetuskan perbincangan tentang bagaimana platform ini harus dikawal bagi mencegah akses tanpa kebenaran pada masa hadapan.

Rangka kerja pemantauan yang dicadangkan bertujuan untuk mengenal pasti dan mengurangkan ancaman sebelum ia meningkat menjadi risiko sistematik. Dengan memfokuskan kepada sistem berisiko tinggi, Kesatuan Eropah berhasrat untuk memastikan pelaksanaan pantas teknologi AI tidak menjejaskan keselamatan digital atau integriti data pengguna. Penglibatan pemain industri utama dalam insiden terbaharu ini telah menjadi pemangkin kepada penelitian yang lebih mendalam ini.

Bagi pihak berkepentingan dan komuniti teknologi yang sedang berkembang di Malaysia, perkembangan ini menegaskan trend global ke arah tadbir urus AI yang lebih rapi. Memandangkan Malaysia terus mengintegrasikan AI ke dalam ekonomi digital dan infrastruktur negaranya, pendirian kawal selia Kesatuan Eropah menyediakan rangka kerja yang penting. Memahami cara badan antarabangsa menangani kerentanan keselamatan dalam AI berisiko tinggi adalah penting bagi perniagaan dan penggubal dasar tempatan yang bertujuan untuk mengimbangi inovasi dengan piawaian keselamatan yang teguh.