Kecerdasan buatan telah menyusup masuk ke pejabat, kilang, malah persidangan video. Hampir semua proses kerja kini boleh menggabungkan algoritma, model bahasa , atau sistem cadangan, selalunya tanpa kita sedari. Ini mempunyai sisi yang sangat positif dari segi kecekapan dan produktiviti, tetapi ia juga menimbulkan isu sensitif: privasi data dan hak pekerja.
Walaupun teknologi sedang berkembang pesat, peraturan, dasar dalaman dan budaya korporat jelas ketinggalan . Banyak syarikat menggunakan AI untuk memilih kakitangan, menilai prestasi atau menganalisis tingkah laku tanpa menetapkan peraturan, sempadan etika atau kawalan keselamatan yang jelas. Dan ini, selain risiko undang-undang, merupakan bom jangka yang sedang berdetik dari segi reputasi dan persekitaran kerja. Ini termasuk pendedahan rahsia perdagangan yang tidak perlu dengan memperkenalkan maklumat sensitif ke dalam perkhidmatan awan.
Mengapakah begitu mendesak untuk mengawal selia AI dan data peribadi di tempat kerja?
Di tempat kerja, AI bukan lagi satu eksperimen terpencil. Menurut pelbagai kajian, sebahagian besar pekerja telah berinteraksi dengan beberapa bentuk kecerdasan buatan dalam kerja harian mereka, walaupun mereka tidak selalu menyedarinya: penapis calon, alat produktiviti, pembantu penulisan, sistem pemarkahan dalaman, dan sebagainya.
Kegagalan untuk mewujudkan dasar yang jelas mengenai AI dalam sesebuah syarikat boleh menyebabkan pelanggaran harta intelek. Ini bukan sahaja berlaku apabila kandungan yang dilindungi digunakan untuk melatih atau memberi suapan kepada model, tetapi juga dalam penciptaan bahan yang dimanipulasi atau mengelirukan (deepfake, laporan berat sebelah) atau dalam pendedahan rahsia perdagangan yang tidak perlu dengan memperkenalkan maklumat sensitif ke dalam perkhidmatan awan.
Terdapat juga risiko salah pengendalian data peribadi pekerja dan pelanggan , melanggar Peraturan Perlindungan Data Umum (GDPR) atau undang-undang negara yang setara. Ini termasuk pemantauan yang berlebihan, pembuatan keputusan automatik tanpa asas perundangan yang kukuh, penyimpanan maklumat lebih lama daripada yang diperlukan, atau pemindahannya ke negara ketiga tanpa perlindungan yang mencukupi.
Pendek kata, tanpa tadbir urus yang minimum, AI boleh berubah daripada menjadi sekutu strategik kepada menjadi sumber masalah undang-undang, pertikaian buruh dan kehilangan kepercayaan daripada pelanggan, pembekal dan pekerja yang berterusan.
Peraturan AI Eropah yang baharu dan kesannya terhadap perniagaan
Di Eropah, lonjakan kawal selia yang paling ketara ialah Peraturan Kecerdasan Buatan (RIA atau Akta AI) . Undang-undang ini sudah berkuat kuasa dan mempunyai jadual pelaksanaan berfasa. Walaupun ia tidak melarang AI di tempat kerja, ia mewujudkan rangka kerja risiko dan obligasi yang memberi kesan langsung kepada jabatan sumber manusia, teknologi, pematuhan dan pengurusan.
Peraturan ini membezakan beberapa tahap risiko dan khususnya berkaitan dengan apa yang dipanggil sistem pekerjaan berisiko tinggi : algoritma yang digunakan dalam pengambilan pekerja, pemilihan, penilaian prestasi, kenaikan pangkat, pemecatan atau keputusan yang mempengaruhi keadaan kerja. Dalam kes ini, syarikat yang membangunkan atau menggunakan sistem sedemikian mesti melaksanakan proses pengurusan risiko yang ketat, mendokumentasikan operasi mereka, menilai potensi bias dan memastikan pengawasan manusia yang berkesan.
Tambahan pula, Peraturan AI mewajibkan syarikat menyediakan latihan khusus untuk mereka yang mengendalikan atau menyelia sistem AI . Hanya membeli penyelesaian daripada vendor dan mengaktifkannya tidak mencukupi. Adalah penting untuk memahami cara ia berfungsi, data yang digunakannya, bagaimana keputusannya dijelaskan dan kapasiti sebenar manusia untuk membetulkan, menyemak atau mengatasi hasilnya.
Ketidakpatuhan bukanlah perkara kecil. Teks Eropah meramalkan penalti kewangan yang sangat ketara, kedua-dua jumlah tetap dan yang berkadar dengan hasil . Sesiapa yang berpendapat mereka boleh terus bereksperimen dengan algoritma dalam sumber manusia, keselamatan atau pengawasan tanpa asas perundangan yang kukuh dan penilaian impak yang serius berisiko dikenakan denda dan litigasi. Ini bukan main-main.
Etika AI dan rangka kerja antarabangsa: di mana dunia kerja sesuai
Seiring dengan kemajuan kawal selia, dekad yang lalu telah menyaksikan percambahan kod etika, garis panduan sukarela dan deklarasi mengenai "AI yang bertanggungjawab" yang dikeluarkan oleh kerajaan, syarikat teknologi, universiti, persatuan profesional dan organisasi masyarakat sivil. Alam semesta "undang-undang lembut" ini bertujuan untuk membimbing pembangunan teknologi ke arah minimum moral yang dikongsi.
Satu analisis global baru-baru ini terhadap 245 dokumen etika AI, yang disusun menggunakan teknik pemprosesan bahasa semula jadi, menunjukkan bahawa perdebatan tertumpu kepada tujuh bidang tematik utama :
- Etika sistem autonomi.
- Dasar awam AI.
- Perlindungan data dan privasi sebagai hak asasi manusia.
- Kewangan.
- AI yang bertanggungjawab secara amnya.
- Aplikasi penjagaan kesihatan.
- Tadbir urus kecerdasan buatan.
Apa yang menarik perhatian ialah kerja, pekerjaan, dan hubungan buruh tidak muncul sebagai tema yang berbeza , walaupun banyak garis panduan ini merangkumi rujukan kepada bahaya pekerjaan, automasi, dan diskriminasi dalam pengambilan pekerja. Ia menyebut keadilan, tanpa diskriminasi, maruah manusia, dan autonomi, tetapi jarang menghubungkan konsep-konsep ini secara eksplisit dengan piawaian buruh antarabangsa.
Prinsip-prinsip Pertubuhan Buruh Antarabangsa (ILO)—termasuk Prinsip dan Hak Asas di Tempat Kerja— memberikan rangka kerja etika dan perundangan yang kukuh untuk membincangkan hak buruh , penyertaan, tawar-menawar kolektif dan perlindungan daripada pengawasan yang kesat. Walau bagaimanapun, prinsip-prinsip ini jarang disebut dalam garis panduan etika AI. Ini meninggalkan jurang yang membimbangkan dalam perkara-perkara seperti pengurusan algoritma, pemantauan intensif dan kesan automasi terhadap pekerjaan.
Untuk menutup jurang ini, tadbir urus AI secara eksplisit menggabungkan pendekatan berasaskan hak buruh : rujukan kepada ILO, peraturan buruh kebangsaan, dialog sosial dan penyertaan wakil pekerja dalam reka bentuk dan penyeliaan sistem algoritma di tempat kerja.
Kerangka kerja perundangan untuk perlindungan buruh dan data: apa yang sudah wajib
Di luar Akta AI, rangka kerja perundangan Eropah dan Sepanyol sudah mengandungi kewajipan yang jelas mengenai keputusan automatik, ketelusan, penyeliaan manusia dan hak maklumat di tempat kerja.
Di satu pihak, GDPR memerlukan prinsip seperti pengurangan data, pengehadan tujuan, perkadaran dan ketelusan . Mana-mana organisasi yang menggunakan AI untuk memproses data peribadi pekerja atau calon mesti memaklumkan mereka dengan jelas, mewajarkan asas undang-undang, mengehadkan data kepada apa yang benar-benar diperlukan dan menawarkan hak akses, pembetulan, bantahan yang berkesan dan, jika berkenaan, hak untuk tidak tertakluk kepada keputusan berdasarkan semata-mata pemprosesan automatik dengan kesan yang ketara.
Perkara 22 GDPR yang terkenal, yang diperkukuh oleh garis panduan Lembaga Perlindungan Data Eropah, mewajibkan semakan semula manusia yang bermakna terhadap keputusan automatik yang menghasilkan kesan undang-undang atau serupa terhadap individu. Ini sangat biasa berlaku dalam proses pemilihan, kenaikan pangkat atau pemecatan berdasarkan pemarkahan algoritma.
Di Sepanyol, Statut Pekerja melangkah lebih jauh. Berikutan pembaharuan 2021, Perkara 64.4.d) secara nyata mengiktiraf hak wakil pekerja untuk mengetahui "parameter, peraturan dan arahan" algoritma atau sistem AI yang mempengaruhi keadaan kerja, akses kepada atau penyelenggaraan pekerjaan, termasuk pemprofilan.
Ini telah membawa kepada tindakan oleh Inspektorat Buruh yang menyasarkan platform digital yang besar secara khusus . Objektifnya: untuk mengesahkan bagaimana mereka menggunakan algoritma mereka untuk tugasan, pemarkahan dan pemotongan akaun. Pada masa yang sama, Agensi Perlindungan Data Sepanyol (AEPD) telah mengeluarkan garis panduan mengenai pemprosesan data di tempat kerja, yang menekankan ketelusan, perkadaran dan campur tangan manusia yang tulen dalam keputusan automatik.
Pembangun AI vs. pengguna: tanggungjawab yang berbeza
Dalam ekosistem AI tempat kerja, sekurang-kurangnya dua jenis pemain utama wujud bersama. Di satu pihak, terdapat mereka yang membangun atau memasarkan sistem AI yang digunakan dalam pengurusan sumber manusia : penyedia perisian pengambilan pekerja, penyelesaian analitik prestasi, alat masa dan kehadiran biometrik, dsb.
Pelakon-pelakon ini mempunyai kewajipan untuk mengintegrasikan pematuhan peraturan "secara reka bentuk ." Iaitu, untuk mendokumentasikan logik model mereka, menjelaskan data yang mereka gabungkan, menjalankan penilaian impak perlindungan data dan hak buruh, mengurangkan berat sebelah, merekodkan bukti dan menjamin mekanisme pengawasan manusia yang berkesan untuk pelanggan mereka.
Sebaliknya, terdapat organisasi yang memperoleh atau mengintegrasikan penyelesaian ini ke dalam proses dalaman mereka . Mereka tidak boleh berselindung di sebalik alasan bahawa "pembekal saya memberitahu saya bahawa mereka mematuhi undang-undang" untuk mengelak daripada tanggungjawab mereka. Usaha wajar memerlukan semakan kontrak, menganalisis aliran data, menuntut jaminan teknikal dan organisasi, memasukkan klausa liabiliti, menjalankan ujian dalaman dan menjalankan audit berkala terhadap prestasi sebenar sistem.
Di bawah prinsip tanggungjawab proaktif GDPR, penggunaan AI pihak ketiga tidak mengecualikan syarikat daripada bertanggungjawab kepada pihak berkuasa penyeliaan atau mahkamah . Jika algoritma secara sistematik mendiskriminasi dalam pengambilan pekerja atau pemantauan melebihi apa yang dibenarkan, organisasi yang menggunakannya perlu memberikan banyak penjelasan, tanpa mengira siapa yang membangunkan alat tersebut.
Tambahan pula, apabila pekerja mempunyai perwakilan undang-undang, syarikat mesti mewujudkan saluran yang jelas untuk maklumat, perundingan dan, jika sesuai, rundingan sebelum melaksanakan sistem AI yang mempengaruhi keadaan kerja, kadar kerja, penilaian prestasi atau pemantauan. Tiada sesiapa yang boleh mengelak daripada tanggungjawab ini.
Risiko dan peluang kecerdasan buatan dalam sumber manusia
AI yang digunakan dalam pengurusan sumber manusia mempunyai dua sisi. Dari sudut pandangan negatif, penggunaannya yang tidak reflektif boleh menyebabkan pengawasan yang berlebihan , pembuatan keputusan yang tidak jelas dan berat sebelah yang sukar dikesan . Algoritma yang menolak resume berdasarkan umur, kewarganegaraan atau tempat tinggal boleh melanggar prinsip kesaksamaan. Sistem yang mengukur produktiviti hanya melalui masa skrin boleh mengabaikan kualiti kerja dan melanggar hak untuk memutuskan hubungan.
Tambahan pula, jika tiada pengawasan manusia yang sebenar, ralat sistem akan menjadi bertapak kukuh sebagai keputusan "objektif" yang sukar untuk dicabar . Hasilnya boleh menjadi limpahan konflik dalaman dan aduan individu, serta pemeriksaan dan kerosakan reputasi yang sukar untuk dibaiki.
Dari segi positif, apabila direka bentuk dengan teliti, AI boleh membantu mengurangkan berat sebelah manusia, memperkemas proses, meningkatkan pengalaman calon dan memperibadikan latihan . Contohnya, sistem saringan resume yang telus dan diaudit boleh mencegah berat sebelah tidak sedar daripada mempengaruhi pemilihan awal. Alat analisis yang jelas dapat mengenal pasti keperluan kemahiran semula dan peningkatan kemahiran dengan lebih tepat.
Kuncinya adalah untuk menggabungkan teknologi dengan prinsip yang jelas :
- Ekuiti.
- Keterangkuman.
- Kekadaran.
- Kebolehjelasan.
- Kawalan manusia yang berkesan.
Syarikat-syarikat yang mencapai keseimbangan ini akan meminimumkan risiko. Dan mereka juga akan mendapat kepercayaan daripada pekerja dan masyarakat mereka.
Dari perspektif strategik, mempunyai dasar AI dan privasi data yang mantap di tempat kerja menjadi tanda kematangan korporat. Ia menunjukkan bahawa organisasi itu selangkah lebih maju daripada keperluan kawal selia.
Elemen utama dasar AI dalaman dalam syarikat
Walaupun mempunyai dasar AI dalaman tidak selalunya merupakan kewajipan undang-undang pada masa kini, ia semakin berisiko untuk beroperasi tanpa dokumen yang jelas yang menetapkan peraturan permainan.
- Ketelusan. Dasar ini mesti mewajibkan pekerja dimaklumkan dengan jelas bila AI digunakan, untuk tujuan apa, dan apakah potensi kesannya terhadap kerja harian mereka. Ini termasuk menjelaskan sama ada algoritma mempengaruhi organisasi kerja, penilaian prestasi, penjadualan syif atau keutamaan tugas.
- Had etika dan undang-undang dalam penggunaan dataTentukan kategori maklumat yang boleh diproses dengan AI, data yang dikecualikan kerana terlalu sensitif, bagaimana maklumat dirahsiakan atau disamarkan jika boleh, peraturan yang mengawal pemindahan antarabangsa dan berapa lama setiap set data disimpan.
- Pendidikan berterusan. Adalah tidak munasabah untuk mengharapkan pekerja menggunakan AI secara bertanggungjawab jika tiada sesiapa yang menjelaskan risiko yang terlibat dan cara untuk mengelakkannya. Dasar ini harus merangkumi program latihan berkala tentang penggunaan yang bertanggungjawab, privasi, keselamatan, berat sebelah algoritma dan saluran dalaman untuk membangkitkan kebimbangan atau melaporkan insiden.
- Hak dan kewajipan pekerja berhubung dengan AIIni termasuk rejim ketidakpatuhan. Ini termasuk memperincikan apa yang dianggap sebagai penyalahgunaan alat AI, langkah-langkah disiplin yang boleh dikenakan, dan bagaimana hak pertahanan dan perkadaran sekatan dijamin secara serentak.
Cara mengintegrasikan AI ke dalam dasar privasi syarikat
Dasar privasi atau perlindungan data sesebuah organisasi tidak lagi boleh mengabaikan AI. Jika model AI digunakan, perkara ini mesti dijelaskan dengan jelas dan komprehensif , tanpa menyembunyikannya dalam cetakan kecil.
Dokumen ini harus menyatakan perkhidmatan AI yang digunakan untuk memproses data peribadi dan untuk tujuan apa. Adalah dinasihatkan untuk menamakan platform AI generatif utama, enjin cadangan atau penyelesaian analitik automatik, dengan menunjukkan sama ada ia merupakan perkhidmatan pihak ketiga, pembangunan dalaman yang dihoskan di awan atau model yang digunakan pada infrastruktur proprietari.
Dasar ini juga mesti memperincikan bagaimana dan mengapa data peribadi dikongsi dengan platform ini . Adakah gesaan yang mengandungi maklumat yang boleh dikenal pasti tentang pelanggan atau pekerja dihantar? Adakah pembantu awan menerima dokumen dalaman? Adakah aktiviti penyemakan imbas atau metadata digunakan untuk melatih algoritma? Setiap aliran mesti dikenal pasti dan dijustifikasikan.
Sama pentingnya untuk menjelaskan hak pengguna atau pekerja mengenai data mereka apabila sistem AI digunakan. Adalah perlu untuk menunjukkan bagaimana mereka boleh meminta akses, pembetulan, pemadaman atau sekatan pemprosesan yang berkaitan dengan algoritma, serta membantah tujuan tertentu atau meminta agar data mereka tidak digunakan untuk latihan model, sedangkan undang-undang membenarkan pilihan ini.
Bagi sesetengah syarikat, penggunaan penyelesaian pihak ketiga yang menawarkan penjana dasar atau klausa khusus mengenai AI boleh membantu, dengan syarat mereka mengelakkan salinan tampalan yang tidak kritikal dan menyesuaikan kandungan dengan keadaan khusus organisasi . Pengawasan oleh pasukan perundangan atau privasi kekal penting.
Privasi dalam perkhidmatan AI berasaskan awan dan dalam pentadbiran awam
Salah satu isu paling sensitif ialah penggunaan platform AI yang boleh diakses web yang berjalan di awan dan sering terletak di luar Kesatuan Eropah . Alat seperti chatbot canggih, model bahasa semula jadi, persekitaran kerja pintar dan pembantu yang disepadukan ke dalam suit produktiviti mengumpul, menyimpan dan memproses sejumlah besar maklumat. Kemungkinan berkongsi maklumat dengan penyedia awan, anak syarikat, pemproses pembayaran atau pihak berkuasa awam juga lazimnya dipertimbangkan.
Lokasi dan tempoh pengekalan data merupakan faktor kritikal. Apabila maklumat disimpan di pelayan di luar EU, seperti di Amerika Syarikat, mekanisme pemindahan antarabangsa dan klausa kontrak standard akan memainkan peranan, berserta analisis perlindungan yang sepadan. Dasar sering menyatakan bahawa data dikekalkan "selagi perlu untuk tujuan perniagaan." Ini adalah kenyataan yang terlalu samar jika ia tidak disertakan dengan jangka masa tertentu dan kriteria yang telus.
Dalam kes pentadbiran awam dan entiti yang mengendalikan maklumat sensitif, bekerja dengan model berasaskan awan tanpa pelarasan atau kawalan tambahan menimbulkan risiko yang lebih besar . Oleh itu, adalah penting untuk menyediakan latihan terlebih dahulu kepada kakitangan, menggunakan kriteria keselamatan maklumat yang ketat, mematuhi GDPR dan Rangka Kerja Keselamatan Negara (ENS), dan mempertimbangkan dengan serius untuk menggunakan model secara tempatan atau dalam infrastruktur terkawal yang menyimpan data dalam EU.
Tadbir urus, keselamatan siber dan budaya organisasi
Bercakap tentang privasi tanpa bercakap tentang keselamatan siber hanyalah separuh daripada cerita. Pelanggaran keselamatan, perisian tebusan dan kebocoran data besar-besaran mempunyai kesan langsung terhadap kerahsiaan, integriti dan ketersediaan data, terutamanya apabila sesebuah organisasi mendasarkan sebahagian daripada prosesnya pada sistem AI yang saling berkaitan.
Agar dasar privasi berkaitan AI menjadi lebih daripada sekadar kata-kata kosong, ia mesti disokong oleh langkah-langkah keselamatan siber teknikal yang mantap : penyulitan semasa transit dan semasa rehat, kawalan akses terperinci, segmentasi rangkaian, pengesahan berbilang faktor, pemantauan anomali berterusan dan pelan tindak balas insiden yang diuji secara berkala.
Tadbir urus yang berkesan memerlukan kerjasama erat antara jabatan IT, keselamatan, sumber manusia, perundangan dan pematuhan. Tidak mencukupi untuk pasukan teknikal hanya melaksanakan penyelesaian. Jawatankuasa atau kumpulan kerja mesti diwujudkan untuk menetapkan keutamaan, menilai risiko, menyemak sistem AI kritikal secara berkala dan menyelaras audit dalaman dan luaran.
Budaya organisasi merupakan tonggak ketiga. Tanpa kesedaran sebenar tentang risiko dan latihan berterusan, AI menjadi istilah umum yang digunakan oleh pekerja secara sembarangan. Adalah dinasihatkan untuk menganjurkan bengkel, membangunkan panduan praktikal, menyebarkan amalan terbaik dan terburuk, dan mewujudkan saluran sulit supaya sesiapa sahaja boleh melaporkan penyalahgunaan atau kelemahan yang dirasakan.
Syarikat yang berjaya mengintegrasikan AI, privasi dan keselamatan siber ke dalam satu naratif strategik bukan sahaja mematuhi peraturan tetapi juga membina kepercayaan dan daya tahan . Dalam persekitaran ancaman yang semakin meningkat dan peraturan yang semakin ketat, kepercayaan ini merupakan salah satu aset kompetitif yang paling sukar untuk direplikasi. Ia berbaloi untuk dilaburkan.
