Manusia biasanya cukup pandai mengenali ketika mereka melakukan kesalahan, tetapi sistem Kecerdasan Buatan (Artificial Intelligence/AI) tidak. Menurut sebuah studi baru, AI umumnya menderita keterbatasan bawaan karena paradoks matematika berusia seabad.
Seperti beberapa orang, sistem AI sering kali memiliki tingkat kepercayaan diri yang jauh melebihi kemampuannya yang sebenarnya. Dan seperti orang yang terlalu percaya diri, banyak sistem AI tidak tahu kapan mereka membuat kesalahan. Terkadang bahkan lebih sulit bagi sistem AI untuk menyadari ketika membuat kesalahan daripada menghasilkan hasil yang benar.
Para peneliti dari Universitas Cambridge dan Universitas Oslo mengatakan bahwa ketidakstabilan adalah kelemahan AI modern dan paradoks matematika menunjukkan keterbatasan AI. Jaringan saraf, alat canggih dalam AI, secara kasar meniru hubungan antara neuron di otak. Para peneliti menunjukkan bahwa ada masalah di mana jaringan saraf yang stabil dan akurat ada, namun tidak ada algoritma yang dapat menghasilkan jaringan seperti itu. Hanya dalam kasus tertentu algoritme dapat menghitung jaringan saraf yang stabil dan akurat.
Para peneliti mengusulkan teori klasifikasi yang menjelaskan kapan jaringan saraf dapat dilatih untuk menyediakan sistem AI yang dapat dipercaya dalam kondisi spesifik tertentu. Hasil mereka dilaporkan dalam Prosiding National Academy of Sciences.
Pembelajaran mendalam, teknologi AI terkemuka untuk pengenalan pola, telah menjadi topik utama dari banyak berita utama. Contohnya termasuk mendiagnosis penyakit lebih akurat daripada dokter atau mencegah kecelakaan di jalan melalui mengemudi otonom. Namun, banyak sistem pembelajaran mendalam tidak dapat dipercaya dan mudah dibodohi.
“Banyak sistem AI tidak stabil, dan ini menjadi beban utama, terutama karena semakin sering digunakan di area berisiko tinggi seperti diagnosis penyakit atau kendaraan otonom,” kata rekan peneliti Profesor Anders Hansen dari Departemen Matematika Terapan dan Fisika Teoritis Cambridge. "Jika sistem AI digunakan di area di mana mereka dapat benar-benar membahayakan jika terjadi kesalahan, kepercayaan pada sistem itu harus menjadi prioritas utama."
Paradoks yang diidentifikasi oleh para peneliti menelusuri kembali ke dua raksasa matematika abad ke-20: Alan Turing dan Kurt Gödel. Pada awal abad ke-20, matematikawan berusaha untuk membenarkan matematika sebagai bahasa sains yang paling konsisten. Namun, Turing dan Gödel menunjukkan sebuah paradoks di jantung matematika: tidak mungkin untuk membuktikan apakah pernyataan matematika tertentu benar atau salah, dan beberapa masalah komputasi tidak dapat ditangani dengan algoritma. Dan, kapan pun sistem matematika cukup kaya untuk menggambarkan aritmatika yang kita pelajari di sekolah, itu tidak dapat membuktikan konsistensinya sendiri.
Beberapa dekade kemudian, matematikawan Steve Smale mengusulkan daftar 18 masalah matematika yang belum terpecahkan untuk abad ke-21. Masalah ke-18 menyangkut batas-batas kecerdasan untuk manusia dan mesin.
"Paradoks yang pertama kali diidentifikasi oleh Turing dan Gödel kini telah dibawa ke dunia AI oleh Smale dan lainnya," kata rekan peneliti Dr Matthew Colbrook dari Departemen Matematika Terapan dan Fisika Teoritis. "Ada batasan mendasar yang melekat dalam matematika dan, demikian pula, algoritma AI tidak bisa ada untuk masalah tertentu."
Para peneliti mengatakan bahwa, karena paradoks ini, ada kasus di mana jaringan saraf yang baik dapat eksis, namun jaringan saraf yang dapat dipercaya secara inheren tidak dapat dibangun. "Tidak peduli seberapa akurat data Anda, Anda tidak akan pernah bisa mendapatkan informasi yang sempurna untuk membangun jaringan saraf yang diperlukan," kata rekan peneliti Dr Vegard Antun dari Universitas Oslo.
Ketidakmungkinan menghitung jaringan saraf yang baik yang ada juga benar terlepas dari jumlah data pelatihan. Tidak peduli berapa banyak data yang dapat diakses oleh suatu algoritma, itu tidak akan menghasilkan jaringan yang diinginkan. "Ini mirip dengan argumen Turing: ada masalah komputasi yang tidak dapat diselesaikan terlepas dari daya komputasi dan runtime," kata Hansen.
Para peneliti mengatakan bahwa tidak semua AI secara inheren cacat, tetapi hanya dapat diandalkan di area tertentu, menggunakan metode tertentu. “Masalahnya adalah area di mana Anda memerlukan jaminan, karena banyak sistem AI adalah kotak hitam,” kata Colbrook. "Tidak masalah bagi AI untuk membuat kesalahan dalam beberapa situasi, tetapi perlu jujur tentang hal itu. Dan bukan itu yang kami lihat untuk banyak sistem -- tidak ada cara untuk mengetahui kapan mereka lebih percaya diri atau kurang percaya diri. tentang sebuah keputusan."
"Saat ini, sistem AI terkadang memiliki sedikit tebakan," kata Hansen. "Anda mencoba sesuatu, dan jika tidak berhasil, Anda menambahkan lebih banyak, berharap itu berhasil. Pada titik tertentu, Anda akan lelah. tidak mendapatkan apa yang Anda inginkan, dan Anda akan mencoba metode yang berbeda. Sangat penting untuk memahami keterbatasan pendekatan yang berbeda. Kami berada pada tahap di mana keberhasilan praktis AI jauh di depan teori dan pemahaman. Sebuah program untuk memahami fondasi komputasi AI diperlukan untuk menjembatani kesenjangan ini."
"Ketika matematikawan abad ke-20 mengidentifikasi paradoks yang berbeda, mereka tidak berhenti belajar matematika. Mereka hanya harus menemukan jalan baru, karena mereka memahami keterbatasannya," kata Colbrook. "Untuk AI, ini mungkin kasus mengubah jalur atau mengembangkan yang baru untuk membangun sistem yang dapat memecahkan masalah dengan cara yang dapat dipercaya dan transparan, sambil memahami keterbatasannya."
Tahap selanjutnya bagi para peneliti adalah menggabungkan teori aproksimasi, analisis numerik dan dasar komputasi untuk menentukan jaringan saraf mana yang dapat dihitung dengan algoritma, dan mana yang dapat dibuat stabil dan dapat dipercaya. Sama seperti paradoks pada keterbatasan matematika dan komputer yang diidentifikasi oleh Gödel dan Turing menghasilkan teori dasar yang kaya -- yang menjelaskan keterbatasan dan kemungkinan matematika dan komputasi -- mungkin teori dasar yang serupa dapat berkembang di AI.
(Materials provided by University of Cambridge)
***
Solo, Senin, 21 Maret 2022. 8:40 am
'salam hangat penuh cinta'
Suko Waspodo
antologi puisi suko
image: Public Domain
0 comments:
Posting Komentar