রোগ নির্ণয়ে আর্টিফিশিয়াল ইন্টেলিজেন্স

"ভাবুন তো, আপনার ডাক্তার যদি একদিন বলেন, 'আমি না, একটা অ্যালগরিদম আপনার রোগ ধরেছে। 'আর সেই অ্যালগরিদম ভুল করলে দায় নেবে কে?"

আর্টিফিশিয়াল ইন্টেলিজেন্স এখন চিকিৎসা জগতে ঢুকে পড়েছে। এক্স-রে পড়ছে, রক্ত পরীক্ষা বিশ্লেষণ করছে, ক্যান্সার ধরার চেষ্টা করছে। মিডিয়া বলছে, "এটা বিপ্লব।" টেক কোম্পানিগুলো বলছে, "এটা ভবিষ্যৎ।"

কিন্তু কেউ সেই প্রশ্নটা সরাসরি করছে না যদি এই AI ভুল করে, তাহলে কী হবে? একজন মানুষের জীবন নিয়ে যে প্রযুক্তি সিদ্ধান্ত নেয়, তার ভুলের খেসারত কে দেবে?

বাংলাদেশে আর্টিফিশিয়াল ইনটেলিজেন্স
বাংলাদেশে AI-চালিত স্বাস্থ্যসেবা এখন আর কল্পনা নয়। কিছু উদ্যোগ ইতিমধ্যে চালু হয়েছে।

মায়া ও প্রাভা হেলথ
AI-চালিত লক্ষণ বিশ্লেষণ করে প্রাথমিক পরামর্শ দিচ্ছে লক্ষ লক্ষ ব্যবহারকারীকে।

ডায়াবেটিক চোখ পরীক্ষা
AI রেটিনাল স্ক্যানের মাধ্যমে ডায়াবেটিক রেটিনোপ্যাথি শনাক্তের পাইলট প্রকল্প চলছে।

যক্ষ্মা ও COVID শনাক্ত
বুকের এক্স-রে বিশ্লেষণে AI ব্যবহার করে দ্রুত রোগ নির্ণয়ের চেষ্টা।

এগুলো দেখতে ভালো। কিন্তু এই প্রতিটি ক্ষেত্রেই লুকিয়ে আছে বড় বিপদ, যেটা নিয়ে কেউ কথা বলতে চায় না।

আর্টিফিশিয়াল ইন্টেলিজেন্স এর ক্ষতিকর দিকসমূহ বিস্তারিতঃ

AI রোগ নির্ণয়ের ক্ষতিকর দিকগুলো শুধু প্রযুক্তিগত নয় - এগুলো মানুষের জীবন, গোপনীয়তা, বিশ্বাস এবং চিকিৎসা ব্যবস্থার ভিত্তিকেই নাড়িয়ে দিতে পারে।

ভুল রোগ নির্ণয় এবং তার মারাত্মক পরিণতি
AI যখন ভুল করে, সেটা সাধারণ ভুল না সেটা হতে পারে একজন মানুষের জীবনমৃত্যুর ভুল। কোনো রোগ না থাকলেও AI বলতে পারে আছে (False Positive), অথবা আসল রোগ থাকলেও বলতে পারে নেই (False Negative)।

False Negative মানে ক্যান্সার আছে, AI বলল নেই। রোগী নিশ্চিন্তে বাড়ি গেল। যখন ধরা পড়ল, তখন আর কিছু করার নেই।

বাস্তব উদাহরণ- ২০১৮ সালে Amazon-এর AI채용 সিস্টেম নারীদের বিরুদ্ধে বায়াস দেখায়। একইভাবে চিকিৎসা AI ভুল জনগোষ্ঠীর উপর প্রশিক্ষিত হলে নির্দিষ্ট রোগীদের ক্ষেত্রে ভুল করে এবং সেটা কেউ বুঝতেই পারে না।

"ব্ল্যাক বক্স" — কেন এই রোগ, কেউ বলতে পারবে না
AI কীভাবে একটি সিদ্ধান্তে পৌঁছাল, সেটা অধিকাংশ ক্ষেত্রে ব্যাখ্যা করা সম্ভব না। ডাক্তার বলতে পারেন, "আমি এই রোগ ধরেছি কারণ এই লক্ষণগুলো আছে।" AI বলবে, "ফলাফল- ক্যান্সার। সম্ভাবনা: ৮৭%।"

কোনো কারণ নেই। কোনো ব্যাখ্যা নেই। শুধু একটা সংখ্যা। এই সিদ্ধান্তের বিরুদ্ধে প্রশ্ন করবেন কীভাবে? দ্বিতীয় মতামত নেবেন কার কাছে?

ডেটা বায়াস, দক্ষিণ এশিয়ার রোগী সবচেয়ে ঝুঁকিতেঃ

বিশ্বের বেশিরভাগ মেডিকেল AI তৈরি হয়েছে পশ্চিমা দেশের ডেটা দিয়ে সাদা চামড়ার, ভিন্ন জিনগত গঠনের মানুষদের তথ্য দিয়ে। এই AI বাংলাদেশি বা দক্ষিণ এশিয়ার রোগীদের উপর প্রয়োগ করলে কী হবে?

চর্মরোগ শনাক্তে AI গাঢ় ত্বকে অনেক কম নির্ভুল। হৃদরোগের লক্ষণও জাতিভেদে আলাদা হয়। বাংলাদেশের জনগোষ্ঠী যে রোগগুলোতে বেশি ভোগে যক্ষ্মা, ডেঙ্গু, কালাজ্বর এগুলোর জন্য পর্যাপ্ত AI প্রশিক্ষণ ডেটা কোথায়?

ভয়াবহ গোপনীয়তা লঙ্ঘন
AI রোগ নির্ণয়ের জন্য দরকার বিশাল পরিমাণ রোগীর ব্যক্তিগত তথ্য, রক্তের রিপোর্ট, জিনগত তথ্য, স্ক্যান, ওষুধের ইতিহাস। এই তথ্যগুলো যায় কোথায়? কোন সার্ভারে সংরক্ষিত হয়? কে দেখতে পায়?

বিমা কোম্পানি যদি জানে আপনার ডায়াবেটিসের ঝুঁকি আছে, তারা আপনার প্রিমিয়াম বাড়িয়ে দিতে পারে। নিয়োগকর্তা যদি জানে আপনার মানসিক স্বাস্থ্য সমস্যা আছে চাকরি নাও পেতে পারেন। এটা কল্পনা নয়, এটা ইতিমধ্যে বিভিন্ন দেশে হচ্ছে।

রোগীর মানসিক ক্ষতি
রোগ নির্ণয় শুধু তথ্যের খেলা নয়। একজন রোগী যখন শোনেন তাঁর ক্যান্সার হয়েছে সেই মুহূর্তে তিনি একজন মানুষের চোখ, কণ্ঠস্বর, উষ্ণতা খোঁজেন। AI সেটা দিতে পারে না।

একটি স্ক্রিনে "High Risk: Malignancy Detected", এই বার্তা একজন মানুষকে কতটা একা ও ভীত করে তুলতে পারে, সেটা কোনো অ্যালগরিদম বোঝে না। চিকিৎসার অংশ হলো আস্থা, সান্ত্বনা, মানবিক সংযোগ -AI এই জায়গায় সম্পূর্ণ অক্ষম।

চিকিৎসকের দক্ষতা কমবে
যদি প্রতিটি রোগ নির্ণয় AI করতে থাকে, তাহলে ডাক্তাররা ধীরে ধীরে নিজে চিন্তা করা বন্ধ করে দেবেন। ক্লিনিকাল দক্ষতা,অভিজ্ঞতার সাথে গড়ে ওঠা বিচারক্ষমতা — এগুলো হারিয়ে যাবে।

AI যদি একটা ভুল ফলাফল দেয়, এবং ডাক্তার সেটা অন্ধভাবে মেনে নেন তাহলে রোগী পাচ্ছেন দ্বিগুণ ব্যর্থতা। AI-এর ভুল, এবং ডাক্তারের যাচাই না করার ব্যর্থতা।

সর্বশেষে বলা যায়, AI চিকিৎসাবিজ্ঞানে এসেছে, এটা ঠেকানো যাবে না। প্রশ্ন হলো, আমরা কি চোখ বন্ধ করে এটা গ্রহণ করব, নাকি প্রশ্ন করতে শিখব? প্রতিটি দেশের নিজস্ব ডেটা দিয়ে AI তৈরি করতে হবে। শক্তিশালী আইন লাগবে। ডাক্তারের চূড়ান্ত কর্তৃত্ব থাকতে হবে। রোগীর তথ্য সুরক্ষিত রাখতে হবে। এবং সবচেয়ে জরুরি AI-কে প্রশ্ন করার অধিকার সবার থাকতে হবে। প্রযুক্তি মানুষের সেবায়, মানুষ প্রযুক্তির পরীক্ষামাঠ নয়।

লেখক : ফাহিমা হোসেন মুনা। গবেষণা দলের প্রধান, BESS; প্রতিষ্ঠাতা ও কন্টেন্ট রাইটার, Antioxidant Pathways।