Learning from AI’s Failures

Learning from AI’s Failures

Keywords : UncategorizedUncategorized

एआई की गलतियों की एक विस्तृत तस्वीर कैनवास है जिस पर हम बेहतर डिजिटल समाधान बनाते हैं।

जॉन हलामका, एमडी, अध्यक्ष, मेयो क्लिनिक मंच, और पॉल सेराटो, वरिष्ठ शोध विश्लेषक और संचार विशेषज्ञ, मेयो क्लिनिक मंच ने इस लेख को लिखा। < / p>

हम सभी clichés को अनदेखा करते हैं क्योंकि हमने उन्हें अक्सर सुना है, लेकिन कुछ clichés दोहराने के लायक हैं। "हम सफलता से विफलता से अधिक सीखते हैं" दिमाग में आता है। हालांकि इसका उपयोग किया जा सकता है, फिर भी यह डिजिटल स्वास्थ्य में शामिल किसी के लिए एक महत्वपूर्ण सत्य बताता है। दो प्रकार की असफलताओं के करीब की जांच के लायक हैं: एल्गोरिदम जो निदान या उपचार में सुधार करने का दावा करते हैं लेकिन सबूत या निष्पक्षता की कमी के लिए कम हो जाते हैं; और सामुदायिक अभ्यास में चिकित्सकों को मनाने में विफलता है कि साक्ष्य-आधारित एल्गोरिदम का उपयोग करने के लायक हैं।

जैसा कि हमने पहले के कॉलम में उल्लेख किया है, चिकित्सा में विचार नेताओं की बढ़ती संख्या ने एआई आधारित एल्गोरिदम उत्पन्न करने के लिए भीड़ की आलोचना की है क्योंकि कई में ठोस कमी है वैज्ञानिक नींव प्रत्यक्ष रोगी देखभाल में उनके उपयोग को न्यायसंगत बनाने के लिए आवश्यक है। एआई डेवलपर्स में समलैंगिकों में आलोचनाओं में से एक डेटासेट से प्राप्त एल्गोरिदम के बारे में चिंता है जो एक दूसरे, बाहरी डेटासेट, पूर्वदर्शी विश्लेषण, सामान्यता की कमी, और विभिन्न प्रकार के पूर्वाग्रह पर मान्य नहीं है। सैकड़ों हेल्थकेयर से संबंधित डिजिटल टूल्स पर एक महत्वपूर्ण रूप जो अब बाजार में आ रहे हैं, अधिक जांच की आवश्यकता को दर्शाता है, और चिकित्सकों और अन्य निर्णय निर्माताओं को जंक विज्ञान से अलग उपयोगी उपकरणों को अलग करने में मदद करने के लिए मानकों के एक सेट का निर्माण करता है।

डिजिटल स्वास्थ्य बाजार में ध्यान-प्राप्त करने के उपकरण के साथ भीड़ है। 59 एफडीए-अनुमोदित चिकित्सा उपकरणों में से कुछ प्रकार के मशीन लर्निंग शामिल हैं, 49 अद्वितीय उपकरणों को नैदानिक ​​निर्णय समर्थन में सुधार के लिए डिज़ाइन किया गया था, जिनमें से अधिकांश निदान या ट्रायज में सहायता करने के लिए हैं। कुछ को मधुमेह रेटिनोपैथी का स्वचालित रूप से पता लगाने, विशिष्ट हृदय ध्वनियों का विश्लेषण करने, निक्षण अंश और बाएं वेंट्रिकुलर वॉल्यूम का विश्लेषण करने के लिए डिज़ाइन किया गया था, और केवल कुछ नामों के लिए फेफड़े नोड्यूल और यकृत घावों को मापते हैं। दुर्भाग्यवश, हाल ही में अनुमोदित चिकित्सा उपकरणों के लिए स्पष्ट समर्थन व्यापक रूप से भिन्न होता है।

एआई आधारित एल्गोरिदम के बीच जो ध्यान आकर्षित करता है वह है जो चिकित्सकों को सेप्सिस की शुरुआत की भविष्यवाणी करने में मदद करने के लिए डिज़ाइन किया गया है। महाकाव्य सेप्सिस मॉडल (ईएसएम) का उपयोग हजारों रोगियों पर इस जीवन-धमकी देने की जटिलता को विकसित करने के जोखिम को मापने के लिए किया गया है। महाकाव्य ईएचआर प्रणाली का एक हिस्सा, यह एक दंडित रसद रिग्रेशन मॉडल है कि विक्रेता ने 3 स्वास्थ्य प्रणालियों में 400,000 से अधिक रोगियों पर परीक्षण किया है। दुर्भाग्यवश, क्योंकि ईएसएम एक मालिकाना एल्गोरिदम है, सॉफ्टवेयर के आंतरिक कार्यों या दीर्घकालिक प्रदर्शन पर उपलब्ध जानकारी की कमी है। मिशिगन विश्वविद्यालय के जांचकर्ताओं ने 27,600 से अधिक रोगियों के बीच उपकरण का विस्तृत विश्लेषण किया और इसे वांछित पाया। एंड्रयू वोंग और उनके सहयोगियों ने केवल 0.63 के रिसीवर ऑपरेटिंग विशेषता वक्र (ऑरैक) के तहत एक क्षेत्र पाया। उनकी रिपोर्ट में कहा गया है: "ईएसएम ने सेप्सिस (7%) के साथ 2552 रोगियों के 183 की पहचान की, जिन्हें एंटीबायोटिक्स के समय पर प्रशासन नहीं मिला, जो समकालीन नैदानिक ​​अभ्यास की तुलना में ईएसएम की कम संवेदनशीलता को उजागर करता था। ईएसएम ने सभी 38,455 अस्पताल में भर्ती मरीजों (18%) के 6971 के लिए 6 9 71 के ईएसएम स्कोर के लिए अलर्ट उत्पन्न करने के बावजूद सेप्सिस (67%) के साथ 170 9 रोगियों की पहचान नहीं की। इस प्रकार अलर्ट थकान का एक बड़ा बोझ पैदा हुआ। " वे अपनी जांच के दूरगामी निहितार्थों पर चर्चा करने के लिए आगे बढ़ते हैं: "मालिकाना मॉडल की तैनाती में वृद्धि और विकास ने गोपनीय, गैर-सहकर्मी-समीक्षा वाले मॉडल प्रदर्शन दस्तावेजों का अंतर्निहित किया है जो वास्तविक दुनिया के मॉडल प्रदर्शन को सटीक रूप से प्रतिबिंबित नहीं कर सकते हैं । ईएचआर और ढीले संघीय नियमों के भीतर एकीकरण की आसानी के कारण, सैकड़ों अमेरिकी अस्पतालों ने इन एल्गोरिदम का उपयोग शुरू कर दिया है। "

इस तरह की रिपोर्ट केवल आरक्षण को बढ़ाने के लिए सेवा करते हैं, कई चिकित्सकों के पास एआई पर भरोसा करने के बारे में हैं - क्लिनिकल निर्णय समर्थन उपकरण आधारित। दुर्भाग्यवश, वे चिकित्सकों को सिर्फ संदेहजनक नहीं बल्कि सभी एआई आधारित उपकरणों के बारे में संदेह नहीं करते हैं, जो रोगी देखभाल में सुधार करने का एक मिस्ड अवसर है। जैसा कि हमने हाल ही में नेजमी उत्प्रेरक समीक्षा में इंगित किया है, ऐसे कई एल्गोरिदम हैं जो संभावित अध्ययन द्वारा समर्थित हैं, जिसमें यादृच्छिक नियंत्रित परीक्षणों की बढ़ती संख्या शामिल है।

तो हम चिकित्सकों के हाथों में वैज्ञानिक रूप से अच्छी तरह से प्रलेखित डिजिटल स्वास्थ्य उपकरण कैसे प्राप्त करते हैं और उन्हें उनका उपयोग करने के लिए मनाते हैं? एक दृष्टिकोण एक मूल्यांकन प्रणाली विकसित करना है जो सभी स्पेक को निष्पक्ष रूप से समीक्षा करता हैएस प्रत्येक उत्पाद के लिए, और अंतिम उपयोगकर्ताओं को अपनी ताकत और कमजोरियों का त्वरित स्नैपशॉट प्रदान करने के लिए मॉडल कार्ड उत्पन्न करता है। लेकिन यह केवल पहला कदम है। समानता के माध्यम से, वॉलमार्ट या अमेज़ॅन द्वारा होस्ट किए गए ऑनलाइन स्टोर की सफलता पर विचार करें। उन्होंने कला आपूर्ति श्रृंखलाओं की स्थिति में भारी निवेश किया है जो सुनिश्चित करता है कि उनके उत्पाद गोदामों से उपलब्ध हैं क्योंकि ग्राहक उन्हें मांगते हैं। लेकिन एक डिलीवरी सेवा के बिना जो ग्राहकों के घरों में तेजी से और कम से कम व्यवधान के साथ उत्पाद प्राप्त करता है, यहां तक ​​कि सर्वोत्तम उत्पाद भी गोदाम अलमारियों पर बैठेंगे। डिलीवरी सेवा को ग्राहकों के जीवन में निर्बाध रूप से एकीकृत करना है। उत्पाद को समय पर दिखाना पड़ता है, यह एक मजबूत बॉक्स में, सही आकार के वस्त्र होना चाहिए, और इसी तरह। इसी प्रकार, सबसे अच्छा डायग्नोस्टिक और पूर्वानुमानित एल्गोरिदम सावधान विचार और अंतर्दृष्टि के साथ वितरित किया जाना चाहिए, जिसके लिए डिज़ाइन सोच, सुधार सुधार, वर्कफ़्लो एकीकरण, और कार्यान्वयन विज्ञान की आवश्यकता होती है।

रॉन ली और स्टैनफोर्ड विश्वविद्यालय में उनके सहयोगी इस वितरण सेवा का विस्तार से वर्णन करते हैं, जो सभी संबंधित विषयों से हितधारकों को एल्गोरिदम विकास शुरू करने से पहले सभी संबंधित विषयों से संलग्न करने की आवश्यकता पर बल देते हैं कार्यान्वयन के लिए संभावित बाधाओं की तलाश करें। वे चिकित्सकीय समूहों के बीच संभावित शक्ति असमानताओं को देखने के लिए "सहानुभूति मैपिंग" की आवश्यकता का भी सुझाव देते हैं, जिन्हें इन डिजिटल उपकरणों का उपयोग करने की आवश्यकता हो सकती है। यह भूलना आसान है कि किसी भी तकनीकी नवाचार को लागू करने के लिए स्वास्थ्य देखभाल पारिस्थितिक तंत्र के लिए अद्वितीय सामाजिक और सांस्कृतिक मुद्दों को भी ध्यान में रखा जाना चाहिए, और व्यक्तिगत सुविधा जहां इसे लागू किया जा रहा है।

यदि हम एआई की असफलताओं से सीखना चाहते हैं, तो हमें अपने उत्पादों और सेवाओं का अधिक सावधानीपूर्वक मूल्यांकन करने और उन्हें एक अंतःविषय वातावरण के भीतर विकसित करने की आवश्यकता है जो सभी हितधारकों का सम्मान करता है।

Read Also:

Latest MMM Article