هل تستحق الأجهزة الذكية ثقتنا؟

تلعب الأجهزة الذكية دوراً متزايداً في كل شيء، بدءاً من الرعاية الصحية إلى السلامة الجوية، لكن هل يجلب ذلك معضلات أخلاقية جديدة؟

اقرأ أيضاً: كيف يتنبأ الذكاء الصناعي بالمستقبل؟

بفضل شراكة جديدة بين شركة "أمازون" والهيئة الصحية في بريطانيا، أصبح بمقدورك الحصول على إجابة لأسئلتك التي تطرحها حول حالتك الصحية.

ويبقى السؤال، هل يصح أن تطرح أسئلة حساسة حول صحتك، على جهاز صوتي تفاعلي؟

وليام: الشراكة مع أمازون تعني أن المعلومات ستكون عالية الجودة يقودها طبيب من هيئة الخدمات الصحية

أثار كثيرون مخاوف من عمل هيئة الخدمات الصحية الوطنية مع عملاق تكنولوجي مثل أمازون، لأسباب تتعلق بالخصوصية الشخصية وسرية البيانات.

من جانبها، تقول "سيلكي كارلو" من منظمة "بيغ براذار ووتش": "ما يقلقني هو أن هيئة الخدمات الصحية الوطنية سعت إلى شراكة مع أمازون، ما يبدو تشجيعاً منها للناس على إعطاء معلومات صحية خاصة، لشركة تستفيد من بيانات الأشخاص".

فيما تؤكد شركة أمازون أنها لن تتيح البيانات الصحية لأطراف ثالثة، أو تستخدم أي أسئلة صحية يتم طرحها لاستهداف العملاء بإعلانات، بحسب "بي بي سي".

وحول تصريح أمازون الأخير، تتساءل سيلكي: "كيف سيكون بمقدورهم التمييز، بين الأشخاص الذين يبحثون عن الكتب والموسيقى، والأشخاص الذين يبحثون عن معلومات حول مشاكلهم الصحية؟".

اقرأ أيضاً: احذر... أجهزة كهربائية تتنصّت عليك!!

وتقول: "إذا كان هذا يعني أن أمازون تنوي إنشاء قاعدة بيانات منفصلة حول مشاكل الناس الصحية، فهذا أكثر مدعاة للقلق".

قد لا يدرك مستخدمو التكنولوجيا وأجهزة الذكاء الصناعي أن الآلات تتخذ القرارات دون تدخل بشري

طورت شركة وليام تونستول بيدوي، البرمجيات التي أصبحت فيما بعد Amazon Alexa، وفي هذا الصدد يقول: إن "الناس يسألون الأسئلة الصحية لـ Alexa منذ أعوام، ويحصلون على إجابات جيدة".

ويضيف: "هذه الشراكة تعني أن المعلومات ستكون عالية الجودة، يقودها طبيب من هيئة الخدمات الصحية، الأمر الذي ربما لم يكن متاحاً في السابق".

وأشار وليام إلى أنه من المشروع أن تثار مخاوف بشأن كيفية استخدام البيانات الصحية، لكن المخاوف نفسها تنطبق على كل محرك بحث نستخدمه لطرح أسئلة مشابهة.

هل تعرف كيفية عمل أجهزة الذكاء الاصطناعي؟

قد لا يدرك مستخدمو التكنولوجيا وأجهزة الذكاء الصناعي، أن الآلات تتخذ القرارات دون تدخل بشري.

اقرأ أيضاً: هل يمكن للذكاء الاصطناعي أن ينافس أعمال الفنانين؟

ويطلق الباحثون في مركز "ضمان التشغيل الذاتي"، التابع لجامعة يورك البريطانية، على هذه الظاهرة اسم "التشغيل الذاتي العرضي".

قد لا يدرك مستخدمو التكنولوجيا وأجهزة الذكاء الصناعي، أن الآلات تتخذ القرارات دون تدخل بشري

ومن جانبه، يقول البروفيسور جون مكديرميد، مدير المركز: "مع البرامج المهمة، من الضروري أن يفهم المشغلون ما يحدث وأن يكون بمقدورهم استعادة السيطرة على نظام التشغيل الذاتي حال الضرورة".

وترى الدكتورة آنا ماكينتوش، أن هناك مشكلة أوسع في فهم ما يجري داخل جميع أنواع أنظمة الذكاء الاصطناعي المعقدة.

وتضيف: "إن القدرة على تفسير القرارات، التي تتخذها تلك الأنظمة، تختلف كثيراً عن إجراء محادثة مع إنسان، ربما كان قد اتخذ تلك القرارات في السابق". موضحة أننا لا نفهم في كثير من الحالات كيف تتخذ تلك القرارات.