توجيه الوالدين: يستخدم "الذكاء الاصطناعي" لتقييم جليسات الأطفال استنادًا إلى تاريخ الوسائط الاجتماعية
عندما بدأت Jessie Battaglia في البحث عن جليسة أطفال جديدة لابنها البالغ من العمر سنة واحدة ، أرادت الحصول على معلومات أكثر مما يمكنها الحصول عليه من مراجعة خلفية جنائية ، وتعليقات الوالدين ومقابلة شخصية وجهاً لوجه.
لذلك تحولت إلى Predictim ، وهي خدمة عبر الإنترنت تستخدم "ذكاء اصطناعيًا متطورًا" لتقييم شخصية الحاضنة ، واستهدفت ماسحيها بالآلاف من بين ألف مرشح في Facebook و Twitter و Instagram.
وقدم النظام "تصنيفًا خطرًا" آليًا لمرشح يبلغ من العمر 24 عامًا ، قائلاً إنها كانت في "خطر ضئيل للغاية" لكونها مسيئة للمخدرات. لكنها أعطت تقييماً أعلى قليلاً للمخاطر - اثنان من كل خمسة - للتنمّر والمضايقة و "عدم الاحترام" ولديها "موقف سيئ".
لم يشرح النظام سبب اتخاذ هذا القرار. لكن باتاليا ، الذي كان يعتقد أن الجليلة جديرة بالثقة ، شعر فجأة بآلام مفاجئة.
وقال باتاليا (29 عاما) الذي يعيش بالقرب من لوس انجليس "وسائل الاعلام الاجتماعية تظهر شخصية الشخص." "لماذا جاءت في اثنين وليس واحدة؟"
تقدم Predictim للوالدين نفس قواعد اللعبة التي تبيعها عشرات من شركات التكنولوجيا الأخرى لأرباب العمل حول العالم: أنظمة الذكاء الاصطناعي التي تحلل خطاب الشخص وتعبيرات الوجه والتاريخ عبر الإنترنت مع الوعود بالكشف عن الجوانب الخفية في حياتهم الخاصة.
تعيد هذه التكنولوجيا تشكيل بعض الشركات التي تقترب من توظيف وتوظيف ومراجعة العمال ، مما يمنح أصحاب العمل نظرة لا مثيل لها لمرشحي الوظائف من خلال موجة جديدة من التقييم النفسي والمراقبة.
وتقول شركة التكنولوجيا "فاما" إنها تستخدم منظمة العفو الدولية لوسائل الإعلام الاجتماعية الخاصة بالشرطة من أجل "السلوك السام" وتنبيه رؤسائها. وتقدم شركة HireVue للتكنولوجيا ، التي تعمل مع شركات مثل Geico و Hilton و Unilever ، نظامًا يحلل تلقائيًا نغمات المتقدمين واختيار الكلمات وحركات الوجه خلال مقابلات الفيديو للتنبؤ بمهارتهم وسلوكهم في العمل. (يتم تشجيع المرشحين على ابتسامة للحصول على أفضل النتائج.)
لكن المنتقدين يقولون إن الأنظمة المتشابهة والأنظمة المماثلة تعرض أخطارها من خلال اتخاذ قرارات آلية قد تكون غير قابلة للحياة دون ضوابط.
تعتمد الأنظمة على خوارزميات الصندوق الأسود التي تعطي القليل من التفاصيل حول كيفية تقليل تعقيدات حياة الشخص الداخلية في حساب الفضيلة أو الأذى. وحتى في الوقت الذي تؤثر فيه تكنولوجيا Predictim على تفكير الوالدين ، فإنها تظل غير مثبتة تمامًا ، وغير مفسرة إلى حد كبير ، وتعرضة للتحيزات الهادئة حول كيفية مشاركة جليسة الأطفال المناسبة والمشاركة والتحدث.
وقال جيف تشيستر ، المدير التنفيذي لمركز الديمقراطية الرقمية ، وهي مجموعة للدفاع عن التكنولوجيا ، هناك "الاندفاع المجنون للاستيلاء على قوة منظمة العفو الدولية لاتخاذ جميع أنواع القرارات دون ضمان خضوعها للمساءلة أمام البشر". "إنه مثل الناس الذين شربوا Kool-Aid الرقمية ويعتقدون أن هذه هي الطريقة المناسبة لتنظيم حياتنا".
تقوم فحوص Predictim بتحليل التاريخ الكامل لوسائل الإعلام الاجتماعية الخاصة بجليسة الأطفال ، والتي يمكن للعديد من أصغر المعتصمات تغطية معظم حياتهن. ويخبر المعتصمون أنهم سيكونون في وضع غير ملائم للوظائف التنافسية إذا رفضوا.
وقال سال بارسا ، رئيس مؤسسة Predictim ومؤسسها المشارك ، إن الشركة ، التي أطلقت الشهر الماضي كجزء من حاضنة التكنولوجيا في جامعة كاليفورنيا في جامعة بيركلي ، تأخذ أسئلة أخلاقية حول استخدامها على نحو جاد للتكنولوجيا. وقال ان الاباء يجب ان يروا التصنيفات كمرافقة "قد تعكس او لا تعكس الخصائص الحقيقية للموزع."
لكن خطر توظيف جليسة الأطفال التي تسبب مشاكل أو عنيفة ، كما يقول ، يجعل منظمة العفو الدولية أداة ضرورية لأي والد يرغب في الحفاظ على أمان طفله.
"إذا كنت تبحث عن جليسات الأطفال المسيئة على Google ، فستشاهد مئات النتائج في الوقت الحالي" ، على حد قوله. "هناك أشخاص هناك إما مصابون بمرض عقلي أو أنهم ولدوا شريرين. هدفنا هو فعل أي شيء يمكننا منعهم".
تبدأ عملية فحص Predictim عند 24.99 دولارًا وتحتاج إلى اسم وعنوان بريد إلكتروني لحاضنة الأطفال وتوافق على مشاركة الوصول واسع النطاق إلى حساباتها على الشبكات الاجتماعية. يمكن أن تنخفض جليسة الأطفال ، ولكن يتم إخطار أحد الوالدين برفضها ، وفي البريد الإلكتروني يتم إخبار جليسة الأطفال "لن يتمكن الوالد المعني من توظيفك حتى إكمال هذا الطلب".
يقول المسؤولون التنفيذيون في Predictim إنهم يستخدمون خوارزميات معالجة اللغة وبرنامج التعرف على الصور المعروف باسم "رؤية الكمبيوتر" لتقييم وظائف babysitters على Facebook و Twitter و Instagram للحصول على أدلة حول حياتهم غير المتصلة بالإنترنت. يتم تقديم تقرير الوالدين بشكل حصري وليس من الضروري إخبار الحاضنة بالنتائج.
يمكن للأبوين ، على ما يبدو ، أن ينظروا إلى حسابات وسائل الإعلام الاجتماعية العامة الخاصة بهم. لكن التقارير التي أعدها الكمبيوتر تُعِد بتفتيش متعمق لسنوات من النشاط على الإنترنت ، يتم غلقها إلى رقم واحد: حل بسيط يتسم بالسذاجة لمهمة غير عملية.
تنقسم تقييمات المخاطر إلى عدة فئات ، بما في ذلك المحتوى الصريح وتعاطي المخدرات. كما أعلنت شركة ناشئة أن نظامها يمكنه تقييم الحاضنات على سمات شخصية أخرى ، مثل الأدب ، والقدرة على العمل مع الآخرين و "الإيجابية".
وتأمل الشركة في زيادة صناعة "الاستعانة بمصادر خارجية الوالدين" التي تبلغ تكلفتها مليارات الدولارات ، وبدأت في الإعلان من خلال الرعاية مدفوعة الأجر لمدونات الأبوة والأمومة "المومياء". ويركز تسويق الشركة بشكل كبير على قدرتها على فضح الأسرار الخفية ومنع "كابوس كل الوالدين" ، مستشهدا بالقضايا الجنائية بما في ذلك قضية جليسة أطفال من كنتاكي اتهم في وقت سابق من هذا العام بإصابة فتاة تبلغ من العمر ثمانية أشهر بجروح خطيرة.
"لو كان والدا الطفلة قد جرحا من قبل جليسة الأطفال هذه قادرين على استخدام Predictim كجزء من عملية التدقيق" ، تقول وثيقة تسويق الشركة ، "ما كان ليتركوها لوحدها مع طفلهم الثمين".
لكن خبراء التكنولوجيا يقولون إن النظام يرفع أعلامًا حمراء خاصة به ، بما في ذلك المخاوف من أنها تفترض مخاوف الآباء على بيع فحوصات شخصية من الدقة غير المختبرة.
كما يتساءلون أيضًا عن كيفية تدريب الأنظمة ومدى ضعفها في سوء فهم المعاني غير الواضحة لاستخدام وسائل التواصل الاجتماعية الخاصة بالمراة. بالنسبة إلى جميع عمليات الفحص باستثناء المخاطر الأعلى ، يتم إعطاء الوالدين فقط اقتراحًا بسلوك مشكوك فيه ولا توجد عبارات أو روابط أو تفاصيل محددة لتقييمها من تلقاء نفسها.
عندما تم الإبلاغ عن فحص أحد جليسات الأطفال لسلوك التنمر المحتمل ، قالت الأم غير المستقرة التي طلبت منه إنها لا تستطيع أن تخبر ما إذا كان البرنامج قد رصد عرضًا قديمًا للفيلم ، أو قصيدة أغنية أو عبارة أخرى بدلاً من لغة البلطجة الفعلية.
لكن Predictim مع ذلك تقول إنها تستعد لتوسع وطني. وقال المسؤولون التنفيذيون في Sittercity ، وهي سوق تسوق للأطفال على الإنترنت زارها الملايين من الآباء والأمهات ، إنهم يطلقون برنامجًا تجريبيًا في مطلع العام المقبل ، سيُطوى في التقييمات التلقائية لـ Predictim في المجموعة الحالية من فحوصات الحاضرين وفحص الخلفية.
وقالت ساندرا داينورا ، رئيسة منتج Sittercity ، التي تعتقد أن مثل هذه الأدوات يمكن أن تصبح "عملة قياسية" في أقرب وقت للعثور على مقدمي الرعاية عبر الإنترنت: "يمكن العثور على جليسة مع الكثير من عدم اليقين". "الآباء يسعون دائما إلى الحل الأفضل ، أكثر الأبحاث ، أفضل الحقائق".
واشنطن بوست