وثيقة سرية تكشف تجربة خوارزمية أجرتها تيك توك على ملايين المستخدمين

كشفت وثيقة سرية أعدتها شركة "تيك توك" عام 2023 تفاصيل تجربة خوارزمية أجرتها على ملايين المستخدمين، بينهم مراهق توفي انتحارًا، فيما رفضت الشركة تسليم الوثيقة إلى عضوين في مجلس الشيوخ الأميركي، بحسب ما أوردت بلومبيرغ يوم الجمعة.

طالب عضوان في مجلس الشيوخ الأميركي شركة "تيك توك" بتسليم وثيقة سرية تتعلق بتجربة خوارزمية أجرتها الشركة على ملايين المستخدمين، من بينهم مراهق توفي انتحارًا، ووصفا رفض الشركة تسليم الوثيقة بأنه "مثير للصدمة" و"مسيء". وحصلت "بلومبيرغ بيزنس ويك" على الوثيقة وتنشرها هنا للمرة الأولى.

وقال محامي "تيك توك" في رسالة مؤرخة في الأول من أيلول/سبتمبر إن الشركة لا تستطيع تسليم الوثيقة أو الرد على أسئلة السيناتورة الجمهورية مارشا بلاكبيرن عن ولاية تينيسي، والسيناتور الديمقراطي ريتشارد بلومنثال عن ولاية كونيتيكت، بسبب دعوى قضائية مستمرة. وأُرسلت الأسئلة الشهر الماضي بعد أن كشفت "بيزنس ويك" عن وجود الوثيقة، التي تخضع للختم القضائي ضمن تلك الدعوى.

وأُعدت الوثيقة عام 2023، وتتضمن سجلًا مفصلًا لمشاهدة تشيس ناسكا، البالغ من العمر 16 عامًا، والذي انتحر بعدما قدمت له خوارزمية "تيك توك" آلاف المقاطع عن الاكتئاب والانتحار.

وقالت بلاكبيرن في بيان: "عدم رد تيك توك مثير للصدمة، لكنه بعيد كل البعد عن المفاجأة. لسنوات، لجأت الشركة إلى الأسلوب نفسه عندما تُضبط وهي تضع الأرباح فوق سلامة الأطفال: الإنكار، والتنصل، وتجنب المسؤولية".

ولم ترد "تيك توك" على الأسئلة المتعلقة بتعليقات السيناتورين.

وأُعدت الوثيقة الداخلية بعد أسئلة طرحتها "بيزنس ويك" عام 2023 بشأن سبب استمرار الخوارزمية في عرض محتوى عن الانتحار على حساب تشيس دون توقف، بعد عام من وفاته.

وتحمل الوثيقة عنوان "بلومبرغ بيزنس ويك، سلامة الشباب وفقاعات التصفية: ملخص التصعيد"، وتكشف تفاصيل تجربة أجرتها الشركة وحجبت خلالها ميزة أمان مصممة لكسر حلقات المحتوى الضار المتكرر، أو ما يعرف بـ"فقاعات التصفية"، عن 10% من المستخدمين الأميركيين. وكان هذا العدد في ذلك الوقت نحو 15 مليون شخص، من بينهم تشيس.

وحجبت "بيزنس ويك" أسماء موظفي "تيك توك" الواردة في الوثيقة بوصفهم جهات اتصال رئيسية، لأنها لم تتمكن من تحديد الدور الذي أدوه، إن وجد، في التجربة أو إعداد الوثيقة. كما حجبت أسماء القاصرين، باستثناء تشيس ناسكا، البالغ من العمر 16 عامًا والذي توفي انتحارًا وكان موضوع تقرير نشرته "بيزنس ويك" في نيسان/أبريل 2023.

وكان تشيس، وهو طالب في السنة قبل الأخيرة من المرحلة الثانوية من بايبورت في نيويورك، يتلقى آلاف المقاطع عن الحزن واليأس والوحدة والانتحار حتى لحظة وفاته، بحسب الوثيقة، التي أوضحت أن إجراءات الحماية من "فقاعات التصفية" "لم تُفعّل لهذا المستخدم عن قصد".

وذكرت الوثيقة أن التجربة كانت "توازنًا دقيقًا بين السلامة والقدرة على قياس التأثير في المستخدمين النشطين يوميًا والمقاييس الأساسية".

وأظهر فحص حساب تشيس أنه، رغم أن العديد من عمليات البحث التي أجراها كانت تتعلق بالرياضة والكوميديا، فإنه بحث أيضًا عن أغانٍ تتناول الوحدة واليأس. وقالت الوثيقة إن هذه الأغاني، التي كتبها "فنانون موسيقيون مشهورون عانوا من الاكتئاب والأفكار الانتحارية"، ربما دفعت الخوارزمية إلى الاستمرار في عرض هذا النوع من المحتوى له.

ورداً على أسئلة "بيزنس ويك" بشأن الوثيقة، قال متحدث باسم "تيك توك" الشهر الماضي إن الشركة "ملتزمة بشدة بسلامة المستخدمين ورفاههم"، ولا سيما المراهقين. وأضاف: "قلوبنا مع أي عائلة عانت من فقدان مأساوي". وكانت "تيك توك" قد أبلغت الكونغرس سابقًا بأنها لا تعتقد أن المنصة تسببت في انتحار المستخدمين.

وبعد نشر التقرير، طلبت بلاكبيرن وبلومنثال إجابات عن 13 سؤالًا، من بينها أسماء جميع الموظفين الذين أُبلغوا بالتجربة، وتفسير سبب سماح الشركة بإدراج قاصرين في الاختبار، وتفاصيل حول موعد علم المسؤولين التنفيذيين بالتجربة، و"نسخة كاملة غير منقحة" من الوثيقة التي تناولتها "بيزنس ويك". ومنح السيناتوران "تيك توك" مهلة حتى الأول من أيلول/سبتمبر للرد.

وقال محامي "تيك توك" في الرد الخطي للشركة، الذي اطلعت عليه "بيزنس ويك"، إن "تيك توك تشارككم التزامكم العميق بحماية أفراد مجتمع تيك توك، وتظل ملتزمة بضمان سلامة الشباب من خلال الحفاظ على ميزات أمان قوية، وإعدادات افتراضية مناسبة لأعمار المستخدمين، وضوابط أبوية شاملة".

وأضاف الرد أن "تيك توك تقدر فرصة التواصل معكم بشأن هذه المسائل المهمة، لكنها غير قادرة في الوقت الحالي على تقديم ردود مفصلة على الاستفسارات المحددة الواردة في رسالتكم"، مستندًا إلى وجود "دعاوى قضائية جارية".

وتواجه "تيك توك" آلاف الدعاوى القضائية في المحاكم الأميركية، تتهم الشركة، إلى جانب "ميتا بلاتفورمز" و"يوتيوب" التابع لـ"غوغل" و"سناب شات" التابع لشركة "سناب"، بتصميم منتجات تسبب الإدمان وألحقت أضرارًا بالصحة النفسية للمراهقين.

وتنظر المحاكم في الولايات والمحاكم الفيدرالية في القضايا الموحّدة، التي رفعها مستخدمون وعائلاتهم، من بينهم والدا تشيس، إضافة إلى مناطق تعليمية ومدعين عامين في الولايات. وفي الشهر الماضي، توصلت "ميتا" إلى تسوية تصل قيمتها إلى 18 مليار دولار مع الولايات. وكانت "تيك توك" الشركة الوحيدة التي قامت بتسوية جميع القضايا المقرر نظرها أمام المحاكم هذا العام.

وقال بلومنثال في بيان: "أيام إفلات تيك توك وبقية شركات التكنولوجيا الكبرى من دون أي مساءلة حقيقية تقترب من نهايتها"، واصفًا رد "تيك توك" على أسئلة السيناتورين بأنه "مسيء". وأضاف: "الآباء والعائلات الذين دفعوا الثمن بسبب جشع شركات التكنولوجيا الكبرى يحاسبونها أمام المحاكم".

ودعا بلومنثال وبلاكبيرن الكونغرس إلى تسريع إقرار قانون سلامة الأطفال على الإنترنت، وهو مشروع قانون شاركا في صياغته، من شأنه إلزام الشركات بإعطاء الأولوية لسلامة الأطفال وإيقاف خصائص التصميم المسببة للإدمان، مثل التمرير المستمر.