لقد قرأت شيئًا جعلني أشعر بالقلق الشديد حول ما يحدث حقًا في OpenAI.

تظهر أن صحيفة نيويورك تايمز نشرت مؤخرًا تحقيقًا حيث أجرى صحفيون مثل رونان فارو مقابلات مع أكثر من 100 شخص وحصلوا على وثائق داخلية لم يتم الكشف عنها من قبل.
القصة التي خرجت من هناك أكثر ظلامًا بكثير مما كان يُعرف علنًا.

أبرز التفاصيل:
إليا سوتسكيفر، العالم الرئيسي في OpenAI، كتب مذكرة من 70 صفحة قبل بضع سنوات حيث وثق بشكل أساسي نمطًا ثابتًا.
كانت استنتاجاته الأولية مباشرة: سام يظهر سلوك الكذب بشكل منهجي على التنفيذيين ومجلس الإدارة.
هذه ليست تكهنات، إنها حالات محددة.
على سبيل المثال، في ديسمبر 2022، أكد سام في اجتماع مجلس الإدارة أن وظائف GPT-4 قد مرت بمراجعة أمنية.
عندما طلبوا الاطلاع على الوثائق، اكتشفوا أن اثنين من الميزات الأكثر إثارة للجدل لم يتم الموافقة عليهما أبدًا من قبل لجنة الأمن.

لكن ما لفت انتباهي أكثر هو ما وجدوه في ملاحظات داريو أمودي، مؤسس أنثروبيك الذي عمل في OpenAI.
أكثر من 200 صفحة وثق فيها كيف كانت الشركة تتراجع خطوة بخطوة تحت ضغط تجاري.
اكتشف أمودي أن مايكروسوفت أدخلت بند حق النقض الذي ألغى بشكل أساسي ضمان الأمان الذي كان يقدره أكثر في الصفقة بأكملها.
من يوم التوقيع، أصبح حبرًا على ورق.

هناك تفصيل آخر يترك شعرك يقف من الرعب.
أعلنت OpenAI علنًا أنها ستخصص 20% من قدرتها الحاسوبية لفريق التوافق الفائق، بقيمة محتملة تزيد عن مليار دولار.
كان الإعلان جديًا للغاية، متحدثًا عن مخاطر وجودية للبشرية.
لكن الواقع، وفقًا لأربعة أشخاص عملوا في ذلك الفريق، هو أن القدرة الحاسوبية الحقيقية كانت بين 1% و2%، وكانت الأجهزة أقدم ما يكون.
بعد ذلك، تم حل الفريق دون إكمال مهمته.

الغريب هو أنه عندما طلب الصحفيون مقابلة فريق البحث عن الأمان الوجودي، كانت ردود العلاقات العامة أن هذا لا وجود له فعليًا في OpenAI.

وحدث ذلك تمامًا عندما ظهرت أن CFO سارة فريار لديها خلافات جدية مع سام.
تعتقد أن OpenAI ليست جاهزة للطرح العام هذا العام، لكن سام يريد دفع الاكتتاب العام.
الأمر الأكثر غرابة هو أن فريار لم تعد ترفع تقاريرها مباشرة إلى سام، بل إلى مسؤول تنفيذي آخر في إجازة لأسباب صحية.
شركة تستعد لطرح عام أولي بهيكل داخلي كهذا.

مديرو Microsoft الداخليين لم يعودوا قادرين على تحمل ذلك.
يقولون إن سام يضلل الحقائق، ويخالف الوعود، ويقوم بإلغاء الاتفاقات باستمرار.
وصل أحدهم إلى مقارنته ببيرني مادوف أو SBF.

وصفه أحد أعضاء المجلس السابق هكذا:
سام يمتلك مزيجًا نادرًا جدًا من الصفات.
في كل تفاعل وجهًا لوجه، لديه رغبة قوية في الإرضاء، لكنه في الوقت نفسه يظهر تجاهلًا شبه اجتماعي تجاه عواقب خداع الآخرين.
بالنسبة لبائع، هو أعظم هبة.

ما يقلقني هو أن OpenAI ليست شركة تقنية عادية.
وفقًا لكلامهم الخاص، فإنهم يطورون ربما أقوى تقنية في تاريخ البشرية.
يمكنهم إعادة تشكيل الاقتصاد العالمي، والأسواق، ووفقًا لوثيقتهم الخاصة، يمكن أيضًا استخدامها لصنع أسلحة بيوكيميائية أو هجمات إلكترونية.
كل الضمانات الأمنية أصبحت بلا قيمة.
المهمة غير الربحية تحولت إلى سباق نحو الاكتتاب العام.

يعتبر العالم السابق الرئيسي للعلماء والمسؤول السابق عن الأمان أن المدير التنفيذي غير موثوق به.
هل نشعر حقًا بالأمان عندما نترك شخصًا واحدًا يقرر بشكل أحادي متى يطلق نماذج الذكاء الاصطناعي التي قد تغير مصير البشرية؟

كانت رد OpenAI موجزة:
أن المقال يعيد تأكيد أحداثًا تم الإبلاغ عنها سابقًا باستخدام تصريحات مجهولة وحكايات انتقائية.
لم يرد سام على الاتهامات المحددة، ولم ينكر صحة المذكرة، فقط شكك في الدوافع.

ملخص عشر سنوات من OpenAI:
مجموعة من المثاليين القلقين من مخاطر الذكاء الاصطناعي أنشأوا منظمة غير ربحية.
حققوا تقدمًا استثنائيًا.
وصل رأس المال بشكل هائل.
بدأت المهمة تتراجع.
تم حل فريق الأمان.
تم القضاء على المنتقدين.
تحولت الهيكلية غير الربحية إلى كيان ربحي.
مجلس الإدارة الذي كان يمكنه إغلاق الشركة أصبح مليئًا بحلفاء المدير التنفيذي.
الشركة التي وعدت بتخصيص 20% من القدرة الحاسوبية للأمان أصبحت الآن تقول في العلاقات العامة إن ذلك لا وجود له.

أكثر من مئة شاهد عيان أكدوا أن ذلك غير قابل للتحقق من الحقيقة.
وهي على وشك أن تقود هذه الشركة إلى طرح عام أولي بقيمة تتجاوز 850 مليار دولار.