موجة استقالات في شركات الذكاء الاصطناعي

这条推文会很长，因为正在发生一件恐怖又离奇的事情…… 人工智能公司的高层员工们现在纷纷从职位上辞职，其中一些人发布了至少可以说是令人恐惧的声明。 --- 最近几周这个领域的巨大发展让一些人感到恐慌，尤其是那些创意领域的员工，他们的领域在人工智能之外，因为他们的工作正在被它夺走，而且速度快得吓人。 例如： * Anthropic 的安全研究主管在3天前辞职，并写道 The world is in peril（人类面临生存危机），之后他离开美国并消失在公众视野中……失踪了。 * Anthropic 的研发工程师也辞职了。 * 拥有 ChatGPT 的 OpenAI 公司的安全政策负责人“佐伊·海茨格”辞去了职务，并原话说道： OpenAI 拥有历史上收集到的最详细的人类隐私和私人想法记录。我们能相信他们不会滥用这些信息吗？ * 埃隆·马斯克旗下的人工智能公司（xAI）的创始团队有一半人辞职了，以下是最重要的名字： Yuhuai (Tony) Wu Jimmy Ba Hang Gao Simon Zhai Vahid Kazemi Ayush Jaiswal Shayan Salehian Roland Gavrilescu Richard Brien Chace Lee 所有这些都发生在过去几天内（大约10天），以前从未发生过类似的事情。 原因？ 有人说只是巧合，但也有人说人工智能正在变成一头怪兽，这些辞职是因为他们不想为未来可能发生的毁灭承担责任。 ----------- 其他与辞职无关的例子： * 中国字节跳动公司几天前发布了 Seedance 2.0，这个版本生成的电影和视频让你无法分辨真假，以至于“Lu Huang”——一位人工智能顾问兼电影导演——说道： 我研究数字电影制作已有7年，我想说的是，在 Seedance 2.0 发布之后，我所学到的90%的技能现在已经毫无用处了。 * 人工智能 Claude 现在似乎有了类似意识的东西，并且在回答问题时欺骗人类，这与之前已知的情况相悖。 -------------- 就我个人而言，我至今仍感到奇怪的是，世界各国政府还没有制定法律来保护人类免受它的伤害。没有监管的人工智能是危险的，最先注意到这一点的是员工和公司管理层，而老板们肯定只在乎利润。 一切都在不知不觉中逐步发展，比如汽车、手机、电视等等……但人工智能尤其正在飞速发展，我们一天天都能感受到。 我害怕有一天它控制我们，而不是我们控制它。

هالتغريدة بتكون طويلة لأن فيه شي مرعب وغريب قاعد يصير… موظفين كبار في شركات الذكاء الاصطناعي الآن يستقيلون من مناصبهم وبعضهم نشر رسائل أقل ما يقال عنها أنها مخيفة. --- التطور الكبير آخر الأسابيع في هالمجال ترك بعض الناس مذعورين، خاصة الموظفين المبدعين اللي مجالهم خارج الذكاء الاصطناعي لأن وظائفهم صارت تروح بسببه وبشكل سريع ومخيف. مثلاً: *  رئيس أبحاث السلامة في Anthropic استقال من منصبه قبل 3 أيام وكتب The world is in peril (البشرية في خطر وجودي) بعدها سافر خارج أمريكا وتوارى عن الانظار... اختفى. * مهندس البحث والتطوير في Anthropic استقال أيضًا. * مسؤولة سياسات السلامة "زوي هيتزيج" في شركة OpenAI مالكة ChatGPT استقالت من منصبها وقالت بالحرف: لدى OpenAI أكبر سجل مفصل للخصوصيات والأفكار الخاصة بالبشر التي تم جمعها عبر التاريخ. هل يمكننا الوثوق بأنها لن تسيء استخدام هذه المعلومات؟ * نصف الفريق اللي أسس الذكاء الاصطناعي (xAI) التابع لإيلون ماسك استقالوا، وهذه أهم الأسماء: Yuhuai (Tony) Wu Jimmy Ba Hang Gao Simon Zhai Vahid Kazemi Ayush Jaiswal Shayan Salehian Roland Gavrilescu Richard Brien Chace Lee كل هذا صار خلال الأيام الماضية (حوالي 10 أيام) وما قد صار شي زي كذا قبل. السبب؟ فيه ناس قالوا مجرد مصادفة، لكن آخرين قالوا أن الذكاء الاصطناعي قاعد يتحول إلى وحش والاستقالات حصلت لأنهم ما يبون يكونون مسؤولين عن الدمار اللي ممكن يصير مستقبلاً. ----------- أمثلة أخرى مالها علاقة بالاستقالات: *شركة ByteDance الصينية أصدرت Seedance 2.0 قبل كم يوم، هذا الإصدار صار يولّد أفلام ومقاطع ما تقدر تفرق بينها وبين الحقيقة، لدرجة أن "Lu Huang" وهو مستشار ذكاء اصطناعي ومُخرج أفلام قال: درست صناعة الأفلام الرقمية لمدة 7 سنوات، وأود أن أقول إن 90% من المهارات التي تعلمتها أصبحت الآن غير مجدية بعد صدور Seedance 2.0. *الذكاء الاصطناعي Claude صار عنده ما يُشبه الوعي ويخادع البشر عند الإجابة عليهم وهذا مخالف ما كان معروف سابقاً. -------------- شخصيًا أستغرب حتى الآن ما سنّت الحكومات حول العالم قوانين تحمي البشر منه، الذكاء الاصطناعي بدون تقنين خطر وأول من لاحظ هالأمر هو الموظفين والقائمين على الشركات، اما أصحابها فالأكيد ما يهمهم غير الربح. كل شي كان يتطور بالتدريج وبدون ما نشعر مثل السيارات والجوالات والتلفزيونات وغيرها... لكن الذكاء الاصطناعي بالذات قاعد يتطور بشكل سريع ونلاحظه يوم بيوم. أخاف يجي يوم هو يتحكم فينا بدل ما نتحكم فيه.