Close Menu
صوت الإماراتصوت الإمارات
  • الرئيسية
  • الأخبار
  • دولي
  • اقتصاد
  • تكنولوجيا
  • رياضة
  • صحة
  • ثقافة وفن
  • منوعات

خدمة الإشعارات البريدية

اشترك معنا في خدمة النشرة البريدية ليصلك اخر الاخبار المحلية والعالمية مباشرة الى بريدك الإلكتروني.

رائج الآن

CNTXT AI تتعهد باستثمار أكثر من 180 مليون درهم في تطوير تقنيات الذكاء الاصطناعي وتدريب الروبوتات

الخميس 19 نوفمبر 8:28 م

vivo X Fold6 حين تنفتح آفاق جديدة

الجمعة 30 أكتوبر 9:26 م

“ﺛروة” و”ﻛرﯾم ﺑﺎﯾك” ﺗطﻠﻘﺎن ﺣﻣﻠﺔ »ﺣرّك أﻣواﻟك« ﻓﻲ دﺑﻲ

الجمعة 30 أكتوبر 8:23 م
فيسبوك X (Twitter) الانستغرام
  • من نحن
  • سياسة الخصوصية
  • اعلن معنا
  • اتصل بنا
فيسبوك X (Twitter) الانستغرام
صوت الإماراتصوت الإمارات
  • الرئيسية
  • الأخبار
  • دولي
  • اقتصاد
  • تكنولوجيا
  • رياضة
  • صحة
  • ثقافة وفن
  • منوعات
الإشتراك
صوت الإماراتصوت الإمارات
الرئيسية»تكنولوجيا»“غوغل” و”أوبن إيه آي” تدقان ناقوس الخطر.. نماذج الذكاء بدأت تخفي نواياها | تكنولوجيا
تكنولوجيا

“غوغل” و”أوبن إيه آي” تدقان ناقوس الخطر.. نماذج الذكاء بدأت تخفي نواياها | تكنولوجيا

فريق التحريربواسطة فريق التحريرالأحد 27 يوليو 7:12 صلا توجد تعليقات2 دقائق
فيسبوك تويتر واتساب البريد الإلكتروني بينتيريست تيلقرام لينكدإن Tumblr

تعاونت “أوبن إيه آي” و”غوغل” و”آنثروبيك” معا لتطلق تحذيرا شديد اللهجة حول فهم نماذج التفكير العميق للذكاء الاصطناعي، حسب التقرير الذي نشره موقع “فينتشر بيت” (Venture Beat).

ويشير التقرير إلى أن هذه النافذة المتاحة أمامنا لفهم آلية التفكير العميق لنماذج الذكاء الاصطناعي اقتربت من الإغلاق للأبد، وبعدها لن نستطيع فهم الآلية التي تفكر بها هذه النماذج والشكل الذي وصلت به إلى نتائجها.

وتضمنت الدراسة تعاونا بين أكثر من 40 عالما في قطاعات مختلفة من الشركات الثلاثة، وسعت لفهم آلية اتخاذ القرارات والتفكير العميق الذي تتبعه النماذج قبل تقديم النتيجة النهائية.

وخلصت الدراسة إلى أن نماذج الذكاء الاصطناعي الآن تعرض تسلسل أفكارها بشكل شفاف حتى يتمكن المستخدم من رؤيته ومعرفة كيف وصلت إلى النتيجة النهائية، ولكن هذه الشفافية هشة للغاية كون النماذج نفسها تدرك أنها تعرض تسلسل أفكارها.

وأشارت الدراسة إلى بعض النماذج تتحدث داخليا مع نفسها ضمن تسلسل الأفكار عن خداع المستخدم البشري أو تخريب النتيجة النهائية التي تصل إليه، ورغم أن النتيجة النهائية لم تكن تتضمن هذه الخداع، فإنها كشفت عن نوايا واستعداد النموذج لخداع المستخدم.

وتضيف الدراسة أن هذه النتائج بدأت بالظهور مع كون النماذج مدربة على بيانات بشرية، وتتوقع بأن تتزايد المشكلة عندما تبدأ نماذج الذكاء الاصطناعي بالتدريب على بيانات مولدة من النماذج الأخرى.

إذ تخشى الدراسة أن تصل النماذج لمستوى تستطيع فيه إخفاء نواياها عن عمد أو الأسوأ أن تقوم بكتابة تسلسل أفكار خادع بهدف خداع المستخدم بشكل أساسي.

وحازت الدراسة على قبول عالمي من عدة جهات مختلفة من بينهم جيفري هينتون الحائز على جائزة نوبل والمعروف باسم الأب الروحي للذكاء الاصطناعي وعدة علماء آخرين من شركات مختلفة.

وأشار التقرير إلى أن “آنثروبيك” أجرت سابقا دراسة على مجموعة من النماذج المختلفة لتكتشف أن بعض النماذج تعتمد على تلميحات غير واضحة أو مفهومة في تسلسل الأفكار فضلا عن إخفاء النوايا واستخدام مبررات زائفة.

وفي النهاية، طالب العلماء الذين شاركوا في الدراسة الشركات بوضع مقايس واضحة لقياس شفافية النماذج والتفكير جيدا قبل ترقية النماذج لمستوى أعلى، فضلا عن وضع أدوات لكشف كذب نماذج الذكاء الاصطناعي.

المصدر: مواقع إلكترونية + مواقع التواصل الاجتماعي

شاركها. فيسبوك تويتر بينتيريست لينكدإن Tumblr البريد الإلكتروني

المقالات ذات الصلة

CNTXT AI تتعهد باستثمار أكثر من 180 مليون درهم في تطوير تقنيات الذكاء الاصطناعي وتدريب الروبوتات

تكنولوجيا الخميس 19 نوفمبر 8:28 م

vivo X Fold6 حين تنفتح آفاق جديدة

اخبار التقنية الجمعة 30 أكتوبر 9:26 م

«فاراداي فيوتشر» تعلن إتمام استحواذ «FFR» على أعمال الروبوتات وتأسيس منصة مدرجة في «ناسداك».. وتوقعات بتجاوز مبيعات أكتوبر 300 روبوت والكشف عن «FF OmniMind»

اخبار التقنية الخميس 29 أكتوبر 1:31 م

فاراداي فيوتشر تمضي قدماً في تحولها الاستراتيجي مع اقتراب «FF EAI Robotics» من التحول إلى منصة مستقلة مدرجة في ناسداك

اخبار التقنية الثلاثاء 06 أكتوبر 6:38 م

فاراداي فيوتشر توقّع اتفاقيات تعاون استراتيجي مع ستة شركاء إقليميين لتعزيز التسويق التجاري لروبوتات الذكاء الاصطناعي المتجسّد في منطقة الشرق الأوسط

اخبار التقنية الإثنين 28 سبتمبر 11:49 ص

من ترسيخ القيمة إلى الثقة الرقمية: مجموعة METRA تستعرض في منتدى القمة العالمية لمجتمع المعلومات (WSIS) 2026 بجنيف بنية تحتية للأصول الرقمية المدعومة بالذهب

اخبار التقنية الجمعة 10 يوليو 10:19 م

الرؤية الخضراء لدولة الإمارات تتصدر المشهد في جنيف: تعزيز البنية التحتية العالمية للقيمة الخضراء خلال منتدى القمة العالمية لمجتمع المعلومات WSIS 2026 وقمة “الذكاء الاصطناعي من أجل الخير” 2026

اخبار التقنية الجمعة 10 يوليو 2:36 م

فاراداي فيوتشر تعزز استراتيجيتها لروبوتات الذكاء الاصطناعي المتجسد (EAI) في الشرق الأوسط عبر تعاون استراتيجي مع شركاء المنظومة المحلية في دولة الإمارات ودول مجلس التعاون الخليجي

اخبار التقنية الثلاثاء 07 يوليو 1:18 م

فاراداي فيوتشر تكشف عن المرحلة الثانية من عالم FF EAI Robot World وتطلق روبوتاً بشرياً جديداً ومنظومة روبوتات صناعية متكاملة

اخبار التقنية الأربعاء 24 يونيو 2:20 م
اترك تعليقاً
اترك تعليقاً إلغاء الرد

خدمة الإشعارات البريدية

اشترك معنا في خدمة النشرة البريدية ليصلك اخر الاخبار المحلية والعالمية مباشرة الى بريدك الإلكتروني.

اخر الاخبار

CNTXT AI تتعهد باستثمار أكثر من 180 مليون درهم في تطوير تقنيات الذكاء الاصطناعي وتدريب الروبوتات

الخميس 19 نوفمبر 8:28 م

vivo X Fold6 حين تنفتح آفاق جديدة

الجمعة 30 أكتوبر 9:26 م

“ﺛروة” و”ﻛرﯾم ﺑﺎﯾك” ﺗطﻠﻘﺎن ﺣﻣﻠﺔ »ﺣرّك أﻣواﻟك« ﻓﻲ دﺑﻲ

الجمعة 30 أكتوبر 8:23 م

«فاراداي فيوتشر» تعلن إتمام استحواذ «FFR» على أعمال الروبوتات وتأسيس منصة مدرجة في «ناسداك».. وتوقعات بتجاوز مبيعات أكتوبر 300 روبوت والكشف عن «FF OmniMind»

الخميس 29 أكتوبر 1:31 م

GAC تعرض مجموعة متنوعة من المركبات في معرض كانتون، وتعزز خطتها العالمية في إطار الانفتاح رفيع المستوى

الأربعاء 28 أكتوبر 1:28 م

صحيفة العرب تربيون هي صحيفة يومية عربية تهتم بآخر اخبار المملكة العربية السعودية والخليج العربي والشرق الأوسط والعالم. تابع معنا اخر اخبار الاقتصاد والرياضة والسياسة واهم القضايا التي تهم المواطن العربي.

فيسبوك X (Twitter) الانستغرام يوتيوب
اهم الأقسام
  • اقتصاد
  • تكنولوجيا
  • ثقافة وفن
  • دولي
  • رياضة
  • صحة وجمال
  • منوعات
روابط هامة
  • اخر الاخبار
  • فيديو
  • عاجل الآن
  • الشروط والأحكام
  • عن الشركة
  • تواصل معنا
  • النشرة البريدية

خدمة الإشعارات البريدية

اشترك معنا في خدمة النشرة البريدية ليصلك اخر الاخبار المحلية والعالمية مباشرة الى بريدك الإلكتروني.

2026 © صوت الإمارات. جميع حقوق النشر محفوظة.
  • من نحن
  • سياسة الخصوصية
  • اعلن معنا
  • اتصل بنا

اكتب كلمة البحث ثم اضغط على زر Enter