تطوير "كاشف كذب" للذكاء الاصطناعي
للعلّم -
طور علماء من معهد ماساتشوستس للتكنولوجيا (MIT) برنامجًا يعمل كـ"كاشف كذب" للذكاء الاصطناعي، حيث يُجبر الأنظمة على الإبلاغ بصدق عن شكوكها أو عدم تأكدها من المعلومات التي تقدمها.
وأطلق هؤلاء الخبراء شركة ناشئة لتدريب أنظمة الذكاء الاصطناعي على التعرف على حدود معرفتها، مع إمكانية إلغاء القرارات غير الموثوق بها تلقائيًا.
تعتمد المنصة المطورة على تقييم موثوقية استنتاجات الذكاء الاصطناعي بشكل فوري، مما يساعد في تقليل الأخطاء في مجالات حساسة مثل الصيدلة، والاتصالات، والقيادة الذاتية للسيارات.
شركة Themis AI طورت منصة تدعى "كابسا" (Capsa)، تدعم نماذج تعلم الآلة المختلفة، بما في ذلك النماذج اللغوية الكبيرة مثل ChatGPT. تقوم المنصة بتحليل بيانات الذكاء الاصطناعي للكشف عن مؤشرات الشك أو التحيز أو نقص البيانات. فعلى سبيل المثال، إذا استند النموذج إلى بيانات غير كافية في تنبؤاته، تصنف "كابسا" هذه التنبؤات كغير موثوقة وتوصي بإجراء تعديلات.
في قطاع الأدوية، تتحقق المنصة من مدى استناد التنبؤات إلى بيانات فعلية وتفرقها عن التخمينات. وتتميز بسرعة معالجة عالية لا تتجاوز أجزاء من الثانية، مما يجعلها مناسبة حتى للعمل على أجهزة الهواتف الذكية.
حالياً، تُستخدم هذه التقنية في شركات الاتصالات لأتمتة الشبكات، وفي شركات النفط والغاز لتحليل الصور الزلزالية، وكذلك في شركات الأدوية للتنبؤ بخصائص الأدوية.
تُسهم هذه التقنية في زيادة أمان الذكاء الاصطناعي وتعزيز شفافيته وثقة المستخدمين به.
طور علماء من معهد ماساتشوستس للتكنولوجيا (MIT) برنامجًا يعمل كـ"كاشف كذب" للذكاء الاصطناعي، حيث يُجبر الأنظمة على الإبلاغ بصدق عن شكوكها أو عدم تأكدها من المعلومات التي تقدمها.
وأطلق هؤلاء الخبراء شركة ناشئة لتدريب أنظمة الذكاء الاصطناعي على التعرف على حدود معرفتها، مع إمكانية إلغاء القرارات غير الموثوق بها تلقائيًا.
تعتمد المنصة المطورة على تقييم موثوقية استنتاجات الذكاء الاصطناعي بشكل فوري، مما يساعد في تقليل الأخطاء في مجالات حساسة مثل الصيدلة، والاتصالات، والقيادة الذاتية للسيارات.
شركة Themis AI طورت منصة تدعى "كابسا" (Capsa)، تدعم نماذج تعلم الآلة المختلفة، بما في ذلك النماذج اللغوية الكبيرة مثل ChatGPT. تقوم المنصة بتحليل بيانات الذكاء الاصطناعي للكشف عن مؤشرات الشك أو التحيز أو نقص البيانات. فعلى سبيل المثال، إذا استند النموذج إلى بيانات غير كافية في تنبؤاته، تصنف "كابسا" هذه التنبؤات كغير موثوقة وتوصي بإجراء تعديلات.
في قطاع الأدوية، تتحقق المنصة من مدى استناد التنبؤات إلى بيانات فعلية وتفرقها عن التخمينات. وتتميز بسرعة معالجة عالية لا تتجاوز أجزاء من الثانية، مما يجعلها مناسبة حتى للعمل على أجهزة الهواتف الذكية.
حالياً، تُستخدم هذه التقنية في شركات الاتصالات لأتمتة الشبكات، وفي شركات النفط والغاز لتحليل الصور الزلزالية، وكذلك في شركات الأدوية للتنبؤ بخصائص الأدوية.
تُسهم هذه التقنية في زيادة أمان الذكاء الاصطناعي وتعزيز شفافيته وثقة المستخدمين به.