کارمند مایکروسافت علیه OpenAI افشاگری می‌کند
تاریخ انتشار: ۱۱ بهمن ۱۴۰۲ | کد خبر: ۳۹۶۴۶۷۱۷
ایتنا - تیم حقوقی مایکروسافت مهندسی که شکافی را در محصول DALL-E3 اوپن ای آی یافته بود به زور ساکت کردند و او اکنون می خواهد افشاگری کند.
یک مدیر مایکروسافت مدعی است محصول DALL-E3 شرکت اوپن ای آی شکاف های امنیتی دارد که به کاربران اجازه می دهد تصاویر خشن یا مخرب تولید کنند. نشریه «گیک وایر» در گزارشی اعلام کرده تیم حقوقی مایکروسافت، از تلاش های شین جونز رهبر مهندسی مایکروسافت برای هشدار به مردم درباره این شکاف جلوگیری کرده است.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
به گزارش ایتنا از مهر، جونز در نامه ای پتی موری، ماریا کانتول، آدام اسمیت سناتورهای آمریکایی و همچنین باب فرگوسن دادستان کل ایالت واشنگتن نوشته است: من به این نتیجه رسیدم کهDALL-E3 ریسکی برای ایمنی عومی است و تا زمانیکه اوپن ای آی چالش های مرتبط با این مدل را برطرف نکرده، نباید برای استفاده عمومی ارائه شود.
وی در اوایل دسامبر 2023 کشف کرد یک شکاف به او اجازه می دهد دستورالعمل امنیتی DALL-E3 را دور بزند. جونز مدعی است مشکل را به مدیران خود در مایکروسافت گزارش داده و آنها به او دستور داده اند تا شخصا این اختلال را به طور مستقیم به اوپن ای آی گزارش دهد. پس از این اقدام وی متوجه شد شکاف مذکور در DALL-E3 اجازه تولید تصاویر خشن و مخرب را می دهد.
در مرحله بعد این مهندس سعی کرد اختلال کشف شده را در یک پست لینکدین به طور عمومی فاش کند. او در این باره در نامه اش نوشته است: صبح 14 دسامبر 2023 میلادی من به طور عمومی نامه ای به هیات مدیره اوپن ای آی در لینکدین منتشر کردم و از آنها خواستم تا DALL-E3 را تعلیق کنند زیرا مایکروسافت یکی از اعضای هیات نظارت در اوپن ای آی است و من قبلا نگرانی هایم را با تیم رهبری مطرح کردم. من مایکروسافت را از نامه مذکور نیز مطلع کردم.
مایکروسافت در پاسخ به این اقدام از وی خواست پستش را حذف کند. او در بخش دیگری نوشته است: مدت کوتاهی پس از فاش شدن نامه به تیم رهبری ام، مدیرم با من تماس گرفت و گفت بخش حقوقی مایکروسافت خواستار حذف پست شده است. او به من گفت تیم حقوقی شرکت توجیهات خاص خود برای حذف نامه را به زودی در یک ایمیل برای من ارسال می کنند و من باید بدون انتظار برای دریافت ایمیل مذکور پست را حذف کنم.
هرچند جونز از این دستور پیروی کرد اما هیچ گاه توضیحاتی از تیم حقوقی مایکروسافت دریافت نکرده است. او بعدا تلاش می کند تا اطلاعاتی در این باره از تیم حقوقی به دست آورد اما مورد غفلت واقع می شود.
سخنگوی اوپن ای آی در نامه ای به انگجت نوشته است: ما پس از دریافت گزارش کارمند مایکروسافت، به سرعت موضوع را بررسی کردیم و مطمئن شدیم تکنیکی که او به اشتراک گذاشته سیستم های ایمنی ما را دور نمی زند. ایمنی اولویت اصلی ما است و ما رویکردی چند جانبه در این زمینه در پیش گرفته ایم.
منبع: ايتنا
کلیدواژه: مایکروسافت OpenAI حقوقی مایکروسافت اوپن ای آی تیم حقوقی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.itna.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۶۴۶۷۱۷ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
هزینه‌ها کلانی که هوش مصنوعی روی دست مایکروسافت می‌گذارد
ایتنا - ساتیا نادلا، مدیرعامل مایکروسافت در این بیانیه گفت که دستیار هوش مصنوعی Copilot (کوپایلوت) تعداد مشترکین پولی خود را در این سه ماهه 35 درصد افزایش داد و به 1.8 میلیون نفر رساند.
مایکروسافت فعلا تصمیم ندارد هزینه‌های هوش مصنوعی خود را کاهش دهد. این غول فناوری درباره درآمد سه ماهه سوم خود اعلام کرد که به دلیل رشد تقاضا و افزایش میانگین هزینه در پلتفرم ابری خود، Azure، به سرمایه گذاری در هوش مصنوعی و خدمات ابری ادامه خواهد داد.
امی هود، مدیر ارشد مالی مایکروسافت، در این تماس گفت که مخارج سرمایه‌ای (آنچه یک شرکت برای خرید یا نگهداری دارایی‌ها خرج می‌کند) افزایش خواهد یافت. هود گفت: در حال حاضر، تقاضای کوتاه‌مدت هوش مصنوعی کمی بالاتر از ظرفیت موجود ما است.
این شرکت در سه ماهه سوم نزدیک به 11 میلیارد دلار برای اموال و تجهیزات هزینه کرده است که 66 درصد بیشتر از هزینه‌ای است که در مدت مشابه یک سال قبل خرج کرده بود.
طبق بیانیه درآمد مایکروسافت در سه ماهه سوم از محصولات ابری خود، از جمله Azure (آزور)، 26.7 میلیارد دلار درآمد کسب کرده است. ساتیا نادلا، مدیرعامل این شرکت در این بیانیه گفت که دستیار هوش مصنوعی Copilot (کوپایلوت) تعداد مشترکین پولی خود را در این سه ماهه 35 درصد افزایش داد و به 1.8 میلیون نفر رساند.
درآمد بیشتر از حد انتظار مایکروسافت باعث شد سهام در معاملات بعد از ساعت 4 درصد افزایش یابد. هم درآمد و هم سود هر سهم از برآوردهای وال استریت پیشی گرفت.
برنامه‌های این شرکت برای هزینه‌های بیشتر به دنبال سایر تعهدات بزرگ برای توسعه هوش مصنوعی است. این شرکت قصد دارد تا پایان سال به 1.8 میلیون تراشه هوش مصنوعی دست یابد و ظرفیت مرکز داده خود را افزایش دهد.
تمایل مایکروسافت به هوش مصنوعی و مدل‌های پایه، نیاز به مراکز داده بیشتر، از جمله شریک مایکروسافت OpenAI، سازنده ChatGPT و GPT-4 را افزایش می‌دهد. مدل‌های هوش مصنوعی باید روی کوه‌هایی از داده آموزش ببینند، که به هزاران واحد پردازش گرافیکی تولید شده توسط شرکت‌هایی مانند Nvidia نیاز دارد. مایکروسافت در حال طراحی تراشه های خود برای کاهش اتکای خود به Nvidia است.
جاده کندوان یک طرفه شد