صدها سرور سازنده مدل زبان بزرگ منبع باز (LLM) و ده ها پایگاه داده برداری اطلاعات بسیار حساسی را به وب باز منتشر می کنند.
از آنجایی که شرکتها عجله دارند تا هوش مصنوعی را در جریان کار تجاری خود ادغام کنند، گاهی اوقات به نحوه ایمن کردن این ابزارها و اطلاعاتی که به آنها اعتماد دارند توجه کافی نمیکنند. در گزارشی جدید، محقق امنیت Legit، نفتالی دویچ، با اسکن وب برای دو نوع سرویس های هوش مصنوعی منبع باز (OSS) بالقوه آسیب پذیر: پایگاه های داده برداری – که داده ها را برای ابزارهای هوش مصنوعی ذخیره می کند – و سازندگان برنامه های کاربردی LLM – به طور خاص، برنامه متن باز Flowise. تحقیقات حفره ای را کشف کرد داده های شخصی و شرکتی حساس، ناخودآگاه توسط سازمان هایی که برای ورود به انقلاب مولد هوش مصنوعی دست و پا می زنند، در معرض دید قرار می گیرد.
دویچ می گوید: “بسیاری از برنامه نویسان این ابزارها را در اینترنت می بینند، سپس سعی می کنند آنها را در محیط خود راه اندازی کنند.”، اما همان برنامه نویسان ملاحظات امنیتی را پشت سر گذاشته اند.
صدها سرور Flowise وصله نشده
Flowise یک ابزار کم کد برای ساخت انواع برنامه های LLM است. این توسط Y Combinator پشتیبانی میشود و دهها هزار ستاره در GitHub دارد.
برنامههایی که توسعهدهندگان با Flowise میسازند، خواه یک ربات پشتیبانی مشتری باشد یا ابزاری برای تولید و استخراج دادهها برای برنامهنویسی پایین دستی و سایر وظایف، تمایل دارند به مقادیر زیادی داده دسترسی داشته باشند و آن را مدیریت کنند. پس جای تعجب نیست که اکثر سرورهای Flowise با رمز عبور محافظت می شوند.
با این حال، رمز عبور به اندازه کافی امنیت ندارد…
ادامه این مقاله را در سایت خواهر ما دارک ریدینگ بخوانید.