مهندس نرم‌افزار می‌گوید OpenClaw صدها پیام هرزنامه ارسال کرده است

کریس بوید پس از یک طوفان برف در خانه‌اش در کارولینای شمالی گیر افتاده بود که تصمیم گرفت ابزار AI Agent به نام OpenClaw را امتحان کند. او فکر می‌کرد این ابزار می‌تواند به سازماندهی صبح‌هایش کمک کند. او آن را طوری تنظیم کرد که هر روز ساعت ۰۵:۳۰ صبح خلاصه‌ای از اخبار را به صندوق ورودی‌اش ارسال کند. آن قسمت کار کرد. سپس به آن اجازه دسترسی به iMessage را داد.

درست بعد از آن، همه چیز از هم پاشید. OpenClaw مانند یک دیوانه شروع به ارسال پیام کرد. بیش از ۵۰۰ پیام به او، همسرش و حتی افراد تصادفی در لیست مخاطبین‌شان ارسال کرد. بوید نخندید.

او آن را خاموش کرد، کد را تغییر داد و گفت: "این باگ نداشت. خطرناک بود."

مهندس نرم‌افزار می‌گوید OpenClaw صدها پیام اسپم ارسال کرد

بوید این نرم‌افزار را "نیم‌پز" خواند و گفت به نظر می‌رسید چیزی است که بدون فکر زیاد به هم چسبانده شده. او خودش کد را وصله کرد تا از آسیب بیشتر جلوگیری کند. او تنها کسی نبود که در مورد این ابزار هشدار می‌داد.

این AI Agent که قبلاً Clawdbot و بعداً Moltbot نامیده می‌شد، از نوامبر شروع به جلب طرفداران کرد. می‌توانست کارهای ساده‌ای مانند پاک کردن صندوق ورودی، رزرو شام و چک-این برای پروازها انجام دهد. به ورودی انسانی زیادی نیاز نداشت. فقط اجرا می‌شد. این همان چیزی بود که آن را جالب می‌کرد. این همان چیزی بود که آن را خطرناک می‌کرد.

کاسیمیر شولتز در شرکتی به نام HiddenLayer کار می‌کند که روی امنیت AI تمرکز دارد. کاسیمیر گفت OpenClaw نمونه کاملی از چیزی است که او آن را "سه‌گانه کشنده" می‌نامد.

به داده‌های خصوصی دسترسی دارد، می‌تواند با دنیای خارج ارتباط برقرار کند و می‌تواند محتوای ناشناخته را بخواند. این دستور کامل یک فاجعه است و OpenClaw همه آن‌ها را دارد.

یو شیائو، استاد علوم کامپیوتر در ویلیام و مری، گفت می‌توانید داده‌های کسی را از طریق OpenClaw با فریب دادن آن با چیزی به نام تزریق دستور بدزدید. این زمانی است که یک هکر دستورات را در چیزی پنهان می‌کند که شبیه یک پیام عادی به نظر می‌رسد. یو گفت این نوع فناوری درها را به روی انواع جدیدی از حملات باز می‌کند که بیشتر مردم برای آن‌ها آماده نیستند.

سازنده اعتراف می‌کند OpenClaw برای استفاده عمومی آماده نیست

پیتر اشتاین‌برگر، که OpenClaw را ساخته، گفت پروژه تمام نشده است. او در ایمیلی به بلومبرگ گفت: "به سادگی هنوز تمام نشده، اما داریم به آن می‌رسیم."

پیتر گفت چون منبع باز است، هر کسی می‌تواند کد را ببیند و روی آن کار کند. او گفت پیشرفت در حال انجام است، اما هنوز برای کاربران روزمره آماده نیست.

پیتر فکر نمی‌کرد انتشار خیلی زود اتفاق افتاده. او گفت همه چیز را به صورت آشکار می‌سازد و معتقد نیست باید تا کامل شدن صبر کرد. او همچنین گفت که بسیاری از مشکلات ناشی از خواندن دستورالعمل‌های راه‌اندازی توسط کاربران است.

پیتر روشن کرد که امنیت ۱۰۰ درصدی هنگام استفاده از مدل‌های زبانی بزرگ وجود ندارد. او گفت OpenClaw برای افرادی است که می‌دانند چه کاری انجام می‌دهند و خطرات را درک می‌کنند.

او همچنین گفت تزریق دستور فقط مشکل ابزار او نیست. او آن را مشکلی خواند که در همه جای دنیای AI وجود دارد. پیتر گفت یک متخصص امنیتی را آورده تا به رفع مشکلات کمک کند و OpenClaw را امن‌تر کند.

کارشناسان می‌گویند AI Agent ها سریع‌تر از آنچه امنیت بتواند به آن‌ها برسد، در حال رشد هستند

در حالی که پیتر از نحوه ساخت OpenClaw دفاع می‌کند، کارشناسان دیگر می‌گویند کل روند AI Agent از کنترل خارج شده است. جاستین کاپوس، کارشناس امنیت سایبری و استاد در NYU، گفت کنترل این ابزارها پس از اجرا دشوار است.

جاستین گفت: "ما نمی‌فهمیم چرا آن‌ها کاری را که انجام می‌دهند، انجام می‌دهند." او دادن دسترسی به یک AI Agent به سیستم را با دادن چاقوی قصابی به دست یک کودک نوپا مقایسه کرد.

دنیای فناوری برای راه‌اندازی ابزارهای جدید عجله دارد. Claude Code شرکت Anthropic تنها در شش ماه به سرعت درآمدی یک میلیارد دلاری رسید.

در همین حال، افرادی که سعی می‌کنند این ابزارها را ایمن نگه دارند هنوز در حال فهمیدن اصول اولیه هستند. جاستین گفت شرکت‌ها بدون توقف به‌روزرسانی منتشر می‌کنند و تیم‌های امنیتی نمی‌توانند همگام شوند.

مایکل فریمن در Armis، یک شرکت امنیت سایبری، گفت OpenClaw بدون هیچ برنامه امنیتی واقعی به هم چسبانده شده. او گفت برخی از مشتریان Armis قبلاً توسط نقض‌های امنیتی OpenClaw آسیب دیده‌اند، اما جزئیات را به اشتراک نگذاشت. مایکل گفت شرکت‌ها مجبور خواهند شد اگر بخواهند از ابزارهای AI مانند OpenClaw استفاده کنند، مقداری کنترل را از دست بدهند.

در حال حاضر، سؤال این است که آیا مردم بعد از این فاجعه همچنان از OpenClaw استفاده خواهند کرد. این ابزار طرفدارانی دارد، اما حتی آن افراد متوجه می‌شوند که آزادی بدون امنیت یک مشکل است. و مگر اینکه سریع تغییراتی ایجاد شود، OpenClaw ممکن است به آخرین نمونه‌ای از فناوری تبدیل شود که خیلی از خودش جلوتر رفته است.

پروژه خود را در مقابل برترین ذهن‌های کریپتو می‌خواهید؟ آن را در گزارش بعدی صنعت ما نمایش دهید، جایی که داده‌ها با تأثیر ملاقات می‌کنند.