مدل نوین هوش مصنوعی قادر است روش‌های مدیریت محتوای رسانه‌های اجتماعی را متحول کند
هدف این شرکت این است که مدل بتواند یک سیاست محتوایی نوشته‌شده به زبان ساده انگلیسی را بر روی پیام‌های کاربران پیاده‌سازی کند و نتیجه را در کمتر از ۵۰ میلی‌ثانیه ارائه دهد. Musubi بیان می‌کند که PolicyLM-1.7B از نظر سرعت و هزینه می‌تواند با سیستم‌های طبقه‌بندی هوش مصنوعی موجود در بسیاری از پلتفرم‌های اجتماعی رقابت کند.
ویژگی بارز این مدل در مقایسه با سیستم‌های سنتی، انعطاف‌پذیری آن است. PolicyLM-1.7B با استفاده از ظرفیت‌های معماری مدل‌های زبانی بزرگ می‌تواند سیاست‌های محتوایی پیچیده را بدون نیاز به آموزش جداگانه برای هر سیاست به اجرا درآورد.
تغییر سیاست، بدون نیاز به آموزش دوباره مدل
یکی از ویژگی‌های بارز این رویکرد این است که تغییر قوانین یک پلتفرم به‌طور خودکار به معنای نیاز به آموزش دوباره مدل نیست. مدیران قادرند سیاست محتوایی را تغییر دهند و مدل به‌راحتی می‌تواند همان دستورالعمل جدید را برای بررسی محتوا به کار گیرد.
این قابلیت برای پلتفرم‌هایی که قوانین محتوایی آن‌ها به‌طور مداوم در حال تغییر است، بسیار حیاتی است. به‌عنوان مثال، یک شبکه اجتماعی ممکن است بخواهد تعریف خود از محتوای نامناسب، توهین‌آمیز یا ناقض قوانین را تغییر دهد. در یک سیستم سنتی، چنین تغییرات می‌تواند مستلزم تنظیم یا آموزش مجدد مدل باشد، ولی رویکرد Musubi تلاشی می‌کند تا این فرآیند را ساده‌تر و سریع‌تر نماید.
فیلیپ یانکوویچ، یکی از بنیان‌گذاران و مدیر ارشد هوش مصنوعی Musubi، بر این باور است که این فناوری می‌تواند به مدیران پلتفرم‌ها کمک کند تا درکی دقیق‌تر از محتوای منتشرشده در سرویس‌های خود داشته باشند.
او می‌گوید که تیم‌های محصول به‌دنبال فهم بهتر از وقایعی هستند که در پلتفرم‌هایشان اتفاق می‌افتد؛ به‌ویژه در شرایطی که حجم محتوا با سرعت زیادی در حال افزایش است. به عقیده او، قابلیت برچسب‌گذاری حجم زیادی از محتوا به روشی مقیاس‌پذیر و قابل تنظیم می‌تواند کاربردهای قابل توجهی را به دنبال داشته باشد.
مدل تصمیم‌گیری چیست؟
مدل‌های تصمیم‌گیری در چند ماه اخیر به یکی از مباحث کلیدی در زمینه هوش مصنوعی تبدیل شده‌اند. این مدل‌ها به‌جای تولید متن، احتمال یا نتیجه یک تصمیم مشخص را ارائه می‌دهند.
در خصوص PolicyLM-1.7B، خروجی مدل بسیار ساده‌تر است و می‌تواند یک قضاوت دودویی ارائه دهد؛ یعنی می‌تواند مشخص کند آیا محتوای مورد بررسی در یک دسته خاص قرار می‌گیرد یا خیر.
محدود کردن خروجی مدل به یک مجموعه مشخص از انتخاب‌ها، این امکان را فراهم می‌آورد که مدل‌های تصمیم‌گیری با سرعت و هزینه‌ای کمتر از مدل‌های زبانی بزرگ عمومی اجرا شوند، در حالی که همچنان از انعطاف‌پذیری معماری ترنسفورمر بهره‌مند هستند.
این ویژگی باعث شده است که مدل‌های تصمیم‌گیری در زمینه‌هایی که سرعت و هزینه اهمیت بالایی دارند، بیشتر مورد توجه قرار بگیرند.
از کنترل عوامل هوش مصنوعی تا مدیریت رفتار کاربران
یکی از کارکردهای اولیه مدل‌های تصمیم‌گیری، شناسایی و کنترل رفتارهای نامناسب عوامل هوش مصنوعی بوده است. بنابراین، استفاده از همین فناوری به‌منظور شناسایی رفتارهای نامناسب کاربران انسانی نیز چندان غیرمنتظره نیست.
با این حال، یانکوویچ می‌گوید علاقه Musubi به این مدل‌ها به موج اخیر توجه به آن‌ها محدود نمی‌شود. او به پروژه‌ای اشاره می‌کند که در سال ۲۰۲۴ با نام GLiNER تعریف شده بود؛ پروژه‌ای که برای شناسایی موجودیت‌های نام‌گذاری‌شده طراحی گردیده و از تکنیک‌های مشابهی بهره می‌برد.
Musubi هم‌اکنون تلاش می‌کند تا توجه ایجادشده حول مدل‌های تصمیم‌گیری را به مقوله مدیریت محتوا نیز گسترش دهد. این شرکت، PolicyLM-1.7B را به‌عنوان مدلی معرفی می‌کند که به‌طور خاص برای تعدیل محتوا آموزش داده شده و قابلیت اجرا برای کاربران را فراهم کرده است.
بر اساس گزارش Techcrunch، در صورت موفقیت این رویکرد، مدل‌های تصمیم‌گیری می‌توانند بخشی از فرآیند مدیریت محتوا را از سیستم‌های ثابت و کم‌انعطاف به ساختارهایی تبدیل نمایند که سیاست‌های آن‌ها به‌سرعت تغییر کرده و بدون نیاز به آموزش دوباره، با قوانین جدید پلتفرم‌ها سازگاری پیدا می‌کنند. البته دقت این مدل‌ها و نحوه عملکرد آن‌ها در مواجهه با سیاست‌های پیچیده و شرایط مرزی، از عناصر کلیدی در ارزیابی کاربرد عملی این فناوری به‌شمار خواهد رفت.
