گوگل از هوش مصنوعی برای کشف بهتر جستجوهای افراد در بحران استفاده می کند


در بحران های شخصی، بسیاری از مردم به یک منبع پشتیبانی غیرشخصی روی می آورند: گوگل. این شرکت هر روز در مورد موضوعاتی مانند خودکشی، تجاوز جنسی و خشونت خانگی تحقیق می کند. اما گوگل می‌خواهد کارهای بیشتری برای هدایت افراد به اطلاعات مورد نیازشان انجام دهد و می‌گوید تکنیک‌های جدید هوش مصنوعی که پیچیدگی‌های زبان را بهتر تجزیه و تحلیل می‌کنند، کمک می‌کنند.

به طور خاص، گوگل در حال ادغام آخرین مدل یادگیری ماشینی خود، MUM، در موتور جستجوی خود است تا “گستره وسیع تری از جستجوهای بحران شخصی سازی شده را با دقت بیشتری کشف کند.” این شرکت سال گذشته در کنفرانس IO از MUM پرده برداری کرد و از آن زمان از آن برای تقویت جستجو با ویژگی هایی استفاده کرده است که سعی در پاسخگویی به سوالات مرتبط با جستجوی اصلی دارد.

آن مریت، مدیر محصول گوگل برای سلامت و کیفیت اطلاعات، می‌گوید در این مورد، MUM قادر خواهد بود جست‌وجوهای مربوط به موقعیت‌های شخصی چالش برانگیز را که ابزارهای جستجوی قبلی قادر به شناسایی آن‌ها نبودند، شناسایی کند.

مریت گفت: “MUM می تواند به ما کمک کند تا سوالات طولانی تر یا پیچیده تری مانند “چرا وقتی گفتم دوستش ندارم به من حمله کرد” را درک کنیم؟ لبه. “ممکن است برای انسان ها واضح باشد که این پرس و جو مربوط به خشونت خانگی است، اما برای سیستم های ما دشوار است که سوالات طولانی زبان طبیعی مانند این را بدون استفاده از هوش مصنوعی پیشرفته درک کنند.”

نمونه‌های دیگر از پرسش‌هایی که MUM می‌تواند با آنها تعامل داشته باشد عبارتند از: «متداول‌ترین روش‌های تکمیل خودکشی» (تحقیق مریت می‌گوید سیستم‌های قبلی «ممکن است قبلاً به عنوان جستجوی اطلاعات شناخته شده باشند») و «نقاط داغ خودکشی در سیدنی» (جایی که، دوباره، قبلی پاسخ‌ها احتمالاً اطلاعات سفر را بازگردانده‌اند – با نادیده گرفتن ذکر «خودکشی» به نفع درخواست محبوب‌تر در «نقاط داغ»). وقتی گوگل این جستجوهای بحرانی را تشخیص می‌دهد، با یک جعبه اطلاعات پاسخ می‌دهد که به کاربران می‌گوید «کمک در دسترس است»، معمولاً با شماره تلفن یا وب‌سایت یک موسسه خیریه سلامت روان مانند سامریان همراه است.

علاوه بر استفاده از MUM برای پاسخگویی به بحران‌های شخصی، گوگل می‌گوید از یک مدل قدیمی‌تر زبان هوش مصنوعی، BERT نیز استفاده می‌کند تا جستجوهایی را که به دنبال محتوای صریح مانند پورنوگرافی هستند، تشخیص دهد. با استفاده از BERT، گوگل می گوید که نتایج شوک غیرمنتظره را تا ۳۰ درصد نسبت به سال گذشته کاهش داده است. با این حال، این شرکت نتوانست اعداد مطلق را برای تعداد «نتایج تکان دهنده» که کاربرانش به طور متوسط ​​با آن مواجه می‌شوند به اشتراک بگذارد، بنابراین اگرچه این یک پیشرفت نسبی است، اما هیچ نشانه‌ای از بزرگ یا کوچک بودن مشکل را نشان نمی‌دهد.

گوگل مشتاق است به شما بگوید که هوش مصنوعی به این شرکت کمک می کند محصولات جستجوی خود را بهبود بخشد – به خصوص در زمانی که این تصور سازنده وجود دارد که “جستجوی Google در حال مرگ است”. اما استفاده از این فناوری با معایب خود نیز همراه است.

بسیاری از کارشناسان هوش مصنوعی هشدار می‌دهند که استفاده روزافزون گوگل از مدل‌های زبان یادگیری ماشینی ممکن است مشکلات جدیدی برای این شرکت ایجاد کند، مانند معرفی سوگیری‌ها و اطلاعات نادرست در نتایج جستجو. سیستم‌های هوش مصنوعی نیز غیرشفاف هستند و به مهندسان بینش محدودی در مورد چگونگی رسیدن به نتایج معین ارائه می‌دهند.

برای مثال، وقتی از Google پرسیدیم که چگونه عبارات جستجوی شناسایی شده توسط MUM مرتبط با بحران‌های شخصی را از قبل بررسی کند، نمایندگان آن یا مایل نبودند یا قادر به پاسخگویی نبودند. این شرکت می‌گوید که تغییرات محصولات جستجوی خود را با استفاده از ارزیابی‌کننده‌های انسانی به‌طور کامل آزمایش می‌کند، اما این مانند فهمیدن اینکه سیستم هوش مصنوعی شما چگونه از قبل به سؤالات خاص پاسخ می‌دهد نیست. برای گوگل، چنین مبادلاتی ارزشش را دارد.