روشی برای بازیابی اطلاعات از دادههای گمشده با استفاده از تکنیکهای دادهکاوی و الگوریتم ژنتیک
نویسندگان
1 استادیار، پژوهشگاه ارتباطات و فناوری اطلاعات، تهران، ایران؛
2 استادیار گروه مهندسی کامپیوتر، دانشکده مهندسی، دانشگاه بزرگمهر قائنات، قائنات، ایران.
doi
10.22091/stim.2024.10668.2092چکیده
هدف: در ادبیات آماری، اصطلاحات مختلف و غالباً مترادفی برای مفهوم دادههای گمشده وجود دارد. این اصطلاحات عبارتند از دادههای گمشده، دادههای از دست رفته، دادههای ناقص، و دادههای بیپاسخ. در آمار، دادههای گمشده یا مقدارهای گمشده زمانی رخ میدهند که هیچ مقدار دادهای برای یک متغیر در یک مشاهده ذخیره نشده باشد. دادههااغلب در تحقیقات اقتصادی، جامعهشناسی، و علوم سیاسی از بین میروند، زیرا دولت یا نهادهای خصوصی ممکن است گزارشهای حساس را ناقص ارائه دهند، یا ممکن است برخی از افراد شرکتکننده در مطالعه از ادامۀ همکاری انصراف دهند، یا از پاسخ دادن به برخی از سؤالات اجتناب کنند، یا محققین، تکنسینها، و جمعآوریکنندههای دادهها ممکن است اشتباهاتی را انجام دهند که منجر به گمشدن دادهها شود. دادههای گمشده میتوانند باعث ایجاد اغتشاش در توزیع متغیر شوند، یعنی میتوانند باعث بیشبرازش یا کمبرازش مدلها شوند. دادههای گمشده میتوانند باعث یک سوگیری (اریبی) در مجموعه داده شوند و تجزیه و تحلیل آماری را بهسوی نتایج اریب سوق داده و نهایتاً دستیابی به یک نتیجهگیری مفید از دادههای جمعآوری شده را با مشکل مواجه سازند و میتوانند منجر به تجزیهوتحلیل نادرست مدل شوند. پیش از این، برای غلبه بر مشکل دادههای گمشده مرسومترین روش، حذف دادههای گمشده بود که منجر به دادههایی با کیفیت پایین و به تبع آن تحلیل و استخراج نتایج دارای سوگیری میشد. امروزه با پیشرفتهای علمی در حوزههای گوناگون و پیدایش روشهای توانمند آماری، میتوان پیش از مدلسازی دادههای ناکامل، مقادیر گمشده را با مقادیر مناسب جایگذاری یا برآورد کرد. با توجه به اهمیت گفته شدۀ در موضوع مواجهه و مدیریت دادههای گمشده، پژوهش حاضر با هدف ارائۀ روشی برای بهبود دقت بازیابی اطلاعات و دانش از دادههای گمشده انجام شده است.روش: در روش پیشنهادی از تکنیکهای دادهکاوی شامل خوشهبندی و رگرسیون، و همچنین از الگوریتمهای مکاشفهای شامل الگوریتم ژنتیک استفاده شده است. در روشهای موجود، برای جایگزینی دادۀ از دست رفته، از کل مجموعه داده استفاده میشود. این موضوع سبب در نظر گرفتن رکوردهای غیر مشابه رکورد مربوط به دادۀ از دست رفته خواهد شد. لذا منجر به نتایج اشتباه خواهد شد. در الگوریتم پیشنهادی، از خوشهبندی برای شناسایی رکوردهای مشابه استفاده شده است. سپس، برای هر خوشه، میزان دادههای گمشدۀ هر صفت (ستون) از مجموعه داده محاسبه شده است. بر اساس میزان دادۀ از دست رفته، از مدل رگرسیون یا از الگوریتم ژنتیک برای بازیابی اطلاعات از دست رفته استفاده شده است.یافتهها: نتایج پیادهسازی روش پیشنهادی بر روی یک مجموعه داده که حاوی دادههای گمشده به صورت تصادفی بودند نشان داد میزان خطای الگوریتم پیشنهادی برابر 27 درصد است که نسبت به روش استفاده از میانگین، میانه؛ و مد که دارای خطای 56.5 درصد، و روش استفاده از رگرسیون که دارای خطای 34.6 درصد، و روش ماشین بردار پشتیبان (SVM) که دارای خطای 42.1 درصد بود، دقت بالاتری در جانهی دادههای گمشده داشته است.نتیجهگیری: در روشهای موجود، برای جایگزینی دادۀ از دست رفته، از کل مجموعه داده استفاده میشود. این موضوع سبب در نظر گرفتن رکوردهای غیر مشابه رکورد مربوط به دادۀ از دست رفته خواهد شد. لذا منجر به نتایج اشتباه خواهد شد. در الگوریتم پیشنهادی، از خوشهبندی برای شناسایی رکوردهای مشابه، و محاسبۀ دادۀ از دست رفته بر اساس رکوردهای مشابه موجود در خوشه، استفاده شده است. همچنین، در الگوریتم پیشنهادی، حذف دادههای پرت، تعیین تعداد خوشههای بهینه و غیره در نظر گرفته شده است. این موضوع سبب خواهد شد، دادههای غیرعادی تأثیری در محاسبۀ دادههای از دست رفته نداشته باشند. در الگوریتم پیشنهادی، برای هر خوشه، صفاتی (ستونها) که بیش از یک سوم دادۀ از دست رفته دارند، حذف میشوند. این موضوع سبب جلوگیری از تأثیر دادههای غیرقابل اطمینان در محاسبۀ دادههای از دست رفته خواهد شد. همچنین، از مدل رگرسیون در خوشه استفاده میشود که سبب میشود در محاسبۀ دادههای از دست رفته، فیلدهای مربوط در صفات (ستونهای) دیگر نیز در نظر گرفته شوند. استفاده از الگوریتم ژنتیک در روش پیشنهادی، که منجر به استفادۀ تلفیقی از میانگین، میانه، مد، و مدل رگرسیون میشود، سبب دستیابی به نتایج قابل قبولتری خواهد شد.