بررسی رتبهدهی ارزیابان آزمونهای عملکردی سراسری (طراحی صنعتی، شناخت موسیقی، نمایش عروسکی، طراحی معماری و اسکیس معماری) بر اساس روش های کلاسیک و مدل های چندوجهی راش
نویسندگان
1 استادیار دانشکده روانشناسی و علوم تربیتی، دانشگاه خوارزمی، تهران، ایران.
2 کارشناس ارشد تحقیقات آموزشی، دانشگاه خوارزمی، تهران، ایران
doi
10.22034/emes.2023.528161.2244چکیده
هدف: پژوهش حاضر به منظور بررسی میزان جدیت/تساهل و گرایش به مرکز ارزیابان در نمرهگذاری آزمونهای عملکردی سراسری سازمان سنجش انجام شد.روش پژوهش: برای این منظور از دادههای ثانویه آزمونهای طراحی معماری سالهای 1396 (5437 نفر)، اسکیس معماری 1397 (7459 نفر)، طراحی صنعتی سراسری سال 1396 (1365نفر)، موسیقی سال 1397 (569 نفر) و نمایش عروسکی سال 1397 (97 نفر) استفاده شد. دادهها با استفاده از روشهای کلاسیک و مدلهای چند وجهی راش تحلیل و نتایج استخراج شد.یافتهها: در هر دو آزمون طراحی معماری، در کل میزان همسانی (مطابقت نسبی بین درجهبندی ارزیابان) قابل قبول، ولی در آزمونهای طراحی صنعتی، شناخت موسیقی و نمایشنامهنویسی میزان همسانی پایین است. میزان اجماع (توافق) در هر پنج آزمون مورد بررسی نیز پایین است.نتیجهگیری: نتایج حاصل از مدلهای چندوجهی نشان داد اثر سختگیری ارزیاب و استفاده از نمرههای کرانهای پایین در نمرهگذاری، در هر دو آزمون طراحی معماری وجود داشت، ولی مطابق انتظار اثر گرایش به مرکز وجود نداشت. به دلیل استفاده از طرحهای جمعآوری دادههای نامناسب (مثلا در همه پاسخها یا تکالیف یک آزمون، هر داور فقط 2 مورد مجزا از هم را ارزیابی میکند و هیچ همپوشی بین موارد ارزیابی شده توسط ارزیابان وجود ندارد تا با هم به صورت درست مقایسه شوند یا این که در یک آزمون هر تکلیف یا سوال توسط داوران متفاوت ارزیابی میشود) در آزمونهای طراحی صنعتی، شناخت موسیقی و نمایشنامه نویسی امکان تحلیل با مدلهای چندوجهی وجود نداشت. با توجه به یافتهها توصیه میشود به هنگام ارزیابی آزمونهای عملکردی سراسری، اولا از طرح مناسب برای ارزیابی استفاده شود و دوما با آموزش ارزیابان در زمینه نمرهگذاری آزمونهای عملکردی از تاثیر عواملی مثل جدیت یا تساهل و کاهش توافق جلوگیری به عمل آید.