作答时间过短的问卷该直接删除掉吗?

作者&投稿:冀甄 (若有异议请与网页底部的电邮联系)
~ 没错!如果你认为他们会影响你的研究结果,删掉就好了。

问卷调研作为用户研究方法中应用最为广泛的工具,如何设计有效的问卷并获取有效的数据是大多数研究人员工作内容的重要组成。一般而言,我们会假设问卷应答者会诚实有信地作答,并提供有效的研究数据。

当然没那么简单...因为回答问卷的奖励方式基本都是答题就给,所以也就造成了有部分用户会单纯为了奖励答卷,而不太注重答题的质量。这样的情况尤其容易发生在在线问卷调查的过程中。Jeff Sauro在其文章中指出平均每次调研中有 至少10%的应答者没有阅读调研问题 。

如何剔除这些无效的问卷? 研究者一般采用的方法有:

a) 反作弊问题:最简单的方式是设置两个相同的问题,但改变答案的顺序以判断应答者是否有不一致的回答;问卷太短而不适于设置两个问题,可以增加类似‘本题请选X’的问题,剔除没有阅读题目的被试数据。

b) 作答时间:通过记录用户的作答时间剔除用时过短的相关数据。

接下来,我们深入探讨一下作答时间与问卷质量的关系:

Respond Time = Mental Effort?

反应时间在心理学的应用要追溯到很久很久以前了...。不过基本上,都将反应时间视作个体在认知/行为过程中认知资源的投入指标。在同样的问题上投入更多认知资源的用户自然被认为更为认真和可靠;而对于用时过少的用户,就明显不是智商而是态度的问题了。Revilla & Ochoa(2014)的研究中也发现个体报告的主观努力与作答时间呈0.15的正相关。

这也是使用作答时间判断用户数据有没有效的基础依据。学界也有研究表明相对于使用回归分析等方法剔除异常值,以作答时间来判断无意义的数据更为便捷有效(Leiner,2013)。

除了认知资源的投入,还有什么影响作答时间?

网速、题目数量、问题的措辞等等环境因素当然也会影响到用户的作答时间。也有研究指出使用PC或手机也会导致用户的作答时间不一致(Callegaro, Baker & Bethlehem, 2014b)。不过在大多数研究中,几乎全部的应答者都受到影响,可以认为已经做了平衡处理。

在此之外,Yang & Tourangeau (2007)的研究表明应答者的受教育程度、年龄、网络使用经验都对个体的作答时间产生显著的影响:受教育程度低、年龄小、网络使用经验丰富的用户更容易成为‘超速作答者’。

Zhang & Conrad(2013)的研究更是指出了‘超速作答’可能是一种行为特质。即与问卷内容或奖励无关,‘超速作答者’就是比较回答问题超级快。(-_-)。值得欣慰的是,这些人在总人口中的占比也随着年龄的增长而减少。Yang & Tourangeau (2007)认为这是因为个体的工作记忆能力在成长的过程中逐渐衰弱了。

这些研究结果告诉我们:如果用户群体在年龄/文化水平/上网经验等方面分布较为广泛的时候,将作答时间过短的极端数据删除掉可能并不明智。

过短的作答时间真的会污染数据质量吗?

超速作答与问卷质量之间存在显著负相关(注意是相关而不是因果)。

通过分析1153份问卷结果,Greszki, Meyer & Schoen(2014)的研究表明用户的作答时间与四种答题行为呈显著的相关:

a) 跳过(No Answers):即不选择答案直接跳过,无疑会减少答题时间,与作答时间的为-0.21的相关;

b) ‘不知道’(Don’t Know):即只选类似于‘其他’等万能选项,与作答时间的为-0.21的相关;

c) 中庸选择(Middle Category):即不论问题如何,只选择中间的态度,与作答时间的为-0.05的相关;

d) 直线选择(Straightlining):即所有题目只选同样的答案,与作答时间的为-0.33的相关;在Zhang & Conrad(2013)的研究中也发现直线选择行为与超速作答者的比率呈现显著的正相关;

Revilla & Ochoa(2014)的研究通过更多的方式来判断数据质量(如同样的题目但回答不一致,简单选择的错误,对立的问题但回答无区分度等)。其研究结果发现用户的作答时间与数据质量之间呈-0.25的相关关系。

删除超速作答者的数据会影响整体数据吗?

不会!Greszki, Meyer & Schoen(2014)研究探讨了这一问题。通过计算问卷应答时间的中数,他们将超速作答者分为了三类:超速50%、40%、30%的用户。剔除这些应答者的数据都没有改变问卷的整体评估结果。

值得注意的是,这个研究里用剔除掉超速者后的数据与未剔除的结果相对比,所以这个结果如果反过来看:不删除这些数据对最后的研究发现也不会有影响(-_-) 看到这里的朋友们有没有一种‘你TMD的在逗我’的感觉。

你真的应该删除超速作答者的数据吗?

不要!如果你是处女座当然另议(噫~ 为什么我要黑处女... )

前文中已经提到过,用户的年龄、环境、使用的设备等因素均会显著影响其作答时间。如果施测的用户群体覆盖广泛的话,最好采用其它的指标(如直线回答)来判断数据的质量。

需要对‘超速’进行严格的定义。Greszki, Meyer & Schoen (2014)发现超速50%、40%、30%的用户分别有139、219、278人;即如果对超速的定义过于宽松,那你将不得不删去30%左右的数据。

最后,反正也没差,为什么要删掉他们啊。时间很多可以用来睡觉啊~~~

需要注意的是本文中参考的文章中研究的均 不是 在 用户研究中使用的量表或问卷 。

拓展阅读:

How speeders affect online research 中Jeff Sauro研究了在无人指导的可用性测试中,‘超速者’的数据对测试结果的影响。

Online Panel Research: A Data Quality Perspective是一本书,介绍了在线问卷调查的方方面面。本文中关于Callegaro等人的研究即源于此书。

Survey research on the Internet: Yes, timing does matter 研究了什么时候给用户推送问卷能够最大化应答率(星期三早上)。

参考文献

Callegaro, M., Baker, R., Bethlehem, J., Göritz, A. S., Krosnick, J. A., & Lavrakas, P. J. (2014). 16. An empirical test of the impact of smartphones on panel-based online data collection . Online Panel Research .

Greszki, R., Meyer, M., & Schoen, H. (2014).The Impact of Speeding on Data Quality in Nonprobability and Freshly Recruited Probability-based Online Panels. Online Panel Research: A Data Quality Perspective.

Leiner, D. J. (2013). Too fast, too straight, too weird: post hoc identification of meaningless data in internet surveys.Ssrn Electronic Journal.

Rahman, M., Wright, J. T., & Douglas, J. G.(2014). What are the links in a web survey among response time, quality, andauto-evaluation of the efforts done?. Social Science Computer Review, 33 (1), 97-114.

Yan, T., & Tourangeau, R. (2008). Fast timesand easy questions: the effects of age, experience and question complexity onweb survey response times. Applied Cognitive Psychology, 22 (1), 51–68.

Zhang, C., & Conrad, F. G. (2014). Speedingin web surveys: the tendency to answer very fast and its association with straightlining. Survey Research Methods,8 (2), 127-135.


作答时间过短的问卷该直接删除掉吗?
这些研究结果告诉我们:如果用户群体在年龄\/文化水平\/上网经验等方面分布较为广泛的时候,将作答时间过短的极端数据删除掉可能并不明智。过短的作答时间真的会污染数据质量吗?超速作答与问卷质量之间存在显著负相关(注意是相关而不是因果)。通过分析1153份问卷结果,Greszki, Meyer & Schoen(2014)的...

量表题都选一样的怎么筛选出无效
1、检查受试者的回答时间。如果受试者完成答题过程的时间过短,是因为他们没有认真作答,这样的数据应该被排除。2、检查受试者的问卷纪律性。如果受试者的回答流程不合理,或出现漏答、重复作答等情况,那么这些答案就会被认为是无效数据。3、检查量表本身的质量。如果量表本身存在问题,例如问题过于主观...

编制问卷时应尽量把问卷作答时间控制在多长时间
编制问卷时确实需要考虑受访者的时间和耐心,因此通常建议把问卷作答时间控制在10-20分钟之间。这个时间范围既可以保障问卷的有效性,又可以降低受访者的负担,提高问卷的回收率。以下是为什么要将问卷作答时间控制在10-20分钟之间的一些原因:1. 提高回收率: 如果问卷时间过长,受访者可能因为没有足够...

应对方式问卷评定的时间范围
首先,确定评定问卷的时间范围应该以研究目标为准。例如,如果你想知道某一特定群体在过去几年内的某项行为或事件的历史记录,那么你的时间范围应该是过去几年。如果你对他们的当前状态感兴趣,那么你需要使用当前的问卷。其次,考虑问卷目的和时间敏感性的匹配。如果问卷评定是为了采取即时行动,那么时间范围...

占用您几分钟的时间,帮小妹做一份调查问卷……O(∩_∩)O~
6.你是否与商户发生过摩擦?是□ 否□ 是 事后您做了相应的维权行动吗?嗯。是的。我打电话投诉那个人了0 0.7.你的手机是否出现过不明收费?→对此您有过什么作为?总是出现。一般都是到移动厅去问。知道有结果为止~~或者12315消费者维权- - 8.您知道有人为了1.10元电话费不惜打两个官司吗...

网络问卷调查数据高效处理与分析:方法与技巧
首先,数据的筛选如同筛选宝石,剔除那些无效或残缺的问卷。星链在线调查通过设置严格的标准,如排除回答时间过短、逻辑不通的问卷,确保每一份数据都承载真实价值。这不仅提升数据的可信度,也为后续的深度分析奠定了坚实的基础。分类与编码,构建数据框架 然后,根据研究目标,将数据分类,如基本信息、态度...

如何设计一份成功的调查问卷?
4.设定合理的回答时间:为参与者设定一个合理的回答时间,以便他们在规定的时间内完成问卷。过长或过短的回答时间都可能影响问卷的有效性。5.保持问卷匿名:为了获得真实、无偏见的反馈,确保问卷是匿名的。这将有助于提高参与者的诚实度和积极性。6.测试问卷:在正式发布问卷之前,对问卷进行预测试,以...

收奖网做调查的经验
第二:答题时间过短。每个问卷都有时间的,做调查的都明白。10分钟的问卷,你5分钟就提交,能符合要求吗?不扣你,那扣谁?控制时间很重要。 第三:逻辑问题。有时问题有相反的,而你的回答都一样。这个需要特别注意,很多人都是因为这样被筛选的。 陷阱这么多,目的只有一个:认真答题!通过收奖网...

关于设计调查问卷的说法正确的有?
问题的设计要客观、具体、通俗:问题的设计应该避免主观性和引导性,要尽客观。问题要具体明确,不要过于笼统或含糊不清。用词要通俗易懂,避免使用专业术语或行话。控制问卷长度:问卷长度应该适中,避免过长或过短。过长的问卷导致受访者疲劳,而过短的问卷无法收集到足够的信息。合理安排问题顺序:问题...

休息时候领导让你填问卷调查上级,怎么推托
在休息时间收到领导发送的问卷调查,可以尝试以下方法推托:1.表达感谢和敬意:首先回复领导,表示感谢和对问卷调查的重视。例如:“谢谢领导,您发送的问卷调查我已经收到。”2.提出困难:说明您目前所处的情况,例如休息时间、精力有限或者其他事务缠身。例如:“不过,很抱歉,我目前正在休息,时间比较...

枣阳市15245032913: 国家公务员申论考试为什么分阅读给定材料参考时限和作答时限,难道给定材料超过一小时要收回去吗? -
訾修代宏: 只是参考时间.不会收回去的.没有任何一次考试会提前收申论材料的,放心吧. 在申论考试中,题本由给定资料与申论要求两部分构成.考试时限为150分钟.其中,阅读给定资料参考时限为40分钟,作答参考时限为110分钟. 阅读给定资...

枣阳市15245032913: 用问卷网怎么对问卷结果进行排除筛选来控制答题质量啊? -
訾修代宏: 我知道有3种方法:1.在收集设置中对回答进行限制,比如限制每个IP、每台电脑只能答一次等,可以避免重复答题2.进行逻辑设置,在跳转条件中选择不计入结果的选项,排除自己不想调查的对象3.把回答时间太短的人直接排除掉

枣阳市15245032913: 回答规范都是什么? -
訾修代宏: 如果刚回答完毕的问题没有显示,有可能正在审核中.如果回答完之后,长时间不显示,那就应该是没有通过审核了.具体回答没被审核通过原因如下:01、回答字数过多,需要审核.02、或提问中包含阿拉伯数字过多,留有联系方式等,...

枣阳市15245032913: 如何保证在问卷星网站上回收的问卷是有效的 -
訾修代宏: 如果是让问卷星帮忙回收一般会保证有效性,如果是自己回收的话,可以通过IP地址,作答时长还有回答的具体内容判断

枣阳市15245032913: 知道的回答规范是什么 -
訾修代宏: 在中违反知道协议内容的都会被审核,审核通不过就会被删除 以下是具体被删除的原因:1、图片、电话号码、链接、基本要审核.2、同一时间提问次数过多.3、问题或回答中包含敏感字系统过滤出来需要审核.4、注册时间比较短...

枣阳市15245032913: 您的问题如果在提问后15天内没有处理将自动过期,处理过期问题,您可以有以下选择:
訾修代宏: 这个是提问过期了,你要在规定的时间内采纳或者关闭,诚信的为你作答,有任何疑问可以继续追问,希望你可以采纳,我先在此谢谢了

枣阳市15245032913: 问卷星使用 -
訾修代宏: 设计问卷》修改问卷 免费版可以通过在每个题目后面点击插入一个分页栏的形式来实现同样的效果. 总的页数发生变化

枣阳市15245032913: 调查研究法优缺点是什么?
訾修代宏: 调查法的特点是能在短时间同时调查很多对象,获取大量资料,并能对资料进行量化处理,经济省时.方式:1、访谈法这是研究人员通过与被调查者直接交谈,来探索被...

枣阳市15245032913: 请人填问卷说现在没有时间 是直接拒绝吗 -
訾修代宏: 那你是希望别人回答“滚”还是“没时间”更容易接受?没时间就是拒绝,没有直不直接,人家这样说是给你台阶 填问卷本就不是个好差事,大多数人都很反感,那种要填的要么就是按贪小便宜,要么就是不知世事,还有就是个别确实想了解一下的 你要想把问卷做完,第一就是要脸皮厚,不要在意这些;第二就是要会说,让别认识到填了这个对自己有一定好处,即便没有好处,也要瞎编一下;还有就是要有礼貌,客气一点,人家看你挺不容易的,所不定就填了

枣阳市15245032913: 您的回答因违禁被系统删除,请认真作答!哪里违禁了?
訾修代宏: 你好,在平台,出现以下行为都属于违规操作哦,都可能被删除的.注:也存在被系统误删的情况,但概率不大.很多都是因为违规被删.具体违规行为总结:一、作弊【定义】:通过不正当手段、非公平形式或途径获取经验值行为,...

本站内容来自于网友发表,不代表本站立场,仅表示其个人看法,不对其真实性、正确性、有效性作任何的担保
相关事宜请发邮件给我们
© 星空见康网