アンケートで回答者は反射的に回答しちゃってる説【アンケートで気をつけること】

みなさんこんにちは,やまもんです.

先日,Googleフォームを利用してアンケートを実施したのでここでまとめておきたいと思います.アンケートにご協力いただいたみなさん,ありがとうございました.

「しかけ」に気づかれた方からは概ね「結果気になる」「ふしぎなアンケート」とお声をいただいておりました笑

思いつきでやったわりに,面白そうな結果が得られそうだったので,もっと作り込むべきだったと反省しております.

もったいぶりすぎましたね.それでは,以下より結果を見ていきましょう.

 

さて,そもそも一体どんな「しかけ」があったかというと.

f:id:mkm2578y:20200525013027p:plain

お気づきになられましたか.ココです↓↓

f:id:mkm2578y:20200524233829p:plain

さらに出血大サービスで実際に回答いただくページにも,同様のリード文を設置しました.

f:id:mkm2578y:20200524233957p:plain

ということで…

f:id:mkm2578y:20200525013114j:plain

このフォントは8000円くらいで買いました.

このアンケート,【拡散希望】のツイートが2種類ありましたが,それぞれの入り口に応じて集計が別れるようになっていました.片方には「よく読み」と警告が入っています(まあ,この警告が伝わるような「ツイートでさえよく読む人」には不要な警告な気がしますが).

夜中の2時ごろに思いつき,2時30分前後にはTwitterにて公開していたと思うので,本当に適当なアンケートです.真面目にご協力いただいた方のご厚意を踏みにじってしまうような結果になってしまったことについてはお詫び申し上げます.

 

さて,卒論シーズンにSNSに蔓延るGoogleフォームのアンケートなど,おそらく適切な統計処理がなされることなく分析されるアンケートがこの世の中には少なからずありそうです.

「適切な処理」無しにSNSなどを通した拡散を狙うのが少々危険だ!という意識につながったのなら僕の悪ふざけも意味のあるものになるかもしれません.

なお,著者はオンライン社会調査について比較的よい印象をいだいております.他方,(ここでは説明を省きますが)「適切な前処理」が行われずに分析される あるいは「数さえ稼げれば正義.その過程は問わない.」という考えが拡散内容から見て取れるような調査についてかなり否定的です.

前置きがだいぶ長くなってしまいましたが,以下にてアンケートの回答項目などを見ていきましょう.

アンケート結果

集計結果を記載するにあたり,2つの回答フォームを【拡散希望】ツイートの「よく読み」の記載の有無にあわせて「警告有」「警告無」と区別します.

回答件数

まずは回答総数から見ていきましょう.

「警告有」:76件

「警告無」:64件

思ったより集まりました.本当にご協力ありがとうございました.

さて,これは回答の母数でして.リード文をよく読んでいれば集計フォームには「白票」が入っているはずなのです.

白票はそれぞれ,

「警告有」:16件(約21%)

「警告無」:9件(約14%)

といった形でした.警告の有無による影響については…この程度では有意差はなかったですね.やはりもっと作り込むべきでした.

 

いや…低くない??

リード文わかりづらかったか!!!ごめんなさい!!! 

たしかに「アンケートは答えるもの」ですから,リード文のひっかけはすごく「いやらしい」ものでしたが,前のめりに回答してしまう方が一定数いるのは間違いなさそうです(かくいう著者も前のめり派.だってさっさと回答終えたいもん).

しかし,これらの前のめり派の方々の一部で,擁護もできなさそうな回答がこの後の設問に控えているのでした….それは最後にとっておきましょう….

その他の回答結果

カモフラージュのためにテキトーな質問を多数用意しておりました.

本当に適当だったので,一部のみ抜粋して回答を見ていきましょう.

日頃,利用しているコミュニケーションサービスをお答えください.(複数回答可)

f:id:mkm2578y:20200525000938p:plain

警告有の回答

f:id:mkm2578y:20200525001018p:plain

警告無の回答

すごい結果が得られました!!回答者の100%があの悪名高いSNS Twitterを使用していたのです!!

つまり,Twitterを使用しいている回答者は騙されやすい傾向にあることがわかりますね!!!

オンラインアンケートに回答したことがありますか.

クソみたいな質問ですね.

だっていままさにオンラインアンケート回答しようとしてるじゃん.

f:id:mkm2578y:20200525001455p:plain

警告有の回答

f:id:mkm2578y:20200525001534p:plain

警告無の回答

え…このアンケートが初めての人いたんですね….

せっかくの初オンラインアンケートがこんなんでごめんなさい.

100%になってたら「生存者バイアス〜」とかいうつもりでした.

インターネット懸賞に応募したことはありますか.

これ結構おもしろい質問だったかもしれません.

f:id:mkm2578y:20200525002032p:plain

警告有の回答

f:id:mkm2578y:20200525002048p:plain

警告無の回答

世の中ってこんなにインターネット懸賞に応募している人います?

まあ,ケイスケホンダのコカコーラじゃんけんもオンライン懸賞な気がするので,オンライン懸賞人口は相当数いるのかもしれませんが….

結果の解釈で気をつけなければならないこと

さて,数件の集計結果に目を通しましたが,解釈にあたって気をつけなければならないことがありそうでしたよね.

  • 事象の独立
  • 生存バイアス

今回はこの2点に関する大きな誤りがありました.

事象の独立

アンケートの「設問と属性」あるいは「設問同士」に関連がある(独立していない)と解釈に気をつける必要があります.

今回は,Twitterでしかアンケートを回収していないので「Twitterを利用している」のはもはやあたりまえです.その点を考慮して解釈する必要があります(というか回答を集める必要があります).

もっとわかりやすい例をあげると,「Twitter世論調査」がいい例です.

フォロワーを対象に世論調査をしている人を時折見かけますが,「調査内容(政治的な思想)」と「アンケートが公開された回答者属性(政治的思想をともにするSNSのFF関係)」が独立していないため,十分すぎるほど偏った結果が得られているわけです.

生存バイアス

今回のアンケートでは,「設問に回答する」「設問に回答しない」「そもそもアンケートに回答しない」といった回答属性が存在します.

しかし,集計結果として「見える」のは「設問に回答する」人たちの回答だけです.

これしか評価しないと,脱落した「設問に回答しない」「そもそもアンケートに回答しない」人たちの回答を考慮できないので統計的に偏りが生じてしまう可能性があります.

たとえば,選挙の投票行動(ここでは簡単に「投票したか/していないか」)に関するアンケートを行ったとして,回答結果から得られる「予想される投票率」は実際の投票率より高くなってしまうことが知られています.

「選挙で投票に行く人」と「選挙をサボる人」にアンケートを配ったところで,前者からは多くの回答が寄せられ,後者はアンケートもサボりそうだ といえば感覚的に理解できるでしょうか.

他にも,「手間のかかる余暇活動に関する調査」など多くの調査で似たような傾向が見られます.

ということで「オンラインアンケートの回答経験」と「インターネット懸賞」に関する回答にも偏りがあった可能性が高いです.

 

おわりに

このアンケートは悪ふざけから始まったものですが,そもそも「オンライン調査に関する意識調査」と銘打って「オンライン調査」を行うこと自体に問題がありすぎて本当に馬鹿げたことなのです.さらにそれを特定のSNSのみで拡散するということも.

僕のフォロワーには聡明な方が大勢いらっしゃるので,みなさんはこの馬鹿げたアンケートを見て「恥ずかしいことやってんな」と思いながらスルーしてくださったのかもしれません.その点は,「僕もそちら側の人間ですよ」ということをお伝えし,僕の名誉を回復して()この記事を締められればと思います.

 

 

 

では,最後に爆弾を.回答者をどうしても擁護できない設問がコチラ.

設問設計者の悪意が感じられますね….

f:id:mkm2578y:20200525010114p:plain

みなさんの回答

リード文を読んでいなかった方115名のうち76名(約66%)の方が「調査のリード文/設問文をよく読んで回答していることが多い」に「あてはまる/どちらかといえばあてはまる」と回答してくれました….オイ!!!(ホントにゴメンなさい!!!)

 

追記:

このテーマは面白そうなリサーチクエスチョンになると思ったら,実際に社会心理学で研究されていました.手口も僕のものより悪意がないのでいいですね.

www.socialpsychology.jp

www.socialpsychology.jp