x�VM�9��W�qs�)�+��09d�H��V{h�&�@f�]��o��6t=�(l��\��U��-Pjp��c��̟�O�v�d��hX��3L�0�4�xG��f��n>�{2o G%����yRG[1�ƣ 3 4.6 3.1 1.5 0.2 %PDF-1.6
%����
3 4.6 3.1 ... 0.2 setosa 20 0 obj 98 versicolor 97 6.2 2.9 4.3 1.3 Why not register and get more from Qiita? æ¶äºè¯å¹¸ãæ¶äºè²ç¾ãExcelã§å¦ã¶çµ±è¨è§£æãããã¡ç¤¾ã2003. ±åã宿ä¹
æ´ãR Commanderã«ãããã¼ã¿è§£æãå
±ç«åºçã2011. ®åé¢ãã¦ãããã表ããï¼°å¤ã¯, Excel ãã¸ãã¹çµ±è¨åæããã¸ãã¯. æ¶äºè¯å¹¸ãæ¶äºè²ç¾ãExcelã§å¦ã¶çµ±è¨è§£æãããã¡ç¤¾ã2003. 1 setosa true /ColorSpace 7 0 R /Intent /Perceptual /SMask 23 0 R /BitsPerComponent [ 3.3751483 ] P値はExcelなどで回帰分析を行なった時によく分析結果に出てくるものですが、今回はこの数値が何を意味する説明していきます。 P値とは？ まず統計的検定には、誤りを2つの過ちをしてしまう可能性が存在しています。(詳しくは↓参照) 98 5.1 2.5 ... 1.1 versicolor 95 5.7 3.0 ... 1.2 versicolor p値とは？有意水準とは？ それでは、本題です。 帰無仮説が正しいという条件の下で、今回得られた「統計量の実現値」以上に極端な「統計量」が観測される確率 のことを、p値（有意確率）と言います。 96 versicolor 1 sepal width (cm) -1.46383 3 4.6 3.1 1.5 0.2 æ±äº¬å¤§å¦æé¤å¦é¨çµ±è¨å¦æ室ãçµ±è¨å¦å
¥éãæ±äº¬å¤§å¦åºçä¼ã1991. a�v���_�)��/�O�*��a9bL#g)��O ��82K��4�+��*�"0�)y0��6�ۯ�xI��I�i6^шVQGu4]SwuXӞ_il͍}��� What is going on with this article? 2 0 endstream 5��I�e5[�=S=xSS�9r2Ȼ�8$T���6��]�%%�u)z�W�fe:��$]�g�.=S{����_���LhKb����C�پ=5��W5���8�"`�v*��d��ޟ�������1�w�OB������,e�瞸yi�i2k���I��s�5�`}�I^j��H����x"5����������1��D^Od,�P\D�.?�? 5 0 obj 99 5.7 2.8 ... 1.3 versicolor, 以下のコードでデータを可視化してみましょう。各々のデータに対しての散布図と存在割合を示します。, 次のコードでモデルを作成しましょう。トレーニング用とテスト用に分けずにそのまま学習します。, [-0.40247392 -1.46382925 2.23785648 1.00009294], 0 1 110 0 obj
<>
endobj
（単回帰分析で線形回帰のみを考えているので。） この a の値を y切片 （ y-intercept ）と呼び、 b の値を 回帰係数 （ regression coefficient ）と呼びます。 回帰分析における回帰直線は、散布図の点になるべく近くなるように当てはめられた直線です。 3 petal width (cm) 0.954906 99 1, もともとnumpyのarrayだったものをDataframeに返還したのは、以下のようにDataframeのapplyメソッドを使用するためです。, 0 setosa �������4Eg|�1S�ܡ�-�Be�����|�a����c�DJ��绉�6�ݏA8Z� �I�g> �����ݥ���k���D� �#���-�0����b�Y �eڣ�2��ik9��W�
7'~D� �T*yTu��ď1?��믿���o4����O� �h
w��I�Y��:�X�]� f�}���H�x���`���?~@Z��p `�S~�P���=)-�8������矐�Kw{fQ�Ԑ����W3�n8,�zi�d�v�ͺG�? 次は、min-maxスケーリングした値で重回帰分析を行います。 model_lr_norm = LinearRegression model_lr_norm. 1067 3 0 ����u'#��`�֔^����u�v[!�����uXp�xpӂv[��!��?3f�٧!�]��O'�1pm������A��x*h& ��a�s~��Y0�HW7��B&�����z" 161 0 obj
<>stream
ロジスティック回帰について解説します。 ロジスティック回帰とは、回帰という名前がついていますが、やることは二値分類です。 いくつかの説明変数をもとに、確率を計算して、予測を行います。 endstream
endobj
111 0 obj
<>>>/Filter/Standard/Length 128/O(�e�N �Ҧݶ�x�����)/P -1036/R 4/StmF/StdCF/StrF/StdCF/U(9���s�&�Eabe�&. %��������� y = tf.clip_by_value(y, 1e-10, 1.0 - 1e-10)によりyの最小値を1e-10に、yの最大値を )�(�S����@e^O����"|����%T�����껎FȮM��`_b!��Q3������& i�ϰ�J�/����U��� %PDF-1.3 99 versicolor, このようにDataframeのapplyメソッドを用いれば、指定したカラムに対して引数で指定した関数を実行し、その戻り値を代入したDataframeを受け取ることができます。axis=1を指定することで横方向に結合できます。, 次のコードでiris_dfとiris_target_speaciesを結合します。, sepal length (cm) sepal width (cm) ... petal width (cm) Species 2 4.7 3.2 ... 0.2 setosa p値とは、統計処理により計算された値の本当の答えがゼロである確率をさしています。回帰分析の手続きとしては、まずこのp値が大きい変数から削除していき、全ての変数のp値が5％以下になったところで変数を確定させるのが一般的です。 0 5.1 3.5 1.4 0.2 17 0 R /Im3 15 0 R /Im1 9 0 R >> >> 97 6.2 2.9 ... 1.3 versicolor 1 4.9 3.0 1.4 0.2 1 4.9 3.0 1.4 0.2 stream また、React + Firebaseを用いた自社アプリの開発も行っています。. 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1], predictメソッドを用いると、このように与えたデータに対しての予測値をnumpyのarrayの形で得ることができます。, このclass_predictと正解ラベルをmetrics.accuracy_scoreで比較することで予測精度を算出できます。, 0 1 endobj endobj 確率密度関数において確率変数に観測値を代入したものをいう。つまり，確率密度を観測値で評価した値である。また，これを未知母数の関数とみるとき，とくに尤度関数という。尤度関数の自然対数は対数尤度と呼ぶ。観測値とその確率分布が与えられたとき，尤度あるいは対数尤度を最大にする母数の値は，母数の一つの自然な推定量を与える。これは最尤推定量と呼ばれ，標本サイズが大きくなると母数の真値に漸近的に一致するとか，漸近的に正規分布に従うなど，いろいろ好ましい漸近的性質をもつ。, 尤度関数（ゆうどかんすう、英: likelihood function）とは統計学において、ある前提条件に従って結果が出現する場合に、逆に観察結果からみて前提条件が「何々であった」と推測する尤もらしさ（もっともらしさ）を表す数値を、「何々」を変数とする関数として捉えたものである。また単に尤度ともいう。, N個のデータ$x_1,x_2,x_3,...,x_n$を観測したとき、それぞれの値が生じる確率をp(x)とすると、尤度関数は以下の式で表されます。, ここからは自分の理解なのですが、最尤法とは、データを観測した時にそのデータが生じる確率を考えることで、元々のデータが従う確率分布を推定する方法だと考えてください。, 例えば、コインを投げる場合を考えてください。当然コインの裏表はイカサマがない限り同じ確率になります。, しかし、現実世界ではコインのように確率分布が感覚的に分かっているものを扱うことは少ないです。なので今回は、コインの裏表がでる確率が等しくないということにします。, 感覚的には、コインを沢山投げて記録をとればよさそうですよね。今、コインを３回投げたところ、表、表、裏となりました。, 表がでる確率を$p$とすると、裏が出る確率は$1-p$となるので、この事象が起きる確率、すなわち尤度関数は 0 sepal length (cm) -0.402474 R�S��%�a
���z�z ��/@���}-�t�x�����Z����K4�¥vh�:i�k��kP�*Tu@��3�SZY�jִ������?�Â�7���W�|n����\��qK���F[�´����.�7��\��6��{w�+�u�>�r����֊�5 By following users and tags, you can catch up information on technical fields that you are interested in as a whole, By "stocking" the articles you like, you can search right away. 95 5.7 3.0 4.2 1.2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 1.0, テスト用とトレーニング用にデータを分けても予測精度は100パーセントでした。すごいですね。, tensorflowで実装する場合には、元の数式を理解しておく必要があります。確認しましょう。, 損失関数には交差エントロピー誤差を使います。尤度関数の対数にマイナスをかけたものです。, Xには説明変数が、tには目的変数が格納されます。 yが上記の数式の$p$にあたります。, yは交差エントロピー誤差関数に代入するときに対数になるため、y = 0になるとエラーが起きるので、 0 0 5�#�`Q3���&�*V��T�NQ]��1���z�J�a�tkҥ�3�b
rMy
�~�YN��:ż bH$�M@)c�%�1��Rk/vJ]$���ty%w.����HFW,�u'��jycI��������e`d�_jN*�>�-FZ���1��I�K���j-/x��v,����6���������۟Տj˿nO��%�ތj です。 補正R2は決定係数に補正を入れたもので、ここで色々並んでいるRの中で一番当てになる値と考えてください。 決定係数について 【相関係数と同じようで違うのです】 今回の記事では、tensorflowとsckit-learnを用いてロジスティック回帰を実装していきます。, Pythonでscikit-learnとtensorflowとkeras用いて重回帰分析をしてみる, アヤメの品種であるSetosa、Virginica、Virginicaの3品種に関するデータが50個ずつ、全部で150個のデータです。, sepal length (cm) sepal width (cm) petal length (cm) petal width (cm) �\=� ��đh��M�'�ɼ�2�� J)�ё; $$p^2(1-p)$$, となりますね。今、この事象が起きたのです。例えばコインの表が出る確率が$\frac{1}{2}$、裏がでる確率が$\frac{1}{2}$だとするとこの事象が起きる確率は$\frac{1}{8}$になります。コインの表が出る確率が$\frac{2}{3}$、裏がでる確率が$\frac{1}{3}$だとするとこの事象が起きる確率は$\frac{4}{27}$となります。, このように考えて、「コインを三回投げて表、表、裏となった」という条件のもとで、コインの表がでる確率$p$と裏がでる確率$1-p$を考えるときに、どのような$p$が尤(もっと)もらしいかを考えるときに用いるのが最尤法です。, 今、「コインを３回投げたところ、表、表、裏だった」という事象が起きたので、尤もらしい$p$とはこの「コインを３回投げたところ、表、表、裏だった」という事象が起きる確率が最大になるような$p$ですよね。, つまり、「尤もらしい」$p$を求めるため(最尤法)には、「その事象が起きる確率」である尤度関数が最も大きくなるような$p$を選べば良いことが分かります。, つまり、この例においては$p^2(1-p)$が最大になるような$p$を求めればよいので、両辺の対数をとって微分したり、そのまま微分して最大値$p$を求めれば良さそうですよね。, このように、結果から元のデータが従う確率分布を求める方法が最尤推定やベイズ推定と呼ばれるものです。, 今回は初めから裏表のベルヌーイ分布に従うことが分かっていたので簡単に尤度関数を求めることができましたが、実際は元のデータが従う確率分布(正規分布,etc)を求めるところから考えなければならないので、もっと大変になります。, 今回のロジスティック回帰について、尤度関数を考えてみましょう。ロジスティック回帰について、目的変数が(0, 1)で与えられ、あるデータについて説明変数$x_1, x_2, x_3, ..., x_n$が与えられた時、そのデータの目的変数が1である確率$p$は, となります。 目的変数が1となる確率が$p$であり、目的変数が0となる確率は$1-p$です。, あるデータに対して、目的変数が(0, 1)のどちらなのか分かった時、つまりそのデータがどちらのデータなのか（今回のirisの例ではSetosa、Virginicaのどちらなのか）が分かった時を考えてください。, そのあるデータがその目的変数のデータである確率を$L$とすると上記の$p$(目的変数が1である確率)を用いて、$t_n$を目的変数(0, 1)とすると, と表せます。目的変数が1のとき$L$は$p$となり、目的変数が0のとき$L$は$1-p$となっていることが分かります。, つまり、$L$は目的変数が判明したとき、すなわち結果が分かったときにおける「その事象が起きる確率」であることが分かります。「その事象が起きた」という条件の下で、その事象が起きる確率である$L$を最大にする$p$を求めれば、その$p$は尤もらしい$p$であると考えることができます。, この例はある一つのデータに対してだったので、今度は全てのデータに対して考えていきます。, 各々のデータに対して独立となるので、全体の尤度関数は以下のように$n$個のデータの尤度関数の積であると考えることができます。, この$n$個のデータに対しての尤度関数$L(β)$を最大にする$p$を、つまりは$β$を($p$は$β$の関数であるため)見つけることで、パラメータ$β$を最適化することができそうです。, 上記の式を計算しやすくするために、両辺の対数をとり、マイナスをつけると以下の式になります。, それではsckit-learnで実装していきます。まずはデータセットを準備しましょう。, sepal length (cm) sepal width (cm) petal length (cm) petal width (cm) endobj 分析結果の提示法 ©2020 Yuki Yanai ... ‣単回帰のとき： の値を報告 ‣重回帰のとき：自由度調整済み (adjusted r squared, ) を報告する • または もそれほど重要ではない：とりあえず報告する R2 0 ≤ R2 ≤ 1 R2 R2 R¯2 R2 R¯2 5 ©2020 Yuki Yanai 結果提示の例：式の場合 身長=107.2 + 0.19 × 父の身長 + 0.21×母 … 99 5.7 2.8 4.1 1.3, setosa、versicolorの二つのデータを分類していきます。そのため、最初の100個のデータのみを取り扱います。, 最初の50個がsetobaについてのデータであり、後の50個がversicolorについてのデータです。, Species