再現しました。
ひょっとしたら、CDATAセクションが何らかの「開始タグ」として処理されてるのかもしれませんね。
※といっても、開始・終了タグが不一致な場合でもきちんとP要素は抜き出してくれるので、もっと別な問題のような気もする・・・
また、<P><!--hoge'fuga--></P>のような<!--コメント-->内にシングルクォーテーションがある場合も発生するようです。
蛇足ですが、、、
CDATA「セクション」(タグではない)は<![CDATA[ ... ]]>と記述するので、
そもそも"<!{CDATA[I don't know(that)]]>"はvalidなCDATAセクションになってませんね。
（波括弧「{」になってますよ！）
# もっとも、この点を直してもバグは起こるので、根本的な問題ではなさそう・・・？