コーエンはミェンジルジェチ(大ポーランド)に生まれた。同地は第二次ポーランド分割後、南プロイセンの一部として統治された。十代の頃、ベルリンに行き、ナフタリ・ヒルツ・ヴェッセリーに師事し、ヘブライ語の詩に対する理解を深めた。すぐにヘブライ語の傑出した文体家とみなされるようになった。1800年から1808年まで、ダーフィト・フリードレンダーが設立したベルリンのユダヤ人自由学校でヘブライ語と宗教を教えた。1808年、ヘブライ語友の会(Gesellschaft der Freunde der hebräischen Sprache )を設立した。1809年から1811年まで、初のヘブライ語文芸誌『ハ・メアセフ』の最後の編集者を務めたが、同誌の復活を試みたが失敗した。コーエンはハンブルクに定住する前に、アルトナ、ハンブルク、デッサウ、ロンドンにも居住した。1820年にウィーンに移り、オーストリア初のヘブライ語文芸誌『ビックレイ・ハ・イッティム』(「時代の最初の果実」)を創刊した。1810年には聖書のエレミヤ書をドイツ語に翻訳し、1824年から1827年にかけてハンブルクで旧約聖書のドイツ語版を完成させた。彼はハンブルクで亡くなった。