No início dos anos 30, Carole se casou com William Powell. Foi com ele que atuou em "Irene - A Teimosa" (1936), com o qual ganhou uma indicação ao Oscar de Melhor Atriz em 1936, mas acabou perdendo para Luise Rainer por seu papel em "Ziegfeld, o Criador de Estrelas", que coincidentemente também tinha William Powell como ator principal.

Carole se culpava pelo fim de seu casamento de dois anos, pois se dizia preocupada demais com a própria carreira deixando o relacionamento em segundo plano. Apaixonou-se então pelo famoso cantor Russ Colombo que morreu de uma forma trágica: foi alvejado na cabeça por uma bala que disparou enquanto examinava uma arma. Casou-se em 1939 com o famoso ator Clark Gable.