А bib-файл в какой кодировке?

Да, и как ругается-то?

Почему ты не хочешь в КОИ-8 работать?

Потому что author = «Čech, Jan and Hanusová, Jana and Sťahel, Pavel and Černák, Mirko», блин.

тоже utf8

Ну так используй спецсимволы (та же буква йо, например, у меня пишется как \«e, потому что вместо этой ненужной литеры в моей раскладке тильда и апостроф, использующиеся значительно чаще).

Такие дурацкие буквы очень редко встречаются. Ну и обычно библиографию копируешь откуда-нибудь с arxiv.org — не набивать же bib-файлы самому! а там все уже шикарно, без хрюникода.

Ты все еще не сказал, как именно ругается. Я попробовал два способа:

\usepackage[T2A]{fontenc}
\usepackage[utf8]{inputenc}
\usepackage[russian]{babel}

\usepackage{fontspec}
\setmainfont{CMU Serif}
\usepackage[russian]{babel}

Заметил только проблемы с русскими инициалами в библиографии, которые пропадают, если в качестве BibTeX'a использовать bibtexu.

Немного жаль, что нет возможности подключить biblatex. Revtex сам подключает natbib, и возникают конфликты.

\documentclass[aip,pop,reprint,author-year]{revtex4-1}
\usepackage{amsmath}    % need for subequations
\usepackage{graphicx}   % need for figures
\usepackage{verbatim}   % useful for program listings
\usepackage{color}      % use if color is used in text
\usepackage{subfigure}  % use for side-by-side figures
\usepackage{hyperref}   % use for hypertext links, including those to external documents and URLs
\raggedbottom           % don't add extra vertical space
\usepackage[utf8]{inputenc}
\begin{comment}
\pagestyle{empty}       % use if page numbers not wanted
\end{comment}

Без \usepackage[utf8]{inputenc} компилилось, но бувкы не показывались.

ЗЫ:я на винде и МикТехе

т.е. я хотел сказать,

что с приведённым выше заголовком работает и буквы показывает. Компилю pdflatex из МикТеха