[C] Open() Посоветуйте- флаги для совместного доступа аналог O_DENYNONE, и аналог lock()

Двоичный/текстовый без разницы. На чтение/запись это O_RDWR. И лучше не указывать флаг O_CREAT, если не указали mode, ИМХО, там права доступа к файлу будут зависеть от реализации libc. Ну не забывайте, что есть umask.

А по поводу блокировки, я не помню, как работали lock()/unlock() в Борланде, но вроде там была mandatory блокировка, то есть доступ к файлу блокировался всем приложениям, а в Линуксе блокировка advisory, то есть доступ к файлу блокирется только для приложений, которые пожелали узнать, а не заблокирован ли файл http://www.opennet.ru/base/dev/lock_review.txt.html . Поэтому посмотрите по исходнику программы, зачем используется блокировка.