Depende.
A principal coisa que eu gostaria de focar é "não se repita". Se você tem um monte de aplicativos usando as mesmas entidades, não faz sentido gastar um monte de tempo e esforço fazendo e, em seguida, manter a mesma coisa uma e outra vez. Pior, pode se tornar uma dor de cabeça para manter todos eles corretos e em sincronia.
Por outro lado, se você realmente tem vários esquemas diferentes que vivem no mesmo banco de dados (e não interagem), então pode fazer sentido ter vários arquivos EDMX independentes.
Eu vi os dois caminhos e eles funcionaram bem o suficiente em seus ambientes. Mas, dadas as dificuldades do Entity Framework em jogar bem com os outros, eu errei em colocar todo um banco de dados em um único projeto, já que é menos trabalho "apenas usar parte dele" do que "fazer com que outras coisas também" meu palpite está errado sobre o uso futuro.