La siguiente función recibe dos parámetros de tipo String. La primer cadena es la cadena de la cual queremos remover cualquier caracter que se encuentre en la segunda cadena.

public String EliminaCaracteres(String s_cadena, String s_caracteres)
{
  String nueva_cadena = "";
  Character caracter = null;
  boolean valido = true;

  /* Va recorriendo la cadena s_cadena y copia a la cadena que va a regresar,
     sólo los caracteres que no estén en la cadena s_caracteres */
  for (int i=0; i<s_cadena.length(); i++)
      {
       valido = true;
       for (int j=0; j<s_caracteres.length(); j++)
           {
            caracter = s_caracteres.charAt(j);

            if (s_cadena.charAt(i) == caracter)
               {
                valido = false;
                break;
               }
           }
       if (valido)
           nueva_cadena += s_cadena.charAt(i);
      }

  return nueva_cadena;
}

Vía: http://salomonrt.wordpress.com/2010/06/12/eliminar-caracteres-de-una-cadena-en-java/