Udekoreret JDialog kant

Du skal ændre Border af rodruden:

getRootPane().
   setBorder( BorderFactory.createLineBorder(Color.RED) );

Hvis du vil slippe af med det, kan du bruge

frame.setUndecorated(true);
frame.getRootPane().setWindowDecorationStyle(JRootPane.NONE);

For at ændre udseendet af det fra Java-stilen til Windows-stilen kan du bruge

UIManager.setLookAndFeel(UIManager.getSystemLookAndFeelClassName());

Du kan gøre sådan noget:

((JPanel)getContentPane()).setBorder(BorderFactory.createLineBorder(Color.BLUE));

Du kan prøve at gøre dette for at ændre den yderste grænse:

getRootPane().setBorder(BorderFactory.createLineBorder(Color.BLUE));

Er det det, du vil gøre?