This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
AIX hints stage 3: remove AIX 3 and AIX 4 after split off
[perl5.git] / hints / aix.sh
1 # hints/aix.sh
2
3 # AIX 3 and AIX 4 are split off to aix_3.sh and aix_4.sh
4 #    early Feb 2004 by H.Merijn Brand
5 # please read comments in there for historic questions.
6 #    many now stripped here
7
8 # Contact dfavor@corridor.com for any of the following:
9 #
10 #    - AIX 43x and above support
11 #    - gcc + threads support
12 #    - socks support
13 #
14 # Notes:
15 #
16 #    - shared libperl support is tricky. if ever libperl.a ends up
17 #      in /usr/local/lib/* it can override any subsequent builds of
18 #      that same perl release. to make sure you know where the shared
19 #      libperl.a is coming from do a 'dump -Hv perl' and check all the
20 #      library search paths in the loader header.
21 #
22 #      it would be nice to warn the user if a libperl.a exists that is
23 #      going to override the current build, but that would be complex.
24 #
25 #      better yet, a solid fix for this situation should be developed.
26 #
27
28 # Configure finds setrgid and setruid, but they're useless.  The man
29 # pages state:
30 #    setrgid: The EPERM error code is always returned.
31 #    setruid: The EPERM error code is always returned. Processes cannot
32 #             reset only their real user IDs.
33 d_setrgid='undef'
34 d_setruid='undef'
35
36 alignbytes=8
37
38 case "$usemymalloc" in
39     '')  usemymalloc='n' ;;
40     esac
41
42 # Intuiting the existence of system calls under AIX is difficult,
43 # at best; the safest technique is to find them empirically.
44
45 case "$usenativedlopen" in
46     '') usenativedlopen='true' ;;
47     esac
48
49 so="a"
50 # AIX itself uses .o (libc.o) but we prefer compatibility
51 # with the rest of the world and with rest of the scripting
52 # languages (Tcl, Python) and related systems (SWIG).
53 # Stephanie Beals <bealzy@us.ibm.com>
54 dlext="so"
55
56 # Take possible hint from the environment.  If 32-bit is set in the
57 # environment, we can override it later.  If set for 64, the
58 # 'sizeof' test sees a native 64-bit architecture and never looks back.
59 case "$OBJECT_MODE" in
60     32) cat >&4 <<EOF
61
62 You have OBJECT_MODE=32 set in the environment.
63 I take this as a hint you do not want to
64 build for a 64-bit address space. You will be
65 given the opportunity to change this later.
66 EOF
67         ;;
68     64) cat >&4 <<EOF
69
70 You have OBJECT_MODE=64 set in the environment.
71 This forces a full 64-bit build.  If that is
72 not what you intended, please terminate this
73 program, unset it and restart.
74 EOF
75         ;;
76     esac
77
78 # uname -m output is too specific and not appropriate here
79 case "$archname" in
80     '') archname="$osname" ;;
81     esac
82
83 cc=${cc:-cc}
84
85 ccflags="$ccflags -D_ALL_SOURCE -D_ANSI_C_SOURCE -D_POSIX_SOURCE"
86 case "$cc" in
87     *gcc*) ;;
88     *) ccflags="$ccflags -qmaxmem=-1 -qnoansialias" ;;
89     esac
90 nm_opt='-B'
91
92 # These functions don't work like Perl expects them to.
93 d_setregid='undef'
94 d_setreuid='undef'
95
96 # Changes for dynamic linking by Wayne Scott <wscott@ichips.intel.com>
97 #
98 # Tell perl which symbols to export for dynamic linking.
99 cccdlflags='none'       # All AIX code is position independent
100    cc_type=xlc          # do not export to config.sh
101 case "$cc" in
102     *gcc*)
103         cc_type=gcc
104         ccdlflags='-Xlinker'
105         if [ "X$gccversion" = "X" ]; then
106             # Done too late in Configure if hinted
107             gccversion=`$cc --version | sed 's/.*(GCC) *//'`
108             fi
109         ;;
110
111     *)  ccversion=`lslpp -L | grep 'C for AIX Compiler$' | grep -v '\.msg\.[A-Za-z_]*\.' | head -1 | awk '{print $1,$2}'`
112         case "$ccversion" in
113             '') ccversion=`lslpp -L | grep 'IBM C and C++ Compilers LUM$'` ;;
114
115             *.*.*.*.*.*.*)      # Ahhrgg, more than one C compiler installed
116                 first_cc_path=`which ${cc:-cc}`
117                 case "$first_cc_path" in
118                     *vac*)
119                         cc_type=vac ;;
120
121                     /usr/bin/cc)                # Check the symlink
122                         if [ -h $first_cc_path ] ; then
123                             ls -l $first_cc_path > reflect
124                             if grep -i vac reflect >/dev/null 2>&1 ; then
125                                 cc_type=vac
126                                 fi
127                             rm -f reflect
128                             fi
129                         ;;
130                     esac
131                 ccversion=`lslpp -L | grep 'C for AIX Compiler$' | grep -i $cc_type | head -1`
132                 ;;
133
134             vac*.*.*.*)
135                 cc_type=vac
136                 ;;
137             esac
138
139         ccversion=`echo "$ccversion" | awk '{print $2}'`
140         # Redbooks state AIX-5 only supports vac-5.0.2.0 and up
141         ;;
142     esac
143
144 # the required -bE:$installarchlib/CORE/perl.exp is added by
145 # libperl.U (Configure) later.
146
147 # The first 3 options would not be needed if dynamic libs. could be linked
148 # with the compiler instead of ld.
149 # -bI:$(PERL_INC)/perl.exp  Read the exported symbols from the perl binary
150 # -bE:$(BASEEXT).exp        Export these symbols.  This file contains only one
151 #                           symbol: boot_$(EXP)  can it be auto-generated?
152 lddlflags="$lddlflags -bhalt:4 -bM:SRE -bI:\$(PERL_INC)/perl.exp -bE:\$(BASEEXT).exp -bnoentry -lc"
153
154 case "$use64bitall" in
155     $define|true|[yY]*) use64bitint="$define" ;;
156     esac
157
158 case "$usemorebits" in
159     $define|true|[yY]*) use64bitint="$define"; uselongdouble="$define" ;;
160     esac
161
162 case $cc_type in
163     vac|xlc)
164         case "$uselongdouble" in
165             $define|true|[yY]*)
166                 ccflags="$ccflags -qlongdouble"
167                 libswanted="c128 $libswanted"
168                 lddlflags=`echo "$lddlflags " | sed -e 's/ -lc / -lc128 -lc /'`
169                 ;;
170             esac
171         ;;
172     esac
173
174 case "$cc" in
175     *gcc*) ;;
176
177     cc*|xlc*) # cc should've been set by line 116 or so if empty.
178         if test ! -x /usr/bin/$cc -a -x /usr/vac/bin/$cc; then
179             case ":$PATH:" in
180                 *:/usr/vac/bin:*) ;;
181                 *)  if test ! -x /QOpenSys/usr/bin/$cc; then
182                         # The /QOpenSys/usr/bin/$cc saves us if we are
183                         # building natively in OS/400 PASE.
184                         cat >&4 <<EOF
185
186 ***
187 *** You either implicitly or explicitly specified an IBM C compiler,
188 *** but you do not seem to have one in /usr/bin, but you seem to have
189 *** the VAC installed in /usr/vac, but you do not have the /usr/vac/bin
190 *** in your PATH.  I suggest adding that and retrying Configure.
191 ***
192 EOF
193                         exit 1
194                         fi
195                     ;;
196                 esac
197             fi
198         ;;
199     esac
200
201 case "$ldlibpthname" in
202     '') ldlibpthname=LIBPATH ;;
203     esac
204
205 # This script UU/usethreads.cbu will get 'called-back' by Configure
206 # after it has prompted the user for whether to use threads.
207 cat > UU/usethreads.cbu <<'EOCBU'
208 case "$usethreads" in
209     $define|true|[yY]*)
210         d_drand48_r='undef'
211         d_endgrent_r='undef'
212         d_endpwent_r='undef'
213         d_getgrent_r='undef'
214         d_getpwent_r='undef'
215         d_random_r='undef'
216         d_setgrent_r='undef'
217         d_setpwent_r='undef'
218         d_srand48_r='undef'
219         d_strerror_r='undef'
220
221         ccflags="$ccflags -DNEED_PTHREAD_INIT"
222         case "$cc" in
223             *gcc*) ccflags="-D_THREAD_SAFE $ccflags" ;;
224
225             cc_r) ;;
226             cc|xl[cC]|xl[cC]_r)
227                 echo >&4 "Switching cc to cc_r because of POSIX threads."
228                 # xlc_r has been known to produce buggy code in AIX 4.3.2.
229                 # (e.g. pragma/overload core dumps)      Let's suspect xlC_r, too.
230                 # --jhi@iki.fi
231                 cc=cc_r
232                 ;;
233
234             '') cc=cc_r ;;
235
236             *)
237                 cat >&4 <<EOM
238 *** For pthreads you should use the AIX C compiler cc_r.
239 *** (now your compiler was set to '$cc')
240 *** Cannot continue, aborting.
241 EOM
242                 exit 1
243                 ;;
244             esac
245
246         # Insert pthreads to libswanted, before any libc or libC.
247         set `echo X "$libswanted "| sed -e 's/ \([cC]_r\) / pthreads \1 /'`
248         shift
249         libswanted="$*"
250         # Insert pthreads to lddlflags, before any libc or libC.
251         set `echo X "$lddlflags " | sed -e 's/ \(-l[cC]_r\) / -lpthreads \1 /'`
252         shift
253         lddlflags="$*"
254
255         ;;
256 esac
257 EOCBU
258
259 # This script UU/uselargefiles.cbu will get 'called-back' by Configure
260 # after it has prompted the user for whether to use large files.
261 cat > UU/uselargefiles.cbu <<'EOCBU'
262 case "$uselargefiles" in
263     ''|$define|true|[yY]*)
264         # Configure should take care of use64bitint and use64bitall being
265         # defined before uselargefiles.cbu is consulted.
266         if test X"$use64bitint:$quadtype" = X"$define:long" -o X"$use64bitall" = Xdefine; then
267 # Keep these at the left margin.
268 ccflags_uselargefiles="`getconf XBS5_LP64_OFF64_CFLAGS 2>/dev/null`"
269 ldflags_uselargefiles="`getconf XBS5_LP64_OFF64_LDFLAGS 2>/dev/null`"
270         else
271 # Keep these at the left margin.
272 ccflags_uselargefiles="`getconf XBS5_ILP32_OFFBIG_CFLAGS 2>/dev/null`"
273 ldflags_uselargefiles="`getconf XBS5_ILP32_OFFBIG_LDFLAGS 2>/dev/null`"
274             fi
275         if test X"$use64bitint:$quadtype" = X"$define:long" -o X"$use64bitall" = Xdefine; then
276 # Keep this at the left margin.
277 libswanted_uselargefiles="`getconf XBS5_LP64_OFF64_LIBS 2>/dev/null|sed -e 's@^-l@@' -e 's@ -l@ @g`"
278         else
279 # Keep this at the left margin.
280 libswanted_uselargefiles="`getconf XBS5_ILP32_OFFBIG_LIBS 2>/dev/null|sed -e 's@^-l@@' -e 's@ -l@ @g`"
281             fi
282
283         case "$ccflags_uselargefiles$ldflags_uselargefiles$libs_uselargefiles" in
284             '') ;;
285             *)  ccflags="$ccflags $ccflags_uselargefiles"
286                 ldflags="$ldflags $ldflags_uselargefiles"
287                 libswanted="$libswanted $libswanted_uselargefiles"
288                 ;;
289             esac
290
291         case "$gccversion" in
292             '') ;;
293             *)  # Remove xlc-specific -qflags.
294                 ccflags="`echo $ccflags | sed -e 's@ -q[^ ]*@ @g' -e 's@^-q[^ ]* @@g'`"
295                 ldflags="`echo $ldflags | sed -e 's@ -q[^ ]*@ @g' -e 's@^-q[^ ]* @@g'`"
296                 # Move xlc-specific -bflags.
297                 ccflags="`echo $ccflags | sed -e 's@ -b@ -Wl,-b@g'`"
298                 ldflags="`echo ' '$ldflags | sed -e 's@ -b@ -Wl,-b@g'`"
299                 lddlflags="`echo ' '$lddlflags | sed -e 's@ -b@ -Wl,-b@g'`"
300                 ld='gcc'
301                 echo >&4 "(using ccflags   $ccflags)"
302                 echo >&4 "(using ldflags   $ldflags)"
303                 echo >&4 "(using lddlflags $lddlflags)"
304                 ;;
305             esac
306         ;;
307     esac
308 EOCBU
309
310 cat > UU/use64bitall.cbu <<'EOCBU'
311 # This script UU/use64bitall.cbu will get 'called-back' by Configure
312 # after it has prompted the user for whether to be maximally 64-bitty.
313 case "$use64bitall" in
314     $define|true|[yY]*)
315         echo " "
316         echo "Checking the CPU width of your hardware..." >&4
317         $cat >size.c <<EOCP
318 #include <stdio.h>
319 #include <sys/systemcfg.h>
320 int main (void)
321 {
322     printf ("%d\n", _system_configuration.width);
323     return (0);
324     }
325 EOCP
326         set size
327         if eval $compile_ok; then
328             qacpuwidth=`./size`
329             echo "You are running on $qacpuwidth bit hardware."
330         else
331             dflt="32"
332             echo " "
333             echo "(I can't seem to compile the test program.  Guessing...)"
334             rp="What is the width of your CPU (in bits)?"
335             . ./myread
336             qacpuwidth="$ans"
337             fi
338         $rm -f size.c size
339
340         case "$qacpuwidth" in
341             32*)
342                 cat >&4 <<EOM
343 Bzzzt! At present, you can only perform a
344 full 64-bit build on a 64-bit machine.
345 EOM
346                 exit 1
347                 ;;
348             esac
349         qacflags="`getconf XBS5_LP64_OFF64_CFLAGS 2>/dev/null`"
350         qaldflags="`getconf XBS5_LP64_OFF64_LDFLAGS 2>/dev/null`"
351         # See jhi's comments above regarding this re-eval.  I've
352         # seen similar weirdness in the form of:
353         #
354 # 1506-173 (W) Option lm is not valid.  Enter xlc for list of valid options.
355         #
356         # error messages from 'cc -E' invocation. Again, the offending
357         # string is simply not detectable by any means.  Since it doesn't
358         # do any harm, I didn't pursue it. -- sh
359         qaldflags="`echo $qaldflags`"
360         qalibs="`getconf XBS5_LP64_OFF64_LIBS 2>/dev/null|sed -e 's@^-l@@' -e 's@ -l@ @g`"
361         # -q32 and -b32 may have been set by uselargefiles or user.
362         # Remove them.
363         ccflags="`echo $ccflags | sed -e 's@-q32@@'`"
364         ldflags="`echo $ldflags | sed -e 's@-b32@@'`"
365         # Tell archiver to use large format.  Unless we remove 'ar'
366         # from 'trylist', the Configure script will just reset it to 'ar'
367         # immediately prior to writing config.sh.  This took me hours
368         # to figure out.
369         trylist="`echo $trylist | sed -e 's@^ar @@' -e 's@ ar @ @g' -e 's@ ar$@@'`"
370         ar="ar -X64"
371         nm_opt="-X64 $nm_opt"
372         # Note: Placing the 'qacflags' variable into the 'ldflags' string
373         # is NOT a typo.  ldflags is passed to the C compiler for final
374         # linking, and it wants -q64 (-b64 is for ld only!).
375         case "$qacflags$qaldflags$qalibs" in
376             '') ;;
377             *)  ccflags="$ccflags $qacflags"
378                 ldflags="$ldflags $qacflags"
379                 lddlflags="$qaldflags $lddlflags"
380                 libswanted="$libswanted $qalibs"
381                 ;;
382             esac
383         case "$ccflags" in
384             *-DUSE_64_BIT_ALL*) ;;
385             *) ccflags="$ccflags -DUSE_64_BIT_ALL";;
386             esac
387         case "$archname64" in
388             ''|64*) archname64=64all ;;
389             esac
390         longsize="8"
391         qacflags=''
392         qaldflags=''
393         qalibs=''
394         qacpuwidth=''
395         ;;
396     esac
397 EOCBU
398
399 if test $usenativedlopen = 'true' ; then
400     ccflags="$ccflags -DUSE_NATIVE_DLOPEN"
401     case "$cc" in
402         *gcc*) ldflags="$ldflags -Wl,-brtl" ;;
403         *)     ldflags="$ldflags -brtl" ;;
404         esac
405 elif test -f /lib/libC.a -a X"`$cc -v 2>&1 | grep gcc`" = X; then
406     # If the C++ libraries, libC and libC_r, are available we will
407     # prefer them over the vanilla libc, because the libC contain
408     # loadAndInit() and terminateAndUnload() which work correctly
409     # with C++ statics while libc load() and unload() do not. See
410     # ext/DynaLoader/dl_aix.xs. The C-to-C_r switch is done by
411     # usethreads.cbu, if needed.
412
413     # Cify libswanted.
414     set `echo X "$libswanted "| sed -e 's/ c / C c /'`
415     shift
416     libswanted="$*"
417     # Cify lddlflags.
418     set `echo X "$lddlflags "| sed -e 's/ -lc / -lC -lc /'`
419     shift
420     lddlflags="$*"
421     fi
422
423 case "$PASE" in
424     define)
425         case "$prefix" in
426             '') prefix=/QOpenSys/perl ;;
427             esac
428         cat >&4 <<EOF
429
430 ***
431 *** You seem to be compiling in AIX for the OS/400 PASE environment.
432 *** I'm not going to use the AIX bind, nsl, and possible util libraries, then.
433 *** I'm also not going to install perl as /usr/bin/perl.
434 *** Perl will be installed under $prefix.
435 *** For instructions how to install this build from AIX to PASE,
436 *** see the file README.os400.  Accept the "aix" for the question
437 *** about "Operating system name".
438 ***
439 EOF
440         set `echo " $libswanted " | sed -e 's@ bind @ @' -e 's@ nsl @ @' -e 's@ util @ @'`
441         shift
442         libswanted="$*"
443         installusrbinperl="$undef"
444
445         # V5R1 doesn't have this (V5R2 does), without knowing
446         # which one we have it's safer to be pessimistic.
447         # Cwd will work fine even without fchdir(), but if
448         # V5R1 tries to use code compiled assuming fchdir(),
449         # lots of grief will issue forth from Cwd.
450         case "$d_fchdir" in
451             '') d_fchdir="$undef" ;;
452             esac
453         ;;
454     esac
455
456 # EOF